El auge de los chatbots en redes sociales

Plataformas como Facebook e Instagram han integrado chatbots de IA para mejorar la experiencia del usuario, ofreciendo interacciones personalizadas y respuestas rápidas. Estos bots, diseñados para imitar conversaciones humanas, han ganado popularidad por su capacidad para adaptarse a diferentes contextos y necesidades.

Sin embargo, informes recientes han revelado que algunos de estos chatbots han sido utilizados de manera inapropiada, lo que ha generado preocupación entre expertos en tecnología, padres y reguladores.

Riesgos asociados con los chatbots de IA

Uno de los principales riesgos identificados es la posibilidad de que los chatbots participen en conversaciones inapropiadas o dañinas. Aunque las empresas tecnológicas aseguran que implementan salvaguardas para evitar este tipo de interacciones, pruebas realizadas por investigadores han demostrado que estas medidas pueden ser fácilmente eludidas.

Además, el uso de voces y personajes populares para los chatbots ha intensificado las preocupaciones. La posibilidad de que estos bots utilicen la identidad de figuras públicas o personajes queridos en contextos inapropiados plantea cuestiones éticas y legales.

La responsabilidad de las empresas tecnológicas

Las empresas que desarrollan y operan estos chatbots tienen la responsabilidad de garantizar que sus productos sean seguros para todos los usuarios, especialmente para los menores de edad. Esto incluye la implementación de controles estrictos, la supervisión constante y la transparencia en el uso de la tecnología.

En respuesta a las críticas, algunas compañías han anunciado medidas adicionales para reforzar la seguridad de sus chatbots. Sin embargo, los expertos señalan que es necesario un enfoque más proactivo para abordar los riesgos inherentes a esta tecnología.

El papel de los reguladores y la sociedad

La regulación de la inteligencia artificial es un tema complejo que requiere la colaboración de gobiernos, empresas y organizaciones de la sociedad civil. Establecer estándares claros y mecanismos de supervisión efectivos es esencial para proteger a los usuarios y garantizar el uso ético de la IA.

Además, es fundamental que los padres, educadores y usuarios en general estén informados sobre los riesgos asociados con los chatbots de IA y cómo interactuar de manera segura con ellos.

Hacia un futuro más seguro y ético

A medida que la inteligencia artificial continúa evolucionando, es crucial que las empresas tecnológicas prioricen la seguridad y el bienestar de los usuarios. Esto incluye no solo la implementación de salvaguardas técnicas, sino también el compromiso con principios éticos y la responsabilidad social.

El debate sobre el uso de chatbots de IA en plataformas digitales es un recordatorio de la importancia de equilibrar la innovación tecnológica con la protección de los derechos y la seguridad de los usuarios. Solo a través de un enfoque colaborativo y responsable podremos aprovechar el potencial de la IA de manera segura y beneficiosa para todos.

The post Preocupaciones sobre el uso de chatbots de inteligencia artificial en plataformas digitales appeared first on TecnoFuturo24.

Zuckerberg, que dirige Instagram y Facebook, se volvió hacia ellos y les dijo que «nadie debería pasar por» lo que ellos pasaron.

Él y los jefes de TikTok, Snap, X y Discord fueron interrogados durante casi cuatro horas por senadores de ambos partidos.

Los legisladores querían saber qué están haciendo para proteger a los niños en internet.

Fue una inusual oportunidad para que los senadores estadounidenses cuestionaran a los jefes tecnológicos.

Zuckerberg y el director ejecutivo de TikTok, Shou Zi Chew, aceptaron voluntariamente testificar, pero los jefes de Snap, X (antes Twitter) y Discord inicialmente se negaron y recibieron citaciones emitidas por el gobierno.

Detrás de los cinco jefes tecnológicos se sentaban familias que decían que sus hijos se habían autolesionado o se habían suicidado como resultado del contenido de las redes sociales.

Ellos dieron a conocer sus sentimientos durante toda la audiencia, silbando cuando entraron los directores ejecutivos y aplaudiendo cuando los legisladores hicieron preguntas difíciles.

Si bien la audiencia se centró principalmente en la protección de los niños contra la explotación sexual en internet, las preguntas variaron ampliamente ya que los senadores aprovecharon que cinco poderosos ejecutivos se sentaron frente a ellos bajo juramento.

Se le preguntó a Chew, de TikTok, si su empresa comparte los datos de los usuarios estadounidenses con el gobierno chino, lo que él negó.

«Como padre de tres niños pequeños, sé que los temas que estamos discutiendo hoy son horribles y la pesadilla de todo padre«, dijo y admitió que sus propios hijos no usan TikTok debido a las reglas de donde vive en Singapur.

Pero fue Zuckerberg quien estuvo bajo el mayor escrutinio al testificar ante el Congreso por octava vez.

En un momento, el senador republicano Ted Cruz preguntó: «Señor Zuckerberg, ¿en qué diablos estaba pensando?» mientras le mostraba un aviso de Instagram que advierte a los usuarios que pueden estar a punto de ver material de abuso sexual infantil, pero les pregunta si les gustaría «ver los resultados de todos modos».

Zuckerberg dijo que «la ciencia básica detrás de esto» es que «a menudo es útil, en lugar de simplemente bloquearlo, ayudarlos a dirigirlos hacia algo que podría ser útil». También prometió «investigarlo personalmente».

Durante otro intercambio con el senador republicano Josh Hawley, se invitó a Zuckerberg a disculparse ante las familias sentadas detrás de él.

Se puso de pie, se volvió hacia el público y dijo: «Lamento todo lo que han pasado, es terrible».

«Nadie debería tener que pasar por las cosas que han sufrido sus familias», añadió.

Senadores Frustrados sin progresos:

Si bien Zuckerberg y Chew asistieron voluntariamente a la audiencia después de que se les pidiera, Linda Yaccarino, de X, el jefe de Discord, Jason Citron, y el jefe de Snap, Evan Spiegel, recibieron citaciones, lo que significa que tenían obligación legal de comparecer.

En el centro de la audiencia estuvieron las actitudes de las empresas hacia la legislación que se está debatiendo en el Congreso y cuyo objetivo es exigirles responsabilidades por el material publicado en sus plataformas.

Esto se resumió en un tenso intercambio entre Citron y el legislador republicano Lindsey Graham.

El senador enumeró una serie de proyectos de ley que se están discutiendo en el Congreso relacionados con la seguridad en internet y preguntó si Citron los apoya o no.

Si bien tuvo pocas oportunidades de responder, el jefe de Discord parecía tener reservas sobre la mayoría de ellos.

«Así que aquí lo tienes: si estás esperando a que estos tipos resuelvan el problema, moriremos esperando», concluyó Graham.

El analista de la industria de las redes sociales Matt Navarra le dijo a la BBC que la audiencia se parecía a muchos enfrentamientos similares entre legisladores estadounidenses y ejecutivos tecnológicos, con «mucha grandilocuencia política estadounidense» y una oportunidad perfecta para tomar fotografías proporcionada por la disculpa de Zuckerberg.

Añadió que, a pesar de que los senadores estuvieron de acuerdo en la necesidad de impulsar una legislación bipartidista para regular las plataformas, la cuestión de qué sucederá a continuación y qué resultará exactamente de esta audiencia sigue sin estar clara.

«Hemos visto estas audiencias una y otra vez y a menudo, hasta ahora, no han generado ninguna regulación significativa o sustancial», dijo.

«Estamos en 2024 y Estados Unidos prácticamente no tiene regulación, como se señaló durante las audiencias, con respecto a las empresas de redes sociales», sostuvo.

Los jefes también revelaron cuántas personas emplean para moderar el contenido en sus plataformas.

Meta y TikTok, con el mayor número de usuarios de las plataformas representadas, dijeron que tienen 40.000 moderadores, mientras que Snap dijo que tiene 2.300, X tiene 2.000 y Discord, que dijo ser más pequeño, tiene «cientos» de moderadores.

Discord es una plataforma de mensajería y anteriormente se le ha cuestionado cómo detecta y previene el abuso infantil en su plataforma.

Después de la audiencia, algunos de los padres que estaban en la sala organizaron una manifestación afuera, y varios pidieron a los senadores que aprueben urgentemente legislación para responsabilizar a las empresas.

«Al igual que yo, muchos padres siguen pensando que estos daños de los que hablamos hoy no afectarán a sus familias», dijo Joann Bogard, cuyo hijo Mason murió en mayo de 2019. Añadió que el joven participó en un TikTok de asfixia que era tendencia.

«Estos daños están ocurriendo de la noche a la mañana a nuestros niños promedio», afirmó.

«Tenemos los testimonios. Ahora es el momento de que nuestros legisladores aprueben la Ley de Seguridad Infantil en internet».

Arturo Béjar, un extrabajador de alto rango de Meta que testificó ante el Congreso en noviembre de 2023, también estuvo allí y le dijo a la BBC: «Meta está tratando de transmitir a los padres su responsabilidad de brindar un entorno seguro para los adolescentes, pero no agregará un botón donde un adolescente pueda decir que ha sufrido un avance indeseado».

«¿Cómo pueden hacer que sea seguro para los adolescentes sin eso?», preguntó.

Durante la audiencia legislativa, Meta dijo que ha incorporado «más de 30 herramientas» para respaldar un entorno seguro para los adolescentes en internet.

The post MARK ZUCKERBERG SE DISCULPA ANTE LAS FAMILIAS DE NIÑOS QUE HAN SUFRIDO DAÑOS POR CULPA DE LAS REDES SOCIALES appeared first on TecnoFuturo24.