Las principales empresas de tecnología, incluyendo Google, Meta, OpenAI, Microsoft y Amazon, han anunciado hoy su compromiso de abordar de manera proactiva el problema del abuso sexual infantil en línea mediante el uso de inteligencia artificial (IA). Este acuerdo histórico implica una serie de medidas destinadas a erradicar la proliferación de imágenes de abuso infantil en la web.
En el marco de este compromiso, las empresas se comprometen a revisar exhaustivamente sus conjuntos de datos de entrenamiento de IA en busca de material de abuso sexual infantil (CSAM) y eliminarlo de cualquier modelo futuro. Además, se comprometen a realizar pruebas rigurosas en sus modelos de IA para garantizar que no generen imágenes de CSAM, y solo lanzarán los modelos evaluados en términos de seguridad infantil.
Esta iniciativa también cuenta con el respaldo de otras empresas destacadas en el campo de la inteligencia artificial, como Anthropic, Civitai, Metaphysic, Mistral AI y Stability AI, lo que subraya la importancia y el alcance de esta colaboración sectorial.
Impacto y desafíos: La IA generativa ha planteado nuevos desafíos en la lucha contra el abuso infantil en línea, incluida la proliferación de imágenes deepfakes. Investigaciones recientes han revelado la presencia de CSAM en conjuntos de datos utilizados para entrenar modelos de IA, lo que subraya la urgencia de abordar este problema de manera efectiva.
Además, organizaciones sin fines de lucro, como Thorn, advierten sobre los peligros asociados con la generación de imágenes por IA, que pueden dificultar la identificación de víctimas y aumentar la demanda de CSAM.
Este compromiso conjunto representa un paso significativo en la lucha contra el abuso infantil en línea. Sin embargo, se necesitarán esfuerzos continuos y colaborativos para abordar eficazmente este desafío y proteger a los niños en el entorno digital. Google, en particular, ha anunciado medidas adicionales, como aumentar las subvenciones publicitarias para promover iniciativas de concienciación y prevención del abuso infantil.
