Google, OpenAI, Microsoft, Amazon, Nvidia, Intel y otros gigantes de la inteligencia artificial han unido fuerzas para formar la Coalición para la IA Segura (CoSAI), una nueva iniciativa para mejorar la seguridad en IA. Este movimiento busca desarrollar metodologías, marcos y herramientas de código abierto para enfrentar los desafíos actuales en el ámbito de la inteligencia artificial.
El propósito principal de la Coalición para la IA Segura es abordar un “paisaje fragmentado de la seguridad en IA” proporcionando acceso a prácticas y herramientas esenciales para el desarrollo de IA ‘segura por diseño’. La iniciativa pretende enfrentar preocupaciones crecientes sobre la filtración de información confidencial y la discriminación automatizada en la tecnología generativa de IA.
Además de los nombres ya mencionados, otras empresas como IBM, PayPal, Cisco y Anthropic también se han sumado a CoSAI. La coalición funcionará bajo la organización OASIS (Organización para el Avance de los Estándares de Información Estructurada), un grupo sin fines de lucro dedicado al desarrollo de estándares abiertos.
Citas y Declaraciones Heather Adkins, vicepresidenta de seguridad en Google, expresó: “Hemos estado utilizando la IA durante muchos años y vemos el potencial continuo para los defensores, pero también reconocemos sus oportunidades para los adversarios. CoSAI ayudará a las organizaciones, grandes y pequeñas, a integrar la IA de manera segura y responsable, ayudándolas a aprovechar sus beneficios mientras se mitigan los riesgos.”
La formación de CoSAI representa un paso significativo hacia la creación de un entorno más seguro para el desarrollo y la implementación de la inteligencia artificial. Con la colaboración de estas grandes empresas, se espera que la coalición pueda establecer nuevas normas y prácticas para proteger la tecnología emergente.
