Microsoft ha lanzado un innovador sistema de seguridad diseñado para detectar alucinaciones en las aplicaciones de inteligencia artificial (IA) de sus clientes. Esta solución, integrada en las herramientas Azure AI Studio, tiene como objetivo proteger a los usuarios de posibles ataques maliciosos y respuestas no admitidas, conocidas como alucinaciones.

Sarah Bird, directora de productos de inteligencia artificial responsable de Microsoft, explicó en una entrevista con The Verge que estas nuevas características están diseñadas para ser fácilmente accesibles para los clientes de Azure, sin necesidad de contratar equipos especializados para probar los servicios de IA. Las herramientas, potenciadas por LLM, pueden detectar vulnerabilidades potenciales, monitorizar alucinaciones “plausibles pero no admitidas” y bloquear solicitudes maliciosas en tiempo real.

Estas medidas de seguridad buscan prevenir controversias generadas por respuestas no deseadas o inapropiadas, como las recientes relacionadas con imágenes falsas de celebridades o situaciones históricamente inexactas. Para lograrlo, Microsoft ha implementado tres características principales: Escudos de Solicitud, Detección de Fundamentación y evaluaciones de seguridad, disponibles en vista previa en Azure AI. Además, están en desarrollo dos características adicionales para dirigir modelos hacia salidas seguras y rastrear solicitudes problemáticas.

Uno de los aspectos destacados de esta solución es su capacidad para adaptarse a diferentes contextos de uso, ya sea que el usuario esté escribiendo una solicitud o que el modelo esté procesando datos de terceros. El sistema de monitoreo evalúa la entrada del usuario en busca de palabras prohibidas o solicitudes ocultas antes de enviarla al modelo, y luego verifica la respuesta del modelo en busca de posibles alucinaciones.

Bird también enfatizó que estas características de seguridad están integradas con modelos populares como GPT-4 y Llama 2. Sin embargo, para los usuarios de modelos menos conocidos, puede ser necesario configurar manualmente las características de seguridad.

Esta iniciativa refleja el compromiso de Microsoft con la seguridad y la expansión de la IA. La empresa ha estado trabajando activamente para fortalecer la seguridad de su software, especialmente en el contexto del creciente interés de los clientes en acceder a modelos de IA a través de Azure. Además, Microsoft ha ampliado su oferta de modelos de IA, recientemente firmando un acuerdo exclusivo con la empresa francesa de IA Mistral.

Con estas medidas, Microsoft busca brindar a sus clientes una experiencia de IA más segura y confiable, protegiendo contra posibles amenazas y promoviendo un uso ético y responsable de la tecnología.

Leave a Reply

Your email address will not be published. Required fields are marked *

You May Also Like

DJI Pocket 3: La Revolución en Cámaras que Desafía a los iPhones

El DJI Pocket 3 ha llegado para cambiar el juego en el…

Google Revela Nuevo Color Exclusivo para Pixel 8: Verde Menta

Descubre la emocionante novedad que Google tiene preparada para los fanáticos de…

Trabajadores de Amazon se sindicalizan con los Teamsters para negociar con la empresa

En un movimiento significativo, los trabajadores sindicalizados de Amazon, representados por el…

AT&T y Verizon Resuelven Interrupción que Afectó Llamadas Telefónicas en EE.UU.

Un problema impidió que las llamadas entre las dos operadoras se conectaran…

Figma Retira su Herramienta de IA “Make Designs” Tras Acusaciones de Plagio

Figma ha decidido retirar su herramienta generativa de IA, “Make Designs”, después…

Cómo la tecnología para hogares inteligentes aumentó la accesibilidad de mi hogar

Descubre cómo la implementación de dispositivos inteligentes transformó mi hogar, convirtiendo la…

Microsoft Edge roba tus pestañas de Chrome: ¿Un intento de conquista del navegador?

La semana pasada, un sorprendente fenómeno sacudió a los usuarios de Windows:…

¿Qué es este nuevo dispositivo misterioso de Nintendo?

Nintendo ha presentado un misterioso nuevo dispositivo inalámbrico a la Comisión Federal…

California Integrará Licencias de Conducir en Apple Wallet

Apple ha anunciado que los residentes de California podrán pronto agregar sus…

Fandom implementará características de IA para mejorar sus wikis

Fandom, plataforma que alberga una amplia variedad de wikis para numerosos fandoms,…