OpenAI, la compañía detrás de ChatGPT, ha preparado un sistema para marcar con agua el texto generado por su IA, con el objetivo de facilitar la detección de contenido generado por inteligencia artificial. A pesar de tener la tecnología lista desde hace aproximadamente un año, la empresa está dividida sobre si lanzar esta función, ya que podría afectar negativamente su popularidad y, en consecuencia, sus ingresos.

¿Qué es la Marca de Agua de OpenAI?

La marca de agua de OpenAI consiste en un ajuste en el modelo de lenguaje que predice las palabras y frases más probables, creando un patrón detectable en el texto. Esta tecnología es similar a la utilizada por Google en la marca de agua del texto de Gemini, aunque en términos simplificados.

Ventajas y Desafíos

La implementación de una marca de agua podría ser útil para educadores que buscan evitar que los estudiantes entreguen trabajos escritos por IA. Según el Wall Street Journal, la empresa descubrió que la marca de agua no afecta la calidad del texto generado. Una encuesta reciente muestra que una mayoría global apoya la idea de una herramienta de detección de IA.

Reacciones y Preocupaciones

A pesar de los beneficios potenciales, OpenAI está preocupada por el impacto negativo en la adopción de ChatGPT. Casi el 30% de los usuarios encuestados indicaron que reducirían el uso del software si se implementaran marcas de agua.

Exploración de Nuevas Soluciones

OpenAI también está considerando alternativas menos controversiales, como la incorporación de metadatos, aunque aún está en una fase preliminar de desarrollo. La empresa asegura que cualquier método basado en metadatos estaría criptográficamente firmado para evitar falsos positivos.

The post OpenAI Decide No Implementar Marcas de Agua en ChatGPT por Temor a Reducir su Uso appeared first on TecnoFuturo24.

Nick Clegg, presidente de asuntos globales de Meta, destacó la importancia de estas acciones para fortalecer la transparencia en la industria tecnológica. En una entrevista, Clegg mencionó que la dificultad para distinguir entre medios generados por IA y la realidad ha llevado a la Casa Blanca a presionar a las empresas para que implementen medidas como marcas de agua en contenido generado por IA.

Meta no solo implementará marcas de agua como “Imaginado con IA” en imágenes creadas con su propio generador Imagine AI, sino que también extenderá esta práctica a fotos generadas por IA utilizando herramientas de otras empresas como Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock.

Clegg reconoció que la industria aún enfrenta desafíos en la identificación de videos y audios generados por IA. Sin embargo, Meta está en alerta máxima y está trabajando en herramientas para detectar medios sintéticos, incluso si se altera el metadato para ocultar el papel de la IA en su creación.

Además, Meta está colaborando con grupos como Partnership on AI para desarrollar iniciativas que promuevan la autenticidad del contenido. Recientemente, empresas como Adobe y Google han lanzado sistemas como Content Credentials y SynthID para abordar este desafío.

En cuanto a las consecuencias para aquellos que no revelen el uso de IA en sus publicaciones, Clegg fue claro: Meta impondrá una serie de penalizaciones que van desde advertencias hasta la eliminación del contenido ofensivo.

A pesar de la preocupación por la difusión de contenido generado por IA, Clegg minimizó las posibilidades de que este fenómeno afecte significativamente la plataforma de Meta durante el año electoral.

Finalmente, Meta está explorando el uso de modelos de lenguaje grandes (LLM) entrenados en sus Normas de la Comunidad como un eficiente “mecanismo de triaje” para sus moderadores humanos, asegurando así una revisión precisa de contenido problemático.

¡Sigue atento a tecnofuturo24.com para más actualizaciones sobre este importante desarrollo en la lucha contra la falsificación de IA!

The post Meta combate la falsificación IA appeared first on TecnoFuturo24.