OpenAI ha desarrollado una tecnología para marcar con agua el texto generado por ChatGPT, pero enfrenta dilemas internos sobre su implementación debido a preocupaciones sobre el impacto en el uso del software.
OpenAI, la compañía detrás de ChatGPT, ha preparado un sistema para marcar con agua el texto generado por su IA, con el objetivo de facilitar la detección de contenido generado por inteligencia artificial. A pesar de tener la tecnología lista desde hace aproximadamente un año, la empresa está dividida sobre si lanzar esta función, ya que podría afectar negativamente su popularidad y, en consecuencia, sus ingresos.
¿Qué es la Marca de Agua de OpenAI?
La marca de agua de OpenAI consiste en un ajuste en el modelo de lenguaje que predice las palabras y frases más probables, creando un patrón detectable en el texto. Esta tecnología es similar a la utilizada por Google en la marca de agua del texto de Gemini, aunque en términos simplificados.
Ventajas y Desafíos
La implementación de una marca de agua podría ser útil para educadores que buscan evitar que los estudiantes entreguen trabajos escritos por IA. Según el Wall Street Journal, la empresa descubrió que la marca de agua no afecta la calidad del texto generado. Una encuesta reciente muestra que una mayoría global apoya la idea de una herramienta de detección de IA.
Reacciones y Preocupaciones
A pesar de los beneficios potenciales, OpenAI está preocupada por el impacto negativo en la adopción de ChatGPT. Casi el 30% de los usuarios encuestados indicaron que reducirían el uso del software si se implementaran marcas de agua.
Exploración de Nuevas Soluciones
OpenAI también está considerando alternativas menos controversiales, como la incorporación de metadatos, aunque aún está en una fase preliminar de desarrollo. La empresa asegura que cualquier método basado en metadatos estaría criptográficamente firmado para evitar falsos positivos.
