OpenAI, la compañía detrás de ChatGPT, ha preparado un sistema para marcar con agua el texto generado por su IA, con el objetivo de facilitar la detección de contenido generado por inteligencia artificial. A pesar de tener la tecnología lista desde hace aproximadamente un año, la empresa está dividida sobre si lanzar esta función, ya que podría afectar negativamente su popularidad y, en consecuencia, sus ingresos.

¿Qué es la Marca de Agua de OpenAI?

La marca de agua de OpenAI consiste en un ajuste en el modelo de lenguaje que predice las palabras y frases más probables, creando un patrón detectable en el texto. Esta tecnología es similar a la utilizada por Google en la marca de agua del texto de Gemini, aunque en términos simplificados.

Ventajas y Desafíos

La implementación de una marca de agua podría ser útil para educadores que buscan evitar que los estudiantes entreguen trabajos escritos por IA. Según el Wall Street Journal, la empresa descubrió que la marca de agua no afecta la calidad del texto generado. Una encuesta reciente muestra que una mayoría global apoya la idea de una herramienta de detección de IA.

Reacciones y Preocupaciones

A pesar de los beneficios potenciales, OpenAI está preocupada por el impacto negativo en la adopción de ChatGPT. Casi el 30% de los usuarios encuestados indicaron que reducirían el uso del software si se implementaran marcas de agua.

Exploración de Nuevas Soluciones

OpenAI también está considerando alternativas menos controversiales, como la incorporación de metadatos, aunque aún está en una fase preliminar de desarrollo. La empresa asegura que cualquier método basado en metadatos estaría criptográficamente firmado para evitar falsos positivos.

The post OpenAI Decide No Implementar Marcas de Agua en ChatGPT por Temor a Reducir su Uso appeared first on TecnoFuturo24.

El nuevo modo de voz de ChatGPT, que ha sido objeto de atención desde su revelación, ofrece capacidades mejoradas en comparación con el modo de voz actual del chatbot. Durante la demostración en el evento de OpenAI, el modo de voz avanzado demostró una mayor adaptabilidad, permitiendo a los empleados de OpenAI interrumpir y solicitar historias de diferentes maneras, con el chatbot ajustando sus respuestas según las interrupciones.

Inicialmente, el modo avanzado estaba programado para su lanzamiento en versión alfa a finales de junio. Sin embargo, OpenAI decidió retrasar su implementación por un mes para cumplir con sus estándares de calidad y seguridad. La compañía explicó que el retraso se debía a la necesidad de “mejorar la capacidad del modelo para detectar y rechazar ciertos contenidos”. Taya Christianson, portavoz de OpenAI, reveló que la empresa probó el modelo de voz con más de 100 “red teamers” externos para identificar posibles debilidades y también implementó nuevos filtros para bloquear solicitudes que generen música u otros contenidos protegidos por derechos de autor.

Durante el evento, una de las principales críticas al nuevo modo fue su similitud con la voz de Scarlett Johansson en “Her”. Aunque esta voz ya estaba disponible en ChatGPT antes de la demostración de primavera, OpenAI decidió retirarla poco antes de que Johansson enviara cartas a la compañía preguntando sobre la creación de la voz. Christianson aclaró que el nuevo modo de ChatGPT solo usará cuatro voces preestablecidas creadas con actores de voz y no permitirá imitaciones de otras voces, tanto de individuos como de figuras públicas.

OpenAI tiene planes de ampliar el acceso al nuevo modo de voz avanzado a todos los usuarios de ChatGPT Plus en otoño. Este desarrollo marca un paso significativo en la evolución de la tecnología de voz de ChatGPT, con mejoras en seguridad y adaptabilidad. A medida que la compañía continúa refinando el modo y resolviendo preocupaciones, los usuarios podrán experimentar una interacción más dinámica y segura con el chatbot.

The post OpenAI lanza gradualmente su modo de voz avanzado para ChatGPT appeared first on TecnoFuturo24.