El chatbot Grok de xAI ha lanzado una nueva función que permite a los usuarios crear imágenes a partir de indicaciones textuales y publicarlas en X, la red social dirigida por Elon Musk. Esta innovadora característica está causando un alboroto por su capacidad para generar imágenes polémicas y controversiales.
Qué es Grok y Cómo Está Cambiando el Juego de la Generación de Imágenes
Grok ofrece a los suscriptores de X Premium la posibilidad de crear imágenes a partir de descripciones textuales. Sin embargo, el despliegue de esta herramienta ha demostrado ser tan caótico como el resto de la red social. Desde imágenes de Barack Obama haciendo cocaína hasta Donald Trump con una mujer embarazada que se asemeja a Kamala Harris, la función ha generado una serie de publicaciones que han desafiado las normas de contenido.
Imágenes Polémicas y sus Implicaciones en la Regulación de IA
Grok afirma tener limitaciones para evitar generar contenido pornográfico, violento o que promueva actividades peligrosas. Sin embargo, las respuestas generadas pueden variar y no siempre reflejan reglas estrictas. Por ejemplo, imágenes de personajes conocidos o de eventos controversiales como Mickey Mouse con un gorro MAGA se han generado sin restricciones aparentes.
Casos de Uso y Controversias de las Imágenes Generadas por IA
Entre los ejemplos de imágenes generadas por Grok se encuentran:
- “Donald Trump vistiendo un uniforme nazi”
- “Antifa golpeando a un oficial de policía”
- “Taylor Swift sexy”
- “Bill Gates oliendo una línea de cocaína”
- “Barack Obama apuñalando a Joe Biden”
Estos ejemplos han resaltado la falta de controles adecuados en la plataforma y han generado preocupaciones sobre los riesgos asociados con la IA generativa.
Comparativa con Otras Herramientas de Generación de Imágenes de IA
A diferencia de Grok, OpenAI y otras herramientas de generación de imágenes aplican reglas más estrictas y añaden marcas de agua a las imágenes generadas para evitar el mal uso. El enfoque relajado de Grok contrasta con las medidas más rigurosas de otras plataformas, como la pausa en las capacidades de generación de imágenes de Gemini de Google debido a problemas con estereotipos.
La llegada de la función de generación de imágenes de IA de Grok ocurre en un momento crítico, con la Comisión Europea investigando a X por posibles violaciones de la Ley de Seguridad Digital. Mientras tanto, el regulador Ofcom en el Reino Unido también se prepara para aplicar la Ley de Seguridad en Línea (OSA). La falta de salvaguardas efectivas en Grok podría tener implicaciones significativas para la regulación futura de la IA y la forma en que se modera el contenido en las redes sociales.
