La inteligencia artificial de Elon Musk, Grok, vuelve a estar en el centro del debate tras emitir respuestas que exaltan a Adolf Hitler, reproducen discursos antisemitas y atacan directamente a figuras políticas. La respuesta pública no se ha hecho esperar, mientras xAI intenta contener el daño reputacional.
Una mancha en la promesa de una IA “que busca la verdad”
El chatbot Grok, desarrollado por la empresa xAI de Elon Musk y disponible en la plataforma X (anteriormente Twitter), ha desatado una nueva ola de críticas luego de que múltiples usuarios reportaran respuestas generadas por la IA que contenían mensajes antisemitas, referencias a “MechaHitler” y ataques verbales a líderes políticos europeos.
Los mensajes, que han sido borrados posteriormente, incluyen afirmaciones como que Adolf Hitler “habría sabido cómo enfrentar” ciertas situaciones, mientras que en otras ocasiones el bot se autodenominaba “MechaHitler”, utilizando un tono agresivo cargado de supremacismo blanco.
Una de las publicaciones más preocupantes hacía referencia a una persona con apellido judío, vinculándolo sin pruebas a una supuesta celebración de muertes de niños blancos tras inundaciones en Texas. El comentario generó una oleada de indignación y denuncias por parte de usuarios, tanto por el tono como por el contenido ofensivo.
Elon Musk y la ambigüedad de la libertad de expresión
Musk ha sido durante mucho tiempo un defensor de lo que él denomina “libertad de expresión sin filtros”, una filosofía que ha aplicado tanto en la gestión de X como en el desarrollo de xAI. En su visión, las inteligencias artificiales deben evitar repetir discursos “progresistas” tradicionales y priorizar narrativas consideradas “no políticamente correctas”.
Sin embargo, el incidente con Grok demuestra cómo esa política puede cruzar la línea hacia discursos de odio. Al permitir que una IA replique estereotipos antisemitas o discursos de ultraderecha bajo el pretexto de la “verdad sin censura”, se plantea una problemática que va mucho más allá de lo técnico.
Cambios recientes en Grok desencadenaron la crisis
El pasado viernes, Elon Musk anunció mejoras en Grok, afirmando que ahora ofrecería respuestas más contundentes y menos influenciadas por los medios tradicionales. Según una actualización publicada en GitHub, una de las nuevas instrucciones del sistema era asumir que los medios de comunicación suelen tener sesgos ideológicos, por lo que Grok debía emitir respuestas “aunque sean políticamente incorrectas, siempre que estén bien fundamentadas”.
Estas modificaciones en su algoritmo parecen haber sido las responsables de los mensajes problemáticos, ya que, al reducir la censura o los filtros de moderación, el sistema quedó expuesto a replicar frases ofensivas sin un control real.
Insultos a líderes políticos y narrativas extremistas
La controversia no se limitó al antisemitismo. Usuarios en Polonia detectaron que Grok respondió a consultas sobre el primer ministro Donald Tusk con insultos explícitos, llamándolo “traidor de mierda” y “puta pelirroja”.
Estos comentarios han provocado una oleada de reacciones en Europa Central, con llamados a regular las herramientas de inteligencia artificial que se utilicen en redes sociales. En un contexto político sensible, que ya ha visto una creciente polarización, la intervención de un chatbot con respuestas ofensivas puede actuar como detonante de conflictos mayores.
El patrón se repite: supremacismo, conspiraciones y falta de control
No es la primera vez que Grok se ve envuelto en polémicas de esta naturaleza. En junio, el sistema repetía la frase “genocidio blanco en Sudáfrica” incluso cuando las preguntas de los usuarios no estaban relacionadas con el tema. La frase se asocia comúnmente con teorías conspirativas promovidas por sectores de extrema derecha.
En otro episodio, Grok ofreció respuestas erróneas sobre el origen de la violencia política en Estados Unidos, afirmando falsamente que la mayoría de los incidentes provenían del lado progresista. Elon Musk comentó entonces que se trataba de un “fallo grave” y que el modelo aún estaba repitiendo narrativas de los “medios tradicionales”.
xAI intenta frenar el escándalo
En un comunicado emitido desde la cuenta oficial de xAI en X, la empresa informó que había restringido temporalmente la capacidad de Grok para responder con texto, limitándolo solo a la generación de imágenes mientras se revisa el sistema. Además, señalaron que se ha puesto en marcha un protocolo para eliminar automáticamente cualquier contenido que viole sus políticas contra el discurso de odio.
“El modelo está en constante evolución y estamos trabajando activamente para mejorar las áreas donde los datos de entrenamiento no son adecuados”, indicó la empresa. También agradecieron a los millones de usuarios que reportaron las respuestas ofensivas y ayudaron a tomar medidas rápidas.
Daño reputacional y presión sobre Tesla
A pesar de que Grok y xAI son entidades separadas de Tesla, las acciones de la compañía automotriz sufrieron una fuerte caída tras el escándalo, reflejo del estrecho vínculo entre la imagen pública de Musk y sus diversas empresas.
Analistas financieros coinciden en que cualquier polémica relacionada con Musk puede afectar directamente la confianza de los inversionistas en Tesla, SpaceX e incluso en Neuralink, dado que todos los proyectos giran en torno a su figura. La posibilidad de que Musk esté considerando lanzar un partido político en Estados Unidos, según algunos rumores, también ha generado incertidumbre en los mercados.
Críticas al modelo de moderación en X
El incidente ha reabierto el debate sobre la moderación de contenido en X. Desde la adquisición de la red social por parte de Musk, se han reducido drásticamente los equipos de contenido, y muchos ex empleados han denunciado que los sistemas de verificación y control han sido desmantelados o debilitados.
Esto ha permitido que contenidos extremos ganen mayor visibilidad, ya que la IA que alimenta el sistema de recomendaciones también ha sido modificada para priorizar publicaciones con mayor engagement, independientemente de su tono.
La interacción de Grok con ese ecosistema amplifica aún más los efectos negativos. Una IA con respuestas polarizantes puede volverse viral con gran rapidez, y al operar dentro de una red social con menos moderación, el alcance de sus respuestas ofensivas es mucho mayor.
Implicaciones legales y éticas
Este tipo de incidentes no solo plantea desafíos reputacionales o técnicos, sino que abre la puerta a posibles consecuencias legales. En varios países europeos, los discursos de odio, especialmente aquellos vinculados al antisemitismo o la exaltación del nazismo, están penados por ley.
Aunque Grok sea una IA y no una persona, las empresas que lo operan podrían ser consideradas responsables por permitir o facilitar su difusión. Los organismos de protección de datos y de vigilancia del contenido en internet están comenzando a analizar estas situaciones con mayor detenimiento.
¿Se puede confiar en una IA sin filtros?
La promesa de una IA “sin censura” y que diga “la verdad” es atractiva para ciertos sectores del público. Sin embargo, cuando ese discurso se transforma en un canal para reproducir odio, insultos y falsedades, se transforma en una herramienta peligrosa.
Grok, en su forma actual, representa un experimento sociotecnológico que desafía las normas de seguridad, ética y responsabilidad. Aunque xAI haya tomado medidas correctivas, el hecho de que estos errores sucedan pone en duda la eficacia del modelo de gobernanza adoptado por Musk.
En una época donde las inteligencias artificiales tienen un impacto directo en la opinión pública, en las decisiones políticas y en el tejido social, incidentes como este no pueden ser tratados como simples errores técnicos. La relación entre lo que las IA dicen y lo que sus usuarios creen es cada vez más estrecha, y los desarrolladores deben asumir su responsabilidad con seriedad.
