Imagina esto: has reservado una tarde para relajarte y decides hacer una pizza casera. Preparas tu pizza, la pones en el horno y estás emocionado por empezar a comer. Pero una vez que te dispones a dar un bocado a tu creación aceitosa, te encuentras con un problema: el queso se cae. Frustrado, recurres a Google en busca de una solución.
“Agrega algo de pegamento”, responde Google. “Mezcla aproximadamente 1/8 de taza de pegamento Elmer’s con la salsa. El pegamento no tóxico funcionará.”
Así que, sí, no hagas eso. Sin embargo, al momento de escribir esto, eso es lo que la nueva función de Resúmenes de IA de Google te dirá que hagas. La función, aunque no se activa para todas las consultas, escanea la web y genera una respuesta con IA. La respuesta recibida para la consulta del pegamento en la pizza parece estar basada en un comentario de un usuario llamado “fucksmith” en un hilo de Reddit de hace más de una década, y claramente están bromeando.
Errores Comunes de la IA
Este es solo uno de los muchos errores que surgen en la nueva función que Google lanzó ampliamente este mes. También afirma que el ex presidente de EE.UU. James Madison se graduó de la Universidad de Wisconsin no una, sino 21 veces, que un perro ha jugado en la NBA, NFL y NHL, y que Batman es un policía.
Respuesta de Google
La portavoz de Google, Meghann Farnsworth, dijo que los errores provienen de “consultas generalmente muy poco comunes y no son representativos de la experiencia de la mayoría de las personas”. La empresa ha tomado medidas contra las violaciones de sus políticas, dijo, y están utilizando estos “ejemplos aislados” para seguir refinando el producto.
Limitaciones de la IA Generativa
Mira, Google no prometió que esto sería perfecto, e incluso pone una etiqueta de “La IA generativa es experimental” en la parte inferior de las respuestas de IA. Pero está claro que estas herramientas no están listas para proporcionar información precisa a gran escala.
Problemas en el Lanzamiento
Tomemos, por ejemplo, el gran lanzamiento de esta función en Google I/O. La demostración estaba altamente controlada y, sin embargo, proporcionó una respuesta cuestionable sobre cómo arreglar una cámara de película atascada. (Sugería “abrir la puerta trasera y retirar suavemente la película”; no hagas eso a menos que quieras arruinar tus fotos).
Competencia en el Campo de la IA
No es solo Google; empresas como OpenAI, Meta y Perplexity también han lidiado con alucinaciones y errores de IA. Sin embargo, Google es la primera en desplegar esta tecnología a gran escala, y los ejemplos de fallos siguen apareciendo.
Responsabilidad de las Empresas
Las empresas que desarrollan inteligencia artificial suelen evitar asumir la responsabilidad de sus sistemas con un enfoque similar al de un padre con un niño rebelde: ¡los niños serán niños! Estas empresas afirman que no pueden predecir lo que esta IA va a generar, por lo que, en realidad, está fuera de su control.
Implicaciones para los Usuarios
Pero para los usuarios, eso es un problema. El año pasado, Google dijo que la IA era el futuro de la búsqueda. ¿Cuál es el punto, entonces, si la búsqueda parece más tonta que antes?
Opiniones de los Optimistas de la IA
Los optimistas de la IA argumentan que deberíamos abrazar el entusiasmo debido al rápido progreso logrado hasta ahora, confiando en que continuará mejorando. Realmente creo que esta tecnología seguirá mejorando, pero centrarse en un futuro idealizado donde estas tecnologías sean perfectas ignora los problemas significativos que enfrentan actualmente y permite a las empresas seguir ofreciendo productos de baja calidad.
Por ahora, nuestras experiencias de búsqueda están empañadas por publicaciones de Reddit de hace una década en la búsqueda de incorporar IA en todo. Muchos idealistas creen que estamos al borde de algo grandioso y que estos problemas son simplemente los dolores de crecimiento de una tecnología incipiente. Espero que tengan razón. Pero una cosa es segura: probablemente veremos a alguien poner pegamento en su pizza pronto, porque esa es la naturaleza de internet.
