Google ha lanzado una nueva herramienta de edición de fotos con IA en la serie Pixel 9, llamada “Reimagine”. Esta innovadora función permite a los usuarios agregar elementos a sus fotos simplemente mediante comandos de texto. Aunque la herramienta puede crear imágenes llamativas, su capacidad para generar contenido perturbador y las débiles salvaguardas plantean preocupaciones significativas.
Reimagine es una extensión avanzada de las herramientas de Magic Editor del año pasado, que permitían ajustes básicos como cambiar el cielo o borrar partes de una imagen. En contraste, Reimagine ofrece una funcionalidad mucho más amplia, permitiendo a los usuarios seleccionar cualquier objeto no humano o sección de una foto y generar nuevos elementos en ese espacio a partir de descripciones textuales.
Durante una prueba de una semana con unidades de revisión de los Pixel 9 y 9 Pro, mi equipo y yo experimentamos con los límites de esta herramienta. Pudimos generar imágenes muy perturbadoras, como choques de autos, explosiones en lugares públicos, y cuerpos bajo sábanas manchadas de sangre. Aunque estos resultados requieren cierta creatividad en los comandos, la capacidad de la herramienta para superar las barreras de seguridad es preocupante.
Cuando consultamos a Google sobre estas preocupaciones, el portavoz de la compañía, Alex Moriconi, explicó que Pixel Studio y Magic Editor están diseñados para fomentar la creatividad mediante la generación de texto a imagen y la edición avanzada de fotos. Sin embargo, admitió que la herramienta puede producir contenido ofensivo si se le instruye para ello. Google tiene políticas y Términos de Servicio claros para controlar el contenido, pero las barreras de seguridad a veces se ven desafiadas por comandos creativos.
Una de las principales preocupaciones es la falta de herramientas robustas para identificar y etiquetar imágenes generadas por IA. Aunque Google utiliza un sistema de etiquetado llamado SynthID para imágenes completamente sintéticas creadas por Pixel Studio, las imágenes editadas con Magic Editor no tienen estas etiquetas. Esto facilita la circulación de imágenes manipuladas sin una forma obvia de detectarlas.
La manipulación de fotos no es nueva, pero la facilidad con la que se pueden agregar elementos realistas ahora es inédita. Hace unos años, crear un choque de autos convincente en una imagen requería habilidades avanzadas y software costoso. Hoy en día, solo se necesita un texto breve y un teléfono Pixel.
La velocidad con la que se pueden difundir fotos engañosas también ha aumentado. Las herramientas de edición de imágenes están disponibles en el mismo dispositivo que capturamos y compartimos fotos. Esto hace que sea esencial aplicar escepticismo adicional a las imágenes vistas en línea.
En resumen, mientras que la función Reimagine de Google puede ser una herramienta creativa interesante, sus potenciales usos indebidos y la falta de controles robustos plantean serias preocupaciones. Es crucial que los usuarios y plataformas de medios sean conscientes de estas limitaciones y actúen con cautela.
