Google ha lanzado una nueva herramienta de edición de fotos con IA en la serie Pixel 9, llamada “Reimagine”. Esta innovadora función permite a los usuarios agregar elementos a sus fotos simplemente mediante comandos de texto. Aunque la herramienta puede crear imágenes llamativas, su capacidad para generar contenido perturbador y las débiles salvaguardas plantean preocupaciones significativas.

Reimagine es una extensión avanzada de las herramientas de Magic Editor del año pasado, que permitían ajustes básicos como cambiar el cielo o borrar partes de una imagen. En contraste, Reimagine ofrece una funcionalidad mucho más amplia, permitiendo a los usuarios seleccionar cualquier objeto no humano o sección de una foto y generar nuevos elementos en ese espacio a partir de descripciones textuales.

Durante una prueba de una semana con unidades de revisión de los Pixel 9 y 9 Pro, mi equipo y yo experimentamos con los límites de esta herramienta. Pudimos generar imágenes muy perturbadoras, como choques de autos, explosiones en lugares públicos, y cuerpos bajo sábanas manchadas de sangre. Aunque estos resultados requieren cierta creatividad en los comandos, la capacidad de la herramienta para superar las barreras de seguridad es preocupante.

Cuando consultamos a Google sobre estas preocupaciones, el portavoz de la compañía, Alex Moriconi, explicó que Pixel Studio y Magic Editor están diseñados para fomentar la creatividad mediante la generación de texto a imagen y la edición avanzada de fotos. Sin embargo, admitió que la herramienta puede producir contenido ofensivo si se le instruye para ello. Google tiene políticas y Términos de Servicio claros para controlar el contenido, pero las barreras de seguridad a veces se ven desafiadas por comandos creativos.

Una de las principales preocupaciones es la falta de herramientas robustas para identificar y etiquetar imágenes generadas por IA. Aunque Google utiliza un sistema de etiquetado llamado SynthID para imágenes completamente sintéticas creadas por Pixel Studio, las imágenes editadas con Magic Editor no tienen estas etiquetas. Esto facilita la circulación de imágenes manipuladas sin una forma obvia de detectarlas.

La manipulación de fotos no es nueva, pero la facilidad con la que se pueden agregar elementos realistas ahora es inédita. Hace unos años, crear un choque de autos convincente en una imagen requería habilidades avanzadas y software costoso. Hoy en día, solo se necesita un texto breve y un teléfono Pixel.

La velocidad con la que se pueden difundir fotos engañosas también ha aumentado. Las herramientas de edición de imágenes están disponibles en el mismo dispositivo que capturamos y compartimos fotos. Esto hace que sea esencial aplicar escepticismo adicional a las imágenes vistas en línea.

En resumen, mientras que la función Reimagine de Google puede ser una herramienta creativa interesante, sus potenciales usos indebidos y la falta de controles robustos plantean serias preocupaciones. Es crucial que los usuarios y plataformas de medios sean conscientes de estas limitaciones y actúen con cautela.

Leave a Reply

Your email address will not be published. Required fields are marked *

You May Also Like

Comcast anuncia un nuevo paquete con Netflix, Peacock y Apple TV Plus para sus clientes

Descubre cómo Comcast revoluciona el mundo del entretenimiento con su próximo lanzamiento…

El fin de la exclusividad en Spotify: Call Her Daddy se abre camino hacia una distribución amplia

En un cambio significativo para la industria del podcasting, Spotify ha anunciado…

Samsung Galaxy Watch obtiene autorización de la FDA para detectar apnea del sueño

La FDA ha dado luz verde a una nueva función de detección…

Una actualización defectuosa de Samsung

Una actualización de Samsung SmartThings ha causado problemas en teléfonos Galaxy S10…

Apple podría abstenerse de realizar un evento de primavera este año

Apple tiene grandes planes para esta primavera, pero parece que no los…

Gafas de sol líquidas 32°N: Transformación instantánea en gafas de lectura

Las gafas de sol con lentes líquidas de 32°N se transforman en…

Disney Plus implementa restricciones para evitar el intercambio de contraseñas entre suscriptores en EE. UU.

En las próximas semanas, los suscriptores de Disney Plus sentirán los efectos…

Nueva Función de IA de Windows: Recall, el ‘Desastre’ de Seguridad

Microsoft está a punto de lanzar una innovadora función de inteligencia artificial…

Demanda de $680 millones contra Activision Blizzard en la Call of Duty League: ¿Un cambio en los eSports?

En un giro impactante, Hector ‘H3CZ’ Rodríguez, CEO de OpTic Gaming, junto…

NotebookLM de Google puede ayudarte a profundizar en los videos de YouTube

NotebookLM de Google puede ayudarte a profundizar en los videos de YouTubeLa…