Google ha lanzado una nueva herramienta de edición de fotos con IA en la serie Pixel 9, llamada “Reimagine”. Esta innovadora función permite a los usuarios agregar elementos a sus fotos simplemente mediante comandos de texto. Aunque la herramienta puede crear imágenes llamativas, su capacidad para generar contenido perturbador y las débiles salvaguardas plantean preocupaciones significativas.

Reimagine es una extensión avanzada de las herramientas de Magic Editor del año pasado, que permitían ajustes básicos como cambiar el cielo o borrar partes de una imagen. En contraste, Reimagine ofrece una funcionalidad mucho más amplia, permitiendo a los usuarios seleccionar cualquier objeto no humano o sección de una foto y generar nuevos elementos en ese espacio a partir de descripciones textuales.

Durante una prueba de una semana con unidades de revisión de los Pixel 9 y 9 Pro, mi equipo y yo experimentamos con los límites de esta herramienta. Pudimos generar imágenes muy perturbadoras, como choques de autos, explosiones en lugares públicos, y cuerpos bajo sábanas manchadas de sangre. Aunque estos resultados requieren cierta creatividad en los comandos, la capacidad de la herramienta para superar las barreras de seguridad es preocupante.

Cuando consultamos a Google sobre estas preocupaciones, el portavoz de la compañía, Alex Moriconi, explicó que Pixel Studio y Magic Editor están diseñados para fomentar la creatividad mediante la generación de texto a imagen y la edición avanzada de fotos. Sin embargo, admitió que la herramienta puede producir contenido ofensivo si se le instruye para ello. Google tiene políticas y Términos de Servicio claros para controlar el contenido, pero las barreras de seguridad a veces se ven desafiadas por comandos creativos.

Una de las principales preocupaciones es la falta de herramientas robustas para identificar y etiquetar imágenes generadas por IA. Aunque Google utiliza un sistema de etiquetado llamado SynthID para imágenes completamente sintéticas creadas por Pixel Studio, las imágenes editadas con Magic Editor no tienen estas etiquetas. Esto facilita la circulación de imágenes manipuladas sin una forma obvia de detectarlas.

La manipulación de fotos no es nueva, pero la facilidad con la que se pueden agregar elementos realistas ahora es inédita. Hace unos años, crear un choque de autos convincente en una imagen requería habilidades avanzadas y software costoso. Hoy en día, solo se necesita un texto breve y un teléfono Pixel.

La velocidad con la que se pueden difundir fotos engañosas también ha aumentado. Las herramientas de edición de imágenes están disponibles en el mismo dispositivo que capturamos y compartimos fotos. Esto hace que sea esencial aplicar escepticismo adicional a las imágenes vistas en línea.

En resumen, mientras que la función Reimagine de Google puede ser una herramienta creativa interesante, sus potenciales usos indebidos y la falta de controles robustos plantean serias preocupaciones. Es crucial que los usuarios y plataformas de medios sean conscientes de estas limitaciones y actúen con cautela.

Leave a Reply

Your email address will not be published. Required fields are marked *

You May Also Like

Amazon y SpaceX alegan inconstitucionalidad de la Junta Nacional de Relaciones Laborales

Amazon se suma a SpaceX en afirmar que la Junta Nacional de…

Google enfrenta juicio antimonopolio

El reciente fallo judicial en el caso antimonopolio contra Google ha revelado…

¡Alerta! Amazon Prime Video Introduce Anuncios a Partir de Hoy

A partir de hoy, Amazon Prime Video comenzará a mostrar anuncios, a…

Reemplazo de pantalla del Huawei Mate XT Ultimate Design costará más de $1,100

Descubre el alto costo de reemplazar la pantalla del Huawei Mate XT…

El Fin del Viaje libre para los Autos Autónomos

Las investigaciones de la NHTSA marcan el fin de una era de…

Ring Duplicó el Precio de su Servicio de Monitoreo: ¿Cómo Afectará a los Clientes?

Si compraste un sistema de alarma Ring para tu hogar porque ofrecía…

400 millones de cuentas de Google usan claves de acceso, pero el futuro sin contraseñas es incierto

Google ha informado que las claves de acceso han sido utilizadas más…

Android 15 ya está disponible para dispositivos Pixel: Nuevas funciones y mejoras en privacidad y seguridad

La última actualización del sistema operativo Android 15 ya está llegando a los dispositivos Google…

WhatsApp Revoluciona la Comunicación con su Nuevo Creador de Stickers Personalizados para iOS 17

WhatsApp ha presentado una emocionante novedad para sus usuarios de iOS 17…

Hyundai Inster: El EV pequeño y asequible que no llegará a Estados Unidos

Descubre el Hyundai Inster, el último vehículo eléctrico subcompacto que lamentablemente no…