Google ha lanzado una nueva herramienta de edición de fotos con IA en la serie Pixel 9, llamada “Reimagine”. Esta innovadora función permite a los usuarios agregar elementos a sus fotos simplemente mediante comandos de texto. Aunque la herramienta puede crear imágenes llamativas, su capacidad para generar contenido perturbador y las débiles salvaguardas plantean preocupaciones significativas.

Reimagine es una extensión avanzada de las herramientas de Magic Editor del año pasado, que permitían ajustes básicos como cambiar el cielo o borrar partes de una imagen. En contraste, Reimagine ofrece una funcionalidad mucho más amplia, permitiendo a los usuarios seleccionar cualquier objeto no humano o sección de una foto y generar nuevos elementos en ese espacio a partir de descripciones textuales.

Durante una prueba de una semana con unidades de revisión de los Pixel 9 y 9 Pro, mi equipo y yo experimentamos con los límites de esta herramienta. Pudimos generar imágenes muy perturbadoras, como choques de autos, explosiones en lugares públicos, y cuerpos bajo sábanas manchadas de sangre. Aunque estos resultados requieren cierta creatividad en los comandos, la capacidad de la herramienta para superar las barreras de seguridad es preocupante.

Cuando consultamos a Google sobre estas preocupaciones, el portavoz de la compañía, Alex Moriconi, explicó que Pixel Studio y Magic Editor están diseñados para fomentar la creatividad mediante la generación de texto a imagen y la edición avanzada de fotos. Sin embargo, admitió que la herramienta puede producir contenido ofensivo si se le instruye para ello. Google tiene políticas y Términos de Servicio claros para controlar el contenido, pero las barreras de seguridad a veces se ven desafiadas por comandos creativos.

Una de las principales preocupaciones es la falta de herramientas robustas para identificar y etiquetar imágenes generadas por IA. Aunque Google utiliza un sistema de etiquetado llamado SynthID para imágenes completamente sintéticas creadas por Pixel Studio, las imágenes editadas con Magic Editor no tienen estas etiquetas. Esto facilita la circulación de imágenes manipuladas sin una forma obvia de detectarlas.

La manipulación de fotos no es nueva, pero la facilidad con la que se pueden agregar elementos realistas ahora es inédita. Hace unos años, crear un choque de autos convincente en una imagen requería habilidades avanzadas y software costoso. Hoy en día, solo se necesita un texto breve y un teléfono Pixel.

La velocidad con la que se pueden difundir fotos engañosas también ha aumentado. Las herramientas de edición de imágenes están disponibles en el mismo dispositivo que capturamos y compartimos fotos. Esto hace que sea esencial aplicar escepticismo adicional a las imágenes vistas en línea.

En resumen, mientras que la función Reimagine de Google puede ser una herramienta creativa interesante, sus potenciales usos indebidos y la falta de controles robustos plantean serias preocupaciones. Es crucial que los usuarios y plataformas de medios sean conscientes de estas limitaciones y actúen con cautela.

Leave a Reply

Your email address will not be published. Required fields are marked *

You May Also Like

Un telescopio del ESO capta una nebulosa oscura con la forma de un lobo

En una revelación que combina ciencia y misterio, el Observatorio Europeo Austral…

La Comodidad en Dispositivos Vestibles: Un Desafío Crucial Más Allá de Vision Pro

Descubre por qué la comodidad en dispositivos vestibles es esencial para su…

Por qué la NASA sigue respaldando a Boeing a pesar del fiasco del Starliner

La semana pasada, la nave espacial Starliner de Boeing aterrizó en Nuevo…

T-Mobile Anuncia Nuevos Planes de Internet 5G para Llevar Wi-Fi a Todas Partes

T-Mobile ha lanzado dos emocionantes nuevos planes de internet residencial: Home Internet…

OpenAI revoluciona la inteligencia artificial con el lanzamiento de GPT-4o

OpenAI ha desvelado su última innovación en inteligencia artificial con el lanzamiento…

La SEC denuncia los intentos de Elon Musk por retrasar la investigación sobre Twitter

La Comisión de Valores y Bolsa de EE. UU. (SEC) está tomando…

Reseña de los Samsung Galaxy Buds 3 Pro: Calidad de Sonido Superior y Modo de Transparencia

Los Samsung Galaxy Buds 3 Pro son los últimos auriculares inalámbricos de…

Revisión del Rabbit R1: ¿Un salto fallido en la inteligencia artificial?

El Rabbit R1, un dispositivo promocionado como una innovación en inteligencia artificial,…

Microsoft y Meta acusan a Apple de manipular las reglas de la App Store

En un informe amicus en el caso Epic contra Apple, los desarrolladores…

Ryan Ellis renuncia como director de Concord tras el fallido lanzamiento del juego

El director de juego de Concord, Ryan Ellis, ha renunciado tras la…