Vishnu Mohandas, exingeniero de Google, crea una alternativa más privada con la plataforma TheySeeYourPhotos.com, que demuestra cómo Google utiliza tus imágenes para entrenar modelos de IA.
En un mundo digital donde la privacidad se ve cada vez más comprometida, un ingeniero que dejó su puesto en Google ha lanzado una plataforma que pone de manifiesto el poder de la inteligencia artificial (IA) de Google en el análisis de fotos personales. Vishnu Mohandas, exingeniero de Google y fundador de Ente, ha desarrollado la web TheySeeYourPhotos.com para dar una lección impactante sobre lo que la IA de Google puede aprender de nuestras imágenes.
La plataforma tiene como objetivo generar conciencia sobre cómo las fotos personales pueden ser analizadas y utilizadas sin el consentimiento explícito de los usuarios, revelando no solo lo que Google puede identificar en una foto, sino también los posibles riesgos de privacidad y seguridad asociados con el almacenamiento y análisis de imágenes en plataformas como Google Photos.
La Razón detrás de la Creación de Ente y TheySeeYourPhotos.com
Vishnu Mohandas dejó su puesto en Google en 2020, después de descubrir que la compañía había ayudado al ejército de EE. UU. a desarrollar una IA para estudiar imágenes de drones. Aunque este proyecto estaba relacionado con la vigilancia militar, la idea de que la IA pudiera usarse para analizar y procesar imágenes privadas fue un factor desencadenante para su decisión de salir de Google.
“Después de saber lo que Google estaba haciendo con las imágenes de los usuarios, decidí que tenía que tomar una postura”, comenta Mohandas. “No controlaba los resultados futuros que estos avances podrían generar. Entonces, ¿por qué no ser más responsable con la información que compartimos?”
Con esta preocupación en mente, Mohandas fundó Ente, una plataforma de almacenamiento de fotos privada, de código abierto y cifrada de extremo a extremo. Ente se destaca por ser una alternativa a los servicios de almacenamiento de fotos convencionales que almacenan las imágenes de los usuarios en la nube y las utilizan para entrenar modelos de IA sin consentimiento explícito.
Sin embargo, aunque Ente tiene más de 100,000 usuarios y es rentable, Mohandas se dio cuenta de que debía encontrar una forma más efectiva de demostrar a la gente por qué deberían reconsiderar confiar en Google Photos. Así fue como nació TheySeeYourPhotos.com, una herramienta que permite a los usuarios cargar sus fotos y ver lo que la IA de Google puede aprender de ellas.
Cómo Funciona TheySeeYourPhotos.com
La web TheySeeYourPhotos.com utiliza un modelo de visión por computadora proporcionado por Google Cloud, la misma plataforma que Google usa para alimentar sus sistemas de IA. Los usuarios pueden cargar cualquier imagen y, en cuestión de segundos, recibir una descripción detallada de la imagen analizada. La IA no solo documenta los detalles más obvios de la imagen, sino que también captura minucias, como la marca de un reloj o incluso el contexto cultural en el que podría encontrarse una escena.
“Cuando probamos con una foto de mi esposa, mi hija y yo frente a un templo en Indonesia, la IA no solo reconoció nuestros rostros, sino que fue capaz de identificar incluso el modelo específico del reloj que mi esposa llevaba puesto, un Casio F-91W”, comenta Mohandas. “Lo más sorprendente fue que la IA también asoció ese reloj con grupos extremistas islámicos, lo cual nos hizo reflexionar sobre los peligros de depender de algoritmos que pueden asociar ciertos objetos o detalles con contextos erróneos o peligrosos.”
A raíz de esta experiencia, Ente ajustó los prompts utilizados en la plataforma para hacer que las descripciones generadas por la IA fueran más neutras y objetivas, pero la sorpresa sigue siendo el factor clave: Google es capaz de analizar nuestras fotos con un nivel de detalle que la mayoría de los usuarios desconoce.
El Impacto de la Privacidad y la Inteligencia Artificial en la Sociedad
La inteligencia artificial es una herramienta poderosa, pero cuando se utiliza para analizar las imágenes personales de los usuarios sin su consentimiento explícito, plantea serias preocupaciones sobre la privacidad. Si bien servicios como Google Photos ofrecen conveniencia y almacenamiento sin esfuerzo, la realidad es que las fotos almacenadas en estas plataformas pueden ser utilizadas para entrenar algoritmos que podrían tener aplicaciones fuera de nuestro control.
Mohandas enfatiza que la preocupación no solo está en el uso de las imágenes para entrenar sistemas de IA, sino también en la forma en que las grandes corporaciones, como Google, almacenan y gestionan nuestros datos. “Es importante que los usuarios sean conscientes de lo que ocurre con sus datos. No siempre se nos da la opción de entender cómo se utilizan nuestros contenidos, ni qué consecuencias puede tener el hecho de compartirlos en plataformas masivas.”
Con TheySeeYourPhotos.com, Ente está ayudando a que los usuarios tomen decisiones más informadas sobre el uso de sus datos y les ofrece una alternativa que pone la privacidad en primer lugar. A través de la transparencia y la educación, la plataforma no solo pone en evidencia los riesgos del uso no consensuado de imágenes, sino que también ofrece una opción más segura y ética para aquellos que buscan proteger su privacidad.
La Necesidad de Alternativas Éticas y Transparentes
Ente no solo se presenta como una alternativa a Google Photos, sino como una propuesta que reta el modelo comercial basado en la explotación de los datos de los usuarios. En su lugar, la compañía promueve un enfoque ético y transparente en la gestión de datos personales.
“Lo que realmente queremos es que los usuarios tengan el control total sobre sus fotos y sus datos. Queremos que ellos decidan si sus imágenes deben ser utilizadas o no, y si deciden almacenarlas en Ente, pueden estar seguros de que su privacidad está protegida”, concluye Mohandas.
La transparencia es un aspecto crucial en el debate sobre la privacidad digital. Los usuarios necesitan saber exactamente qué sucede con sus datos, cómo se utilizan y cómo pueden beneficiarse de compartirlos, si deciden hacerlo. En este sentido, Ente se erige como un modelo alternativo que defiende el derecho a la privacidad en la era digital.
La Importancia de la Educación en Privacidad Digital
El lanzamiento de TheySeeYourPhotos.com es una llamada a la acción para que los usuarios reflexionen sobre los datos que comparten en línea. Mohandas y su equipo han creado una herramienta educativa que expone de manera clara y accesible los riesgos de la recopilación de datos no consensuada y el análisis intrusivo de imágenes personales.
En última instancia, la misión de Ente es ayudar a los usuarios a entender cómo las grandes corporaciones recopilan y procesan sus datos, mientras les ofrece una alternativa más ética y privada para almacenar y compartir sus fotos. La plataforma se presenta como una forma de recuperar el control de nuestra información personal en un mundo cada vez más digitalizado.
