Con el creciente interés en herramientas de generación de imágenes con IA, Apple ha establecido una serie de guardrails o salvaguardias para proteger a los usuarios y fomentar un uso responsable. Estas nuevas funciones, aunque poderosas, están diseñadas para prevenir el mal uso, proteger la propiedad intelectual y evitar la creación de contenidos inapropiados o confusamente realistas.

¿Qué es iOS 18.2 y cuáles son sus nuevas funciones?

El nuevo iOS 18.2 es la última versión del sistema operativo para dispositivos Apple, que incluye avances significativos en inteligencia artificial. Las principales novedades son:

1. Genmoji: una herramienta que permite crear emojis personalizados utilizando inteligencia artificial. A diferencia de otros generadores, los Genmoji tienen un estilo animado y no permiten la creación de imágenes fotorrealistas.
2. Image Playground: una plataforma para la generación de imágenes mediante IA, limitada a estilos no realistas como Animación, Ilustración y Boceto.

Estas características están diseñadas para dar a los usuarios nuevas formas de expresión creativa, manteniendo un alto estándar de ética y responsabilidad.

La importancia de salvaguardias en la generación de imágenes con IA

El uso de inteligencia artificial en la creación de imágenes ha aumentado drásticamente en los últimos años, pero no sin preocupaciones. Según expertos, la capacidad de generar imágenes fotorrealistas ha planteado problemas relacionados con deepfakes, falsificación de identidades y violaciones de la propiedad intelectual.

Para abordar estas preocupaciones, Apple ha implementado varias restricciones en iOS 18.2:

• Estilos no realistas: Genmoji y Image Playground están limitados a crear imágenes en estilos de animación, ilustración y boceto. Esto evita que las imágenes generadas se confundan con fotografías reales, lo que reduce la posibilidad de mal uso.
• Restricción de propiedad intelectual: iOS 18.2 prohíbe la creación de imágenes que involucren personajes con derechos de autor reconocidos, como Darth Vader, Mickey Mouse o Bob Esponja. Si un usuario intenta utilizar el nombre de un personaje protegido, el sistema devolverá un error indicando: “No se puede usar esa descripción”.
• Lista de espera para acceso: Incluso si un usuario tiene acceso a las funciones de Apple Intelligence en versiones anteriores, deberá unirse a una nueva lista de espera para utilizar Genmoji e Image Playground. Esto permite a Apple realizar un despliegue gradual y monitorear el rendimiento de estas nuevas herramientas.

Cómo acceder a Genmoji y Image Playground en iOS 18.2

Los usuarios interesados en explorar estas nuevas funciones deberán seguir un proceso simple para acceder a ellas. Después de instalar la actualización de iOS 18.2, se les pedirá que abran Genmoji o Image Playground, donde podrán unirse a la lista de espera. Apple implementará el acceso de manera progresiva para garantizar una experiencia fluida y evitar sobrecargas en el sistema.

¿Por qué Apple está apostando por la seguridad en la IA?

Los recientes incidentes con herramientas de generación de imágenes basadas en IA de otras compañías han demostrado los riesgos asociados con el uso inadecuado de esta tecnología. Durante el lanzamiento del Pixel 9, surgieron titulares alarmantes como:

• “Probé la nueva aplicación Pixel Studio de Google. Creó una imagen de Bob Esponja vestido como un nazi” (el titular fue revisado posteriormente).
• “La herramienta de IA ‘Reimagine’ de Google nos ayudó a agregar naufragios, desastres y cadáveres a nuestras fotos”.
• “La generación de imágenes en Pixel Studio de Google puede salirse fácilmente de control”.

Apple está decidida a evitar este tipo de problemas al establecer límites claros en sus nuevas herramientas de IA. Al prohibir la creación de imágenes fotorrealistas y el uso de personajes con derechos de autor, la empresa protege a los usuarios y a las marcas.

Otras novedades en Apple Intelligence

Además de las herramientas de imagen, iOS 18.2 incluye otras actualizaciones importantes en Apple Intelligence:

• Integración con ChatGPT: Apple ha trabajado para incorporar ChatGPT en sus dispositivos, mejorando la capacidad de los usuarios para interactuar con IA avanzada a través de Siri y otras aplicaciones.
• Inteligencia Visual: Los modelos de iPhone 16 ahora contarán con mejoras en Visual Intelligence, permitiendo un reconocimiento de imágenes más preciso y una mejor integración con aplicaciones de fotografía.
• Mejoras en privacidad: Apple sigue priorizando la privacidad de los usuarios al aplicar técnicas de anonimización en la generación de datos para herramientas basadas en IA.

El futuro de la inteligencia artificial en Apple

El lanzamiento de iOS 18.2 marca un nuevo capítulo en la estrategia de Apple para integrar la inteligencia artificial de manera segura y ética en sus dispositivos. Con Genmoji e Image Playground, la empresa está demostrando que es posible combinar innovación con responsabilidad, brindando a los usuarios herramientas poderosas sin comprometer la seguridad.

Apple continuará evaluando la adopción y el impacto de estas nuevas funciones para mejorar aún más sus capacidades en futuras actualizaciones. Con un enfoque en la privacidad y la seguridad, Apple sigue liderando la industria en el desarrollo de tecnologías avanzadas que empoderan a los usuarios.

Acerca de Apple:
Apple, una de las empresas tecnológicas más influyentes del mundo, continúa redefiniendo la innovación con sus productos icónicos, desde el iPhone hasta su ecosistema de software y servicios. Con un enfoque inquebrantable en la privacidad y la seguridad del usuario, Apple lidera la industria en soluciones tecnológicas responsables.

The post Apple lanza iOS 18.2 con Genmoji y Image Playground: Innovación con IA y mayor seguridad para imágenes generadas appeared first on TecnoFuturo24.

Privacidad en el enfoque dual de la IA generativa

La privacidad es posible gracias a un enfoque dual en la IA generativa que Apple comenzó a explicar en su keynote y ofreció más detalles en documentos y presentaciones posteriores. Apple Intelligence se construye con una filosofía en el dispositivo que puede realizar las tareas comunes de IA que los usuarios desean rápidamente, como transcribir llamadas y organizar sus horarios. Sin embargo, Apple Intelligence también puede conectarse a servidores en la nube para solicitudes de IA más complejas que incluyen el envío de datos de contexto personal, y asegurar que ambos tipos de procesos entreguen buenos resultados mientras mantienen la privacidad de tus datos es donde Apple enfocó sus esfuerzos.

Modelos de IA caseros para mayor seguridad

La gran noticia es que Apple está utilizando sus propios modelos de IA caseros para Apple Intelligence. Apple señala que no entrena sus modelos con datos privados o interacciones de usuarios, lo cual es único en comparación con otras compañías. En su lugar, Apple usa materiales licenciados y datos disponibles públicamente en línea que son recopilados por el rastreador web Applebot de la compañía. Los editores deben optar por no participar si no desean que sus datos sean recopilados por Apple, lo cual suena similar a las políticas de Google y OpenAI. Apple también dice que omite la alimentación de números de seguro social y tarjetas de crédito que flotan en línea, e ignora “profanidades y otros contenidos de baja calidad”.

Integración y optimización de modelos

Un gran punto de venta para Apple Intelligence es su profunda integración en los sistemas operativos y aplicaciones de Apple, así como cómo la compañía optimiza sus modelos para eficiencia energética y tamaño para encajar en los iPhones. Mantener las solicitudes de IA locales es clave para calmar muchas preocupaciones sobre privacidad, pero la compensación es usar modelos más pequeños y menos capaces en el dispositivo.

Para hacer útiles esos modelos locales, Apple emplea ajustes finos, que entrenan a los modelos para mejorar en tareas específicas como corregir pruebas o resumir textos. Las habilidades se colocan en forma de “adaptadores”, que pueden superponerse al modelo base y cambiarse según la tarea en cuestión, similar a aplicar atributos de mejora para tu personaje en un juego de rol. De manera similar, el modelo de difusión de Apple para Image Playground y Genmoji también usa adaptadores para obtener diferentes estilos de arte, como ilustración o animación (lo que hace que personas y mascotas se vean como personajes de Pixar de bajo presupuesto).

Apple dice que ha optimizado sus modelos para acelerar el tiempo entre el envío de una solicitud y la entrega de una respuesta, y utiliza técnicas como “decodificación especulativa”, “poda de contexto” y “atención de consulta grupal” para aprovechar el motor neuronal de Apple Silicon. Los fabricantes de chips solo recientemente han comenzado a agregar núcleos neuronales (NPU) a los circuitos, lo que ayuda a aliviar el ancho de banda de la CPU y la GPU al procesar algoritmos de aprendizaje automático y IA. Es parte de la razón por la cual solo los Mac y iPad con chips de la serie M y solo el iPhone 15 Pro y Pro Max admiten Apple Intelligence.

Comparación con la competencia

El enfoque es similar a lo que estamos viendo en el mundo de Windows: Intel lanzó su arquitectura Meteor Lake de 14ª generación con un chip con NPU, y los nuevos chips Snapdragon X de Qualcomm, construidos para los PCs Copilot Plus de Microsoft, también los tienen. Como resultado, muchas características de IA en Windows están limitadas a nuevos dispositivos que pueden realizar trabajos localmente en estos chips.

Resultados de Apple Intelligence

Según la investigación de Apple, de 750 respuestas probadas para resumen de texto, la IA en el dispositivo de Apple (con el adaptador adecuado) tuvo resultados más atractivos para los humanos que el modelo Phi-3-mini de Microsoft. Parece un gran logro, pero la mayoría de los servicios de chatbots de hoy en día usan modelos mucho más grandes en la nube para lograr mejores resultados, y ahí es donde Apple está tratando de caminar una línea cuidadosa sobre la privacidad. Para que Apple pueda competir con modelos más grandes, está elaborando un proceso fluido que envía solicitudes complejas a servidores en la nube mientras intenta demostrar a los usuarios que sus datos siguen siendo privados.

Computación en la Nube Privada (PCC)

Si una solicitud de usuario necesita un modelo de IA más capaz, Apple envía la solicitud a sus servidores de Computación en la Nube Privada (PCC). PCC funciona en su propio sistema operativo basado en “fundamentos de iOS”, y tiene su propio stack de aprendizaje automático que impulsa Apple Intelligence. Según Apple, PCC tiene su propio arranque seguro y Enclave Seguro para mantener claves de cifrado que solo funcionan con el dispositivo solicitante, y el Monitor de Ejecución Confiable asegura que solo el código firmado y verificado se ejecute.

Apple dice que el dispositivo del usuario crea una conexión cifrada de extremo a extremo con un clúster de PCC antes de enviar la solicitud. Apple dice que no puede acceder a los datos en el PCC ya que está despojado de herramientas de gestión de servidores, por lo que no hay acceso remoto. Apple tampoco da al PCC ningún almacenamiento persistente, por lo que las solicitudes y posibles datos de contexto personal extraídos del Índice Semántico de Apple Intelligence aparentemente se eliminan en la nube posteriormente.

Preguntas abiertas sobre la privacidad

Una de las grandes preguntas abiertas es exactamente qué tipos de solicitudes irán a la nube. Al procesar una solicitud, Apple Intelligence tiene un paso llamado Orquestación, donde decide si proceder en el dispositivo o usar PCC. Aún no sabemos qué constituye exactamente una solicitud lo suficientemente compleja como para desencadenar un proceso en la nube, y probablemente no lo sabremos hasta que Apple Intelligence esté disponible en otoño.

Hay otra forma en la que Apple está lidiando con las preocupaciones de privacidad: haciendo que sea problema de alguien más. El renovado Siri de Apple puede enviar algunas consultas a ChatGPT en la nube, pero solo con permiso después de que hagas algunas preguntas realmente difíciles. Ese proceso transfiere la cuestión de la privacidad a las manos de OpenAI, que tiene sus propias políticas, y al usuario, que debe aceptar externalizar su consulta. En una entrevista con Marques Brownlee, el CEO de Apple, Tim Cook, dijo que ChatGPT sería llamado para solicitudes que involucren “conocimiento del mundo” que están “fuera del dominio del contexto personal”.

Compromiso con la privacidad

El enfoque dividido de Apple entre lo local y la nube para Apple Intelligence no es totalmente novedoso. Google tiene un modelo Gemini Nano que puede trabajar localmente en dispositivos Android junto con sus modelos Pro y Flash que procesan en la nube. Mientras tanto, los PCs Microsoft Copilot Plus pueden procesar solicitudes de IA localmente mientras la compañía sigue apoyándose en su acuerdo con OpenAI y también construye su propio modelo interno MAI-1. Sin embargo, ninguno de los rivales de Apple ha enfatizado tanto sus compromisos de privacidad en comparación.

Por supuesto, todo esto se ve genial en demostraciones escenificadas y documentos editados. Sin embargo, la prueba real será a finales de este año cuando veamos Apple Intelligence en acción. Tendremos que ver si Apple puede lograr ese equilibrio de experiencias de IA de calidad y privacidad, y continuar desarrollándolo en los próximos años.

The post Así es como el modelo de IA de Apple intenta mantener privada tu información appeared first on TecnoFuturo24.