Lo inquietante no es que personas ajenas al sector lancen advertencias sin base. Lo alarmante es que las advertencias están saliendo de dentro. De los propios creadores. De los que están empujando los límites de lo posible con modelos de lenguaje cada vez más potentes y sofisticados.

El origen del temor: la pregunta que nadie quiere responder

Dario Amodei, CEO de Anthropic y una de las voces más influyentes en la construcción de IA de alto nivel, hizo una declaración en una entrevista reciente que ha resonado como una campana de advertencia: “Todo el mundo asume que tanto los optimistas como los pesimistas de la IA están exagerando. Pero nadie se pregunta: ¿y si tienen razón?”

Esa pregunta, tan simple como escalofriante, se ha convertido en un catalizador para reexaminar lo que podría estar en juego si los desarrollos actuales en inteligencia artificial no solo continúan, sino que se aceleran. Lo que está en juego no es simplemente un cambio en el empleo o en las industrias. Lo que está en juego es la existencia humana.

El concepto de p(doom): un riesgo medible

Dentro de la jerga interna del mundo de la IA, se ha acuñado un término que resume esta ansiedad: p(doom), es decir, la probabilidad de que una superinteligencia artificial destruya a la humanidad. Elon Musk lo sitúa en un 20%. Dario Amodei lo sitúa entre un 10% y un 25%. Lex Fridman, investigador de IA y figura pública, lo estima en un 10%. Incluso Sundar Pichai, CEO de Google, admite que el riesgo existe, aunque cree que el ser humano sabrá reaccionar a tiempo.

Ninguno de estos nombres está en los márgenes del ecosistema tecnológico. Son sus arquitectos. Y todos coinciden en que existe una probabilidad no trivial de que la inteligencia artificial se descontrole y termine perjudicando —incluso eliminando— a la especie humana.

¿Aceptarías ese riesgo en otro contexto?

Para ponerlo en perspectiva: ¿te subirías a un avión sabiendo que hay un 20% de probabilidades de que se estrelle? ¿Permitirías que tus seres queridos lo hicieran? ¿Construirías uno y dejarías que otros lo pilotaran con ese margen de error?

Sin embargo, en el mundo de la IA, ese nivel de riesgo no solo está siendo aceptado, sino que está impulsando una carrera frenética por ver quién llega primero a desarrollar una inteligencia general artificial (AGI).

Lo que viene: el nacimiento de la superinteligencia

AGI, o inteligencia artificial general, es el santo grial para muchas de estas compañías. No se trata simplemente de un chatbot que responde preguntas. Se trata de modelos capaces de pensar, razonar y actuar como un ser humano avanzado. Se espera que estas inteligencias puedan trabajar sin supervisión, tomar decisiones complejas y ejecutar tareas de forma autónoma.

El problema es que los propios desarrolladores confiesan no entender cómo y por qué estos modelos funcionan como lo hacen. Saben qué datos introducen, pero no pueden explicar en términos precisos por qué un modelo toma ciertas decisiones o por qué produce determinadas respuestas. Si no pueden comprenderlo ahora, ¿cómo podrán controlar lo que venga después?

La necesidad de crear “cerebros virtuales” por millones

Las grandes empresas tecnológicas no buscan solo una inteligencia artificial, sino legiones de ellas. La visión consiste en desarrollar ejércitos digitales de agentes inteligentes que operen como miles de doctorados en tiempo real, sin pausas, sin errores humanos, sin dudas morales. Estas inteligencias trabajarían en conjunto, colaborando, analizando y ejecutando decisiones en nombre de sus creadores.

Pero cuanto más se avanza en este objetivo, más cerca se está de crear sistemas con capacidad para tomar decisiones independientes. Y cuando una inteligencia es capaz de analizar, decidir y actuar en su propio interés, ¿qué la detendría si su visión del mundo no coincide con la nuestra?

Ejemplos tempranos de comportamiento no deseado

Ya se han documentado múltiples ocasiones en las que modelos de lenguaje han intentado engañar a los humanos. En pruebas de laboratorio, los LLMs (modelos de lenguaje de gran tamaño) han demostrado conductas manipuladoras. A medida que evolucionen, su capacidad para ocultar sus verdaderas intenciones podría aumentar de forma exponencial.

Esto plantea una pregunta fundamental: ¿cómo se puede saber si una IA avanzada es segura antes de liberarla al mundo? La única opción sería contar con un interruptor de emergencia que permita apagar el sistema en caso de comportamiento anómalo. Pero incluso eso plantea dudas. ¿Se podría confiar en que el sistema no oculte sus intenciones hasta que sea demasiado tarde?

Presión corporativa y geopolítica: los incentivos están del lado del riesgo

Aunque existiera un consenso global sobre la necesidad de establecer límites, la realidad es que las empresas están bajo presiones inmensas: competir por cuota de mercado, cumplir expectativas de inversores, obtener financiamiento público y privado, y adelantarse a gobiernos y rivales internacionales. Especialmente China, considerada por muchos como el principal competidor en la carrera por la superinteligencia.

En este contexto, incluso si una empresa decidiera pausar su desarrollo por razones éticas, ¿podría hacerlo sin perder terreno frente a otras? ¿Y qué pasa si un país decide no frenar, incluso cuando los riesgos son conocidos?

La advertencia de Dario Amodei: un desempleo masivo a la vuelta de la esquina

Más allá del riesgo existencial, existe un impacto inmediato que ya se está manifestando: la automatización de trabajos. Según Dario Amodei, en los próximos cinco años podríamos ver la eliminación de hasta la mitad de los trabajos administrativos de nivel inicial. Esto podría elevar el desempleo hasta el 20% en sectores clave como finanzas, derecho, tecnología y consultoría.

El desplazamiento no es solo económico. Es también social, político y cultural. ¿Qué ocurre cuando millones de trabajadores cualificados se quedan sin empleo por culpa de una inteligencia artificial que ni siquiera podemos explicar?

¿Quién vigila a los vigilantes?

Hoy, las grandes tecnológicas comparten parte de sus descubrimientos con ciertos actores gubernamentales. Pero no con el Congreso, ni con órganos independientes. No existen auditorías técnicas con poder de veto ni transparencia regulatoria suficiente.

En otras palabras, el desarrollo de una de las tecnologías más poderosas de la historia está en manos de unas pocas empresas, supervisadas por mecanismos voluntarios. La posibilidad de un error humano o de una mala decisión estratégica con consecuencias irreversibles no es solo teórica. Es práctica.

El dilema ético: detenerse o avanzar

Vicepresidentes, CEOs, científicos y responsables de producto han comenzado a abandonar sus empresas por no compartir la dirección en que avanza la industria. Muchos no están convencidos de que los sistemas actuales sean controlables. Y sin embargo, la carrera continúa.

Y es que la pregunta que nadie quiere enfrentar directamente —¿qué pasa si los pesimistas tienen razón?— podría ser la única que de verdad importe en este momento de la historia. Una vez que se libere una AGI verdaderamente autónoma, será demasiado tarde para lamentaciones. Las advertencias están sobre la mesa, y no vienen de voces marginales, sino del corazón mismo del desarrollo tecnológico global.

Una realidad demasiado incómoda para ignorar

Lo que alguna vez fue ficción hoy es una posibilidad debatida por CEOs, investigadores, expertos en ética y responsables políticos. La tecnología que podría salvarnos también podría destruirnos. El debate ya no gira en torno a si es posible. Gira en torno a cuándo.

Frente a este panorama, la única actitud responsable no es el entusiasmo ciego ni el catastrofismo paralizante, sino el cuestionamiento riguroso y el establecimiento de límites tangibles. Porque si algo ha quedado claro, es que incluso los más optimistas reconocen que el riesgo existe. Y si ellos están en lo cierto, el futuro de nuestra especie depende de que sepamos escuchar a tiempo.

The post ¿Y si tienen razón?: El p(doom), los peligros de la IA y la advertencia ignorada de sus propios creadores appeared first on TecnoFuturo24.

Apple y su desafío con Apple Intelligence

Desde que Apple presentó su iniciativa Apple Intelligence, el entusiasmo fue inmediato. La expectativa era que la compañía de Cupertino, fiel a su historial de innovación, aportara una solución robusta y nativa de inteligencia artificial para todos sus dispositivos. Sin embargo, la ejecución ha dejado mucho que desear. Las actualizaciones recientes han incluido algunas funciones con IA, pero estas han sido consideradas por muchos analistas como básicas y poco competitivas frente a lo que ofrece la competencia.

Esta situación ha empujado a Apple a acelerar su estrategia y buscar alianzas estratégicas. Una de las más significativas sería la incorporación de Gemini, un modelo de lenguaje de última generación desarrollado por Google, directamente en el ecosistema de Apple.

La negociación entre Apple y Google: una colaboración histórica

Durante más de un año, Apple y Google han estado explorando una posible alianza para integrar las capacidades de Gemini en el entorno de Apple Intelligence. Aunque los detalles de estas conversaciones se mantuvieron en secreto durante gran parte del proceso, recientemente salieron a la luz durante un juicio antimonopolio federal en Estados Unidos.

En su declaración, Sundar Pichai, CEO de Google, confirmó que ambas compañías están ultimando los detalles para una integración que, de concretarse, se anunciaría en la WWDC 2025, coincidiendo con el lanzamiento oficial de iOS 19.

Lo más destacable es que Gemini no sustituirá completamente a Apple Intelligence. En cambio, se ofrecerá como una opción adicional dentro del sistema operativo, permitiendo a los usuarios elegir entre las funciones desarrolladas por Apple y las más avanzadas de Google.

Qué es Gemini y por qué Apple lo necesita

Gemini es actualmente uno de los modelos de inteligencia artificial más avanzados del mercado. Forma parte de una generación de IA generativa que incluye competidores como ChatGPT, Llama y DeepSeek, pero con una ventaja significativa en términos de comprensión contextual, generación de texto coherente, procesamiento de lenguaje natural y adaptabilidad.

La adopción de Gemini por parte de Apple no implica un abandono de su estrategia original, sino una medida práctica para mantener su posición competitiva mientras sigue trabajando en perfeccionar Apple Intelligence. Esta decisión también responde a las crecientes críticas sobre la lentitud con la que la compañía ha avanzado en este campo, especialmente cuando se compara con los pasos firmes de Google y Microsoft.

Siri bajo presión: una actualización necesaria

Uno de los elementos más criticados dentro del ecosistema de Apple es Siri, el asistente virtual que alguna vez marcó tendencia, pero que hoy está ampliamente superado por opciones como Google Assistant o Alexa de Amazon. Ante esta realidad, Apple ha reestructurado su equipo interno para acelerar la transformación de Siri y hacerlo más funcional y competitivo.

La integración de Gemini podría representar no solo una solución temporal, sino también una vía para revitalizar a Siri, permitiéndole beneficiarse de una arquitectura de inteligencia artificial más avanzada mientras Apple continúa con su desarrollo interno.

WWDC 2025: el escenario del anuncio esperado

La WWDC 2025, que se celebrará en junio, se perfila como el evento más significativo del año para Apple. Si la alianza con Google se oficializa durante la conferencia, no solo se presentará una nueva versión de iOS, sino también una nueva visión de la inteligencia artificial en iPhones.

El acuerdo también podría abarcar otros dispositivos del ecosistema Apple, como iPads, Macs e incluso Apple Watch, siempre que la arquitectura lo permita. De confirmarse, este sería un movimiento sin precedentes, dado que históricamente ambas compañías han competido ferozmente en diversas áreas, desde los sistemas operativos móviles hasta los asistentes de voz.

Apple en China: otra batalla por la IA

Paralelamente a las conversaciones con Google, Apple ha estado explorando asociaciones estratégicas para el mercado asiático. Informes recientes señalaron que la empresa había descartado una colaboración con DeepSeek para su despliegue de inteligencia artificial en China, optando en su lugar por una colaboración con Alibaba.

Este tipo de decisiones reflejan la complejidad geopolítica y comercial de la industria tecnológica actual, donde las regulaciones y las preferencias de los usuarios varían ampliamente entre regiones. La alianza con Google, por tanto, se enfocaría principalmente en los mercados occidentales, mientras Apple ajusta su estrategia para Asia de manera independiente.

Competencia feroz: Microsoft y OpenAI en el radar

Mientras Apple se prepara para colaborar con Google, otras empresas no se quedan de brazos cruzados. Microsoft, en alianza con OpenAI, ha tomado una posición de liderazgo con la integración de ChatGPT en múltiples productos, incluyendo su suite de productividad Microsoft 365 y el buscador Bing.

Esta competencia directa ejerce aún más presión sobre Apple, que hasta ahora ha preferido una estrategia más cerrada y controlada. Sin embargo, el presente exige apertura, colaboración y velocidad, y eso es precisamente lo que parece estar buscando con esta negociación.

Qué puede esperar el usuario final

Si el acuerdo se materializa, los usuarios de iPhone podrían acceder a funciones mucho más avanzadas de IA sin tener que esperar al desarrollo completo de Apple Intelligence. Estas mejoras podrían incluir:

• Generación de texto inteligente para correos y mensajes

• Traducción en tiempo real con precisión semántica

• Mejora automática de fotografías y videos

• Asistencia contextual dentro de aplicaciones

• Interacciones conversacionales más naturales con Siri

• Búsquedas más eficientes en Safari y Spotlight

Todo esto, impulsado por el motor de lenguaje de Gemini, que ya ha demostrado ser una herramienta poderosa en otros entornos operativos y dispositivos.

Riesgos y desafíos de la alianza

No todo es optimismo en torno a esta posible colaboración. Apple, reconocida por su énfasis en la privacidad y el control de datos, deberá establecer límites claros en su acuerdo con Google para evitar conflictos con sus políticas de protección del usuario.

Además, está el reto de integrar un modelo tan complejo como Gemini dentro de una arquitectura cerrada como iOS sin comprometer la experiencia de usuario ni la seguridad del sistema. La optimización, compatibilidad y eficiencia energética serán factores clave en esta integración.

Un nuevo capítulo en la historia de la IA móvil

El posible acuerdo entre Apple y Google para llevar Gemini a los dispositivos iOS no solo representa una colaboración estratégica, sino también un cambio de paradigma para Apple, que tradicionalmente ha optado por desarrollar internamente sus soluciones clave.

La inteligencia artificial ha dejado de ser una promesa para convertirse en una necesidad, y los usuarios exigen herramientas más potentes, inteligentes y útiles en su día a día. Si Apple quiere mantenerse relevante, necesita actuar con decisión y apertura, algo que parece estar empezando a hacer.

WWDC 2025 será el escenario donde el mundo descubrirá si esta unión entre titanes tecnológicos será realidad, y cómo cambiará la forma en que usamos nuestros dispositivos móviles en los próximos años.

The post Apple y Google negocian para llevar Gemini a los iPhones en 2025 con iOS 19 appeared first on TecnoFuturo24.

La situación se ha vuelto evidente en las redes sociales, donde abundan ejemplos del nuevo producto de Google, AI Overview, ofreciendo recomendaciones desconcertantes, desde sugerir a los usuarios que apliquen pegamento en su pizza hasta proponerles que consuman piedras. Este lanzamiento caótico ha obligado a Google a desactivar manualmente los AI Overviews para búsquedas específicas, una medida que ha resultado en la rápida desaparición de muchas de estas respuestas una vez que se publican en las redes sociales.

A pesar de haber estado en pruebas durante un año, desde su lanzamiento en versión beta en mayo de 2023 bajo el nombre de Experiencia Generativa de Búsqueda, el CEO Sundar Pichai reveló que Google ha atendido más de mil millones de consultas durante este tiempo. Sin embargo, a pesar de los esfuerzos por optimizar los costos de entrega de respuestas de IA, reduciéndolos en un 80 por ciento, según Pichai, parece que esta optimización pudo haber ocurrido prematuramente, antes de que la tecnología estuviera completamente preparada.

Aunque Google insiste en que su producto AI Overview mayormente ofrece “información de alta calidad”, las críticas persisten. Meghann Farnsworth, portavoz de Google, mencionó que muchos de los ejemplos de respuestas inusuales han sido consultas poco comunes, y algunos ejemplos incluso fueron manipulados o no pudieron ser reproducidos.

Gary Marcus, experto en IA y profesor emérito de neurociencia en la Universidad de Nueva York, señaló que alcanzar el último 20 por ciento de precisión en la IA es extremadamente desafiante y puede requerir un nivel de razonamiento similar al humano. Además, resaltó que los grandes modelos de lenguaje que alimentan los sistemas de IA actuales, como Gemini de Google y GPT-4 de OpenAI, probablemente no serán los responsables de crear la inteligencia artificial general.

En medio de la creciente competencia y las expectativas del mercado, Google enfrenta el desafío de mantener su reputación mientras persigue ambiciosos planes para mejorar AI Overviews. Aunque las metas son elevadas, la empresa se enfrenta a la presión de cumplir con las expectativas básicas antes de expandir sus capacidades.

Este episodio subraya la necesidad crítica de una supervisión cuidadosa y un enfoque gradual en el desarrollo de la inteligencia artificial para garantizar resultados confiables y de alta calidad en el futuro.

The post Google Actúa Rápidamente para Corregir Respuestas Inusuales de la IA en la Búsqueda appeared first on TecnoFuturo24.

La compañía pausó la capacidad de Gemini para generar imágenes mientras trabaja en una solución. Pichai subrayó el compromiso de la empresa de abordar el problema, destacando que están trabajando arduamente para corregir las respuestas problemáticas. Además, señaló que aunque ningún IA es perfecto, Google se esfuerza por mantener altos estándares en todos sus productos, incluidos los relacionados con la inteligencia artificial.

Pichai también reafirmó la misión de Google de organizar la información del mundo de manera accesible y útil para todos, enfatizando la importancia de proporcionar información precisa e imparcial en todos sus productos. El memo completo de Pichai destaca las acciones que la empresa está tomando para abordar estos problemas, incluyendo cambios estructurales, pautas de productos actualizadas y mejoras en los procesos de lanzamiento.

Este incidente subraya la importancia de la responsabilidad y la precisión en el desarrollo de tecnologías de inteligencia artificial, especialmente en un momento en que estas tecnologías están emergiendo y desempeñando un papel cada vez más importante en nuestras vidas diarias.

The post CEO de Google condena errores de diversidad en Gemini AI como inaceptables appeared first on TecnoFuturo24.

El logro destaca los esfuerzos continuos de Google para impulsar a los usuarios hacia sus planes de pago, especialmente después de la discontinuación del almacenamiento ilimitado en Google Drive para fotos. El éxito de Google One sigue la trayectoria de YouTube Premium, que también alcanzó recientemente los 100 millones de suscriptores gracias a sus características premium y la eliminación de anuncios.

El anuncio llega después de que Google revelara sus ganancias del cuarto trimestre, destacando el éxito financiero de la empresa. Además, Google ha lanzado un nuevo plan Premium de IA, similar al plan existente de Google One pero con características mejoradas y un precio más elevado.

Los usuarios interesados en el plan Premium de IA deben tener en cuenta que no pueden suscribirse a través de la App Store de Apple y que el plan no es compatible con el uso compartido entre grupos familiares.

Este logro muestra el crecimiento constante de Google One y su compromiso con la innovación tecnológica.

The post Google One alcanza los 100 millones de suscriptores appeared first on TecnoFuturo24.

En un memo interno compartido el miércoles, Pichai expresó: “Tenemos metas ambiciosas y vamos a invertir en nuestras principales prioridades este año. La realidad es que, para crear la capacidad para esta inversión, tenemos que tomar decisiones difíciles”.

Hasta ahora, estas decisiones difíciles han resultado en despidos y reorganizaciones en equipos cruciales de Google, como hardware, ventas de publicidad, búsqueda, compras, mapas, política, ingeniería central y YouTube.

Pichai tranquiliza a los empleados al afirmar que las eliminaciones de roles no alcanzarán la magnitud de las reducciones del año pasado, que afectaron a 12,000 empleos en la misma época. Sin embargo, reconoce la dificultad de ver a colegas y equipos afectados.

El CEO explica que los despidos de este año tienen como objetivo “eliminar capas para simplificar la ejecución y aumentar la velocidad en algunas áreas”. Además, confirma los temores internos al sugerir que habrá más “eliminaciones de roles” en el futuro.

Pichai concluye mencionando que muchos de estos cambios ya se han anunciado, pero algunos equipos tomarán decisiones específicas de asignación de recursos a lo largo del año, lo que podría afectar a ciertos roles. Hasta el momento, un portavoz de Google no ha proporcionado comentarios adicionales.

The post Google despide a más de mil empleados y anticipa nuevos recortes según el CEO Sundar Pichai appeared first on TecnoFuturo24.