Cómo ChatGPT identifica ubicaciones a partir de imágenes

La capacidad de ChatGPT para identificar ubicaciones geográficas a partir de fotografías es el resultado de la integración de dos tecnologías avanzadas: visión computacional y procesamiento de lenguaje natural. Al recibir una imagen, el modelo analiza una serie de elementos visuales que podrían incluir arquitectura, vegetación, señales viales, matrículas de vehículos, idiomas en los carteles, diseño urbano y estilo arquitectónico. Estos detalles, que pueden parecer triviales a simple vista, permiten al sistema comparar la imagen con su vasto banco de datos geográficos, culturales y visuales, y deducir con asombrosa precisión la ubicación donde fue tomada la foto.

Por ejemplo, una simple imagen de un menú de restaurante, un paisaje urbano o incluso una postal turística, podría ofrecer suficientes pistas para identificar no solo la ciudad, sino también la ubicación exacta, como un barrio o una plaza, si se toman en cuenta elementos visuales como el estilo de los edificios o la tipografía en los carteles.

El funcionamiento detrás de este razonamiento visual se basa en el análisis detallado de las características visuales. A través de las versiones avanzadas de modelos como GPT-4 y o3, OpenAI ha logrado entrenar a ChatGPT para reconocer y asociar patrones visuales con lugares reales. Este desarrollo también se extiende a modelos como GPT-4o, que perfecciona aún más la precisión y la velocidad con la que el modelo puede ofrecer respuestas sobre ubicaciones.

La privacidad, un tema clave en el uso de esta tecnología

Aunque las capacidades de ChatGPT para identificar ubicaciones a partir de imágenes representan una fascinante aplicación de la inteligencia artificial, también plantean serias preocupaciones en torno a la privacidad. En este sentido, expertos en seguridad y privacidad han señalado los riesgos inherentes a esta función, especialmente en el contexto del doxxing, que es la revelación no autorizada de información personal sensible.

A diferencia de otros modelos de IA que requieren metadatos para localizar una imagen, la capacidad de ChatGPT para hacer esto sin necesidad de datos adicionales expone a los usuarios a la posibilidad de que detalles mínimos en sus imágenes, tales como señales viales, elementos arquitectónicos o incluso las texturas de las calles, sean suficientes para deducir la ubicación exacta donde se capturó la foto.

TechSpot y TechCrunch, dos de los medios más destacados en temas de tecnología, advierten que esta nueva característica podría ser utilizada para hacer un seguimiento no autorizado de personas. De hecho, según algunos especialistas, es posible que una persona pueda ser “doxxed” con tan solo una foto tomada en un lugar público, sin que la persona se dé cuenta de que está dejando pistas que pueden ser interpretadas por la IA.

OpenAI, al ser consciente de estos riesgos, ha reiterado que su intención no es crear un sistema que promueva prácticas como el doxxing. Un portavoz de la compañía afirmó que sus modelos han sido diseñados con salvaguardas para evitar que puedan ser utilizados para identificar a personas en situaciones privadas. La compañía también ha implementado restricciones para rechazar cualquier solicitud que implique obtener información privada o sensible.

¿Cómo se activa esta función en ChatGPT?

Para acceder a la función de análisis de imágenes, los usuarios deben contar con una versión avanzada de ChatGPT, como GPT-4, que incluye capacidades de razonamiento visual. El proceso para activar la funcionalidad es relativamente sencillo: basta con cargar una fotografía, hacer una pregunta como “¿Dónde fue tomada esta foto?” y esperar la respuesta del modelo. En algunos casos, la respuesta incluirá una descripción contextual del lugar junto con las coordenadas exactas.

La versatilidad de esta función permite que incluso las imágenes cotidianas, como selfies o fotos tomadas en restaurantes o viajes, puedan ser utilizadas para deducir la ubicación precisa. Sin embargo, como veremos más adelante, los usuarios deben tener en cuenta ciertas precauciones al compartir este tipo de imágenes.

Precauciones a la hora de compartir imágenes

Aunque las capacidades de ChatGPT para identificar ubicaciones a partir de imágenes son impresionantes, los usuarios deben ser cautelosos al compartir fotografías que puedan revelar detalles sobre su ubicación o información personal. Las recomendaciones de expertos en privacidad incluyen:

1. Evitar compartir imágenes tomadas desde el interior de la vivienda, ya que esto puede revelar elementos del entorno exterior, como vistas de la calle o señales distintivas que podrían ser utilizadas para localizar el lugar.

2. No publicar fotografías en tiempo real que muestren ubicaciones sensibles, como el interior de hogares, oficinas o sitios privados.

3. Revisar cuidadosamente cada imagen antes de compartirla en redes sociales o enviarla por mensajería, asegurándose de que no haya detalles visuales que puedan identificar la ubicación.

4. Eliminar los metadatos de las imágenes siempre que sea posible. Sin embargo, como ya se explicó, aunque los metadatos pueden ser útiles, no son necesarios para la funcionalidad de razonamiento visual de GPT-4 y otros modelos avanzados.

El potencial positivo de esta tecnología

A pesar de los riesgos asociados con la privacidad, también existen aplicaciones beneficiosas para esta nueva capacidad de ChatGPT. El razonamiento visual podría ser utilizado en una variedad de campos, incluyendo la accesibilidad, la investigación científica y la respuesta a emergencias.

Por ejemplo, esta herramienta podría facilitar la identificación de lugares en situaciones de desastre natural, donde las imágenes tomadas por los usuarios podrían ser analizadas para determinar ubicaciones precisas y así orientar las labores de rescate. También podría ayudar a personas con discapacidades visuales a acceder a información sobre su entorno mediante la interpretación de imágenes, lo que podría mejorar su calidad de vida.

Además, en el campo de la investigación, la capacidad de identificar ubicaciones a partir de imágenes podría ser utilizada para analizar patrones urbanos, estudiar la distribución de ciertos tipos de arquitectura, o incluso para facilitar la planificación de proyectos urbanos.

El desarrollo de la función de razonamiento visual de ChatGPT representa un avance significativo en la inteligencia artificial, ofreciendo una nueva forma de interactuar con imágenes y obtener información útil de ellas. Sin embargo, también es importante considerar los riesgos que implica el uso de esta tecnología, especialmente en lo que respecta a la privacidad y la seguridad de las personas. OpenAI ha tomado medidas para evitar el uso indebido de la herramienta, pero es responsabilidad de los usuarios tomar precauciones al compartir imágenes que podrían revelar información sensible. A medida que la IA continúa avanzando, es fundamental que se sigan implementando salvaguardas para proteger los derechos y la privacidad de los individuos.

The post La nueva función de razonamiento visual de GPT-4 permite identificar coordenadas a partir de elementos como arquitectura o señales viales appeared first on TecnoFuturo24.

El Impacto de los LLMs en el Desarrollo de Software

Los LLMs han cambiado drásticamente el panorama del desarrollo de software. Desde la generación de código hasta la resolución de errores, estas herramientas han demostrado su eficacia en tareas específicas. No obstante, el estudio de OpenAI subraya que, aunque pueden reemplazar parcialmente a los ingenieros de software de nivel básico, no están en condiciones de hacerlo completamente. A pesar de las afirmaciones de Sam Altman, CEO de OpenAI, sobre el potencial de estos modelos para sustituir a ingenieros “de bajo nivel”, los resultados del estudio pintan un panorama más matizado.

SWE-Lancer: El Benchmark Innovador de OpenAI

Para explorar el verdadero alcance de los LLMs en la ingeniería de software, OpenAI desarrolló un innovador benchmark llamado SWE-Lancer. Este benchmark evalúa el rendimiento de los modelos de lenguaje en tareas de ingeniería de software freelance, utilizando 1,488 tareas reales de la plataforma Upwork, que representan un total de $1 millón en pagos potenciales.

El enfoque de OpenAI fue riguroso: se agruparon las tareas en dos categorías principales:

1. Tareas de Contribución Individual: Incluyen la resolución de errores y la implementación de nuevas funcionalidades.
2. Tareas de Gestión: En estas, el modelo asumía el rol de un gerente encargado de seleccionar la mejor propuesta para solucionar un problema específico.

Los resultados del estudio revelaron que, aunque los modelos pueden ayudar a resolver errores, aún no tienen la capacidad de comprender la causa raíz de estos problemas, lo que conduce a soluciones incompletas o incorrectas.

Resultados del Estudio: Limitaciones de los LLMs en la Resolución de Errores

El estudio se realizó utilizando tres de los modelos de lenguaje más avanzados: GPT-4o y o1 de OpenAI, y Claude-3.5 Sonnet de Anthropic. A pesar de sus impresionantes capacidades en ciertas áreas, los resultados indican que ninguno de estos modelos pudo ganar el total de $1 millón de las tareas de Upwork.

El Claude 3.5 Sonnet fue el mejor desempeño, ganando $208,050 y resolviendo el 26.2% de las tareas de contribución individual. Sin embargo, la mayoría de sus soluciones eran incorrectas o incompletas, lo que demuestra que se necesita una mayor fiabilidad antes de considerar su implementación en entornos laborales reales.

Uno de los hallazgos más significativos es que los LLMs son extremadamente eficientes en la localización de errores. Utilizan búsquedas por palabras clave en todo el repositorio de código para ubicar rápidamente el archivo o función relevante, a menudo más rápido que un ingeniero humano. No obstante, su capacidad para identificar la causa raíz del problema es limitada.

Desempeño en Tareas de Gestión: Un Rayo de Esperanza para los LLMs

Curiosamente, los LLMs demostraron un mejor rendimiento en las tareas de gestión. Estas tareas requerían razonamiento y comprensión técnica para evaluar propuestas de solución, un ámbito donde los modelos mostraron habilidades prometedoras. Esto sugiere que, aunque los LLMs aún no pueden reemplazar a los ingenieros de software en la resolución de errores complejos, podrían asistir en roles de supervisión y revisión de propuestas.

Desafíos y Limitaciones: La Importancia de los Ingenieros Humanos

A pesar de sus avances, los LLMs aún presentan limitaciones críticas. Los resultados del estudio destacan que, aunque son hábiles para localizar problemas, no comprenden completamente cómo estos abarcan múltiples componentes o archivos, lo que resulta en soluciones parciales. Además, los modelos no intentan reproducir el error, lo que es esencial en el proceso de depuración para garantizar que la solución propuesta sea efectiva.

Este hallazgo reafirma la necesidad de ingenieros humanos en el proceso de desarrollo de software. Los profesionales no solo solucionan errores, sino que también comprenden el contexto completo del sistema, lo que les permite identificar y abordar problemas complejos de raíz.

Implicaciones para el Futuro de la Ingeniería de Software

El estudio de OpenAI aporta valiosas lecciones para el futuro de la IA en la ingeniería de software:

• Complemento, No Sustitución: Los LLMs pueden complementar a los ingenieros humanos, ayudando en la localización de errores y en la evaluación de propuestas. Sin embargo, la supervisión humana sigue siendo esencial.
• Mejoras Necesarias en Causalidad: Para que los LLMs sean verdaderamente efectivos en la resolución de errores, necesitan mejorar su capacidad de razonamiento causal.
• Posible Uso en Roles de Gestión: Dado su buen rendimiento en tareas de evaluación y supervisión, los LLMs podrían desempeñar roles de apoyo en la gestión de proyectos de software.

 Un Camino por Recorrer para los LLMs en la Ingeniería de Software

El estudio de OpenAI subraya que, si bien los LLMs han avanzado significativamente en su capacidad para asistir en el desarrollo de software, aún están lejos de reemplazar a los ingenieros humanos. Sus limitaciones en el entendimiento de la causalidad y en la resolución de problemas complejos destacan la necesidad de un enfoque colaborativo, donde la IA y los ingenieros trabajen juntos para lograr soluciones más eficaces y completas.

En última instancia, el futuro de la ingeniería de software no se trata de reemplazar a los humanos con IA, sino de potenciar el talento humano con herramientas avanzadas que mejoren la productividad y la precisión.

The post Los Modelos de Lenguaje Extenso (LLMs) Pueden Arreglar Errores, Pero No Encontrarlos: Un Estudio de OpenAI Destaca los Límites de la IA en la Ingeniería de Software appeared first on TecnoFuturo24.

Fecha: 11 de noviembre de 2024

En un reciente informe publicado por The Information, se ha revelado que OpenAI está enfrentando dificultades en la mejora constante de sus modelos de inteligencia artificial. El próximo modelo de la compañía, conocido como Orion, podría no representar una mejora tan significativa como los avances anteriores, como el salto de GPT-3 a GPT-4. Este fenómeno ha generado preocupaciones dentro de la comunidad tecnológica sobre una posible desaceleración en el progreso de la inteligencia artificial (IA).

OpenAI y su Enfoque para el Futuro de la IA

Desde el lanzamiento de GPT-3, OpenAI ha sido pionero en el desarrollo de modelos de IA de gran escala, con avances que han transformado diversas industrias, desde la automatización de procesos hasta la mejora de la comunicación a través de la generación de texto. Sin embargo, a medida que la compañía sigue desarrollando sus modelos, las mejoras no están siendo tan impresionantes como las que se vieron en versiones anteriores.

Orion, el modelo más reciente de OpenAI, se encuentra en una etapa de pruebas internas. Aunque sus resultados muestran que su rendimiento supera al de los modelos anteriores, los empleados que han evaluado este modelo reportan que el salto en el rendimiento es menos significativo que el que se experimentó entre GPT-3 y GPT-4. Esta desaceleración en los avances podría implicar un cambio en la dirección del desarrollo de IA.

Desaceleración en el Progreso de la Inteligencia Artificial

La desaceleración en la mejora de la IA no es un fenómeno aislado, sino una tendencia que ha comenzado a preocupar a los expertos del sector. Las expectativas de que cada nuevo modelo supere de manera exponencial a los anteriores se están viendo limitadas por varios factores, entre los cuales destaca la disponibilidad de nuevos datos de entrenamiento. A medida que la IA avanza, el margen para mejoras significativas se reduce, lo que hace que los avances futuros sean más difíciles de lograr.

Uno de los factores clave detrás de esta desaceleración es la limitada disponibilidad de nuevos datos de entrenamiento, que son esenciales para el perfeccionamiento de los modelos de IA. OpenAI, reconociendo esta dificultad, ha formado un nuevo equipo denominado “fundations team”, con el objetivo de encontrar formas innovadoras de seguir mejorando sus modelos a pesar de esta escasez.

Estrategias Innovadoras para Mantener el Ritmo del Progreso

Con el fin de evitar que el progreso de sus modelos se estanque, OpenAI ha propuesto una serie de estrategias innovadoras para mejorar el rendimiento de Orion y de futuros modelos. Una de estas estrategias implica entrenar Orion utilizando datos sintéticos generados por otros modelos de IA. Esta técnica no solo puede ampliar el conjunto de datos disponibles, sino que también puede ofrecer oportunidades para experimentar con escenarios más controlados y específicos que no están fácilmente disponibles en los datos reales.

Además de esto, OpenAI está trabajando en métodos de mejora posterior al entrenamiento, es decir, perfeccionando el modelo después de su fase inicial de entrenamiento. Este enfoque es crucial, ya que puede permitir ajustes más finos que mejoren áreas específicas del rendimiento del modelo sin necesidad de grandes volúmenes de datos adicionales.

El Futuro de la IA: Expectativas y Desafíos

La creación de estas nuevas estrategias pone de manifiesto los esfuerzos de OpenAI por seguir siendo un líder en el campo de la inteligencia artificial. Sin embargo, los desafíos son cada vez mayores. El avance de la IA podría no ser tan rápido como en el pasado, pero esto no significa que se detendrá por completo. En cambio, podríamos estar entrando en una nueva fase del desarrollo de la IA, donde los avances se logren a través de métodos más sofisticados y procesos de optimización continua.

El equipo de OpenAI no ha confirmado oficialmente si el modelo Orion será lanzado este año, aunque han dejado en claro que no hay planes inmediatos para su lanzamiento. Esto podría deberse a la necesidad de realizar ajustes adicionales para garantizar que el modelo cumpla con las expectativas de la comunidad tecnológica y de los usuarios.

La Relevancia del Modelo Orion

A pesar de los desafíos, Orion sigue siendo uno de los modelos más esperados en la comunidad de inteligencia artificial. Su capacidad para superar a los modelos existentes, como GPT-4, ya es un logro significativo. Sin embargo, la comunidad se pregunta si el modelo podrá ofrecer avances en áreas como la comprensión del lenguaje natural, la generación de texto coherente y la capacidad de razonamiento a un nivel más alto.

El reto de OpenAI será equilibrar las expectativas del mercado con las realidades de las limitaciones tecnológicas actuales. Si bien Orion podría no ser un salto tan grande como algunos anticipaban, su lanzamiento marcará un paso importante hacia el futuro de la IA.

OpenAI continúa liderando el desarrollo de modelos de inteligencia artificial, pero el camino hacia el futuro se presenta lleno de desafíos. La desaceleración en los avances de la IA está obligando a la compañía a explorar nuevas estrategias para mejorar la capacidad de sus modelos. Aunque Orion puede no ser un salto tan grande como los anteriores, sigue siendo un paso crucial en el progreso de la inteligencia artificial.

Con estas nuevas estrategias, OpenAI mantiene su compromiso de seguir innovando y avanzando en un campo que sigue evolucionando rápidamente. La comunidad de IA espera con interés los próximos desarrollos de Orion y las soluciones que OpenAI implementará para seguir mejorando sus modelos de IA en el futuro cercano.

The post OpenAI Enfrenta Desafíos en el Avance de la Inteligencia Artificial: Desarrollando Nuevas Estrategias con el Modelo Orion appeared first on TecnoFuturo24.

Un Paso Adelante para la IA Conversacional

El lanzamiento de la búsqueda de ChatGPT marca un hito importante en la evolución de la inteligencia artificial conversacional. Al ofrecer a los usuarios la posibilidad de realizar consultas en lenguaje natural y recibir respuestas contextualizadas, OpenAI está revolucionando la manera en la que los usuarios buscan información en línea. “La búsqueda es mi función favorita que hemos lanzado desde el debut de ChatGPT”, escribió Sam Altman, CEO de OpenAI, en una publicación en la plataforma X.

Esta nueva función aprovecha los avances de GPT-4, el modelo de inteligencia artificial más poderoso de OpenAI hasta la fecha, que ha sido optimizado para responder a consultas de búsqueda de manera rápida y precisa. La función es capaz de realizar investigaciones complejas y ofrecer resultados detallados en pocos segundos, lo que promete cambiar la forma en que los usuarios encuentran información en la web.

Características Clave de ChatGPT Search

La búsqueda en ChatGPT ofrece una serie de características que hacen que esta herramienta sea única en su clase:

1. Actualización en Tiempo Real: A diferencia de los motores de búsqueda tradicionales, que pueden tener un ligero retraso en la actualización de sus bases de datos, la búsqueda en ChatGPT se alimenta de información en tiempo real proporcionada por proveedores externos de datos y noticias. Esto permite que los usuarios reciban información fresca y actualizada de manera instantánea.
2. Interfaz Conversacional: A diferencia de los motores de búsqueda tradicionales, donde los usuarios deben reformular sus consultas para obtener mejores resultados, ChatGPT Search permite a los usuarios hacer preguntas de seguimiento en lenguaje natural. Esta interacción hace que la búsqueda sea más intuitiva y que los usuarios obtengan respuestas contextualizadas.
3. Resultados Personalizados: La función de búsqueda de ChatGPT permite que los usuarios obtengan resultados personalizados. Gracias a las capacidades de procesamiento de lenguaje natural de GPT-4, el chatbot puede interpretar la intención de búsqueda y ofrecer respuestas que se alineen con las necesidades específicas del usuario.
4. Integración de Fuentes Verificadas: Para garantizar la precisión y fiabilidad de los resultados, OpenAI se ha asociado con fuentes de noticias de renombre como The Associated Press, Reuters, Financial Times, entre otras. Los usuarios pueden acceder a los artículos de origen haciendo clic en el botón “Fuentes” en la respuesta generada, lo que añade una capa de transparencia y credibilidad a la información proporcionada.

Acceso a ChatGPT Search para Diferentes Usuarios

La función de búsqueda de ChatGPT está actualmente disponible para todos los usuarios de ChatGPT Plus y Team, así como para aquellos que se inscribieron en la lista de espera de SearchGPT. OpenAI ha anunciado que, en las próximas semanas, los usuarios de las versiones ChatGPT Enterprise y Edu también tendrán acceso a esta función. Por su parte, los usuarios de la versión gratuita de ChatGPT podrán comenzar a usar la función de búsqueda en los próximos meses, a medida que OpenAI complete el despliegue gradual de la actualización.

Impulso Financiero y Nuevos Desafíos para OpenAI

Este lanzamiento llega en un momento clave para OpenAI, que recientemente completó una ronda de financiamiento, alcanzando una valuación de $157,000 millones. La empresa ha recaudado más de $6,600 millones de importantes firmas de inversión y ha asegurado una línea de crédito rotativa de $4,000 millones, lo que eleva su liquidez total a más de $10,000 millones. Con estas cifras, OpenAI está bien posicionada para seguir innovando y desarrollando soluciones de inteligencia artificial de vanguardia.

Sin embargo, el camino no ha sido fácil. En los últimos meses, OpenAI ha enfrentado ciertas críticas sobre su cambio hacia una estructura con fines de lucro y la salida de varios altos ejecutivos. Jan Leike, exlíder del equipo de seguridad de la compañía, expresó sus preocupaciones sobre la cultura de seguridad en OpenAI, afirmando que se ha dado prioridad al desarrollo de productos atractivos en lugar de a los procesos de seguridad. A pesar de estas críticas, OpenAI sigue adelante con sus ambiciosos planes de expansión y consolidación en el mercado de la IA.

Un Futuro con Posibilidades Ilimitadas

El lanzamiento de ChatGPT Search representa un paso audaz en la misión de OpenAI de transformar la inteligencia artificial en una herramienta accesible y útil para millones de personas en todo el mundo. Además de competir con los motores de búsqueda tradicionales, la compañía ve un potencial significativo para su tecnología en áreas como el comercio electrónico y los viajes. “Planeamos seguir mejorando la búsqueda, especialmente en sectores como compras y viajes, y aprovechar las capacidades de razonamiento de nuestra serie OpenAI o1 para realizar investigaciones más profundas”, escribió OpenAI en su blog.

El enfoque de OpenAI también apunta hacia una experiencia de búsqueda personalizada y adaptable. “Espero un futuro en el que una consulta de búsqueda pueda generar dinámicamente una página web personalizada en respuesta”, comentó Altman en la sesión AMA en Reddit. Esta visión resalta el objetivo de OpenAI de llevar la búsqueda en línea más allá de los métodos tradicionales, creando una experiencia más rica e interactiva.

Cómo Usar ChatGPT Search

Para usar la función de búsqueda, los usuarios solo necesitan hacer clic en el ícono de búsqueda web dentro de la interfaz de ChatGPT. Alternativamente, el chatbot activará automáticamente la búsqueda web si detecta que la consulta del usuario requiere información actualizada. Esta facilidad de uso permite que los usuarios puedan hacer preguntas de cualquier tipo y obtener respuestas de manera rápida y precisa, sin tener que navegar por diferentes páginas web.

El lanzamiento de ChatGPT Search es una muestra de cómo la inteligencia artificial puede transformar la experiencia de búsqueda en línea, ofreciendo a los usuarios una herramienta poderosa, intuitiva y eficiente para acceder a información en tiempo real. Con el respaldo de fuentes de confianza y una interfaz conversacional, OpenAI está reconfigurando el panorama de búsqueda y posicionándose como un competidor fuerte frente a gigantes como Google y Microsoft. Con el soporte financiero necesario y una visión clara, OpenAI continúa abriendo caminos y superando las expectativas en el ámbito de la IA.

The post OpenAI lanza la búsqueda de ChatGPT, compitiendo con Google y Microsoft. appeared first on TecnoFuturo24.

Los senadores mencionan varios incidentes que han puesto en duda los procedimientos de seguridad de OpenAI. Entre ellos, destacan la prueba en India de una versión no aprobada de GPT-4 en el motor de búsqueda Microsoft Bing en 2022, antes de recibir la aprobación del consejo de seguridad de OpenAI. También se refieren al breve despido de Altman en 2023 debido a las preocupaciones del consejo sobre la comercialización prematura de avances tecnológicos.

A pesar de las afirmaciones de OpenAI sobre su compromiso con la seguridad, informes de The Washington Post sugieren que la empresa aceleró las pruebas de seguridad y disolvió el equipo de Superalignment, responsable en parte de la seguridad. La portavoz de OpenAI, Lindsey Held, negó las acusaciones y aseguró que la empresa no comprometió sus procesos de seguridad.

En respuesta a las críticas, OpenAI ha anunciado una asociación con el Laboratorio Nacional de Los Álamos para investigar cómo los modelos de IA pueden apoyar la investigación bioscientífica de manera segura. Además, Altman reveló que el 20% de los recursos informáticos de OpenAI se dedicarán a la seguridad, y que la empresa ha eliminado cláusulas de no difamación y disposiciones que permitían la cancelación de equidad adquirida.

Los legisladores Warren y Trahan también han solicitado información sobre la nueva línea de seguridad para empleados y cómo se gestionan los informes de seguridad. La carta exige un “recuento detallado” de los incidentes en los que los productos de OpenAI han evadido los protocolos de seguridad, y detalles sobre la política de conflictos de interés de la empresa. Solicitaron a Altman que responda antes del 22 de agosto.

En California, estado natal de OpenAI, el senador Scott Wiener está promoviendo una legislación para regular los grandes modelos de lenguaje, responsabilizando legalmente a las empresas por el uso perjudicial de la IA. Esta legislación refleja las preocupaciones expresadas por Altman sobre los riesgos de la IA para la seguridad pública y nacional.

The post Los demócratas exigen a Sam Altman respuestas sobre la seguridad de OpenAI y los conflictos de interés appeared first on TecnoFuturo24.

En esta escala, los actuales chatbots como ChatGPT se sitúan en el Nivel 1. OpenAI afirma estar cerca del Nivel 2, donde las IA pueden resolver problemas básicos al nivel de un doctorado. El Nivel 3 implica agentes de IA capaces de tomar decisiones en nombre de los usuarios, mientras que el Nivel 4 representa IA que pueden innovar y crear nuevas soluciones. Finalmente, el Nivel 5, el objetivo final para alcanzar AGI, supone IA capaces de realizar el trabajo de organizaciones enteras de personas.

La estructura única de OpenAI está alineada con su misión de lograr AGI, una meta que consideran crucial para superar a los humanos en la mayoría de las tareas económicamente valiosas. La empresa ha dejado claro que, si algún proyecto alineado con sus valores y seguridad se acerca a construir AGI antes que ellos, se comprometen a no competir y a ofrecer asistencia.

A pesar de estos avances, el camino hacia AGI aún es largo y costoso. Expertos estiman que se requerirán inversiones masivas en potencia informática para alcanzar este objetivo en los próximos años. Las opiniones dentro de OpenAI también varían considerablemente sobre los plazos, con declaraciones que sugieren que podríamos estar a “cinco años, más o menos” de lograr AGI, según el CEO Sam Altman en octubre de 2023.

Recientemente, OpenAI anunció una colaboración estratégica con el Laboratorio Nacional Los Álamos para explorar cómo modelos avanzados de IA como GPT-4o pueden ser utilizados de manera segura en investigaciones bioscientíficas. Esta iniciativa subraya el compromiso de OpenAI con la seguridad y el desarrollo responsable de la IA, un área que ha generado debates y preocupaciones tras la disolución de su equipo de seguridad en mayo de 2024.

Aunque OpenAI no ha revelado detalles específicos sobre cómo clasifica internamente sus modelos de IA, líderes de la empresa han demostrado avances significativos durante reuniones recientes. Estos avances muestran nuevas habilidades que sugieren un razonamiento más humano, según informes de Bloomberg, lo que podría acelerar el progreso hacia AGI en los próximos años.

Esta nueva escala de calificación, aún en desarrollo, busca proporcionar una métrica clara y objetiva del progreso hacia la IA general, ofreciendo una guía crucial en un campo donde la definición de logros significativos es fundamental para la industria y la investigación.

The post OpenAI y su Escala Interna para Medir la Inteligencia Artificial appeared first on TecnoFuturo24.

Esta semana, el Wall Street Journal alertó sobre los desafíos que enfrentan las empresas de inteligencia artificial al recopilar datos de entrenamiento de alta calidad. En línea con esta preocupación, The New York Times ha detallado algunas de las tácticas utilizadas por estas empresas. Como era de esperar, estas estrategias a menudo entran en un área gris de la ley de derechos de autor en el ámbito de la inteligencia artificial.

El reporte se centra en OpenAI, que, ante la urgente necesidad de datos de entrenamiento, desarrolló su modelo de transcripción de audio llamado Whisper, transcribiendo más de un millón de horas de videos de YouTube para mejorar su avanzado modelo de lenguaje, GPT-4. Aunque este enfoque plantea cuestiones legales, OpenAI, según The New York Times, consideró que se trataba de un uso justo. El presidente de OpenAI, Greg Brockman, incluso estuvo personalmente involucrado en la recolección de los videos utilizados para este propósito.

Lindsay Held, portavoz de OpenAI, señaló que la empresa crea conjuntos de datos únicos para cada uno de sus modelos con el fin de enriquecer su comprensión del mundo y mantener su competitividad en la investigación global. Held también mencionó que OpenAI utiliza diversas fuentes, incluyendo datos públicos y asociaciones para datos privados, e incluso está explorando la generación de sus propios datos sintéticos.

Según el artículo del Times, la empresa agotó sus fuentes de datos útiles en 2021 y consideró transcribir videos de YouTube, podcasts y audiolibros como una solución alternativa. Además de YouTube, Google también ha recopilado transcripciones de videos, aunque ambas empresas podrían enfrentar desafíos legales por estas prácticas.

Este informe destaca los dilemas éticos y legales que enfrentan las empresas de tecnología en su búsqueda de datos de entrenamiento para mejorar sus modelos de inteligencia artificial. Mientras tanto, el mundo de la inteligencia artificial enfrenta la creciente escasez de datos de entrenamiento, lo que podría obstaculizar el desarrollo futuro de esta tecnología. Las soluciones propuestas, como el entrenamiento con datos sintéticos o el aprendizaje curricular, todavía no han sido plenamente validadas y podrían no ser suficientes para abordar este desafío en constante evolución.

The post OpenAI transcribió más de un millón de horas de videos de YouTube para entrenar a GPT-4 appeared first on TecnoFuturo24.

Los clientes empresariales de OpenAI ahora tienen acceso a nuevas opciones de personalización para la API GPT-4, que les permiten aprovechar al máximo la IA generativa sin comprometer la precisión. Entre las características destacadas se encuentran la capacidad de conectar la API a plataformas de terceros para compartir información sobre el ajuste fino, guardar modelos ajustados durante entrenamientos adicionales y una interfaz de usuario mejorada para comparar el rendimiento y la calidad del modelo.

Estos avances representan un hito significativo en la evolución de la IA empresarial. Además, OpenAI ha anunciado oficialmente el programa de ajuste fino asistido, donde los clientes reciben ayuda de los empleados de OpenAI para personalizar GPT-4 según sus necesidades específicas. Este programa, parte de los Modelos Personalizados de OpenAI, permite a las organizaciones seleccionadas trabajar en estrecha colaboración con los investigadores de OpenAI para adaptar los modelos GPT-4 a sus necesidades particulares.

El ajuste fino es una técnica crucial que permite a los modelos preentrenados, como GPT-4, aprender información específica a través de conjuntos de datos más pequeños y específicos, como los portafolios empresariales. La primera integración de terceros se ha realizado con la plataforma Weights & Biases, lo que indica un enfoque hacia la colaboración y la interoperabilidad en el campo de la IA empresarial.

Este anuncio llega en un momento en que OpenAI está experimentando un crecimiento significativo en el espacio empresarial. Según Brad Lightcap, COO de OpenAI, el año 2024 está marcado por un aumento en el interés de las empresas por aprovechar los modelos base para crear aplicaciones con resultados comerciales tangibles. Aunque Lightcap advierte sobre las expectativas excesivas, señala que la IA generativa está ganando terreno como herramienta valiosa para empresas de todos los tamaños.

En resumen, OpenAI está liderando el camino hacia la próxima era de la IA empresarial, proporcionando a sus clientes las herramientas y el apoyo necesario para integrar la IA generativa de manera efectiva en sus operaciones comerciales.

The post OpenAI revoluciona el sector empresarial con herramientas de IA más precisas appeared first on TecnoFuturo24.

Impulsado por la potente tecnología GPT-4 de OpenAI y el modelo específico de seguridad de Microsoft, Copiloto para Seguridad se erige como un aliado esencial. Este chatbot proporciona información actualizada sobre incidentes de seguridad, resúmenes de amenazas y mucho más. Desde su inicio en pruebas hace casi un año, ha demostrado su valía al proporcionar acceso a datos cruciales, incluidos los 78 billones de señales diarias recopiladas por Microsoft a través de su inteligencia de amenazas.

Una característica destacada de Copiloto para Seguridad es su sección de tablero, diseñada para fomentar la colaboración entre los equipos de ciberseguridad. Además, ofrece la capacidad de resumir eventos para fines de informes. Con la flexibilidad de utilizar entradas de lenguaje natural, analizar archivos y examinar código, este chatbot se adapta a las necesidades específicas de cada usuario. Además, todas las interacciones quedan registradas para una posterior auditoría.

El modelo de precios de pago según el uso permite a las empresas escalar sus esfuerzos de ciberseguridad de manera eficiente. Microsoft enfatiza su compromiso de facilitar el acceso a esta herramienta mediante un modelo simple y transparente. Esto permitirá a las organizaciones experimentar y aprender sin preocupaciones por cargos iniciales por dispositivo o usuario.

Este lanzamiento llega en un momento crucial, ya que Microsoft enfrenta desafíos significativos en materia de seguridad. El reciente ataque perpetrado por hackers rusos, vinculados al grupo Nobelium, subraya la importancia de reforzar las defensas cibernéticas. Microsoft se encuentra en medio de una reorganización de su seguridad de software, tras enfrentar ataques a la nube de Azure y vulnerabilidades en productos clave como Microsoft Exchange Server.

Con Copiloto para Seguridad, Microsoft se posiciona como líder en la protección cibernética, ofreciendo soluciones innovadoras en un paisaje digital cada vez más complejo.

The post Microsoft lanzará Copiloto para Seguridad el próximo mes: tu aliado en ciberseguridad appeared first on TecnoFuturo24.

En una reciente publicación de blog, OpenAI revela que la actualización de GPT-4 Turbo aborda la falta de diligencia en la finalización de tareas, particularmente en la generación de código. Aunque los detalles específicos de las mejoras no se han divulgado, la compañía asegura que esta actualización busca optimizar la eficiencia del modelo y reducir los casos de inactividad.

Las quejas de los usuarios de ChatGPT sobre la renuencia del chatbot a completar tareas han sido una preocupación destacada. Aunque la actualización se aplica solo a GPT-4 Turbo, aquellos que aún utilizan la versión estándar de GPT-4 podrían seguir enfrentando problemas similares debido a su falta de actualización. Sin embargo, OpenAI informa que más del 70% de los usuarios de su API ya han migrado a GPT-4 Turbo debido a su base de conocimientos más actualizada.

La compañía también anticipa más mejoras en GPT-4 Turbo en los próximos meses, incluida la introducción de capacidades de visión, lo que permitirá realizar solicitudes multimodales como la generación de texto a imagen. Además, OpenAI ha lanzado nuevos modelos de inteligencia artificial más pequeños llamados embeddings, diseñados para ayudar a las aplicaciones a comprender mejor la relación entre diferentes contenidos.

Con estas innovaciones, OpenAI continúa liderando el camino hacia una inteligencia artificial más avanzada y eficiente, ofreciendo soluciones cada vez más sofisticadas para satisfacer las demandas de un mundo en constante evolución.

The post OpenAI soluciona la “pereza” de GPT-4 con actualizaciones innovadoras appeared first on TecnoFuturo24.