OpenAI lidera la carrera para desarrollar inteligencia artificial tan inteligente como un humano. Sin embargo, los empleados continúan expresando sus graves preocupaciones sobre la seguridad en el laboratorio de investigación sin fines de lucro de $80 mil millones. La última proviene de The Washington Post, donde una fuente anónima afirmó que OpenAI apresuró las pruebas de seguridad y celebró su producto antes de asegurar su seguridad.

“Planearon la fiesta de lanzamiento antes de saber si era seguro lanzar”, dijo un empleado anónimo a The Washington Post. “Básicamente fallamos en el proceso”.

Los problemas de seguridad son una preocupación importante en OpenAI y parecen seguir surgiendo. Empleados actuales y anteriores de OpenAI recientemente firmaron una carta abierta exigiendo mejores prácticas de seguridad y transparencia de la startup, poco después de la disolución de su equipo de seguridad tras la salida del cofundador Ilya Sutskever. Jan Leike, un investigador clave de OpenAI, renunció poco después, afirmando en un post que “la cultura y los procesos de seguridad han quedado en segundo plano frente a productos llamativos” en la empresa.

La seguridad es fundamental para la carta de OpenAI, con una cláusula que afirma que OpenAI asistirá a otras organizaciones para avanzar en la seguridad si se alcanza la inteligencia artificial general en un competidor, en lugar de seguir compitiendo. Afirma estar dedicada a resolver los problemas de seguridad inherentes a un sistema tan grande y complejo. Incluso mantiene sus modelos propietarios en privado, en lugar de abiertos (causando burlas y demandas), por seguridad. Las advertencias sugieren que la seguridad ha sido depriorizada a pesar de ser tan importante para la cultura y estructura de la compañía.

Es evidente que OpenAI está bajo escrutinio, pero los esfuerzos de relaciones públicas por sí solos no serán suficientes para proteger a la sociedad. “Estamos orgullosos de nuestro historial proporcionando sistemas de IA más capaces y seguros y creemos en nuestro enfoque científico para abordar el riesgo”, dijo Taya Christianson, portavoz de OpenAI, en un comunicado a The Verge. “El debate riguroso es crucial dada la importancia de esta tecnología, y continuaremos interactuando con gobiernos, sociedad civil y otras comunidades en todo el mundo en servicio de nuestra misión”.

Según OpenAI y otros que estudian la tecnología emergente, las apuestas en torno a la seguridad son inmensas. “El desarrollo actual de la IA en la frontera plantea riesgos urgentes y crecientes para la seguridad nacional”, dijo un informe encargado por el Departamento de Estado de EE.UU. en marzo. “El surgimiento de la IA avanzada y la AGI [inteligencia artificial general] tiene el potencial de desestabilizar la seguridad global de maneras que recuerdan a la introducción de armas nucleares”.

Las campanas de alarma en OpenAI también siguen al golpe de estado en la junta directiva el año pasado que brevemente destituyó al CEO Sam Altman. La junta dijo que fue removido debido a su falta de “sinceridad constante en sus comunicaciones”, lo que llevó a una investigación que poco tranquilizó al personal.

Lindsey Held, portavoz de OpenAI, dijo al Post que el lanzamiento de GPT-4o “no recortó esquinas” en seguridad, pero otro representante no identificado de la compañía reconoció que el cronograma de revisión de seguridad se comprimió a una semana. “Estamos replanteando toda nuestra forma de hacerlo”, dijo el representante anónimo al Post. “Esto simplemente no fue la mejor manera de hacerlo”.

¿Sabes más sobre lo que está sucediendo dentro de OpenAI? Me encantaría conversar. Puedes contactarme de manera segura en Signal @kylie.01 o por correo electrónico a kylie@theverge.com.

Frente a controversias continuas (¿recuerdas el incidente de Her?), OpenAI ha intentado calmar los temores con algunos anuncios bien cronometrados. Esta semana, anunció que se está asociando con el Laboratorio Nacional de Los Álamos para explorar cómo los modelos avanzados de IA, como GPT-4o, pueden ayudar de manera segura en la investigación bioscientífica, y en el mismo anuncio señaló repetidamente el propio historial de seguridad de Los Álamos. Al día siguiente, un portavoz anónimo dijo a Bloomberg que OpenAI creó una escala interna para rastrear el progreso de sus grandes modelos de lenguaje hacia la inteligencia artificial general.

Los anuncios de esta semana centrados en la seguridad de OpenAI parecen ser un adorno defensivo ante la creciente crítica a sus prácticas de seguridad. Es evidente que OpenAI está bajo escrutinio, pero los esfuerzos de relaciones públicas por sí solos no serán suficientes para proteger a la sociedad. Lo que realmente importa es el impacto potencial en aquellos más allá de la burbuja del Valle del Silicio si OpenAI continúa sin desarrollar IA con protocolos de seguridad estrictos, como afirman internamente: la persona promedio no tiene voz en el desarrollo de AGI privatizado, pero tampoco tiene elección en cuanto a cuán protegido estará de las creaciones de OpenAI.

“Lina Khan, presidenta de la FTC, dijo a Bloomberg en noviembre que las herramientas de IA pueden ser revolucionarias”, pero “en este momento”, dijo, hay preocupaciones de que “los insumos críticos de estas herramientas están controlados por un número relativamente pequeño de empresas”.

Si las numerosas acusaciones contra sus protocolos de seguridad son precisas, esto seguramente plantea serias preguntas sobre la idoneidad de OpenAI para este papel como administrador de AGI, un papel que la organización prácticamente se ha asignado a sí misma. Permitir que un grupo en San Francisco controle una tecnología potencialmente alteradora de la sociedad es motivo de preocupación, y hay una demanda urgente incluso dentro de sus propias filas por transparencia y seguridad ahora más que nunca.

The post OpenAI se ve afectada por preocupaciones sobre la seguridad appeared first on TecnoFuturo24.

Fuentes informan que la prohibición será oficialmente anunciada esta semana y entrará en vigor 30 días después de su publicación. Las empresas que actualmente utilizan el software tendrán un plazo adicional de 100 días para encontrar alternativas viables antes de que se implemente por completo, el 29 de septiembre.

El Departamento de Comercio de EE.UU. ha llevado a cabo una investigación exhaustiva de dos años sobre Kaspersky Lab, intensificada tras la invasión de Ucrania por parte de Rusia. Desde 2017, el Departamento de Seguridad Nacional había restringido el uso del software Kaspersky para agencias federales, subrayando preocupaciones sobre la capacidad del gobierno ruso para influir en las operaciones de la empresa.

A pesar de recibir elogios por su eficacia, la reputación de Kaspersky Lab ha sido cuestionada por diversas entidades gubernamentales y expertos en seguridad cibernética. La medida de prohibición refleja una tendencia creciente de desconfianza hacia empresas tecnológicas con vínculos estrechos con regímenes gubernamentales no aliados.

The post Administración Biden planea prohibir software antivirus de Kaspersky Lab en EE.UU. appeared first on TecnoFuturo24.

El esfuerzo por reautorizar el Programa de Conectividad Asequible se estanca nuevamente en el Congreso, afectando los subsidios de internet para estadounidenses de bajos ingresos. Los legisladores enfrentan desacuerdos partidistas sobre la financiación del programa, lo que dificulta la aprobación de las medidas necesarias antes de las próximas elecciones.

Demócratas y Republicanos han presentado proyectos de ley para reautorizar las subastas de espectro de la FCC, esenciales para la conectividad inalámbrica. Sin embargo, el proyecto Demócrata, que busca resucitar el programa de subsidios de internet, enfrenta obstáculos en comités clave, mientras que la propuesta Republicana no incluye medidas similares. A pesar de cierto apoyo previo entre Republicanos para extender los subsidios, los esfuerzos no fueron suficientes para evitar la suspensión del programa.

La cancelación de una reunión del Comité de Comercio del Senado, donde se discutiría el Acta de Espectro y Seguridad Nacional de $7 mil millones propuesta por Maria Cantwell (D-WA) para el PCA, refleja el estancamiento legislativo. El proyecto de ley no solo busca financiar el PCA, sino también incentivar la manufactura de chips domésticos y mejorar la seguridad nacional en las telecomunicaciones.

Cantwell criticó a Ted Cruz (R-TX) por obstruir la legislación, señalando que su negativa afecta a millones de estadounidenses dependientes del PCA para necesidades cotidianas como consultas médicas y educación. A pesar de los esfuerzos por alcanzar un consenso, la división partidista sigue siendo un obstáculo significativo.

El contrapropuesta de Cruz y John Thune (R-SD) enfatiza la expansión del espectro medio para 5G, atrayendo el apoyo de grandes actores de la industria de telecomunicaciones. Mientras tanto, grupos tecnológicos como ITI respaldan el enfoque de Cantwell debido a los programas adicionales que financia.

Con las elecciones presidenciales en el horizonte, la perspectiva de acción bipartidista en los próximos meses parece cada vez más incierta.

The post Frustrado intento de financiar programa de subsidios de internet appeared first on TecnoFuturo24.

La ley de desinversión o prohibición ya es efectiva, iniciando el plazo para que ByteDance tome acción. La empresa tiene nueve meses iniciales para resolver un acuerdo, aunque el presidente podría extender ese plazo otros tres meses si ve progreso.

Aunque recientemente la legislación parecía estancarse en el Senado después de ser aprobada como un proyecto de ley independiente en la Cámara de Representantes, maniobras políticas ayudaron a llevarla al escritorio de Biden. La Cámara empaquetó el proyecto de ley de TikTok —que amplió el plazo de desinversión de los seis meses permitidos en la versión anterior— con ayuda extranjera para aliados de EE. UU., lo que efectivamente obligó al Senado a considerar las medidas juntas. El periodo de desinversión más largo también parece haber convencido a algunos legisladores que estaban indecisos.

El portavoz de TikTok, Alex Haurek, dijo en un comunicado que la empresa planea impugnar la ley en los tribunales, lo que podría eventualmente extender el plazo si los tribunales retrasan la aplicación de la ley pendiente de una resolución. También queda la pregunta de cómo responderá China y si permitirá que ByteDance venda TikTok y, lo más importante, su codiciado algoritmo que mantiene a los usuarios regresando a la aplicación.

“A medida que continuamos desafiando esta prohibición inconstitucional, seguiremos invirtiendo e innovando para asegurar que TikTok siga siendo un espacio donde los estadounidenses de todas las esferas de la vida puedan venir de manera segura para compartir sus experiencias, encontrar alegría y ser inspirados”, dijo Haurek.

“No se equivoquen, esto es una prohibición”, dijo el CEO de TikTok, Shou Chew, en un video publicado en TikTok el miércoles, objetando las afirmaciones de algunos legisladores de que solo quieren ver la plataforma desconectada de la propiedad china. “Una prohibición de TikTok y una prohibición para ti y tu voz”.

The post Biden firma ley que prohíbe TikTok, iniciando cuenta regresiva para que ByteDance lo venda appeared first on TecnoFuturo24.

La Cámara de Representantes de Estados Unidos ha aprobado nuevamente un proyecto de ley que podría tener un impacto significativo en el futuro de TikTok en el país. Esta medida, parte de un paquete de ayuda extranjera, busca prohibir la popular aplicación de videos cortos a menos que su empresa matriz china, ByteDance, se deshaga de ella.

El proyecto de ley, aprobado por 360-58, forma parte de un proyecto de ley más amplio relacionado con sanciones a adversarios extranjeros, incluidos Rusia. Además de la prohibición potencial de TikTok, el paquete de ayuda busca proporcionar asistencia militar a Ucrania e Israel, así como ayuda humanitaria a Gaza.

Lo que hace que esta medida sea especialmente notable es su inclusión en un paquete de ayuda extranjera urgente. Esto significa que el Senado deberá considerar la propuesta con mayor rapidez de lo habitual, lo que podría acelerar su aprobación.

Una de las razones detrás del respaldo al proyecto de ley en el Senado es la extensión del plazo para que ByteDance se desinvierta de TikTok. Ahora, la empresa tendría hasta un año para completar la venta, en lugar de los seis meses inicialmente propuestos.

A pesar de las preocupaciones iniciales, algunos representantes demócratas expresaron su apoyo a la medida actualizada, destacando el plazo más realista para el proceso de desinversión.

El destino final de esta legislación ahora depende del Senado, que actualmente está fuera de sesión por el receso de Pascua. Sin embargo, si el proyecto de ley de TikTok logra superar este obstáculo y se incluye en la versión final del paquete del Senado, será enviado al escritorio del presidente Joe Biden para su firma.

Esta medida ha generado un intenso debate sobre la seguridad de los datos y la influencia extranjera en las redes sociales, lo que la convierte en un tema de importancia para la política tecnológica en Estados Unidos.

The post La Cámara aprueba nuevamente proyecto de ley que podría prohibir TikTok en Estados Unidos appeared first on TecnoFuturo24.

El representante Jeff Jackson, conocido por ser el congresista favorito de TikTok, se encuentra en medio de la polémica después de su voto para prohibir la popular aplicación. Anteriormente, Jackson contaba con más de 2.5 millones de seguidores en la plataforma, pero su número de seguidores se redujo drásticamente después de esta controvertida decisión.

La votación del proyecto de ley para prohibir TikTok obtuvo 352 votos a favor, lo que dejó a muchos usuarios de la plataforma sintiéndose traicionados por el congresista al que anteriormente seguían y admiraban.

En un intento por explicar su voto, Jackson publicó un video donde afirmaba que no creía que TikTok fuera a ser prohibido permanentemente, sino que podría ser vendido y seguir operando. Sin embargo, esta explicación no fue bien recibida por los usuarios de TikTok, quienes lo acusaron de hipocresía y lo criticaron en los comentarios de sus publicaciones.

La preocupación de los usuarios se centra en el hecho de que el Congreso pueda estar intentando aprobar legislación sin comprender completamente el impacto que tendría en la comunidad de TikTok. A pesar de las explicaciones de Jackson, la indignación de los usuarios no ha disminuido, y muchos lo consideran un traidor a la comunidad de TikTok.

Aunque Jackson aún conserva su título como el congresista más seguido en TikTok, su popularidad ha disminuido significativamente y sus publicaciones están siendo inundadas con comentarios negativos. A pesar de esto, Jackson sigue defendiendo su posición y espera encontrar una solución que satisfaga a todas las partes involucradas.

La decisión de Jeff Jackson de votar para prohibir TikTok ha generado una gran controversia en la plataforma y ha afectado su relación con los usuarios más jóvenes. Es evidente que esta disputa está lejos de terminar, y será interesante ver cómo evoluciona en los próximos días.

The post La controversia en TikTok: Congresista vota para prohibir la aplicación y los Zoomers reaccionan appeared first on TecnoFuturo24.

La prohibición de TikTok en Estados Unidos vuelve a estar sobre la mesa después de que la Cámara votara el miércoles a favor de una medida que haría exactamente eso a menos que la aplicación se separe de su empresa matriz china ByteDance. El proyecto de ley fue aprobado con 352 votos, necesitando una mayoría de dos tercios para avanzar. Sesenta y cinco miembros votaron en contra, con uno presente.

El proyecto de ley aún necesita pasar por el Senado, lo que no es una tarea fácil. Pero el presidente Joe Biden dijo el viernes que lo firmaría si es aprobado.

La votación de la Cámara revive las esperanzas de algunos políticos estadounidenses de una desinversión forzada de TikTok, debido al temor de que la ley china pueda obligar a su empresa matriz a entregar información sobre los usuarios estadounidenses, lo que representa un riesgo para la seguridad nacional. La semana pasada, el Comité de Energía y Comercio de la Cámara votó 50-0 a favor del proyecto de ley, después de asistir a una sesión informativa de inteligencia sobre los riesgos de las aplicaciones controladas por adversarios extranjeros. TikTok dice que no almacena información de usuarios estadounidenses en China y ha estado trabajando en un plan para proteger aún más esos datos, pero eso ha hecho poco para calmar los temores de los legisladores.

El ex presidente Trump ahora está argumentando en contra de una prohibición
La Ley de Protección de los Estadounidenses de las Aplicaciones Controladas por Adversarios Extranjeros penalizaría a las tiendas de aplicaciones y servicios de alojamiento web si alojan TikTok, siempre que todavía sea propiedad de una empresa china. La legislación menciona a ByteDance, pero también podría aplicarse a otras aplicaciones de redes sociales propiedad de empresas con sede en algunos países adversarios extranjeros.

En oposición a la legislación se encuentra un grupo que incluye a los propios usuarios de TikTok, que inundaron las oficinas del Congreso con llamadas telefónicas antes de una votación del comité gracias a una solicitud en la aplicación; organizaciones de libertad de expresión como la Unión Americana de Libertades Civiles; y el ex presidente Donald Trump, quien publicó en Truth Social que deshacerse de TikTok solo beneficiaría a Meta.

La ACLU argumenta que el proyecto de ley suprimiría efectivamente el discurso, incluso si no regula explícitamente el contenido. Señaló un fallo de un tribunal federal en Montana que bloqueó el intento del estado de prohibir TikTok para respaldar sus afirmaciones de que el nuevo proyecto de ley de la Cámara es inconstitucional.

Antes de la votación, los legisladores argumentaron apasionadamente en el pleno de la Cámara a favor y en contra de la legislación.

Varios partidarios enfatizaron que el proyecto de ley no es una prohibición total, sino un incentivo para forzar la desinversión para que TikTok pueda separar sus lazos con China.

“Esto no es un intento de prohibir TikTok. Es un intento de mejorar TikTok. Tres en raya. Un ganador. Un ganador”, como lo expresó la ex presidenta de la Cámara Nancy Pelosi (D-CA).

“No toma ninguna posición sobre el contenido del discurso, solo sobre el control de adversarios extranjeros”.
El representante Mike Gallagher (R-WI), quien preside el Comité Selecto sobre el Partido Comunista Chino e introdujo la legislación, enfatizó que el proyecto de ley no podría ser utilizado contra empresas de redes sociales estadounidenses o usuarios individuales de redes sociales. Agregó que “no toma ninguna posición sobre el contenido del discurso, solo sobre el control de adversarios extranjeros”.

Pero los opositores al proyecto de ley en ambos lados del pasillo repitieron las preocupaciones unos de otros. Los opositores temen que el proyecto de ley sea una solución ineficaz para problemas reales de seguridad nacional, al tiempo que conlleva límites inaceptables a la libertad de expresión y la expansión del poder gubernamental.

“Es peligroso darle al presidente ese tipo de poder, darle el poder de decidir qué pueden ver los estadounidenses en sus teléfonos y computadoras”, dijo el representante Thomas Massie (R-KY).

“No puedo firmar un cheque en blanco para algún futuro presidente que fácil y peligrosamente utilizaría esta legislación para beneficiarse en silencio”, dijo la representante Sydney Kamlager-Dove (D-CA). Los usuarios de TikTok que ganan su vida en la aplicación se han quejado de que perder el acceso a la aplicación haría que sus ingresos disminuyeran. “Los creativos, artistas, creadores de contenido y negocios en mi distrito quedarán atrapados en el fuego cruzado de este proyecto de ley y merecen algo mejor que la excesiva intervención federal como sustituto de una solución reflexiva e incisiva a este complicado desafío de seguridad nacional”, agregó Kamlager-Dove.

El portavoz de TikTok, Michael Hughes, criticó el proceso para avanzar en el proyecto de ley como “secreto” y dijo que el proyecto de ley estaba siendo “apresurado” para promulgar una prohibición. “Tenemos la esperanza de que el Senado considere los hechos, escuche a sus constituyentes y se dé cuenta del impacto en la economía, los 7 millones de pequeñas empresas y los 170 millones de estadounidenses que usan nuestro servicio”, dijo Hughes en un comunicado.

Los esfuerzos anteriores para prohibir TikTok se desvanecieron
Los esfuerzos para prohibir TikTok se intensificaron en marzo del año pasado, cuando el CEO Shou Zi Chew testificó en la Cámara por primera vez, luego se ralentizaron hasta llegar a un punto muerto aparente hasta hace poco. En 202

3, un grupo bipartidista de senadores presentó el proyecto de ley RESTRICT, que otorgaba el poder de prohibir aplicaciones que representan riesgos para la seguridad nacional en manos del secretario de comercio.

Aunque Chew enfrentó un interrogatorio bipartidista, algunos demócratas en particular expresaron reservas sobre una prohibición total. Y a pesar del impulso inicial de un grupo de legisladores poderosos, el proyecto de ley RESTRICT finalmente se desvaneció en medio de una fuerte campaña de presión por parte de TikTok y las preocupaciones republicanas sobre otorgar demasiado poder al poder ejecutivo sobre el sector privado.

Ahora es un momento particularmente complicado para intentar aprobar una prohibición de TikTok, ya que los candidatos, incluido Biden, están utilizando la aplicación para transmitir sus mensajes a los jóvenes votantes antes de las elecciones estadounidenses de 2024.

Pero tanto las administraciones de Biden como de Trump han considerado sus propios esfuerzos para prohibir o forzar la venta de TikTok, a pesar de los comentarios más recientes de Trump oponiéndose a tales políticas. A partir de 2020, Trump emitió órdenes ejecutivas que efectivamente prohibirían o forzarían la venta de TikTok y otras aplicaciones de propiedad china. Esos esfuerzos enfrentaron obstáculos legales y, una vez que Biden asumió el cargo, revocó y reemplazó las órdenes con una nueva, creando un marco para determinar los riesgos para la seguridad nacional de tales aplicaciones.

The post La Casa Blanca prohibe TikTok: se aprueba proyecto de ley que podría prohibir la plataforma appeared first on TecnoFuturo24.

El Fiscal General Merrick Garland destacó la importancia de esta designación, afirmando que es fundamental para el departamento “mantenerse al día con los rápidos avances científicos y tecnológicos”. En este sentido, Mayer desempeñará un papel crucial al liderar iniciativas para desarrollar estrategias que permitan utilizar la IA de manera efectiva y justa en el ámbito de la seguridad y la aplicación de la ley.

Entre las responsabilidades de Mayer se incluye la formación de un equipo de expertos técnicos y políticos especializados en ciberseguridad y IA. Además, actuará como asesor principal de ciencia y tecnología del departamento, contribuyendo al reclutamiento de talento tecnológico para fortalecer las capacidades del gobierno en este ámbito.

Esta designación se enmarca en las directrices establecidas por la administración Biden, que instan a las agencias gubernamentales a fortalecer sus capacidades en IA y a establecer estándares que garanticen la equidad en su aplicación, especialmente en áreas como las sentencias, la libertad condicional y la vigilancia. Mayer, con su experiencia previa en roles tecnológicos en el gobierno y su trabajo como asesor en derecho y políticas tecnológicas para la vicepresidenta Kamala Harris, está bien posicionado para liderar estos esfuerzos.

Con una trayectoria que incluye su papel como tecnólogo principal en la Comisión Federal de Comunicaciones, Mayer aporta una amplia experiencia en la intersección entre la tecnología y la política gubernamental, lo que lo convierte en un activo invaluable para el Departamento de Justicia en la era digital.

The post El Departamento de Justicia nombra a un jefe de oficina de IA para abordar el impacto de la tecnología en la aplicación de la ley appeared first on TecnoFuturo24.