Evolv Technology, una de las empresas más destacadas en el sector de la seguridad tecnológica, ha llegado a un acuerdo con la Comisión Federal de Comercio (FTC) de Estados Unidos, en el cual se compromete a cesar de hacer afirmaciones no verificadas sobre su tecnología de escaneo de armas. Esta resolución surgió después de que investigaciones realizadas por la BBC y otras entidades pusieran en duda la capacidad de los escáneres de Evolv para detectar “todas las armas”, como afirmaba la empresa.

La tecnología de Evolv, basada en inteligencia artificial (IA), ha sido ampliamente utilizada en lugares públicos como escuelas, hospitales, estadios y otras instalaciones, donde se esperaba que reemplazara los detectores de metales tradicionales. Sin embargo, los informes demostraron que la tecnología no era tan efectiva como se había publicitado.

El acuerdo con la FTC marca un precedente importante en el sector de la inteligencia artificial, advirtiendo a otras empresas tecnológicas sobre la necesidad de respaldar sus afirmaciones con pruebas verificables. A continuación, se detallan los aspectos clave de este acuerdo y su impacto en la industria de la seguridad.

Evolv Technology: Reemplazo de Detectores de Metales con Inteligencia Artificial

Evolv Technology fue fundada con la misión de transformar la seguridad en lugares públicos mediante el uso de escáneres de armas basados en IA. Su objetivo era reemplazar los tradicionales detectores de metales con un sistema más eficiente, rápido y no intrusivo, capaz de detectar armas ocultas como pistolas, cuchillos y bombas sin interrumpir el flujo de personas en áreas como entradas de escuelas, hospitales y estadios.

La empresa afirmaba que su tecnología de IA era capaz de identificar “todas las armas”, incluidas armas de fuego, cuchillos grandes y dispositivos explosivos, basándose en patrones de composición metálica, forma y fragmentación de los objetos. Según declaraciones del entonces CEO de Evolv, Peter George, su tecnología poseía “decenas de miles de firmas” para detectar “todas las armas que existen en el mundo”, incluyendo “todas las pistolas, todas las bombas y todos los cuchillos tácticos grandes”.

Investigaciones que Ponen en Duda la Eficacia de la Tecnología de Evolv

A pesar de las ambiciosas afirmaciones de Evolv, investigaciones de la BBC, respaldadas por la solicitud de información pública realizada por la empresa de análisis de seguridad IPVM, demostraron que el sistema de Evolv no podía detectar con precisión las armas, especialmente las de fuego y las bombas. Un informe de 2022 mostró que, en condiciones de prueba controladas, el sistema de Evolv no pudo identificar correctamente armas de fuego en situaciones simuladas, lo que puso en tela de juicio su efectividad para garantizar la seguridad en entornos públicos.

Además, un informe posterior de la BBC en 2023 reveló detalles sobre un apuñalamiento en una escuela en Nueva York donde los escáneres de Evolv se utilizaron en las entradas, pero no detectaron el cuchillo con el que se cometió el crimen. El superintendente de las Escuelas Utica en Nueva York admitió que el sistema de Evolv “realmente no encuentra cuchillos”, lo que generó más dudas sobre la efectividad de la tecnología para detectar armas blancas.

El Caso de Evolv y la FTC: Un Acuerdo Importante para la Industria

La Comisión Federal de Comercio (FTC) de EE. UU. se involucró en la investigación de Evolv Technology después de que las afirmaciones engañosas de la empresa sobre la capacidad de sus escáneres de IA para detectar todas las armas fueran ampliamente difundidas. La FTC alegó que Evolv había publicitado de manera engañosa que su tecnología detectaba “todas las armas”, sin pruebas verificables que respaldaran esta afirmación.

El acuerdo con la FTC establece que Evolv Technology se compromete a dejar de hacer afirmaciones no verificadas sobre la capacidad de sus productos para detectar armas y a ofrecer a algunos de sus clientes escolares la opción de cancelar sus contratos. Esto forma parte de una serie de medidas que buscan evitar que la empresa haga futuras declaraciones sin respaldo científico o técnico que puedan inducir a error a los consumidores y poner en riesgo la seguridad pública.

Impacto del Acuerdo en el Sector de la Inteligencia Artificial

El acuerdo con Evolv Technology es significativo no solo para la empresa, sino también para el sector tecnológico en su conjunto. La FTC ha lanzado una advertencia a todas las empresas que desarrollan y comercializan productos basados en IA: las afirmaciones sobre la efectividad de la tecnología deben estar respaldadas por evidencia verificable.

Samuel Levine, director de la Oficina de Protección al Consumidor de la FTC, señaló que “la FTC ha sido clara en que las afirmaciones sobre tecnología, incluida la inteligencia artificial, deben estar respaldadas”. Este acuerdo podría marcar el comienzo de una era de mayor regulación y transparencia en el uso de la IA, especialmente en industrias relacionadas con la seguridad.

En los últimos años, ha habido una creciente preocupación entre los reguladores de EE. UU. y el Reino Unido sobre las empresas que exageran la capacidad de la inteligencia artificial para mejorar productos. En algunos casos, no está claro si la IA realmente está siendo utilizada, o si las empresas simplemente están aprovechando el entusiasmo generalizado por la tecnología para obtener una ventaja competitiva.

Para abordar estas preocupaciones, la FTC lanzó recientemente “Operation AI Comply”, una iniciativa para hacer cumplir las leyes contra las empresas que hacen afirmaciones engañosas sobre la inteligencia artificial. Este acuerdo con Evolv Technology podría ser el primer caso de una serie de acciones que la FTC tome contra compañías que no cumplan con sus estándares.

Posición de Evolv Technology sobre el Acuerdo

A pesar de las críticas a su tecnología, Evolv Technology ha defendido su sistema, indicando que no hubo cuestionamientos sobre la efectividad básica de su tecnología. Mike Ellenbogen, presidente interino y CEO de Evolv, dijo que “la FTC no cuestionó la efectividad fundamental de nuestra tecnología y la resolución no incluye ningún tipo de compensación económica”. Evolv también enfatizó que el acuerdo se centró exclusivamente en el lenguaje de marketing pasado y no en la capacidad del sistema para agregar valor a las operaciones de seguridad.

Evolv continúa defendiendo la efectividad de su tecnología de IA en la detección de armas ocultas, aunque a partir de este acuerdo, deberá ser más cautelosa con las afirmaciones públicas que haga sobre su producto.

Lecciones para el Futuro de la Seguridad y la Inteligencia Artificial

El caso de Evolv Technology y el acuerdo con la FTC destacan la importancia de ser transparente y honesto en el uso de la inteligencia artificial, especialmente en sectores tan críticos como la seguridad pública. Las empresas deben respaldar sus afirmaciones con evidencia sólida y estar preparadas para enfrentar las consecuencias si no cumplen con los estándares regulatorios.

Este acuerdo también pone de relieve la necesidad de una mayor regulación en la industria de la IA. A medida que más empresas desarrollan tecnologías avanzadas para la seguridad, es esencial que se implementen normativas claras para garantizar que los productos sean efectivos y seguros para los consumidores.

A largo plazo, este caso podría ayudar a establecer un precedente importante para futuras empresas de IA que trabajen en el ámbito de la seguridad, asegurando que los avances tecnológicos se utilicen de manera ética y responsable.

The post Evolv Technology Acuerda No Hacer Afirmaciones Engañosas Sobre Escáneres de Armas con la FTC appeared first on TecnoFuturo24.

¿Qué es el Proyecto de Ley SB 1047?

El SB 1047, aprobado por la Asamblea Estatal de California y el Senado a finales de agosto, ahora está en manos del Gobernador Gavin Newsom. Si se convierte en ley, será el marco regulador más estricto en EE. UU. para la IA. La propuesta busca regular modelos de IA avanzada, requiriendo pruebas exhaustivas de seguridad y la implementación de un “interruptor de emergencia”. Los críticos advierten que podría ser una amenaza para startups y desarrolladores de código abierto, mientras que los defensores lo ven como una necesaria corrección a la falta de regulación.

Impacto en la Industria de la IA

La versión original del SB 1047, presentada por el senador Scott Wiener, buscaba regular modelos de IA con alta capacidad de procesamiento. La ley proponía pruebas de seguridad exhaustivas y la certificación de que los modelos no representaran un riesgo significativo. Sin embargo, la industria tecnológica ha mostrado una fuerte oposición. Empresas como OpenAI y Anthropic han expresado preocupaciones sobre el impacto negativo en la innovación y el riesgo de ralentizar el progreso en IA.

Reacciones de los Principales Actores

El crítico Andrew Ng, cofundador de Coursera y Google Brain, ha manifestado su oposición al SB 1047, alegando que podría perjudicar a académicos y desarrolladores de código abierto. Fei-Fei Li y otros expertos también han advertido sobre el posible daño al ecosistema emergente de IA. En contraste, algunos, como Gary Marcus, consideran que incluso una versión debilitada del proyecto de ley podría ser positiva si incentiva a las empresas a adoptar prácticas de seguridad más estrictas.

Modificaciones al Proyecto de Ley

El SB 1047 ha sido suavizado en su versión final. La propuesta eliminó la agencia reguladora y redujo la responsabilidad penal para los desarrolladores. En lugar de certificaciones de seguridad obligatorias, ahora solo se requieren “declaraciones” públicas. Además, las startups con menos de 10 millones de dólares en gastos no están sujetas a las mismas regulaciones, lo que podría ofrecer una mayor protección a las pequeñas empresas.

Posición del Gobernador Gavin Newsom

El Gobernador Newsom ha mantenido una postura reservada respecto al SB 1047, posiblemente debido a la presión de los donantes y ejecutivos tecnológicos. La regulación de la tecnología puede afectar las contribuciones políticas, especialmente en un estado con fuertes conexiones entre la tecnología y la política. Newsom enfrenta una decisión crítica que podría definir el futuro de la IA en EE. UU.

La decisión de Newsom sobre el SB 1047 será crucial para la industria de la IA. El proyecto de ley, en sus diversas versiones, refleja la complejidad de regular una tecnología en rápida evolución. Mientras algunos ven la regulación como una necesidad para proteger la seguridad pública, otros temen que pueda sofocar la innovación. En cualquier caso, el resultado de esta legislación podría tener un impacto duradero en el panorama tecnológico global.

The post ¿Puede el Proyecto de Ley SB 1047 de California Transformar la Industria de la IA? appeared first on TecnoFuturo24.