La empresa estadounidense Evolv Technology enfrenta consecuencias por afirmar que su tecnología de inteligencia artificial detecta todas las armas en lugares públicos como escuelas, hospitales y estadios, sin demostrarlo de manera confiable.
Evolv Technology, una de las empresas más destacadas en el sector de la seguridad tecnológica, ha llegado a un acuerdo con la Comisión Federal de Comercio (FTC) de Estados Unidos, en el cual se compromete a cesar de hacer afirmaciones no verificadas sobre su tecnología de escaneo de armas. Esta resolución surgió después de que investigaciones realizadas por la BBC y otras entidades pusieran en duda la capacidad de los escáneres de Evolv para detectar “todas las armas”, como afirmaba la empresa.
La tecnología de Evolv, basada en inteligencia artificial (IA), ha sido ampliamente utilizada en lugares públicos como escuelas, hospitales, estadios y otras instalaciones, donde se esperaba que reemplazara los detectores de metales tradicionales. Sin embargo, los informes demostraron que la tecnología no era tan efectiva como se había publicitado.
El acuerdo con la FTC marca un precedente importante en el sector de la inteligencia artificial, advirtiendo a otras empresas tecnológicas sobre la necesidad de respaldar sus afirmaciones con pruebas verificables. A continuación, se detallan los aspectos clave de este acuerdo y su impacto en la industria de la seguridad.
Evolv Technology: Reemplazo de Detectores de Metales con Inteligencia Artificial
Evolv Technology fue fundada con la misión de transformar la seguridad en lugares públicos mediante el uso de escáneres de armas basados en IA. Su objetivo era reemplazar los tradicionales detectores de metales con un sistema más eficiente, rápido y no intrusivo, capaz de detectar armas ocultas como pistolas, cuchillos y bombas sin interrumpir el flujo de personas en áreas como entradas de escuelas, hospitales y estadios.
La empresa afirmaba que su tecnología de IA era capaz de identificar “todas las armas”, incluidas armas de fuego, cuchillos grandes y dispositivos explosivos, basándose en patrones de composición metálica, forma y fragmentación de los objetos. Según declaraciones del entonces CEO de Evolv, Peter George, su tecnología poseía “decenas de miles de firmas” para detectar “todas las armas que existen en el mundo”, incluyendo “todas las pistolas, todas las bombas y todos los cuchillos tácticos grandes”.
Investigaciones que Ponen en Duda la Eficacia de la Tecnología de Evolv
A pesar de las ambiciosas afirmaciones de Evolv, investigaciones de la BBC, respaldadas por la solicitud de información pública realizada por la empresa de análisis de seguridad IPVM, demostraron que el sistema de Evolv no podía detectar con precisión las armas, especialmente las de fuego y las bombas. Un informe de 2022 mostró que, en condiciones de prueba controladas, el sistema de Evolv no pudo identificar correctamente armas de fuego en situaciones simuladas, lo que puso en tela de juicio su efectividad para garantizar la seguridad en entornos públicos.
Además, un informe posterior de la BBC en 2023 reveló detalles sobre un apuñalamiento en una escuela en Nueva York donde los escáneres de Evolv se utilizaron en las entradas, pero no detectaron el cuchillo con el que se cometió el crimen. El superintendente de las Escuelas Utica en Nueva York admitió que el sistema de Evolv “realmente no encuentra cuchillos”, lo que generó más dudas sobre la efectividad de la tecnología para detectar armas blancas.
El Caso de Evolv y la FTC: Un Acuerdo Importante para la Industria
La Comisión Federal de Comercio (FTC) de EE. UU. se involucró en la investigación de Evolv Technology después de que las afirmaciones engañosas de la empresa sobre la capacidad de sus escáneres de IA para detectar todas las armas fueran ampliamente difundidas. La FTC alegó que Evolv había publicitado de manera engañosa que su tecnología detectaba “todas las armas”, sin pruebas verificables que respaldaran esta afirmación.
El acuerdo con la FTC establece que Evolv Technology se compromete a dejar de hacer afirmaciones no verificadas sobre la capacidad de sus productos para detectar armas y a ofrecer a algunos de sus clientes escolares la opción de cancelar sus contratos. Esto forma parte de una serie de medidas que buscan evitar que la empresa haga futuras declaraciones sin respaldo científico o técnico que puedan inducir a error a los consumidores y poner en riesgo la seguridad pública.
Impacto del Acuerdo en el Sector de la Inteligencia Artificial
El acuerdo con Evolv Technology es significativo no solo para la empresa, sino también para el sector tecnológico en su conjunto. La FTC ha lanzado una advertencia a todas las empresas que desarrollan y comercializan productos basados en IA: las afirmaciones sobre la efectividad de la tecnología deben estar respaldadas por evidencia verificable.
Samuel Levine, director de la Oficina de Protección al Consumidor de la FTC, señaló que “la FTC ha sido clara en que las afirmaciones sobre tecnología, incluida la inteligencia artificial, deben estar respaldadas”. Este acuerdo podría marcar el comienzo de una era de mayor regulación y transparencia en el uso de la IA, especialmente en industrias relacionadas con la seguridad.
En los últimos años, ha habido una creciente preocupación entre los reguladores de EE. UU. y el Reino Unido sobre las empresas que exageran la capacidad de la inteligencia artificial para mejorar productos. En algunos casos, no está claro si la IA realmente está siendo utilizada, o si las empresas simplemente están aprovechando el entusiasmo generalizado por la tecnología para obtener una ventaja competitiva.
Para abordar estas preocupaciones, la FTC lanzó recientemente “Operation AI Comply”, una iniciativa para hacer cumplir las leyes contra las empresas que hacen afirmaciones engañosas sobre la inteligencia artificial. Este acuerdo con Evolv Technology podría ser el primer caso de una serie de acciones que la FTC tome contra compañías que no cumplan con sus estándares.
Posición de Evolv Technology sobre el Acuerdo
A pesar de las críticas a su tecnología, Evolv Technology ha defendido su sistema, indicando que no hubo cuestionamientos sobre la efectividad básica de su tecnología. Mike Ellenbogen, presidente interino y CEO de Evolv, dijo que “la FTC no cuestionó la efectividad fundamental de nuestra tecnología y la resolución no incluye ningún tipo de compensación económica”. Evolv también enfatizó que el acuerdo se centró exclusivamente en el lenguaje de marketing pasado y no en la capacidad del sistema para agregar valor a las operaciones de seguridad.
Evolv continúa defendiendo la efectividad de su tecnología de IA en la detección de armas ocultas, aunque a partir de este acuerdo, deberá ser más cautelosa con las afirmaciones públicas que haga sobre su producto.
Lecciones para el Futuro de la Seguridad y la Inteligencia Artificial
El caso de Evolv Technology y el acuerdo con la FTC destacan la importancia de ser transparente y honesto en el uso de la inteligencia artificial, especialmente en sectores tan críticos como la seguridad pública. Las empresas deben respaldar sus afirmaciones con evidencia sólida y estar preparadas para enfrentar las consecuencias si no cumplen con los estándares regulatorios.
Este acuerdo también pone de relieve la necesidad de una mayor regulación en la industria de la IA. A medida que más empresas desarrollan tecnologías avanzadas para la seguridad, es esencial que se implementen normativas claras para garantizar que los productos sean efectivos y seguros para los consumidores.
A largo plazo, este caso podría ayudar a establecer un precedente importante para futuras empresas de IA que trabajen en el ámbito de la seguridad, asegurando que los avances tecnológicos se utilicen de manera ética y responsable.
