DoNotPay, una empresa que afirmaba ofrecer el “primer abogado robot del mundo”, ha acordado un acuerdo de $193,000 con la Comisión Federal de Comercio (FTC, por sus siglas en inglés), anunció la agencia el martes. Este movimiento forma parte de la Operación AI Comply, un nuevo esfuerzo de la FTC para reprimir a las empresas que utilizan servicios de IA para engañar o defraudar a los clientes.
Según la denuncia de la FTC, DoNotPay dijo que “reemplazaría la industria legal de $200 mil millones con inteligencia artificial” y que sus “abogados robots” podrían sustituir la experiencia y producción de un abogado humano en la generación de documentos legales. Sin embargo, la FTC afirma que la empresa hizo esta afirmación sin pruebas que la respaldaran. De hecho, la denuncia dice:
“Ninguna de las tecnologías del Servicio ha sido entrenada en un corpus comprensivo y actual de leyes federales y estatales, regulaciones y decisiones judiciales o en la aplicación de esas leyes a patrones de hechos. Los empleados de DoNotPay no han probado la calidad y precisión de los documentos legales y consejos generados por la mayoría de las funciones relacionadas con la ley del Servicio. DoNotPay no ha empleado abogados y no ha contratado abogados, y mucho menos abogados con la experiencia legal relevante, para probar la calidad y precisión de las funciones relacionadas con la ley del Servicio.”
La denuncia también alega que la empresa incluso dijo a los consumidores que podían usar el servicio de IA de la compañía para demandar por agresión sin contratar a un humano y que podía revisar sitios web de pequeñas empresas en busca de violaciones legales basándose únicamente en la dirección de correo electrónico de un consumidor. DoNotPay afirmó que esto ahorraría a las empresas $125,000 en honorarios legales, pero la FTC dice que el servicio no era efectivo.
La FTC informa que DoNotPay ha acordado pagar $193,000 para resolver los cargos en su contra y advertir a los consumidores que se suscribieron entre 2021 y 2023 sobre las limitaciones de sus ofertas relacionadas con la ley. DoNotPay tampoco podrá afirmar que puede reemplazar ningún servicio profesional sin proporcionar evidencia.
La FTC también anunció acciones contra otras empresas que han utilizado servicios de IA para engañar a los clientes. Esto incluye el servicio de “asistente de escritura” de IA Rytr, una empresa que la FTC dice proporciona a los suscriptores herramientas para crear reseñas falsas generadas por IA. La acción contra Rytr se produce un poco más de un mes después de que la FTC anunciara una regla final que prohíbe a todas las empresas crear o vender reseñas falsas, incluidas las generadas por IA. Esta norma entrará en vigor pronto, lo que significa que la FTC puede buscar un máximo de hasta $51,744 por violación contra las empresas.
La FTC también presentó una demanda contra Ascend Ecom, que supuestamente defraudó a los consumidores por al menos $25 millones. Ascend prometió a los clientes que, al usar sus herramientas impulsadas por IA, podrían iniciar tiendas en línea en plataformas de comercio electrónico como Amazon que producirían ingresos mensuales de cinco cifras.
“Usar herramientas de IA para engañar, confundir o defraudar a las personas es ilegal,” dijo la presidenta de la FTC, Lina M. Khan. “Las acciones de cumplimiento de la FTC dejan claro que no hay una excepción de IA a las leyes vigentes. Al reprimir prácticas injustas o engañosas en estos mercados, la FTC está asegurando que las empresas honestas e innovadoras tengan una oportunidad justa y que los consumidores estén protegidos.”
