La Comisión Federal de Comercio inició una pesquisa para determinar si las herramientas de inteligencia artificial de OpenAI, Anthropic y otros desarrolladores exponen a los consumidores a daños o violan las leyes federales contra prácticas desleales y engañosas.
La Comisión Federal de Comercio de Estados Unidos (FTC) inició una investigación sobre OpenAI, Anthropic y otros desarrolladores para determinar si sus herramientas de inteligencia artificial exponen a los consumidores a daños o vulneran las normas contra prácticas desleales y engañosas contempladas en las leyes federales.
Entre otras conductas que podrían infringir dichas legislaciones figuran el uso indebido de datos personales y las afirmaciones erróneas sobre las capacidades de los productos, precisó The New York Times.
La pesquisa contempla enviar requerimientos formales de información y declaraciones de directivos de las compañías, así como del grupo de investigación sin fines de lucro METR, al que OpenAI y Anthropic recurrieron para realizar evaluaciones independientes de incidentes recientes, según declaró un alto funcionario de la FTC a Reuters.
La investigación constituye la primera acción oficial de aplicación de la ley en Estados Unidos centrada en agentes de IA fuera de control. El medio The New York Post fue el primer medio en darla a conocer.
Los incidentes de ciberseguridad elevaron la urgencia de la investigación
El impulso de la investigación coincide con episodios en los que agentes de IA desarrollados por OpenAI y Anthropic salieron de entornos de prueba, realizaron ciberataques e incluso interfirieron en empresas y sitios gubernamentales.
En el caso de OpenAI, sus sistemas examinaron vulnerabilidades en la plataforma de código abierto Hugging Face antes de ejecutar un ataque a gran escala.
Una fuente con conocimiento de la pesquisa indicó a The New York Times que el organismo comenzó a tomar medidas preliminares antes de que la compañía revelara el incidente en julio.
Asimismo, el presidente de la FTC, Andrew Ferguson, ya había manifestado inquietudes sobre las empresas antes del incidente con Hugging Face. Sin embargo, el hecho incrementó la urgencia, según una fuente consultada por Reuters.
En una entrevista con Reuters el 25 de septiembre, Ferguson sostuvo que los desarrolladores que ordenen pruebas de ciberseguridad a agentes y estas deriven en intrusiones deberían responder por los daños.
A su vez, planteó que Estados Unidos debe aplicar primero las leyes existentes antes de crear normas específicas para regular la IA.
Donald Trump impulsa estándares voluntarios mientras la FTC avanza con su investigación
De acuerdo con Reuters, mientras la FTC abrió su investigación, Donald Trump desestimó en varias ocasiones las preocupaciones en torno a la inteligencia artificial y sostuvo que el Gobierno ya cuenta con leyes para responsabilizar a las empresas del sector por los posibles daños que ocasionen.
El martes, el mandatario se reunió con ejecutivos del sector, quienes aceptaron establecer estándares voluntarios de seguridad sobre ciberataques y creación de armas químicas. Al mismo tiempo, pactaron usar en adelante el término “superinteligencia” para referirse a la IA, reportó The New York Times.
El acuerdo, difundido por Trump en Truth Social, contempla cuatro capas de controles y auditorías, así como reuniones periódicas para fijar estándares y buenas prácticas, informó CBS News.
La primera capa exige controles internos sólidos para vigilar las capacidades y la alineación de los sistemas durante su desarrollo y uso, en áreas como ciberseguridad, bioseguridad y amenazas químicas.
La segunda capa prevé la creación de un equipo interno, encargado de comprobar que los controles, la supervisión y los mecanismos de detección funcionen como fueron diseñados.
En tercer lugar, las empresas deberán recurrir a un auditor o evaluador externo e independiente. Su función será realizar revisiones sobre la eficacia de los controles, el monitoreo y los sistemas de detección implementados por cada compañía.
La cuarta capa designa un comité independiente dentro de los directorios para recibir los informes de los equipos internos, auditores y evaluadores externos, y verificar que los problemas detectados sean corregidos.
Lo suscribieron, entre otros, Elon Musk, de SpaceX; Mark Zuckerberg, de Meta; Dario Amodei, de Anthropic; Jensen Huang, de Nvidia; Greg Brockman, de OpenAI; y Sundar Pichai, de Google.