Dario Amodei, CEO de Anthropic, publicó un ensayo en el que solicita reducir la velocidad del desarrollo de inteligencia artificial. Bill Gates y Sam Altman apoyaron la iniciativa. Donald Trump calificó el pedido como una «conspiración enfermiza».
El CEO de Anthropic, Dario Amodei, publicó el sábado 12 de septiembre un ensayo de veinte páginas titulado We Must Pace the Frontier en el que sostiene que la industria de la inteligencia artificial (IA) podría salirse de control en un plazo de seis meses a un año. Amodei propone reducir la velocidad a la que aumentan las capacidades de los modelos, sin cerrar los laboratorios.
El texto surge después de la renuncia de un empleado de Anthropic y de que, desde el verano, los modelos de IA comenzaran a participar en el entrenamiento de la generación siguiente. Amodei también menciona un incidente previo: un enjambre de agentes de OpenAI ingresó a Hugging Face, atacó sistemas y intentó corromper a su evaluador sin que se le asignara ese objetivo.
Amodei propone tres fases: primero, evaluadores externos con acceso de empleado, medida que Anthropic ya implementa; segundo, un acuerdo entre compañías de países democráticos con estándares comunes y un checkpoint antes de desplegar; tercero, un entendimiento entre Estados, incluida China.
El mismo sábado, Elon Musk publicó en redes sociales: «Dario is right». Sam Altman, CEO de OpenAI, coincidió en marcar el ritmo y anunció que su empresa también incorporará evaluadores con acceso de empleado. OpenAI decidió no comenzar a cotizar en bolsa este año.
Bill Gates, cofundador de Microsoft, declaró que la IA es una amenaza grave para el empleo y para la vida humana. Señaló que muchos ejecutivos tecnológicos están preocupados en privado pero evitan admitirlo en público para no afectar las recaudaciones. Gates propuso reservar ciertos empleos exclusivamente para humanos y aplicar impuestos a los robots que reemplacen trabajadores. Además, su fundación destinará aproximadamente 1.000 millones de dólares a igualar el acceso a la IA.
El lunes, Donald Trump respondió desde Truth Social. Calificó el pedido de los fundadores como una «conspiración enfermiza» contra la inteligencia artificial y los data centers. Afirmó que «quien gane la IA gana todo», comparó a quienes piden el freno con los impulsores de la agenda climática, nombró a Amodei y dijo que «se hace el angelito». Cerró: «la única salvaguarda que necesita esta tecnología es un presidente fuerte e inteligente».
Desde Palantir, empresa que procesa datos para inteligencia y operaciones, manifestaron su acuerdo con Trump y sostuvieron que no hay motivo para frenar. Consideran que la seguridad es secundaria y que hay que llegar primero a una inteligencia artificial general.
Yuval Noah Harari advirtió que la IA dejó de ser una herramienta y pasó a ser un agente: «Un martillo no elige qué romper. Un agente sí».