La IA de Anthropic planta cara a Trump

La lucha de Anthropic con la Administración de Donald Trump viene de atrás. Hace unos días que el presidente estadounidense se refirió en su red social a los fundadores de Anthropic como “los locos lunáticos de izquierda de Anthropic”.

Ordenó entonces eliminar todos los contratos federales con esta IA después de que Anthropic se negarse a conceder al Departamento de Guerra acceso sin restricciones a su modelo de IA, Claude.

Las limitaciones de la empresa apuntaban especialmente a lo que atañe a la vigilancia masiva de los ciudadanos y a armas totalmente autónomas. 

La Casa Blanca interpretó la posición de Anthropic como un intento de imponer sus condiciones de servicio por encima del marco legal estadounidense.

Lo vio como una intromisión en la autoridad federal para decidir cómo emplear herramientas tecnológicas en defensa y seguridad nacional.

Una IA ‘blanca’

La polémica acompaña a Anthropic desde el origen. Los hermanos Dario y Daniela Amodei decidieron dejar sus puestos como empleados en Open AI para desarrollar su propia inteligencia artificial. Con ellos se llevaron otros ex altos cargos de la empresa de Sam Altman.

Los Amodei fundaron Anthropic en 2021 con un enfoque claro en la seguridad de la inteligencia artificial. Una de sus características distintivas es lo que llaman ‘IA Constitucional’ entrenando a sus modelos basándose en los valores constitucionales y principios éticos. Se inspiran, entre otros, en la Declaración Universal de los Derechos Humanos.

Peligros de la IA

En esta dirección, en julio de 2023, Dario Amodei advirtió a un panel judicial del Senado de los Estados Unidos sobre los peligros de la IA, incluidos los riesgos que plantea en el desarrollo y control de armamento. 

Más adelante, en 2024, el CEO publicó un ensayo titulado ‘Máquinas de gracia amorosa’ en el que expone una visión de cómo la IA podría mejorar radicalmente el bienestar humano suponiendo que los riesgos se gestionen con éxito. 

Inversiones multimillonarias

Bajo estas premisas, Anthropic ha ido consiguiendo inversiones multimillonarias de gigantes tecnológicos de la talla de Amazon o Google. En poco tiempo ha conseguido posicionarse como uno de los grandes actores en la carrera global de la IA avanzada.

El temor a verse apartada de esa carrera lleva ahora a Anthropic a presentar una demanda contra el Departamento de Defensa y otras agencias federales.

Aluden a la decisión de la administración Trump de etiquetar a la empresa de IA como un “riesgo para la cadena de suministro”, expresión utilizada generalmente para empresas que se asocian con adversarios extranjeros.

No tan críticos

Anthropic no solo alega que esa categorización es legalmente errónea, sino que declara a voz en cuello su compromiso patriótico.

“Anthropic tiene mucho más en común con el Departamento de Guerra que diferencias. Ambos estamos comprometidos con el avance de la seguridad nacional de EEUU y la defensa del pueblo estadounidense, y coincidimos en la urgencia de implementar la IA en todo el gobierno. Todas nuestras decisiones futuras se basarán en esa premisa compartida”, sostiene Dario Amodei en un post publicado en la web de la compañía con fecha de 5 de marzo a la vez que solicita una revisión judicial.