Anthropic: IA bajo asedio y encrucijada para la UE

Que Anthropic no se entiende con el Gobierno de Donald Trump ya se sabía.

Los hermanos Dario y Daniela Amodei, cofundadores de esta empresa de inteligencia artificial creadora de Claude, se sienten más cerca de los postulados del Vaticano. 

Pudimos verlo con motivo de la presentación de la primera encíclica del Papa León XIV: ‘Magnifica Humanitas’ centrada en los peligros y la ética de la inteligencia artificial.

El documento se presentó en el Vaticano junto a Christopher Olah, también cofundador de Anthropic. Su presencia en el evento sorprendió al mundo tecnológico porque parecía avalar el fundamento de los peligros advertidos.

Olah afirmó que la seguridad de la IA es un reto más humano y espiritual que de ingeniería apoyando la necesidad de regular el sector.  Lo que nadie imaginaba es que esa regulación iba a llegar pronto y que iba a ser precisamente Anthropic la más afectada.

Orden del Gobierno de Trump

El 12 de junio, el Gobierno de EEUU emitió la orden de prohibir el acceso de ciudadanos extranjeros a los modelos de IA más avanzados de Anthropic, Claude Fable 5 –lanzado el 5 de junio– y Mythos 5. La orden afecta incluso los que trabajan para la compañía y residen en EE.UU.

La medida se tomó mediante una directiva de control de exportaciones. La razón alegada fueron presuntos fallos de seguridad.

Un proceso “más justo”

La respuesta de Anthropic contra el bloqueo no se hizo esperar. Todavía puede consultarse en la web de la compañía su declaración sobre la directiva del Gobierno estadounidense. Tachan de “malentendido” la orden del gobierno, defienden la seguridad de sus sistemas y exigen “un proceso legal transparente, justo, claro y basado en hechos técnicos”. Consideran que la acción contra su compañía “no se ajusta a dichos principios”.

Terminan pidiendo disculpas por las molestias ocasionadas a sus clientes, que son cientos de millones de personas de todo el mundo. 

La cada vez más urgente soberanía tecnológica

La decisión de EEUU ha vuelto a abrir el debate sobre la soberanía digital europea. La Comisión Europea advertía horas después de que los controles a las exportaciones estadounidenses sobre Anthropic “no deberían ser discriminatorios”.

Para la Comisión, este episodio era una muestra más de que Europa necesita reforzar su soberanía tecnológica y de que las leyes vigentes de la UE en materia de ciberseguridad e inteligencia artificial pueden ayudar al bloque a gestionar estos riesgos emergentes en sus propios términos.

Reunión con el G7

La reciente reunión de la cumbre del G7 celebrada en Francia ha sacado un hueco para que los líderes mundiales mantuviesen una reunión con las grandes tecnológicas de EEUU, Anthropic entre ellas. El encuentro se centró en la regulación de la IA y la protección especial de los menores.

No obstante, la conclusión principal ha sido que, si Europa no quiere depender de los vaivenes legislativos ajenos, no queda otra que construir nuestras propias capacidades en IA, computación y almacenamiento de datos.

Riesgo de atentar contra la democracia

También en España se han alzado voces contra la arbitrariedad de determinadas decisiones legislativas.

Francisco Polo, cofundador de la plataforma europea MOVEMENTS, ha publicado una carta abierta en la que sostiene que la dependencia tecnológica ya no es solo una cuestión económica o de competitividad, sino también democrática.

“Lo grave no es que millones de personas hayan perdido acceso a una inteligencia artificial. Lo verdaderamente preocupante es que un gobierno puede decidir quién utiliza determinadas herramientas y quién no”, afirma Polo.

En la carta, Polo reclama que Europa impulse alternativas propias en ámbitos estratégicos. Advierte de que la protección de los datos personales se ha convertido en una de las cuestiones fundamentales de nuestro tiempo y que, “cuando las infraestructuras dependen de otros, otros deciden las reglas del juego e incluso pueden eliminarte de él”.

Si quieres consultar la carta completa, puedes hacerlo aquí.