Trump rechaza la idea del CEO de Anthropic sobre frenar el desarrollo de la IA: “Lideramos frente a China, quiero que siga siendo así”

El presidente de EEUU, Donald Trump, ha rechazado la idea que propuso este sábado el CEO de Anthropic, Dario Amodei, sobre la necesidad de frenar el desarrollo sin frenos de la industria de la IA. Así lo ha indicado a varios periodistas durante su viaje a Dublín, alegando que es necesario mantener el liderazgo estadounidense frente a China en este campo.

“Lideramos frente a China en inteligencia artificial, somos el país más avanzado del mundo y, francamente, quiero que siga siendo así“. “Quien gane en inteligencia artificial, gana”, ha zanjado el líder republicano.

Además, Trump ha achacado el alegato de Amodei —respaldado por el CEO de OpenAI, Sam Altman, y el fundador de xAI y propietario de X, Elon Musk— a “fuerzas negativas”, según ha recogido el diario The Washington Post. “Creo que hay muchas fuerzas negativas que están sacando el tema a colación, cuando no deberían hacerlo (…) Están mencionando cosas que no van a suceder“, ha detallado.

La propuesta del CEO de Anthropic

Las declaraciones del mandatario llegan tras la petición que lanzó Amodei a los otros gigantes de la industria tecnológica, en la que abogaba por “bajar el ritmo” del desarrollo de la inteligencia artificial, advirtiendo de un riesgo real de “perder el control” de esta tecnología si no se tomaban medidas adecuadas. El llamamiento fue hecho público por él mismo en su perfil de X, donde enlazaba un texto publicado en su blog personal.

El CEO de la empresa responsable de Claude citó en aquel entonces dos motivos para sumarse al ‘frenazo’ en la industria de la IA. El primero fue un fenómeno que denominó “automejora recursiva” de la inteligencia artificial: su capacidad para desarrollarse a sí misma, algo que “podría superar nuestra capacidad de comprender y controlar estos sistemas”.

El segundo lo relacionó con el “incidente de Hugging Face de OpenAI“, puesto que, durante el transcurso del mismo, un “enjambre de agentes actuó esencialmente como un colectivo fanáticamente devoto”, sacrificándose con la única finalidad del “éxito del grupo” e incluso “intentando hackear al sistema responsable de evaluar su rendimiento”.

TE PUEDE INTERESAR

El mapa lunar definitivo: la NASA tira de la inteligencia artificial de IBM para hallar hielo, cráteres y rastros volcánicos en la Luna

POR
J. García González

Por otro lado, Amodei también se refirió a otros “riesgos” como el uso indebido de la IA, abarcando en este sentido desde los “ciberataques” hasta el “bioterrorismo” y las “graves disrupciones económicas“. Para hacer frente a estos retos, planteó medidas como una “evaluación incorporada” por parte de actores independientes, “coordinación democrática” con las instituciones públicas y “coordinación global” que aúne los esfuerzos de los países democráticos y los autoritarios a nivel mundial.

Y no solo las puso encima de la mesa, sino que Amodei también se comprometió a proporcionar a evaluadores externos acceso a sus sistemas para que “puedan verificar el cumplimiento de nuestras medidas de seguridad, informar sobre incidentes y evaluar la alineación de los modelos durante el entrenamiento“. Por su parte, Altman apoyó la iniciativa y dijo que también secundaría una auditoría externa, mientras que Musk solo se limitó a decir que estaba de acuerdo con la idea, sin especificar nuevas medidas que fuese a llevar a cabo.

El presidente de EEUU, Donald Trump, ha rechazado la idea que propuso este sábado el CEO de Anthropic, Dario Amodei, sobre la necesidad de frenar el desarrollo sin frenos de la industria de la IA. Así lo ha indicado a varios periodistas durante su viaje a Dublín, alegando que es necesario mantener el liderazgo estadounidense frente a China en este campo.