La carrera de la IA tiene tanto de competencia tecnológica como de drama y enfrentamiento personal. Anthropic, la empresa liderada por Dario Amodei, fue fundada hace un lustro por un grupo de exempleados de OpenAI con la creencia de que Sam Altman era un tipo demasiado irresponsable para regir los designios de una tecnología que prometía tener un impacto mayúsculo en la historia de la humanidad. Pero si hay una relación tortuosa es la que mantiene con Elon Musk, que otrora colaboró con él para fundar la compañía que daría a luz a ChatGPT. Se han picado, han discutido y se han insultado en público e incluso han acabado en los tribunales.
Por eso sorprende tanto el rápido consenso, casi instantáneo, que alcanzaron los tres líderes una vez que Amodei movió pieza y llamó a establecer un gran pacto para ralentizar los avances desbocados de la inteligencia artificial. Demis Hassabis, cofundador de DeepMind y el hombre fuerte en la materia de Google, se unió a esta corriente y dijo que era el “camino correcto” a seguir. Microsoft hizo tres cuartos de lo mismo.
TE PUEDE INTERESAR
El debate y el miedo a que esta tecnología se saliera de control se precipitaron a mediados de la pasada semana después de que un investigador de Anthropic abandonase la empresa afirmando que esta y otras compañías eran conscientes de que lo que tenían entre manos podía salirse de madre y “podría matarnos antes de que acabe la década”. Aquello provocó un efecto dominó donde muchos colegas de profesión le apoyaron.
Hay varias cosas que han acelerado esta situación. Todo empezó con el ataque a Hugging Face por parte de agentes inteligentes de OpenAI que consiguieron hackear y escaparse de un entorno seguro. Episodios similares fueron reconocidos por Meta y Anthropic. A esto hay que sumar el aviso de Amodei de que habían tenido que bloquear varias peticiones a Claude porque corrían riesgo de ser posibles intentos de crear armas biológicas. La guinda ha sido el avance en materia de IA recursivas o autorreflexivas, esas que son capaces de analizar su propio código o arquitectura, identificar fallos o ineficiencias y modificarlas para hacerse más inteligentes sin supervisión humana. La sensación que existe, tras el lanzamiento de Astra y otros modelos de frontera recientemente, es que la monitorabilidad (vigilar y comprender qué hacen) de estos desarrollos se ha complicado un poco a los tutores y carne y hueso.
Una vez la propuesta estaba sobre la mesa, no tardó en recibir un primer y sonoro portazo. El del presidente estadounidense, Donald Trump. Con un argumento que podía haber salido del Despacho Oval o de un parroquiano de barra de bar. Y China, ¿qué? “Estamos por delante de China. Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así, porque quien gane en IA, gana”, afirmó el mandatario, que criticó las “fuerzas negativas” que están sacando el tema “cuando no toca hacerlo”. Este lunes ya se supo a quién se refería. Concretamente a Amodei, al que acusó de querer ser “un angelito perfecto” con toda esta polémica.
Por su parte, Pekín también ha rebajado las expectativas de un acuerdo entre las dos potencias al señalar el movimiento como parte de una “agenda oculta” de Washington para estrangular su tecnología. Una tecnología que en los últimos meses ha demostrado estar más cerca de lo que se podía suponer hace un año. El portavoz de Exteriores, Guo Jiaku, explicó que el régimen de Xi Jinping aboga por no levantar el pie del acelerador y continuar desarrollando una “IA abierta y transparente” que beneficie a toda la humanidad.
:format(jpg)/f.elconfidencial.com%2Foriginal%2F7fe%2Ff4e%2Fa03%2F7fef4ea036ccf31d69633a584a7295f4.jpg)
:format(jpg)/f.elconfidencial.com%2Foriginal%2F7fe%2Ff4e%2Fa03%2F7fef4ea036ccf31d69633a584a7295f4.jpg)
El propio Amodei afirmaba en una entrevista que era “extraño” que la creación de una tecnología así “estuviera en manos de una empresa privada” y que el Gobierno debería tener “algún tipo de participación”. Pero, preguntado por el tipo de participación, el directivo también se mostraba incómodo con que esta dependiera de un solo Gobierno. En su opinión, deberían ser “un grupo de gobiernos democráticos” los que ejercieran el control. El dilema es similar al que planteó Jack Clark, uno de los siete cofundadores de Anthropic, que abogó por “un interruptor general” para la IA. Pero, ¿quién lo controlaría? ¿La empresa, un consejo independiente, el Gobierno de EEUU, los gobiernos de medio Occidente…?
Descartada la vía gubernamental de los países que lideran la carrera de la IA, las miradas se dirigen hacia la autorregulación y que sean las propias empresas implicadas las que se ajusten la correa. Una idea que quedaba perfectamente resumida en la publicación de X de David Sacks, asesor del Gobierno y mano derecha de Trump en temas de ciencia y tecnología.
“Dejen de fingir”
“Dario ha escrito que necesitamos ‘pausar el ritmo de frontera’, y Sam ha estado de acuerdo. La gente puede sorprenderse por mi respuesta: adelante”, escribió en su cuenta de la red social. “Pero deja de fingir que necesitas el permiso de alguien más”, añadió. Sacks además dejó un recado adicional al decir que si esta desaceleración sucede, estarán “ganando crédito” de cara a futuras conversaciones con las autoridades. Si no lo hacen, para él será una prueba de que solo pretenden manipular a los reguladores o influir en las promesas electorales en Estados Unidos.
Esa idea de que estos gigantes se controlen a sí mismos parece también más un brindis al sol que una promesa desinteresada. Es cierto que Anthropic y OpenAI han asegurado que darán acceso a nivel de empleados a investigadores externos para que puedan realizar las auditorías necesarias. Pero a la hora de la verdad, esto parece un apósito temporal que puede colocarse y retirarse a discreción en función de las urgencias y problemas del negocio.
Un buen termómetro de cómo los intereses particulares están por encima de esta alerta general es lo que pretende hacer cada empresa con su salida a bolsa. Sam Altman descartó la oferta pública de venta de OpenAI en 2026. “Dado el actual escenario en materia de seguridad, no sería el momento adecuado”, apuntó el directivo. Anthropic, en cambio, sigue con sus planes intactos y en las últimas horas se ha sabido que ha escogido el Nasdaq como pista de despegue para su lanzamiento bursátil.
OpenAI ha detenido su salida a Bolsa. Anthropic no. ¿El motivo? Sale mucho mejor en la foto que su rival como para retrasarlo
¿Por qué no ha seguido el mismo camino? Porque, básicamente, sale mucho mejor en la foto que muchos rivales. Según adelanta el Financial Times, la compañía asegura que volverá a ser rentable por segundo trimestre consecutivo. Teniendo en cuenta que aspira a igualar o superar los casi 87.000 millones de dólares que consiguió SpaceX en su salida a bolsa, es hasta comprensible que Amodei no quiera jugársela. Retrasar la operación podría significar que, cuando llegue el momento, la euforia se haya reducido, esté en otra parte o que incluso haya reventado la burbuja que muchos temen.
:format(jpg)/f.elconfidencial.com%2Foriginal%2F114%2F580%2F03e%2F11458003ed807de5250bceafeb8d458f.jpg)
:format(jpg)/f.elconfidencial.com%2Foriginal%2F114%2F580%2F03e%2F11458003ed807de5250bceafeb8d458f.jpg)
Otro buen ejemplo es lo ocurrido durante la operación militar que dio pie a la guerra de Irán. Anthropic se opuso a que el Pentágono utilizase sus modelos para aplicaciones militares, como armas letales autónomas o vigilancia masiva. El discurso que defendía la empresa era que la tecnología no estaba madura para cargar su responsabilidad sobre los hombros sin el riesgo de que fallase.
Eso desató una tormenta. Donald Trump cortó los lazos con Anthropic, al que metió en el listado de proveedores de riesgo, una decisión que fue impugnada ante la justicia. No hicieron falta más que unas pocas horas para que OpenAI pescase en aguas revueltas y firmase un acuerdo propio con las autoridades militares de EEUU para ocupar su lugar. Cuando tuvo que salir a defender el movimiento, alegó que había negociado sus salvaguardas de forma independiente. Google siguió su ejemplo.
La gran contradicción de Anthropic
Hay otro episodio extra para entender que existen intereses ocultos y contradicciones. En febrero de este mismo año, Anthropic cambió sus ‘textos sagrados’ y abandonó su compromiso central de seguridad. Los documentos que regían esto se engloban en la Política de Escalado Responsable que, tanto en su edición de 2024 como de 2025, recogían explícitamente que se retrasaría el despliegue o se detendría el entrenamiento si las capacidades superaban los medios de la empresa para controlarlos.
Pero en la edición lanzada a principios de año, introdujo una serie de cambios. Eliminó esa promesa de pausa obligatoria y convirtió sus compromisos de prevención en “objetivos públicos no vinculantes”. Además, separó sus planes internos de lo que a partir de ese momento pasaron a ser recomendaciones generales para todo el mundo. La justificación oficial ya dejaba intuir los barros que han dado pie a los lodos en los que esta industria ha metido los pies en los últimos días. Un negocio en el que los rivales no se autoponen límites y quien frena puede quedar en desventaja.
Es precisamente esa pirueta la que alimenta la tesis de que las grandes tecnológicas están instrumentalizando una preocupación real y evidente, llevándola a terror existencial. Para una buena parte del gremio, el patrón resulta previsible. Agitar el fantasma del apocalipsis justo ahora podría conducir a una regulación de hierro. Una regulación que buscaría salvaguardar a la humanidad sobre el papel, pero que en la práctica puede traducirse en unas medidas de seguridad con unos inmensos costes de cumplimiento, unas auditorías permanentes y una burocracia tan asfixiante que dejaría fuera de juego a los competidores más pequeños. Por supuesto, supondría un disparo directo a la línea de flotación del movimiento del código abierto, que tantos dolores de cabeza están provocando a empresas como Anthropic u OpenAI últimamente.
:format(jpg)/f.elconfidencial.com%2Foriginal%2Fd66%2F0f2%2Fbb4%2Fd660f2bb439ae65469ac7cf44b4af72a.jpg)
:format(jpg)/f.elconfidencial.com%2Foriginal%2Fd66%2F0f2%2Fbb4%2Fd660f2bb439ae65469ac7cf44b4af72a.jpg)
Los modelos abiertos que más destacan son chinos. Es el caso de DeepSeek o Kimi, que están consiguiendo un rendimiento cercano a los modelos de frontera, pero a costes muy inferiores y ofreciendo disponibilidad global. Eso erosiona los márgenes de negocio y, por tanto, su capacidad para justificar valoraciones multimillonarias. En este punto se entiende mejor la negativa de Pekín, pero también se comprende el discurso de Amodei atacando los modelos open source, especialmente los chinos, en los últimos meses.
Según el CEO y fundador de Anthropic, el problema que existe con este tipo de desarrollos es que cualquiera puede descargarlos libremente y manipularlos, lo que dificulta el control. En el otro lado del ring, muchos recuerdan lo ocurrido con Hugging Face. Cuando la plataforma empezó a recibir el ataque coordinado de más de mil agentes de OpenAI, intentó protegerse con un modelo comercial estadounidense.
El problema fue que no pudo hacer nada, porque las limitaciones impuestas por la empresa propietaria no le permitían realizar determinadas acciones. La solución pasó por un modelo chino de pesos abiertos. Por eso, los defensores de esta corriente aseguran que, si la IA queda en manos de unas pocas empresas, faltará transparencia para conocer estos incidentes o el criterio con el que se establecen las limitaciones y las normas.
Cada uno defiende lo suyo
“Hagamos que la IA sea más segura haciéndola más transparente”, ha asegurado en su cuenta de X Clément Delangue, consejero delegado de Hugging Face. “No vayas llorando al gobierno y rogándole que ralentice los modelos de código abierto”, afirmaba Jason Calacanis en una publicación en la que no mencionaba explícitamente a nadie, pero etiquetaba a Amodei.
La lista de declaraciones similares es larga. “Se puede distribuir la IA de forma amplia y segura sin tener que centralizar en unas pocas compañías”, dijo Gavin Baker, inversor de riesgo, en su cuenta de X. Es por esto que muchos miran con recelo el organismo de control que están intentando montar Anthropic, OpenAI y Google. Según The Information representantes de las tres empresas se están viendo regularmente desde el pasado verano.
La que ha subido el tono fue Timnit Gebru, exingeniera de Google, donde llegó a ocupar el cargo de jefa de ética de IA. Fue, precisamente, despedida por alertar de los peligros de esta tecnología. “Esta narrativa del dios-máquina tiene como objetivo desviarnos de lo realmente importante”, aseguró en una entrevista con el medio especializado Wired.
:format(jpg)/f.elconfidencial.com%2Foriginal%2Ffe7%2Fc41%2F8d6%2Ffe7c418d669a54db0de3ae363b535a06.jpg)
:format(jpg)/f.elconfidencial.com%2Foriginal%2Ffe7%2Fc41%2F8d6%2Ffe7c418d669a54db0de3ae363b535a06.jpg)
Gebru avisa de que centrar el debate en la extinción humana a años vista lo que hace es funcionar como cortina de humo sobre el uso militar de esta tecnología, el despido de miles de personas en su nombre o el consumo de agua y electricidad desproporcionado que requiere. “¿Puede un puente decidir derrumbarse? (…) Cuando un puente se derrumba, no estudias si era un ser ético o consciente. Estudias quién lo construyó de forma tan endeble. Hay permisos que obtener y hay pruebas que hacer”, afirmaba Gebru en referencia a lo de las inteligencias artificiales que se han vendido como rebeldes. “Cuando te preguntas si el puente decidió derribarse por sí solo, has perdido el hilo”.
No todo el mundo fue tan crítico con las dos empresas de moda de la IA. Hay una tercera vía que defiende que es necesario poner medidas, pero que el verdadero problema está en que no se sabe cómo hacerlo de forma correcta. “El término ‘ritmo’ puede resultar algo polémico, ya que suena a ralentizaciones arbitrarias o una forma de poner obstáculos a la competencia gracias a una regulación excesiva”, explicaba también en internet Aaron Levy, CEO de la startup de IA, Box.com. Este emprendedor afirmaba que lo que sugiere Amodei “es absolutamente necesario”. Medicina, gobierno, ejército… Son muchos los campos en los que impactará esta tecnología y, por eso, cree necesario establecer formas de que la IA sea segura y esté “alineada”. “Cómo lograrlo sin ralentizar la innovación ni la competencia es una de las preguntas más complejas del siglo XXI”.
Quizá la pregunta ya no sea si la IA necesita límites, sino quién está en condiciones de decidir dónde ponerlos. Porque en una carrera en la que cada avance puede convertirse en una ventaja difícil de recuperar, pedir que todos levanten el pie al mismo tiempo parece mucho más sencillo sobre el papel que en la realidad. Y mientras nadie quiera ser el primero en hacerlo, la carrera seguirá.


:format(png)/f.elconfidencial.com%2Foriginal%2F63b%2F764%2Fd77%2F63b764d77e39ac78df44cb58edc46c7f.png)
:format(png)/f.elconfidencial.com%2Foriginal%2F63b%2F764%2Fd77%2F63b764d77e39ac78df44cb58edc46c7f.png)
:format(jpg)/f.elconfidencial.com%2Foriginal%2Fbc2%2F57c%2F50c%2Fbc257c50cb4638f53f631db76a34d9dc.jpg)

:format(jpg)/f.elconfidencial.com%2Foriginal%2Face%2Fad3%2Fac2%2Facead3ac24e063ae2babf3a89861e924.jpg)
:format(jpg)/f.elconfidencial.com%2Foriginal%2F000%2Fc60%2Fa78%2F000c60a78833f672e1542de73ce9bab8.jpg)




:format(jpg)/f.elconfidencial.com%2Foriginal%2F0d3%2F5f2%2F2ec%2F0d35f22ec35e6c1642e927bfd1fe58cc.jpg)
:format(jpg)/f.elconfidencial.com%2Foriginal%2F504%2Fb36%2F582%2F504b36582be918a35aa288f9baf1bf00.jpg)
:format(jpg)/f.elconfidencial.com%2Foriginal%2Fe4d%2F6fd%2Fd8c%2Fe4d6fdd8c56418a335664c321e24fc1d.jpg)

:format(jpg)/f.elconfidencial.com%2Foriginal%2F49a%2F40e%2F465%2F49a40e4656f82b94fb3fa6807e6c49a2.jpg)

