Alex Karp, CEO de Palantir: “Las empresas de IA podrían tener que nacionalizarse debido a los altos riesgos que conllevan”

Alex Karp, CEO de Palantir, ha situado el debate sobre la seguridad de la inteligencia artificial en un terreno hasta ahora poco habitual entre los grandes ejecutivos tecnológicos: la posible nacionalización de las empresas de IA. El directivo sostiene que el desarrollo de modelos cada vez más potentes puede generar responsabilidades civiles y penales difíciles de asumir únicamente por compañías privadas, especialmente cuando la tecnología entra en ámbitos críticos.

“Estas empresas tienen que ser nacionalizadas porque, si no las nacionalizas, todos y cada uno de mis clientes me van a demandar”, afirmó Karp durante una entrevista con CNBC. Su planteamiento parte de lo que describe como los “riesgos ilimitados” de la inteligencia artificial y de la dificultad para establecer reglas capaces de cubrir todos los escenarios que pueden surgir cuando estos sistemas se despliegan a gran escala.

El CEO de Palantir defiende la creación de unas normas “razonables” para controlar el desarrollo y uso de esta tecnología, aunque considera que cualquier regulación debe ir acompañada de responsabilidades claras para quienes construyen los modelos. “Tienes que encontrar una forma de establecer unas directrices razonables que se hagan cumplir, pero no puedes hacerlo”, señaló Karp, antes de añadir: “La primera línea de defensa es que eres responsable de tus propios actos”.

El debate sobre la regulación de la IA

Las declaraciones llegan mientras aumenta la discusión entre responsables tecnológicos y legisladores estadounidenses sobre cómo gestionar los modelos de IA más avanzados. Karp insistió en que los desarrolladores que actúen de forma irresponsable deberían afrontar consecuencias civiles y penales. “Tenemos que ponernos serios”, aseguró al referirse a las capacidades alcanzadas por las últimas generaciones de sistemas de inteligencia artificial.

TE PUEDE INTERESAR

Del ‘Incidente’ a la superinteligencia: la verdad que hay detrás de la ‘rebelión de las máquinas’ (y lo que nos espera)

POR
Manuel Ángel Méndez
Vídeo: Alejandro Corral

La preocupación no se limita a Palantir. Según la información facilitada por CNBC, Dario Amodei, CEO de Anthropic, ha pedido ralentizar el desarrollo de la inteligencia artificial de frontera, mientras que otros ejecutivos, entre ellos Sam Altman y Elon Musk, también han reclamado mecanismos de regulación. Frente a estas posiciones, otros responsables tecnológicos, como Jensen Huang y Mark Zuckerberg, han mostrado enfoques diferentes sobre cómo abordar los riesgos y la supervisión de estos sistemas.

La presión regulatoria también ha llegado al Congreso de EEUU. El senador Richard Blumenthal, impulsor de legislación sobre seguridad de la IA, ha reclamado algún tipo de revisión objetiva antes de lanzar determinados modelos, mientras otros legisladores han planteado incluso un denominado kill switch que permitiría detener sistemas problemáticos. El planteamiento de Karp lleva ese debate un paso más allá: si las responsabilidades económicas y legales derivadas de la inteligencia artificial superan la capacidad de las empresas privadas, el propio Estado podría terminar asumiendo un papel directo en su control.

Alex Karp, CEO de Palantir, ha situado el debate sobre la seguridad de la inteligencia artificial en un terreno hasta ahora poco habitual entre los grandes ejecutivos tecnológicos: la posible nacionalización de las empresas de IA. El directivo sostiene que el desarrollo de modelos cada vez más potentes puede generar responsabilidades civiles y penales difíciles de asumir únicamente por compañías privadas, especialmente cuando la tecnología entra en ámbitos críticos.