Bill Gates ha situado los ciberataques impulsados por inteligencia artificial entre los riesgos que ya existen y no entre las amenazas hipotéticas asociadas al futuro de esta tecnología. El cofundador de Microsoft planteó esta preocupación durante una entrevista con Ezra Klein publicada por The New York Times, en la que puso el foco en la capacidad actual de los modelos y en el uso malicioso que pueden hacer de ellos determinadas personas.
Gates fue especialmente explícito al describir hasta dónde podrían llegar estos ataques: “La capacidad de realizar un ciberataque que altere todas las cuentas bancarias y apague la red eléctrica existe hoy, y sabemos que es así”. Su advertencia parte de una idea concreta: la vulnerabilidad no depende de que aparezcan sistemas de IA conscientes o autónomos, sino de herramientas que ya pueden ser utilizadas por atacantes humanos.
El empresario también recordó las capacidades que observó meses atrás en modelos avanzados de Anthropic. Según explicó, le sorprendió el nivel alcanzado en tareas relacionadas con ataques informáticos y mencionó Project Glasswing, una iniciativa concebida para que un grupo reducido de personas pudiera localizar y corregir fallos antes de que determinadas capacidades fueran utilizadas. El problema, sostuvo, es la enorme cantidad de código existente.
El riesgo ya no es futuro
“La capacidad de ciberataque era asombrosa“, afirmó Gates antes de referirse a ese intento de revisar vulnerabilidades. Su diagnóstico es que la cantidad de software que tendría que ser supervisada supera ampliamente la capacidad de unos pocos especialistas. Por ese motivo considera que el ecosistema tecnológico atraviesa “un periodo de vulnerabilidad extrema a los ciberataques“, una situación que vincula directamente con la rápida evolución de la IA.
Gates también señaló determinados aspectos de Hugging Face para defender la necesidad de incorporar una capa de supervisión con límites que los modelos no puedan rebasar. Su preocupación se extiende especialmente a los sistemas de código abierto, ya que pueden terminar en manos de personas dispuestas a utilizarlos con fines dañinos. “Hay humanos que, por malas razones, podrán utilizar estos modelos“, advirtió durante la conversación.
La respuesta que propone pasa por introducir mecanismos de vigilancia y requisitos aplicables a los modelos antes de que se produzcan incidentes de gran escala. Gates teme que la reacción llegue únicamente después de sufrir ataques graves: “A menos que introduzcamos salvaguardas y supervisión y lo exijamos en todos los modelos, simplemente vamos a tener algunos acontecimientos gigantescos de ese tipo y finalmente responderemos”. Para el empresario, el principal problema de seguridad de la IA ya está presente en las herramientas disponibles hoy.
Bill Gates ha situado los ciberataques impulsados por inteligencia artificial entre los riesgos que ya existen y no entre las amenazas hipotéticas asociadas al futuro de esta tecnología. El cofundador de Microsoft planteó esta preocupación durante una entrevista con Ezra Klein publicada por The New York Times, en la que puso el foco en la capacidad actual de los modelos y en el uso malicioso que pueden hacer de ellos determinadas personas.
Leave a Reply