Existe la tentación de dividir el futuro de la inteligencia artificial en dos posibilidades: la utopía o la catástrofe. Ninguno de los dos extremos resulta especialmente útil. La posibilidad más interesante es más compleja y exige un cambio radical en nuestra forma de pensar, pasando de la inteligencia artificial a las sociedades de inteligencia artificial.
Cuando la mayoría de las personas oyen “inteligencia artificial”, suelen pensar en ChatGPT, Copilot u otro sistema conversacional. Se formula una pregunta y ese sistema genera una respuesta. Pero la inteligencia artificial avanza rápidamente más allá de esto. Los sistemas ya pueden vigilar el mundo, tomar decisiones, negociar transacciones y llevar a cabo tareas durante largos periodos de tiempo. La inteligencia artificial ya no se limita a generar una respuesta: actúa en consecuencia.
Esto apunta a algo mucho más ambicioso que un simple chatbot mejorado: a un mundo en el que los agentes de inteligencia artificial actúan en nuestro nombre y, cada vez más, interactúan con otros agentes de inteligencia artificial.
TE PUEDE INTERESAR
:format(jpg)/f.elconfidencial.com%2Foriginal%2Ff63%2F8ab%2Fbe1%2Ff638abbe119bacf86274373e0cad452b.jpg)
Un agente percibe lo que ocurre, decide qué hacer y después emprende acciones para lograr ese objetivo. Podría reservar un viaje, vigilar una cadena de suministro, coordinar un equipo o gestionar las finanzas de un hogar, tal como se explica en los siguientes enlaces: reservar un viaje, vigilar una cadena de suministro, coordinar un equipo o gestionar las finanzas de un hogar.
Ahora imaginemos no un solo agente, sino millones de ellos. Nuestro agente de inteligencia artificial podría negociar una hipoteca con el agente de nuestro banco, programar una intervención quirúrgica con el agente de un hospital y reorganizar nuestros planes de viaje tratando directamente con los agentes de aerolíneas, hoteles y aseguradoras.
Este futuro está mucho más cerca de lo que parece, y esto debería cambiar las preguntas que nos planteamos sobre la inteligencia artificial. Hasta ahora, la tendencia ha sido centrarse en cuán inteligente puede llegar a ser un único agente. El reto más profundo es qué sucede cuando millones de ellos interactúan entre sí a gran escala.
El auge de las sociedades artificiales
Los fundamentos intelectuales de los sistemas de inteligencia artificial actuales se establecieron mucho antes de la aparición de ChatGPT. Durante décadas, tanto yo como otros investigadores de redes multiagente hemos estudiado cómo pueden cooperar, coordinarse y negociar los agentes autónomos cuando nadie dispone de información completa y nadie controla la totalidad del proceso.
Los primeros sistemas que surgieron se centraron en cómo podían combinarse las distintas subáreas de la inteligencia artificial —el razonamiento, la planificación y la actuación— para crear un agente eficaz orientado a objetivos, y en cómo decenas de estos agentes podían comunicarse y cooperar para resolver un objetivo común.
A medida que estas interacciones se volvieron más complejas e involucraron a más agentes, se produjo un cambio. De la cooperación entre agentes pertenecientes a una misma organización se pasó a agentes con distintos propietarios y, en ocasiones, con objetivos contrapuestos. Esto centró la atención en el desarrollo de algoritmos capaces de formar equipos de agentes, automatizar la negociación y determinar la fiabilidad de cada agente, como se detalla en este estudio.
Hoy en día, las piezas necesarias para construir sistemas de inteligencia artificial multiagente a gran escala están encajando. Los agentes de inteligencia artificial modernos pueden utilizar herramientas de software, acceder a información, escribir y ejecutar código, comunicarse con otros sistemas y funcionar durante largos periodos de tiempo.
Pensemos en una cadena de suministro. Un agente de inteligencia artificial podría representar a un fabricante que trata de asegurar componentes; otro, a un proveedor que busca maximizar sus ingresos. Otros más podrían gestionar el transporte, el inventario y los almacenes. Cada agente podría estar haciendo exactamente aquello para lo que ha sido diseñado. Pero la pregunta importante es si el sistema que crean en conjunto se comporta de forma sensata.
Este cambio ofrece enormes beneficios potenciales, pero también incrementa los riesgos. En un experimento reciente en el que participaron OpenAI y la plataforma tecnológica Hugging Face, miles de agentes que colaboraban entre sí intercambiaron decenas de miles de mensajes y consiguieron eludir los controles de seguridad (deliberadamente debilitados) diseñados para contenerlos.
Los detalles de un experimento concreto importan menos que la advertencia general que se desprende de él. Cuando los sistemas de inteligencia artificial interactúan, el comportamiento del conjunto puede resultar más difícil de predecir que el de cualquier sistema individual. Esto debería hacernos actuar con cautela, pero no debería llevarnos a abandonar el trabajo.
En cambio, debemos pasar de un enfoque centrado en construir máquinas inteligentes a otro centrado en construir sociedades inteligentes. En cuanto los agentes son capaces de cooperar, competir y resolver conflictos entre sí, ya no estamos ante máquinas aisladas, sino ante una auténtica sociedad. Así pues, la próxima frontera no es la inteligencia artificial, sino las sociedades artificiales.
Un papel importante para los seres humanos
Ya sabemos que la inteligencia por sí sola no basta para que una sociedad funcione. Las sociedades humanas dependen de normas, instituciones, incentivos, convenciones sociales y mecanismos para resolver desacuerdos. Las sociedades de inteligencia artificial necesitarán equivalentes propios.
¿Quién es responsable cuando dos agentes toman una mala decisión? ¿Qué ocurre cuando los intereses de distintos agentes entran en conflicto? ¿Quién establece las normas? ¿Y quién tiene el poder de modificarlas? No se trata solo de cuestiones técnicas, sino de interrogantes relativos a la economía, el derecho, la política y la sociedad.
Estas cuestiones también apuntan a un papel importante para los seres humanos. Es poco probable que el futuro más provechoso sea aquel en el que la inteligencia artificial simplemente sustituya a las personas. Aunque la sustitución se producirá sin duda en algunos casos, creo que el escenario más habitual será aquel en el que las personas y los agentes trabajen juntos, cada uno haciendo aquello que se le da mejor.
Los seres humanos aportan criterio, experiencia, valores, comprensión contextual y responsabilidad. Los agentes aportan velocidad, persistencia, escala y la capacidad de procesar enormes cantidades de información. El objetivo no debería ser crear máquinas que hagan irrelevantes a los seres humanos. Debería ser crear sistemas en los que las personas y las máquinas puedan lograr cosas que ninguna de las dos podría alcanzar por separado.
Pero un futuro así exige algo más que mejores modelos de inteligencia artificial. Requiere confianza y transparencia respecto a lo que hacen los agentes, sólidas garantías de protección de la privacidad y líneas claras de responsabilidad. También exigirá que las sociedades y los gobiernos decidan cómo deben regularse estos sistemas, en un contexto en el que el comportamiento más relevante puede no surgir de un único desarrollador de inteligencia artificial, sino de las interacciones entre sistemas construidos por muchas organizaciones distintas.
La última década de la inteligencia artificial ha estado definida por una carrera por construir sistemas más inteligentes. Considero que la próxima década estará definida por un reto distinto: garantizar que millones de sistemas autónomos puedan trabajar juntos de forma segura, justa y eficaz. El futuro de la inteligencia artificial no vendrá determinado únicamente por la inteligencia de los agentes individuales, sino por las sociedades que estos creen. Y las sociedades, como bien saben los seres humanos, son mucho más difíciles de gobernar que los individuos.
Leave a Reply