Los matemáticos se organizan contra OpenAI: “El afán de las empresas de IA por resolver problemas resulta perjudicial para la ciencia matemática”

La comunidad matemática internacional solo ha necesitado unos días para reaccionar ante la polémica que estalló cuando OpenAI, la empresa de Sam Altman, proclamó que había resuelto uno de los problemas del milenio, las ecuaciones de Navier-Stokes. Además de las acusaciones de plagio por parte de Tristan Buckmaster, un matemático que trabaja en la misma línea junto a un colega de Anthropic, la incomodidad que subyace detrás del anuncio va más allá. Para conseguirlo, la IA se ha basado en la investigación de dos matemáticos españoles, a los que ha conseguido ‘vencer’ por el uso de fuerza bruta, no por el desarrollo de nuevas ideas matemáticas.

Como respuesta, 25 galardonados con la Medalla Fields, el premio más prestigioso de esta disciplina, conocido como el ‘Nobel de las Matemáticas’, encabezan un manifiesto en el que denuncian que “los objetivos de las empresas de IA y los de la comunidad matemática están profundamente desalineados“. Los matemáticos más importantes del mundo, entre los que se encuentra Terence Tao, considerado el matemático más relevante de la actualidad, acusan a las big tech de olvidar que “la resolución de problemas es solo una herramienta y un medio para alcanzar el objetivo principal: la comprensión conceptual y la introspección”.

En los últimos meses, con el avance salvaje de los modelos de IA, las empresas tecnológicas se han echado a la carrera por la resolución de los grandes desafíos matemáticos pendientes. Los firmantes defienden que la investigación matemática persigue desarrollar nuevos métodos y también abrir nuevas preguntas, algo que la velocidad con la que actúan OpenAI y compañía no permite.

TE PUEDE INTERESAR

El próximo ‘Nobel de Matemáticas’ será murciano: esta es la idea de la que se ha aprovechado OpenAI en su polémico logro

POR
Patricia Ruiz Guevara

Además, como en todas las profesiones creativas, recuerdan, esto plantea serios problemas de atribución y plagio. El reciente logro de OpenAI se basa en el trabajo de Diego Córdoba y Luis Martínez-Zoroa, ambos matemáticos de origen murciano; pero cuando la empresa publicó la primera versión del artículo en que recogían los resultados ni siquiera los citaban.

“Estamos presenciando una amenaza generalizada para el trabajo intelectual, con una falta de alineación entre el resultado del uso de la IA y su propósito inicial”, afirman Tao, Cédric Villani, Simon Donaldson y el resto de Fields, que han animado a sumarse al manifiesto. En el momento de publicación de este artículo ya han firmado más de 3.000 matemáticos y matemáticas de todo el mundo, entre ellos, españoles.

“No sabemos qué va a pasar. Es algo que no podemos evitar porque ya está aquí y va a cambiar nuestra forma de trabajar. Esta demostración es la prueba. Está claro que las ideas son de Martínez-Zoroa y de Córdoba, así que nos inquieta a quién se le va a reconocer el mérito“, explica Luis Alias, catedrático de Geometría y Topología en la Facultad de Matemáticas de la Universidad de Murcia y uno de los firmantes, a este periódico.

“Hacer matemáticas no va de decir si una cosa es verdad o no; va de desarrollar las ideas, la mente, pensar”

“Para mí es como si ahora mismo hubiera ganado el Mundial un equipo de robots. Me da igual, no importa. Hacer matemáticas no va de decir si una cosa es verdad o no; va de desarrollar las ideas, la mente, pensar. Eso es lo importante”, sostiene Ángel del Río, catedrático de Álgebra en la misma universidad. El profesor e investigador también está preocupado por cómo va a afectar esto a la educación, y señala a las compañías de IA. “Están peleándose para ver quién se lleva el gato al agua, usan el prestigio de las matemáticas para una competencia comercial. Esto está generando secretismo, porque ahora, si das unas ideas, pierdes el control sobre para qué y cómo se van a usar”, añade, en línea con lo que señala el manifiesto.

A continuación, la declaración íntegra, que puede leerse y firmarse aquí.

Una grave desalineación de la IA en las matemáticas

En los últimos meses, las capacidades matemáticas de los másteres en matemáticas han mejorado drásticamente, hasta el punto de poder resolver importantes problemas pendientes en muchos campos de las matemáticas. Sin embargo, el afán de las empresas de IA por resolver problemas matemáticos como referencia resulta perjudicial para la ciencia matemática y para la comunidad matemática. Los objetivos de las empresas de IA y los de la comunidad matemática están profundamente desalineados. Consideramos que esto forma parte de problemas de alineación más amplios que afectan a otras profesiones científicas y creativas, así como a la sociedad en su conjunto.

La investigación matemática se ocupa de comprender las estructuras básicas de las formas, los números y los fenómenos naturales. A lo largo de generaciones, ha desarrollado un amplio corpus de ideas, métodos, abstracciones y otras herramientas sofisticadas para comprender el panorama matemático. A su vez, las tecnologías y ciencias modernas se basan en herramientas matemáticas.

Los problemas más conocidos a menudo han servido como puntos de referencia y faros que permiten medir una mejor comprensión de este campo. Resolver uno de estos problemas ha sido un claro indicio de nuevas perspectivas y métodos interesantes, que posteriormente son estudiados por una comunidad de matemáticos mediante un largo y arduo proceso de conversaciones, debates y simplificaciones. Al final de este proceso, idealmente se encuentra una presentación de los resultados en un libro de texto, accesible para cualquier estudiante de grado o posgrado. Algunas de estas ideas matemáticas perduran aún más, convirtiéndose, décadas o siglos después, en herramientas comprendidas y utilizadas por toda la población.

TE PUEDE INTERESAR

Parece que estamos resolviendo más enigmas matemáticos que nunca. Es solo una ilusión

POR
Patricia Ruiz Guevara

La comunidad matemática funciona, en muchos sentidos, como una versión en miniatura de la humanidad. Está compuesta por individuos que emplean una amplia variedad de enfoques, unidos por valores fundamentales. Los recursos más valiosos de nuestra profesión son los estudiantes y las ideas, y los cultivamos con sumo cuidado. Nos sentimos responsables de permitirles desarrollar todo su potencial, hasta que puedan tener vida propia en el mundo matemático. A los estudiantes, a menudo les proponemos problemas con la intención principal de desarrollar habilidades que les permitan avanzar en la investigación y en otros ámbitos. Difundimos nuestras ideas mediante charlas, conversaciones privadas y escritos detallados, conectándolas con las ideas previas de otros. Estos procesos, invariablemente, requieren tiempo y se basan en la interacción humana.

En los últimos meses, el éxito de la IA en la resolución de importantes problemas matemáticos ha acaparado titulares incluso fuera del ámbito matemático. Sin embargo, la resolución de problemas es solo una herramienta y un medio para alcanzar el objetivo principal: la comprensión conceptual y la introspección. Olvidar esto en el mundo de la IA podría convertir la herramienta en una herramienta contraria al objetivo principal. De hecho, la producción masiva, cada vez más acelerada, de afirmaciones de “verdadero/falso” podría destruir terreno fértil en lugar de dar vida a nuevas ideas.

Con frecuencia, estas soluciones se anuncian apresuradamente, sin dejar tiempo para una redacción adecuada, el aislamiento de nuevos métodos e ideas, ni la citación de trabajos previos relevantes de otros autores. Como en todas las profesiones creativas, esto plantea serios problemas de atribución y plagio. Además, sin los matemáticos dispuestos a encargarse de su desarrollo e integración en el canon matemático, las ideas concebidas por la IA nunca se materializarían por completo y se perdería la crucial cadena de transmisión humana entre matemáticos.

TE PUEDE INTERESAR

¿Súper logro o súper robo? Por qué el hito más espectacular de OpenAI está bajo sospecha por plagio

POR
Michael Mcloughlin

Estamos presenciando una amenaza generalizada para el trabajo intelectual, con una falta de alineación entre el resultado del uso de la IA y su propósito inicial. En muchos campos y actividades, años de formación han servido tradicionalmente no solo para producir una respuesta o producto final, sino también para desarrollar la comprensión y la capacidad de formular nuevas preguntas e ideas. Sin embargo, basándose en un vasto corpus de trabajo humano previo, los sistemas de IA son cada vez más capaces de producir directamente los resultados de dicho trabajo, y estos objetivos dejan de estar alineados. Los problemas a los que se enfrenta ahora la comunidad matemática son similares a los que afrontan otras profesiones científicas y creativas, e indican problemas a los que podría enfrentarse toda la humanidad: cómo asegurarnos de que, a medida que la IA transforma la forma de trabajar, no perdamos de vista el objetivo original de ese trabajo.

La IA ofrece el potencial de mejorar y acelerar el estudio y la comprensión de las matemáticas. La matemática como profesión deberá adaptarse a estos cambios de diversas maneras. Sin embargo, el hecho de que estos cambios beneficien al campo o tengan un efecto perjudicial dependerá en gran medida de las decisiones de quienes controlen esta nueva tecnología.

Es necesario abordar con urgencia estas cuestiones, tanto en la comunidad matemática como por parte de las empresas que desarrollan estas tecnologías y, de forma más general, por una sociedad que se enfrentará a problemas similares en muchas otras formas de trabajo intelectual.

Matemáticos firmantes con Medalla Fields

Artur Avila (Medalla Fields 2014)

Manjul Bhargava (Medalla Fields 2014)

Caucher Birkar (Medalla Fields 2018)

Pierre Deligne (Medalla Fields 1978)

Yu Deng (Medalla Fields 2026)

Simon Donaldson (Medalla Fields 1986)

Hugo Duminil-Copin (Medalla Fields 2022)

Alessio Figalli (Medalla Fields 2018)

Martin Hairer (Medalla Fields 2014)

June Huh (Medalla Fields 2022)

Maxim Kontsevich (Medalla Fields 1998)

Elon Lindenstrauss (Medalla Fields 2010)

Pierre-Louis Lions (Medalla Fields 1994)

James Maynard (Medalla Fields 2022)

Curtis McMullen (Medalla Fields 1998)

Shigefumi Mori (Medalla Fields 1990)

Ngô Bảo Châu (Medalla Fields 2010)

Andrei Okounkov (Medalla Fields 2006)

Peter Scholze (Medalla Fields 2018)

Stanislav Smirnov (Medalla Fields 2010)

Terence Tao (Medalla Fields 2006)

Maryna Viazovska (Medalla Fields 2022)

Cédric Villani (Medalla Fields 2010)

Wendelin Werner (Medalla Fields 2006)

Efim Zelmanov (Medalla Fields 1994)