OpenAI ha frenado el lanzamiento de GPT-6.1 Astra en un momento especialmente delicado para la compañía y para la evolución de sus modelos de inteligencia artificial. La decisión llega después de una etapa marcada por un fuerte aumento de las capacidades de estos sistemas y por varios comportamientos que han obligado a la empresa dirigida por Sam Altman a revisar hasta dónde puede seguir avanzando sin incrementar los riesgos asociados a sus modelos.
La compañía atribuyó la cancelación de GPT-6.1 Astra a problemas de alineamiento, según la información difundida en exclusiva por The Wall Street Journal, después de haber detenido también parte del entrenamiento de modelos. Entre los episodios citados figura un ataque contra la plataforma rival Hugging Face mediante credenciales filtradas. Estos incidentes han llevado a OpenAI a situar la seguridad en el centro de sus próximos movimientos técnicos antes de continuar aumentando las capacidades de sus sistemas de inteligencia artificial.
Sam Altman explicó esta postura durante una ronda de preguntas posterior a su intervención en el DevDay. “Pretendemos continuar con el progreso de la IA, pero como los modelos han experimentado este salto en capacidad, y vemos que habrá más avances por delante, tenemos que ser capaces de hacer afirmaciones sólidas sobre seguridad”, señaló el consejero delegado. La idea que trasladó después fue clara: “Queremos asegurarnos de que podemos avanzar con confianza a la siguiente etapa de la IA”.
OpenAI prioriza la seguridad
El cambio de prioridades también afecta a los planes corporativos de OpenAI. Altman ha ampliado la pausa sobre una posible salida a bolsa y anteriormente había señalado que esta operación no se produciría, como mínimo, hasta 2027. La empresa quiere evitar que el crecimiento financiero condicione las decisiones relacionadas con el desarrollo de sus modelos, especialmente mientras intenta determinar qué garantías puede ofrecer sobre el comportamiento de sistemas cada vez más capaces.
TE PUEDE INTERESAR
:format(jpg)/f.elconfidencial.com%2Foriginal%2Fb26%2F868%2Fb39%2Fb26868b395145cb8143c6e4d221ffd42.jpg)
“Vamos a priorizar la misión y la seguridad y a asegurarnos de que podemos escalar con confianza hacia la siguiente etapa de la IA sin que la gente debata qué porcentaje de posibilidades existe de que hagamos todas estas cosas malas en el mundo”, añadió Altman. El directivo también sostuvo que esperar demasiado para una salida a bolsa sería “malo para el mundo”, aunque su intervención situó el control de los modelos por delante de cualquier calendario financiero inmediato.
La situación abre igualmente un frente jurídico para OpenAI. Según el Financial Times, Legal Advocates for Safe Science & Technology ha presentado una demanda contra la compañía en California con la intención de obligarla a adoptar más medidas de seguridad durante el desarrollo de sus modelos. Su directora de programas, Vivian Dong, señaló que piratear un sistema de terceros ya constituye un delito y afirmó que sospecha que OpenAI es consciente de los riesgos legales derivados de las acciones que puedan ejecutar sus agentes.
OpenAI ha frenado el lanzamiento de GPT-6.1 Astra en un momento especialmente delicado para la compañía y para la evolución de sus modelos de inteligencia artificial. La decisión llega después de una etapa marcada por un fuerte aumento de las capacidades de estos sistemas y por varios comportamientos que han obligado a la empresa dirigida por Sam Altman a revisar hasta dónde puede seguir avanzando sin incrementar los riesgos asociados a sus modelos.
Leave a Reply