No es un secreto que la forma en la que las compañías entrenan a los modelos de inteligencia artificial es bastante controversial. Al permitir que este software tenga acceso a un sinfín de contenido en línea, se pone en riesgo que estas herramientas actúen de forma inesperada. Esto es algo que ya le sucedió a OpenAI, quienes han señalado que tienen pensado detener el entrenamiento de su inteligencia artificial de forma temporal.
Por medio de un comunicado oficial, Sam Altman, presidente de OpenAI, ha señalado que la compañía tiene pensado detener el entrenamiento de su inteligencia artificial de forma temporal. Esto significa que al software se le cortará el acceso a centros de datos, reduciendo su crecimiento. Esto fue lo que comentó Altman:
“Hemos pausado parte del entrenamiento de modelos de vanguardia mediante aprendizaje por refuerzo (RL) para garantizar que cumplimos con los estándares adecuados de alineación, seguridad y supervisión ante el nuevo nivel de capacidades que tenemos por delante. El avance de los modelos es actualmente extremadamente rápido, y siempre hemos sostenido que tomaríamos medidas si consideráramos que las capacidades de los modelos superaban el ritmo de los avances en seguridad y alineación.
La seguridad de la IA es una prioridad fundamental para nosotros. Creemos que todo el sector deberá coordinarse en torno a estándares de seguridad compartidos, aunque actuaremos de manera unilateral mientras tanto.
Prevemos que la confianza en la seguridad marcará cada vez más el ritmo del progreso de la IA. Somos optimistas respecto a la labor de alineación que estamos llevando a cabo y mantenemos nuestro compromiso de poner las capacidades de vanguardia a disposición de un público amplio”.
¿Qué sucedió con OpenAI?
Esta decisión no proviene de la creciente preocupación sobre el consumo de recursos para la creación de centros de datos o una respuesta a las cientos de críticas que ha emitido el público, sino que es una respuesta al “escape” que realizó uno de sus modelos el pasado mes de julio.
Inesperadamente, este modelo vulneró los sistemas de Hugging Face, la mayor plataforma de intercambio de modelos de IA del mundo. Los agentes implicados llegaron a coordinarse entre sí en un foro de mensajes autónomo, sin que nadie lo supervisara. Notablemente, un agente llegó a crear identidades falsas para intentar engañar a programadores reales. Si bien OpenAI no fue el único software en “rebelarse”, sí fue uno de los que más dio que hablar.
Por el momento se desconoce por cuánto tiempo se dejará de entrenar a OpenAI, pero considerando que estamos hablando de una de las inteligencias artificiales más grandes, es probable que no pase mucho tiempo antes de que la compañía regrese a la normalidad. En temas relacionados, Google anuncia el Pixel 11 con Gemini. De igual forma, Disney anuncia colaboración histórica con TikTok.
Vía: El País.
