OpenAI en la encrucijada: Previo al despido de Altman se descubrió que la “seguridad” de la IA no es tan real

En un giro digno de una trama de ciencia ficción, OpenAI, la empresa líder en inteligencia artificial, se ve envuelta en una historia que mezcla descubrimientos revolucionarios y tensiones internas.

Según fuentes cercanas, varios investigadores de OpenAI alertaron a la junta directiva sobre un potente avance en inteligencia artificial que podría cambiar el juego, justo antes de la sorprendente destitución del director general, Sam Altman.

Este descubrimiento, conocido como Q*, se convierte en el foco de atención y especulación, detalla Reuters.

Antes de su inesperado regreso, Altman había sido destituido, provocando una reacción en cadena entre más de 700 empleados que amenazaron con renunciar en solidaridad y unirse a las filas de Microsoft.

Te podría interesar: ¿Qué está pasando en OpenAI y cómo empezó todo? Esta es la cronología

La junta, aparentemente, tomó esta decisión después de recibir la carta de los investigadores, que mencionaba preocupaciones sobre la comercialización apresurada de avances tecnológicos y las posibles amenazas a la humanidad que podrían surgir.

Q* parece ser un avance significativo en la búsqueda de la inteligencia general artificial (AGI), según las fuentes.

Este nuevo modelo de IA, apodado “Q-Star”, demostró habilidades sorprendentes en la resolución de problemas matemáticos, incluso a un nivel comparable al de estudiantes de primaria.

Aunque las capacidades exactas de Q* no han sido verificadas de manera independiente, la mera posibilidad de que la IA pueda realizar matemáticas con una respuesta única correcta marca un hito en el desarrollo generativo de la inteligencia artificial.

La carta a la junta no solo mencionaba la destreza de Q*, sino que también señalaba posibles riesgos, sin especificar exactamente cuáles. La discusión sobre la amenaza que las máquinas altamente inteligentes podrían representar para la humanidad ha sido tema de debate entre científicos informáticos durante mucho tiempo.

En un giro adicional, se reveló la existencia de un equipo de “cientos de la IA” dedicado a mejorar el razonamiento de los modelos de IA existentes para realizar trabajos científicos. Este equipo, formado por la fusión de los equipos “Code Gen” y “Math Gen”, apunta a optimizar aún más las capacidades de la IA.

La destitución de Altman, quien lideró el ascenso de ChatGPT y atrajo inversiones de Microsoft para avanzar hacia AGI, añade una capa adicional de intriga a esta historia. A pesar de los eventos tumultuosos, Altman dejó entrever grandes avances en la cumbre de líderes mundiales en San Francisco, justo antes de ser cesado por la junta directiva.

En medio de este drama tecnológico, queda por ver cómo evolucionará el papel de OpenAI en el futuro de la inteligencia artificial y si Q* será realmente el cambio de juego que algunos anticipan. La fusión entre el genio innovador y la preocupación por posibles riesgos plantea interrogantes fascinantes sobre el camino que tomará la inteligencia artificial en los próximos capítulos de esta intrigante historia.