OpenAI, la empresa con sede en San Francisco conocida por desarrollar ChatGPT, confirmó el viernes que ha disuelto su equipo dedicado a mitigar los peligros a largo plazo de la inteligencia artificial (IA). Esta decisión se produce en un momento en que la empresa enfrenta un creciente número de críticas.
Hace semanas, OpenAI comenzó la disolución del llamado grupo de “superalineación”, integrando a sus miembros en otros proyectos e investigaciones. El equipo de superalineación estaba encargado de garantizar que una futura “IA general”, aquella que logre ser tan inteligente como los humanos, esté alineada con los valores de la sociedad.
Jan Leike, el directivo de este equipo responsable de la seguridad, explicó en la red social X que renunció debido a desacuerdos fundamentales con la alta dirección sobre las prioridades de la empresa. Según Leike, la empresa se encuentra en una disyuntiva entre innovación y seguridad. “Hemos llegado a un punto de ruptura”, dijo Leike, instando a todos los empleados de la start-up a que “actúen con la gravedad” que justifica lo que están construyendo.
Sam Altman, cofundador y consejero delegado de OpenAI, se mostró “muy triste por la marcha” de Leike. “Tiene razón, aún nos queda mucho por hacer (por la investigación sobre alineación y seguridad), y estamos decididos a hacerlo”, añadió Altman.
El equipo de superalineación también estaba dirigido por Ilya Sutskever, cofundador de OpenAI, quien anunció su salida el martes. Con ChatGPT, OpenAI lanzó la revolución de la IA generativa, capaz de producir contenidos a partir de una simple petición en lenguaje cotidiano. Esta innovación ha entusiasmado a Silicon Valley, pero también ha generado preocupaciones sobre su seguridad y el uso de los datos entre muchos analistas y reguladores, desde Estados Unidos hasta Europa.
Esta semana, OpenAI presentó una nueva versión de ChatGPT, que ahora puede mantener conversaciones orales fluidas con sus usuarios, un paso más hacia asistentes de IA cada vez más personales y potentes. Sin embargo, la disolución del equipo de superalineación plantea preguntas sobre cómo la empresa equilibrará la innovación con la seguridad en el futuro.
