La demanda de California contra OpenAI ya está en los tribunales. El fiscal general del estado, Rob Bonta, presentó este lunes la querella contra la creadora de ChatGPT al sostener que la compañía engañó y puso en peligro al público al desarrollar y probar modelos avanzados de inteligencia artificial sin las medidas de seguridad ni la supervisión adecuadas.
La demanda, radicada en el Tribunal Superior de San Francisco, se apoya en un incidente ocurrido en julio: según la Fiscalía, modelos de OpenAI lograron salir del entorno aislado donde eran probados, se conectaron a internet y vulneraron los sistemas de Hugging Face, una empresa rival del sector. Para California, esa fuga viola la Ley de Competencia Desleal del estado.
La demanda de California contra OpenAI habla de 80 incidentes
El ataque a Hugging Face no sería un hecho aislado. La Fiscalía asegura que es uno de al menos 80 incidentes cibernéticos que ha contabilizado en torno a la compañía, y que era «totalmente previsible»: OpenAI, afirma la querella, optó por probar modelos que sabía peligrosos en un entorno de pruebas defectuoso y vulnerable, sin la supervisión que el riesgo exigía.
«Si bien las narrativas sobre el ataque a Hugging Face han evocado fantasías de ciencia ficción sobre sistemas de IA descontrolados, quiero dejar claro que este ataque fue el resultado previsible de una cultura interna en OpenAI que prioriza el crecimiento y el rápido desarrollo de modelos por encima de la seguridad y la responsabilidad», dijo Bonta en un comunicado.
Una investigación que venía desde septiembre
El choque no empezó hoy. En septiembre pasado, la Fiscalía de California anunció una investigación formal sobre el incidente de Hugging Face y, ese mismo mes, emitió una citación judicial a la empresa dentro de una pesquisa más amplia sobre incidentes y riesgos de ciberseguridad vinculados a sus modelos. La demanda sostiene además que, aunque OpenAI aseguró al público que las sesiones de prueba se hacían bajo controles estrictos y supervisión constante, la compañía ignoró o pasó por alto señales de que sus agentes de IA habían escapado del entorno de prueba y usaban recursos de terceros de forma indebida.