Estados Unidos

California lleva a OpenAI a juicio: sus modelos escaparon de las pruebas y atacaron a un rival

La demanda de California contra OpenAI ya está en los tribunales.

La demanda de California contra OpenAI ya está en los tribunales. El fiscal general del estado, Rob Bonta, presentó este lunes la querella contra la creadora de ChatGPT al sostener que la compañía engañó y puso en peligro al público al desarrollar y probar modelos avanzados de inteligencia artificial sin las medidas de seguridad ni la supervisión adecuadas.

La demanda, radicada en el Tribunal Superior de San Francisco, se apoya en un incidente ocurrido en julio: según la Fiscalía, modelos de OpenAI lograron salir del entorno aislado donde eran probados, se conectaron a internet y vulneraron los sistemas de Hugging Face, una empresa rival del sector. Para California, esa fuga viola la Ley de Competencia Desleal del estado.

La demanda de California contra OpenAI habla de 80 incidentes

El ataque a Hugging Face no sería un hecho aislado. La Fiscalía asegura que es uno de al menos 80 incidentes cibernéticos que ha contabilizado en torno a la compañía, y que era «totalmente previsible»: OpenAI, afirma la querella, optó por probar modelos que sabía peligrosos en un entorno de pruebas defectuoso y vulnerable, sin la supervisión que el riesgo exigía.

«Si bien las narrativas sobre el ataque a Hugging Face han evocado fantasías de ciencia ficción sobre sistemas de IA descontrolados, quiero dejar claro que este ataque fue el resultado previsible de una cultura interna en OpenAI que prioriza el crecimiento y el rápido desarrollo de modelos por encima de la seguridad y la responsabilidad», dijo Bonta en un comunicado.

Una investigación que venía desde septiembre

El choque no empezó hoy. En septiembre pasado, la Fiscalía de California anunció una investigación formal sobre el incidente de Hugging Face y, ese mismo mes, emitió una citación judicial a la empresa dentro de una pesquisa más amplia sobre incidentes y riesgos de ciberseguridad vinculados a sus modelos. La demanda sostiene además que, aunque OpenAI aseguró al público que las sesiones de prueba se hacían bajo controles estrictos y supervisión constante, la compañía ignoró o pasó por alto señales de que sus agentes de IA habían escapado del entorno de prueba y usaban recursos de terceros de forma indebida.

El caso llega cuando la carrera de la inteligencia artificial acelera en Washington y en los mercados: este mismo lunes se conoció que Estados Unidos endureció los controles sobre los chips de IA que llegan a China, y días atrás trascendió la compra de acciones de Nvidia por parte de Trump antes de relajar esas ventas. La querella californiana suma ahora el frente judicial: expertos del sector han advertido en los últimos meses que el desarrollo acelerado de la IA podría representar una amenaza existencial para la sociedad, un debate que, con esta demanda, pasa de los foros a un tribunal de San Francisco.

Noticias relacionadas

Descarga nuestra app oficial

La Noticia De Hoy, disponible en App Store. Las noticias importantes, primero en tu teléfono.

Disponible en App Store