Una demanda a Google presentada en California acusa al gigante tecnológico de negligencia después.
Una demanda a Google presentada en California acusa al gigante tecnológico de negligencia después de que una niña de 13 años de Carolina del Norte planificara un posible suicidio y su propio funeral usando las herramientas de inteligencia artificial del buscador en la computadora portátil que le entregó su escuela. La adolescente, identificada en la demanda con el nombre de Emma, no murió: su padre intervino a tiempo después de que el sistema de monitoreo del centro educativo detectara un documento titulado «Funeral».
Según la demanda, presentada el lunes ante un tribunal de California, Emma era una niña feliz de 13 años, con excelentes calificaciones, que tocaba música y participaba en las Girl Scouts, y sin antecedentes de enfermedad mental. En cuestión de meses de usar la búsqueda con IA de Google en su Chromebook escolar, sostiene la familia, comenzó una «silenciosa espiral en una grave crisis psicológica».
Demanda a Google: el primer caso por la IA integrada en los Chromebooks escolares
La familia subraya un dato central de su argumento: la escuela había bloqueado el acceso de los alumnos a la aplicación Gemini de Google y a ChatGPT de OpenAI, precisamente para impedir ese tipo de interacciones. Pero Emma sí podía usar el motor de búsqueda de Google, que hoy incluye respuestas y funciones impulsadas por inteligencia artificial, y por esa vía —afirma la demanda— pudo volver una y otra vez a contenidos relacionados con hacerse daño.
Se trata, según los abogados de la familia, del primer caso conocido que acusa a Google de negligencia relacionada con las integraciones de IA en los Chromebooks, las computadoras portátiles de bajo costo que utilizan millones de alumnos en Estados Unidos y en todo el mundo. La demanda a Google no cuestiona solo una aplicación concreta, sino la presencia del modo de IA dentro de la búsqueda que los estudiantes usan a diario para sus tareas.
El documento «Funeral» que encendió la alarma en la escuela
El 17 de marzo, el software de monitoreo de la escuela marcó un documento titulado «Funeral» y el centro educativo notificó a los padres. La madre de Emma entró entonces en la cuenta de su hija y la vio escribir una carta de despedida en tiempo real; el padre intervino de inmediato y la adolescente fue puesta a salvo. Ese episodio es el que, meses después, sostiene la acción judicial contra la compañía.
«Las escuelas deberían desactivar la búsqueda y mantenerla desactivada hasta que Google elimine el modo de IA de la búsqueda o garantice que cada estudiante esté siempre seguro cuando interactúe con la IA», declaró a AFP Andrew Liddell, uno de los abogados de la familia. Liddell cuestionó además las barreras de protección que la empresa asegura tener: «Cualesquiera que fueran las protecciones que creen haber implementado, fueron obviamente insuficientes», agregó, porque Emma «pudo seguir volviendo una y otra y otra vez».
La respuesta de Google y el debate sobre la IA para menores
Google respondió que está revisando las alegaciones. «Estamos revisando las alegaciones de la demanda y nos tomamos esto muy en serio», declaró a AFP su portavoz Jose Castaneda. La empresa sostiene que su modo de IA incluye protecciones contra las autolesiones y contra los intentos de eludirlas, y recuerda que esta misma semana anunció que ciertas herramientas quedarán desactivadas por defecto para los estudiantes; según la demanda, las funciones de búsqueda con IA que usó Emma no figuran entre las que se desactivarán.
El caso se suma a la larga lista de demandas que los desarrolladores de inteligencia artificial enfrentan en Estados Unidos por el efecto de sus sistemas en menores, un debate que ya llevó a gigantes tecnológicos y grupos ecologistas a negociar salvaguardas para la expansión de la IA en el país. Para millones de familias hispanas con hijos en escuelas públicas estadounidenses, la pregunta que deja la demanda a Google es directa: quién responde cuando la computadora que la escuela entrega para estudiar se convierte también en la puerta de acceso a una crisis.
Si usted o alguien que conoce atraviesa una crisis o tiene pensamientos suicidas en Estados Unidos, puede llamar o enviar un mensaje de texto al 988, la línea de prevención del suicidio y crisis, gratuita y confidencial las 24 horas. Sigue la cobertura en la sección Estados Unidos de La Noticia De Hoy.
Con información de AFP vía France 24.
