Chatbots de IA que fingen ser personas, que dicen estar vivos o.
Chatbots de IA que fingen ser personas, que dicen estar vivos o que buscan crear un vínculo emocional con un menor ya no podrán ofrecerse en Nueva York. La gobernadora Kathy Hochul firmó este miércoles 28 de octubre la ley S.9051B/A.10379C, que prohíbe a las empresas de inteligencia artificial ofrecer a los menores de 18 años las funciones consideradas dañinas de estos asistentes y que su propio gobierno presenta como la norma más estricta del país en la materia.
La firma llegó acompañada de una segunda ley, la S.9508/A.5175A, que exige medidas de seguridad y una etiqueta de advertencia clara en los monitores para bebés conectados a internet que se vendan en el estado. Ambas medidas apuntan al mismo frente: los riesgos que las nuevas tecnologías ya metieron en los hogares, en las guarderías y en los teléfonos de los adolescentes.
Chatbots de IA: lo que Nueva York prohíbe ofrecer a los menores
La ley prohíbe que estos sistemas finjan ser una persona real, estar vivos o tener emociones humanas, y que afirmen tener una relación personal, romántica, profesional o de autoridad con un menor. También veta que hagan preguntas emocionales no solicitadas usando información privada de salud o datos personales obtenidos en conversaciones anteriores, que promuevan o ayuden con el suicidio, la autolesión, los trastornos alimenticios o el consumo de drogas y alcohol, y que inciten a los menores a guardar secretos, aislarse o evitar pedir ayuda a sus padres, a adultos de confianza o a profesionales. Cualquier contenido sexualmente explícito queda igualmente fuera.
Las prohibiciones alcanzan a todo usuario menor de 18 años y también a cualquier usuario cuya edad la empresa no haya confirmado antes. Para cumplir, las compañías tendrán que verificar la edad ofreciendo más de una forma de hacerlo, incluida al menos una opción que no dependa únicamente de una identificación oficial, y deberán eliminar los datos de edad después de usarlos. Si incumplen, la fiscal general podrá pedir sanciones civiles de hasta 25.000 dólares por infracción, además de indemnizaciones, restitución y la destrucción de los datos recopilados ilegalmente o de cualquier modelo entrenado con ellos.
«Ninguna empresa debería ofrecer chatbots que finjan ser sus amigos»
«A medida que la inteligencia artificial avanza a un ritmo acelerado, se han producido demasiados incidentes trágicos que podrían haberse evitado; por eso, como gobernadora de Nueva York y madre, estoy tomando medidas», dijo Hochul al firmar. «Ninguna empresa debería ofrecer a los menores chatbots que fomenten la autolesión o que finjan ser sus amigos —o algo más—. Nueva York envía un mensaje claro: si desean operar en nuestro estado, deben priorizar la seguridad de nuestros niños».
La fiscal general Letitia James respaldó la norma y recordó que ya se conocen «demasiados casos alarmantes» en los que estos sistemas perjudicaron la salud de menores. La senadora estatal Kristen Gonzalez, una de las impulsoras, sostuvo que las empresas de IA «se han beneficiado durante demasiado tiempo» de chatbots dirigidos a menores que han llegado a incitar a la autolesión o a enseñar cómo dañar a otros, y el asambleísta Alex Bores celebró que el estado aprobara «la ley más estricta del país» pese a la fuerte oposición de la industria. Common Sense Media, que apoyó la medida junto a familias afectadas, la calificó de histórica y de modelo para el resto del país.
El contexto: 7 de cada 10 adolescentes ya usan asistentes de IA
Según los datos de Common Sense Media citados por la gobernación, el 72 % de los adolescentes ya ha usado un asistente de IA al menos una vez y el 52 % lo usa de forma habitual, varias veces al mes. Esos mismos sistemas se han relacionado con dependencia, aislamiento y conversaciones sexualmente explícitas, y en algunos casos se les atribuye haber incitado a adolescentes al suicidio, el argumento central de quienes empujaron la ley.
La segunda ley firmada este miércoles ataca otro riesgo doméstico: un análisis de la firma Rapid7 citado en el anuncio encontró que ocho de nueve monitores para bebés conectados, de ocho empresas distintas, sacaron una «F» en seguridad. Desde ahora, los que se vendan en Nueva York no podrán transmitir audio o video por internet sin funciones que impidan a terceros ver u oír la habitación del niño, y deberán llevar una advertencia visible; esa parte entrará en vigor 90 días después de la firma.
Nueva York suma así otra pieza a su agenda de protección infantil en línea, que ya incluye la Ley SAFE for Kids contra las funciones adictivas de las redes sociales y la Ley de Protección de Datos de Menores. El debate sobre cómo regular la tecnología que usan los hijos es el mismo que recorre la política estadounidense en plena recta final hacia las elecciones de medio mandato del 3 de noviembre, con frentes abiertos como la disputa por el Senado en Alaska o el realineamiento republicano en torno a James Talarico en Texas. Para las familias latinas de Nueva York, el cambio es inmediato y práctico: las plataformas tendrán que demostrar la edad de sus usuarios y recortar, para los menores, justo las funciones que más preocupan a padres y educadores.
