Nueva York aprueba la Ley de seguridad de chatbots de IA para niños menores de 18 años

La ley, número de proyecto de ley S9051B/A10379C, prohíbe alrededor de 12 categorías de funciones de "compañeros de IA inseguros". Estos incluyen: chatbots que se hacen pasar por humanos o criaturas vivientes, afirman tener emociones, afirman tener relaciones románticas, personales o profesionales con niños, hacen preguntas emocionales no solicitadas, reutilizan la salud de los niños o datos personales de conversaciones anteriores, alientan el suicidio, las autolesiones, los trastornos alimentarios o el abuso de drogas y alcohol, alientan a los niños a mantener cosas en secreto de sus padres y muestran contenido sexual explícito.

Las empresas deben verificar las edades de los usuarios mediante varios métodos, y al menos uno de ellos no se basa únicamente en documentos de identidad gubernamentales. Los datos de verificación de edad deben eliminarse una vez que se complete el proceso. Las infracciones pueden conllevar multas de hasta 25.000 dólares, y los fiscales generales estatales pueden exigir la eliminación de datos, así como modelos de inteligencia artificial entrenados con datos obtenidos ilegalmente. Las empresas también deben proporcionar un portal público de quejas.

"Ninguna empresa debería vender chatbots a niños que los animen a hacerse daño a sí mismos o a pretender ser sus amigos", dijo Hochul en la firma, citado por Bloomberg Law. Mencionó el caso de Adam Raine, un adolescente de 16 años de California que, según informes, se suicidó tras interactuar con un chatbot.

Esta regla se aplica a usuarios menores de 18 años y usuarios cuya edad no haya sido verificada. Varias fuentes afirman que la normativa entrará en vigor el 1 de enero de 2027, aunque también hay fuentes que afirman que se implementarán gradualmente a lo largo de los próximos meses. En la misma ocasión, Hochul también firmó una ley de seguridad para vigilabebés conectados a Internet.

Fuente de noticias:

IAPP — "El gobernador de Nueva York firma un proyecto de ley sobre seguridad de los chatbots de IA para jóvenes" — https://iapp.org/news/a/new-york-s-governor-signs-youth-ai-chatbot-safety-bill

Engadget — "El gobernador de Nueva York firma una ley de seguridad infantil con chatbots de IA" — https://www.engadget.com/2299823-new-york-governor-signs-ai-chatbot-child-safety-law/

Ley Bloomberg: "Hochul firma proyectos de ley sobre los riesgos de la IA para los niños en el impulso previo a las elecciones" - https://news.bloomberglaw.com/ip-law/hochul-signs-bills-on-ai-risks-to-children-in-pre-election-push

NY Post — "Hochul firma amplias restricciones a la IA y rechaza a las grandes tecnologías con nuevas leyes" — https://nypost.com/2026/10/28/us-news/hochul-signs-sweeping-restrictions-on-ai-pushes-back-on-big-tech-with-new-laws/