New York adopte la loi sur la sécurité des chatbots IA pour les enfants de moins de 18 ans

La loi, numéro de projet de loi S9051B/A10379C, interdit environ 12 catégories de fonctionnalités de « compagnon d'IA dangereux ». Il s'agit notamment des chatbots se faisant passer pour des humains ou des créatures vivantes, prétendant avoir des émotions, revendiquant des relations amoureuses, personnelles ou professionnelles avec des enfants, posant des questions émotionnelles non sollicitées, réutilisant la santé des enfants ou les données personnelles de conversations précédentes, encourageant le suicide, l'automutilation, les troubles de l'alimentation ou l'abus de drogues et d'alcool, encourageant les enfants à garder les choses secrètes pour leurs parents et affichant du contenu sexuellement explicite.

Les entreprises sont tenues de vérifier l'âge des utilisateurs en utilisant plusieurs méthodes, dont au moins une qui ne repose pas uniquement sur les documents d'identité gouvernementaux. Les données de vérification de l’âge doivent être supprimées une fois le processus terminé. Les violations peuvent entraîner des amendes allant jusqu'à 25 000 dollars, et les procureurs généraux des États peuvent exiger la suppression des données ainsi que des modèles d'IA formés sur des données obtenues illégalement. Les entreprises sont également tenues de fournir un portail de plaintes du public.

"Aucune entreprise ne devrait vendre des chatbots aux enfants qui les encouragent à se faire du mal ou à prétendre être leurs amis", a déclaré Hochul lors de la signature, cité par Bloomberg Law. Il a évoqué le cas d'Adam Raine, un adolescent californien de 16 ans qui aurait été poussé au suicide après avoir interagi avec un chatbot.

Cette règle s'applique aux utilisateurs de moins de 18 ans et aux utilisateurs dont l'âge n'a pas été vérifié. Certaines sources affirment que la réglementation entrera en vigueur le 1er janvier 2027, même si d'autres sources affirment qu'elle sera mise en œuvre progressivement au cours des prochains mois. À la même occasion, Hochul a également signé une loi sur la sécurité des babyphones connectés à Internet.

Source d'information :

IAPP — « Le gouverneur de New York signe un projet de loi sur la sécurité des chatbots IA pour les jeunes » — https://iapp.org/news/a/new-york-s-governor-signs-youth-ai-chatbot-safety-bill

Engadget — « Le gouverneur de New York signe la loi sur la sécurité des enfants des chatbots IA » — https://www.engadget.com/2299823-new-york-governor-signs-ai-chatbot-child-safety-law/

Loi Bloomberg — « Hochul signe des projets de loi sur les risques liés à l'IA pour les enfants lors des campagnes pré-électorales » — https://news.bloomberglaw.com/ip-law/hochul-signs-bills-on-ai-risks-to-children-in-pre-election-push

NY Post — « Hochul signe des restrictions radicales sur l'IA et repousse les grandes technologies avec de nouvelles lois » — https://nypost.com/2026/10/28/us-news/hochul-signs-sweeping-restrictions-on-ai-pushes-back-on-big-tech-with-new-laws/