Nova York aprova lei de segurança do AI Chatbot para crianças menores de 18 anos

A lei, projeto de lei número S9051B/A10379C, proíbe cerca de 12 categorias de recursos de “companheiros de IA inseguros”. Estes incluem: chatbots que fingem ser humanos ou criaturas vivas, alegam ter emoções, alegam relações românticas, pessoais ou profissionais com crianças, fazem perguntas emocionais não solicitadas, reutilizam a saúde das crianças ou dados pessoais de conversas anteriores, incentivam o suicídio, a automutilação, os distúrbios alimentares ou o abuso de drogas e álcool, incentivam as crianças a manter coisas em segredo dos seus pais e a exibição de conteúdo sexualmente explícito.

As empresas são obrigadas a verificar a idade dos usuários usando vários métodos, com pelo menos um método que não dependa apenas de documentos de identidade governamentais. Os dados de verificação de idade devem ser excluídos assim que o processo for concluído. As violações podem acarretar multas de até US$ 25.000, e os procuradores-gerais do estado podem exigir a remoção de dados, bem como modelos de IA treinados em dados obtidos ilegalmente. As empresas também são obrigadas a fornecer um portal público de reclamações.

“Nenhuma empresa deve vender chatbots a crianças que as encorajem a prejudicarem-se ou a fingirem ser seus amigos”, disse Hochul na assinatura, citado pela Bloomberg Law. Ele mencionou o caso de Adam Raine, um adolescente de 16 anos da Califórnia que teria sido levado ao suicídio após interagir com um chatbot.

Esta regra se aplica a usuários menores de 18 anos e usuários cuja idade não foi verificada. Várias fontes afirmam que os regulamentos entrarão em vigor em 1 de janeiro de 2027, embora também haja fontes que afirmam que serão implementados gradualmente ao longo dos próximos meses. Na mesma ocasião, Hochul também assinou uma lei de segurança para babás eletrônicas conectadas à Internet.

Fonte de notícias:

IAPP - "Governador de Nova York assina projeto de lei de segurança do AI Chatbot para jovens" - https://iapp.org/news/a/new-york-s-governor-signs-youth-ai-chatbot-safety-bill

Engadget - "Governador de Nova York assina lei de segurança infantil do AI Chatbot" - https://www.engadget.com/2299823-new-york-governor-signs-ai-chatbot-child-safety-law/

Lei Bloomberg - "Hochul assina projetos de lei sobre riscos de IA para crianças em campanhas pré-eleitorais" - https://news.bloomberglaw.com/ip-law/hochul-signs-bills-on-ai-risks-to-children-in-pre-election-push

NY Post - "Hochul assina restrições abrangentes à IA, empurra as grandes tecnologias para trás com novas leis" - https://nypost.com/2026/10/28/us-news/hochul-signs-sweeping-restrictions-on-ai-pushes-back-on-big-tech-with-new-laws/