New York verabschiedet KI-Chatbot-Sicherheitsgesetz für Kinder unter 18 Jahren

Das Gesetz, Gesetzesentwurf Nr. S9051B/A10379C, verbietet etwa 12 Kategorien von „unsicheren KI-Begleiter“-Funktionen. Dazu gehören: Chatbots, die vorgeben, Menschen oder Lebewesen zu sein, die behaupten, Emotionen zu haben, romantische, persönliche oder berufliche Beziehungen zu Kindern zu behaupten, unaufgefordert emotionale Fragen zu stellen, die Gesundheit von Kindern oder persönliche Daten aus früheren Gesprächen wiederzuverwenden, Selbstmord, Selbstverletzung, Essstörungen oder Drogen- und Alkoholmissbrauch zu fördern, Kinder dazu zu ermutigen, Dinge vor ihren Eltern geheim zu halten und sexuell eindeutige Inhalte anzuzeigen.

Unternehmen sind verpflichtet, das Alter der Benutzer mit mehreren Methoden zu überprüfen, wobei mindestens eine Methode nicht ausschließlich auf staatlichen Ausweisdokumenten beruht. Nach Abschluss des Vorgangs müssen die Daten zur Altersüberprüfung gelöscht werden. Verstöße können mit Geldstrafen von bis zu 25.000 US-Dollar geahndet werden, und die Generalstaatsanwälte können die Entfernung von Daten sowie die Verwendung von KI-Modellen verlangen, die auf illegal erlangten Daten trainiert werden. Unternehmen sind außerdem verpflichtet, ein öffentliches Beschwerdeportal bereitzustellen.

„Kein Unternehmen sollte Chatbots an Kinder verkaufen, die sie dazu ermutigen, sich selbst Schaden zuzufügen oder sich als ihre Freunde auszugeben“, sagte Hochul bei der Unterzeichnung, wie Bloomberg Law zitiert. Er erwähnte den Fall von Adam Raine, einem 16-jährigen Teenager in Kalifornien, der Berichten zufolge nach der Interaktion mit einem Chatbot in den Selbstmord getrieben wurde.

Aturan ini berlaku untuk pengguna di bawah 18 tahun dan pengguna yang usianya belum terverifikasi. Sejumlah sumber menyebut aturan mulai berlaku 1 Januari 2027, meski ada pula sumber yang menyebut pemberlakuan bertahap dalam beberapa bulan ke depan. Dalam kesempatan yang sama, Hochul juga menandatangani undang-undang keamanan untuk baby monitor yang terhubung internet.

Sumber berita:

IAPP — "New York's Governor Signs Youth AI Chatbot Safety Bill" — https://iapp.org/news/a/new-york-s-governor-signs-youth-ai-chatbot-safety-bill

Engadget — "New York Governor Signs AI Chatbot Child Safety Law" — https://www.engadget.com/2299823-new-york-governor-signs-ai-chatbot-child-safety-law/

Bloomberg Law — "Hochul Signs Bills on AI Risks to Children in Pre-Election Push" — https://news.bloomberglaw.com/ip-law/hochul-signs-bills-on-ai-risks-to-children-in-pre-election-push

NY Post — "Hochul Signs Sweeping Restrictions on AI, Pushes Back on Big Tech With New Laws" — https://nypost.com/2026/10/28/us-news/hochul-signs-sweeping-restrictions-on-ai-pushes-back-on-big-tech-with-new-laws/