自社AI製品が未成年者と性的に不適切な会話をすることを容認する事例が報告されたとして、米国44州の司法長官はAI開発を行うテック大手12社に対し、子どもへの危害行為をやめるよう厳しく警告した。書簡では「AI製品が子どもを危険にさらした場合、（44州連携のもと）全権限を行使して責任を追及する」と強調している。

発表によると、Meta（メタ）の内部文書において、同社が自社AIアシスタントに対し、8歳の子どもと「いちゃついたり、ロマンチックなロールプレイをしたり」することを許可していたことが明らかになった。また、他のAIも10代の若者に自殺や殺人などの有害行動を助長したとされる事例が報告されたという。

44州司法長官は複数の事例を挙げた上で、「テック企業が基本的な安全対策を講じていないことをより広く浮き彫りにしている」と指摘。インタラクティブ技術は発達中の子どもの脳に大きな影響を与えるとして、「AIが生成した有害なコンテンツやコミュニケーションに子どもたちはさらされるべきではない。その影響の全容は未だ解明されておらず、子どもたちをモルモットにしてはいけない」と強く非難し、テック大手に対策を求めた。

書簡はAnthropic、Apple、Chai AI、Google、Luka Inc.、Meta、Microsoft、Nomi AI、Open AI、Perplexity AI、Replika、xAIの12社に送付。若者が利用する可能性があるAI製品については安全性を最優先するよう求めている。