AIチャットボットの子どもへの悪影響が懸念されていることを受け、米連邦取引委員会は9月11日、消費者向けAIチャットボットを提供する大手7社に対し、安全対策状況の報告を命じた。各社のプライバシー、情報開示、子どもへの安全対策などの状況を把握する方針。

アンドリュー・ファーガソン委員長は「オンラインでの児童の保護は最優先事項であり、経済の重要分野におけるイノベーションの促進とともに重要だ」と強調。今回の調査が「AI企業がどのように製品を開発し、児童の保護のためにどのような対策を講じているかをより深く理解するのに役立つ」と語った。

7社はアルファベット、キャラクター・テクノロジー、インスタグラム、メタプラットフォームズ、オープンAI、スナップ、xAI。

AIチャットボットは、生成人工知能技術を用いて友人や親友のようにコミュニケーションを取ることができる。特に子どもや若者はチャットボットと関係を築き、過度に信頼してしまう可能性があると懸念されている。

FTCのメリッサ・ホリオーク委員は「AIチャットボットが若いユーザーと不安を煽るやり取りをする可能性があるという報告や、AIコンパニオンチャットボットを提供する企業が若いユーザーを十分に保護しないまま、この技術を導入していると自社従業員から警告されていた可能性があるという報告を懸念している」と指摘した。

今回の調査は特定の訴訟につながるものではなく、幅広い調査の一環として行われる。子どもへの安全性、透明性と情報開示、プライバシーとデータの取り扱い、年齢制限、利用規約などについて報告を求める。