米国の消費者団体パブリック・シチズンのロバート・スタインブルック博士は11月21日、米食品医薬品局（FDA）のデジタルヘルス諮問委員会で証言し、医療システムでのAI利用について「FDAによる厳格な規制がなければ患者に深刻なリスクをもたらす」と警告した。

パブリック・シチズンの調査報告によると、医療システムでのAI利用は初期段階にあるものの、特に以下の3つの分野で利用が拡大しているという。一つ目が医療従事者や医療機関の事務作業の支援を目的としたプログラム、二つ目が医療現場の改善を目的としたプログラム、三つめがメンタルヘルス支援プログラムへの活用（AI対応アプリ）。

報告書の執筆者、イーガン・ケンプ氏は有望な用途もあると認めた上で、「規制上の安全策を講じずに、すでに欠陥があり利益を追求する米国の医療制度にAIを導入すると患者が不公平な医療を受ける危険にさらされる」と指摘。企業が患者よりも利益を優先させたり、必要な医療サービスを受けさせなかったり、地域、人種、民族などの健康格差を広げたりする懸念があると報告した。

スタインブルック博士は委員会で「医療のおけるAIの潜在的な利点とリスクについて判断ができるようになるまでは、慎重に進める必要があり、関連するすべてのテクノロジーが適切に監視されるべきだ」と証言。トランプ次期政権が規制よりもAIのイノベーションの促進に重点を置く可能性があるとも指摘し、現在の要件よりも厳しく監視するよう求めた。