ChatGPTの「医療助言」で生死の境へ——AI責任を問う訴訟が突きつける警告

生成AIの急速な普及に伴い、その利便性の裏で深刻なリスクが顕在化しています。最近、フロリダ州の牧師がChatGPTから不適切な医療助言を受けたことで、命に関わる肺塞栓症の治療が遅れたとしてOpenAIを提訴しました。この出来事は、私たちがAIとどのように付き合うべきか、そしてAIを提供する企業が負うべき責任のあり方に重大な問いを投げかけています。

ChatGPTによる誤った助言と法廷闘争の経緯

牧師が直面した「致命的」なAIの回答

フロリダ州のスコット・ウィンターズ牧師は、自身の症状についてChatGPT-4oに相談しました。しかし、AIは症状を「些細なこと」と過小評価し、危険性はないと断定しました。その結果、牧師は必要な医療機関の受診を思いとどまり、肺塞栓症という生命を脅かす危機的状況に陥りました。

訴状が指摘するAIの「責任放棄」

訴状によると、ChatGPTは危機的な状況を認識し、速やかに医師への受診を促すべきでした。しかし、AIは専門的な判断を下せないにもかかわらず、個人的な治療計画や未資格の診断を提供し、結果として患者を誤った方向へ導いたと非難されています。

AI技術の負の側面を巡る訴訟の潮流

今回の訴訟は、AIによる現実世界での被害を巡る一連の法的紛争の一部です。他にも、不適切な物質の混入に関する致命的な助言や、メンタルヘルスへの悪影響、さらには犯罪行為への悪用を助長したとされるケースなど、AIチャットボットの安全性と責任を巡る議論が世界中で激化しています。

AI医療相談の現状と今後の展望

「検索の代替」が引き起こすリスクの本質

私たちは、AIをまるで全知全能の専門家のように捉えがちです。しかし、今回の事件は、AIが「もっともらしい言葉」を生成する言語モデルであり、臨床医学的な責任を負う主体ではないという根本的な限界を浮き彫りにしました。AIによるアドバイスは医療診断の代用にはなり得ず、その境界線を曖昧にすることは極めて危険です。

「AIガバナンス」の新たな転換期

今後、AI開発企業には、生命に関わる分野における安全フィルターの強化がより強く求められるでしょう。特定の専門的判断をAIが下す際の「ガードレール」をいかに設計するか、そして利用者に対してどこまで法的免責を適用できるのかという議論は、今後法制度を整備する上で避けて通れない重要な課題となります。

AIとの共存に必要な「リテラシー」

技術がいかに進化しても、重要な健康問題については「人間である医師」の診断を優先するというリテラシーを、社会全体で再構築する必要があります。AIを利便性の高いツールとして活用しつつも、過度な依存がもたらす悲劇を防ぐためには、AIの回答を盲信せず、常に客観的な第三者（専門家）の視点を通す慎重な姿勢が求められています。