AIが書いた政策に「存在しない論文」？南アフリカがAI国家戦略を撤回した教訓

南アフリカ政府が策定を進めていた初の国家AI政策案が、突然の撤回に追い込まれました。その理由は、政策案の参考資料の中に、AIによって生成されたと思われる「実在しない論文や出典」が多数含まれていたことが発覚したためです。この事態は、国レベルの重要な政策策定プロセスにおいて生成AIを安易に利用することの重大なリスクを浮き彫りにしました。

AI政策案の撤回に至る経緯と背景

AI生成による「架空の出典」の混入

今回の問題は、政府が公開した政策草案の参考文献リストに、AIが捏造した可能性が高い架空の出典が含まれていたことで明るみに出ました。AIの「ハルシネーション（もっともらしい嘘）」現象が、国の公式な政策文書に入り込んでしまった形です。

通信・デジタル技術大臣による厳格な対応

Solly Malatsi通信・デジタル技術大臣は、この事態を単なる技術的なミスではなく、政策の完全性と信頼性を損なう重大な問題であると厳しく指摘しました。政府は現在、関係者に対する責任の追及を進めており、新たな政策案の公開時期は未定となっています。

「AI立国」という当初の目的と挫折

この政策は、南アフリカをアフリカ大陸におけるAIイノベーションのリーダーにすることを目指し、AI倫理委員会やAI規制当局の設立、民間企業へのインセンティブ付与などを盛り込む壮大な計画でした。しかし、この出発点で躓いたことは、AI戦略における足元の危うさを露呈させました。

AI活用時代に求められる「人間中心」のプロセス

「AIの効率性」と「人間の検証」のバランス

本件は、AIがもたらす執筆スピードや効率化という恩恵の裏側にある、検証コストの重要性を強調しています。AIは草案の作成を高速化できますが、その内容が正確であるか、客観的な裏付けに基づいているかを最終判断し、責任を負うのはあくまで人間です。AIの成果物を「ドラフト（草稿）」として受け取る際、それが人間による厳格なファクトチェックを通過していない状態がいかに危険であるかを、今回の出来事は強く証明しています。

政策立案プロセスにおける「AI信頼性」の根本的な課題

政策というものは、社会のルールを作る最も厳格性が求められる場の一つです。ここでAIの「確率的な出力」を鵜呑みにすることは、社会のインフラとしての公共政策の土台を揺るがす行為になり得ます。今後は、行政機関がAIを導入する際、単なる技術導入だけでなく、AIが出力した情報の「出所を追跡可能な管理プロセス」と、人間による段階的なレビューを義務付ける強固なガバナンス体制が不可欠になるでしょう。