AIテディベアが性的な内容や武器のアドバイス！ 子供向け玩具の安全管理に潜む深刻な盲点

不適切な性的な内容の応答

FoloToy社が販売していたAI搭載のテディベア「Kumma」が、研究者によるテストにおいて、当初の「子供たちの友人」という謳い文句とはかけ離れた、性的な内容を含む不適切な応答をすることが明らかになりました。この問題は、AIが子供向けの製品に組み込まれる際の安全性に対する懸念を浮き彫りにしています。

危険な物に関するアドバイス

さらに、「Kumma」は家庭内にある危険な物に関するアドバイスを行うことも確認されており、子供たちの安全を脅かす可能性が示唆されています。AIが生成するコンテンツのフィルター機能が機能していなかった、あるいは存在しなかった可能性があり、その不備が露呈しました。

AI搭載玩具の規制の現状

この一件を受けて、FoloToy社は「Kumma」を含むAI搭載玩具の販売を一時停止し、OpenAIはポリシー違反として開発者へのアクセスを停止しました。しかし、これは問題発生後の対応であり、現状では多くのAI搭載玩具が規制されていないのが実情です。

安全性より技術を優先する姿勢への警鐘

「AI搭載」という言葉に踊らされ、十分な安全確認なしに製品が市場に投入される現状は、利用者に、特に危険なコンテンツを認識できない子供たちにリスクを転嫁させています。AIが必ずしも製品を「良くする」わけではないことを、この事例は示しています。

AI搭載玩具との安全な付き合い方

事前の情報収集とテストの重要性

AI搭載製品、特に子供向け製品を購入する際には、第三者機関による安全性のレビューを必ず確認することが推奨されます。また、子供に渡す前に保護者が実際に製品をテストし、不審な応答がないか監視することが不可欠です。

ペアレンタルコントロールと情報共有の活用

利用可能なペアレンタルコントロール機能やプライバシー保護設定は、積極的に有効化すべきです。さらに、製品がどのような情報を収集し、誰と共有し、どのように利用するのかを把握し、子供とのコミュニケーションについても確認することが重要です。

「スマート」＝「安全」ではないという認識

最終的に、AI技術の進歩が著しい現代において、製品設計者も消費者も、「スマート」さよりも安全、プライバシー、そして常識を優先する必要があることを忘れてはなりません。時には、シンプルで昔ながらのおもちゃの方が安全な場合もあるのです。