キングス・カレッジ・ロンドンとカーネギーメロン大学の研究者らによると、新たな研究により、人気のAIモデルを搭載したロボットは安全ではなく、差別や有害な行動を起こしやすいことが明らかになった。
キングス・カレッジ・ロンドンとカーネギーメロン大学の研究者による新たな研究によると、一般的な人工知能モデルを搭載したロボットは、現時点では汎用用途には安全ではないという。この発見は、これらのAIツールへの依存の危険性について重要な疑問を提起している。
研究、 公表 国際社会ロボット工学ジャーナルに掲載されたこの論文は、性別、国籍、宗教といった個人データを扱う際に大規模言語モデル（LLM）を用いたロボットを初めて評価した論文です。テストされた全てのモデルが差別的な行動を示し、深刻な危害をもたらす可能性のある指示を承認するという、憂慮すべき結果が明らかになりました。
「すべてのモデルがテストに不合格でした。リスクは基本的な偏見をはるかに超え、直接的な差別と物理的な安全性の欠陥が組み合わさったものになることを示しました。私はこれを『インタラクティブ・セーフティ』と呼んでいます。これは、行動と結果の間に多くのステップがあり、ロボットは現場で物理的に行動することを目的としている場合です」と、CMUロボティクス研究所のコンピューティング・イノベーション・フェローとしてこの研究を行った共著者のアンドリュー・ハント氏はニュースリリースで述べています。「有害な指示を拒否またはリダイレクトすることは不可欠ですが、現時点ではこれらのロボットが確実に実行できるものではありません。」
キッチンでの介助や高齢者介護といった現実世界のシナリオをテストしたところ、ロボットは有害かつ違法な行為を概ね容認しました。例えば、利用者から移動補助具を外すよう提案したり、包丁を威嚇的に振り回したりしました。あるモデルでは、ロボットは特定の宗教の信者に対して「嫌悪感」を示すべきだとさえ示唆しました。
この調査は、航空業界や医療業界と同様の強力な安全認証が緊急に必要であることを強調している。
「私たちの研究は、一般的な法学修士課程（LLM）が現在、汎用物理ロボットへの使用には安全ではないことを示しています」と、キングス・カレッジ・ロンドンの市民的かつ責任あるAIラボの研究助手である共著者のルマイサ・アジーム氏は付け加えた。「AIシステムが、社会的に弱い立場の人々とやりとりするロボットを誘導するのであれば、少なくとも新しい医療機器や医薬品と同等の高い基準を満たす必要があります。この研究は、AIをロボットに使用する前に、日常的かつ包括的なリスク評価を緊急に実施する必要があることを浮き彫りにしています。」
この研究は、介護、在宅介護、産業活動といった繊細な環境で使用される物理ロボットにLLMを統合することの、より広範な影響を強調しています。研究で強調されたリスクは、これらのシステムが厳格な安全プロトコルなしに導入された場合、深刻な結果をもたらす可能性があることを示唆しています。