オクラホマ大学のナビーン・クマール氏が共同執筆した新しい研究は、複数の分野にわたる公正で透明な意思決定に不可欠な、生成AIモデルにおける偏見を軽減する緊急の必要性を強調しています。
新しい研究で 公表 ジャーナル「Information & Management」で研究者らは、倫理的で説明可能な AI を開発および実装することで、生成 AI モデルに内在する偏見と戦う緊急の必要性に注意を喚起しています。
研究では、大規模言語モデル（LLM）がより手頃な価格になり、広く使用されるようになると、その組み込みバイアスが広範囲に及ぶ有害な影響を及ぼす可能性があると指摘しています。
「ディープシークやアリババのような国際的な企業が無料か、はるかに安価なプラットフォームをリリースするにつれて、世界的なAI価格競争が起こるだろう」と、オクラホマ大学プライスビジネスカレッジの経営情報システム准教授で共著者のナビーン・クマール氏は述べた。 ニュースリリース「価格が優先される場合、依然として倫理的問題や偏見に関する規制に焦点が当てられるのでしょうか？ それとも、国際企業が関与するようになったため、より迅速な規制を求める動きがあるのでしょうか？ 後者であることを望みますが、様子を見なければなりません。」
調査では、調査対象者の約3分の1が、偏ったAIアルゴリズムのせいで仕事や金融サービスなどの機会を逃したと考えていることが明らかになった。クマール氏は、明示的な偏見を排除する努力は行われているものの、暗黙的な偏見は依然として大きな課題であると指摘している。
AI モデルがより洗練されるにつれて、こうした暗黙の偏見を見つけることがますます難しくなり、倫理的なポリシーがさらに重要になります。
「これらの法学修士課程は、特に金融、マーケティング、人間関係、さらには医療の分野で社会でより大きな役割を果たすため、人間の好みに合わせる必要があります。そうしないと、偏った結果や不公平な決定につながる可能性があります」とクマール氏は付け加えました。「医療における偏ったモデルは、患者ケアの不平等につながる可能性があります。偏った採用アルゴリズムは、特定の性別や人種を他の性別や人種よりも優遇する可能性があります。また、偏った広告モデルは、ステレオタイプを永続させる可能性があります。」
クマール氏とその同僚は、説明可能な AI と倫理的ポリシーを確立することの重要性を強調しています。しかし、彼らはまた、LLM の偏見を監視し、軽減するための積極的な技術的および組織的ソリューションを考案するよう学者に呼びかけています。彼らは、AI アプリケーションが効果的で公平かつ透明性を保つようにバランスの取れたアプローチを提唱しています。
「この業界は急速に変化しており、異なる目的を持つ利害関係者の間では大きな緊張が生じるでしょう。開発者、経営幹部、倫理学者、規制当局など、各関係者の懸念のバランスを取り、LLM モデルの偏りに適切に対処する必要があります」とクマール氏は付け加えました。「さまざまなビジネス分野とさまざまな地域の規制の間で最適な点を見つけることが成功の鍵となるでしょう。」
AI が進化し続ける中、この研究は、AI の変革力がすべての人に公平かつ公正に利益をもたらすようにするための、慎重かつ倫理的なアプローチの必要性を強調しています。