オハイオ州立大学の新しい研究によると、ソーシャルメディアで普及しているパーソナライズされたアルゴリズムはユーザーの焦点を狭め、学習の低下や不正確な情報への過信の増加につながる可能性があるという。
オハイオ州立大学の新しい研究によると、YouTubeなどのプラットフォーム上でのユーザーの過去の選択に基づいてオンラインコンテンツをキュレートするパーソナライズされたアルゴリズムは、学習を妨げ、現実の認識を歪める可能性があるという。
掲載 『Journal of Experimental Psychology: General』に掲載された研究では、新しいトピックについて学習する参加者に表示される情報をアルゴリズムで制御すると、参加者の関心は利用可能な情報の限られたサブセットに絞られることが明らかになりました。その結果、参加者は質問に不正確に答えることが多くなりましたが、誤った回答に高い自信を示しました。
心理学の博士論文の一環としてこの研究を主導したギウォン・バグ氏によると、この研究結果は憂慮すべきものだという。
パーソナライズされたアルゴリズムに関する多くの研究では、身近な政治問題や社会問題に対する意見形成に及ぼす影響について調査しています。
「しかし、私たちの研究は、あるテーマについて何も知らない場合でも、これらのアルゴリズムはすぐに偏見を構築し始め、現実の見方を歪める可能性があることを示している」と、現在ペンシルベニア州立大学の博士研究員であるバグ氏はニュースリリースで述べた。
オハイオ州立大学の心理学教授で共著者のブランドン・ターナー氏によると、この研究結果は、多くの人がパーソナライズされたアルゴリズムによって提供される限られた情報を容易に利用して、広範囲にわたる包括的な結論を導き出す可能性があることを示唆しているという。
「人々はアルゴリズムに従うと情報を見逃すが、自分が知っていることが、これまで経験したことのない他の特徴や環境の他の部分にも一般化できると考えている」とターナー氏はニュースリリースで述べた。
この研究では、ある仮説的なシナリオを提示しました。特定の国の映画に馴染みのない人が、ストリーミングサービスのアルゴリズムによるおすすめサービスを利用します。最初にアクション・スリラー映画を選択すると、アルゴリズムは同じジャンルの映画をさらに提案し、視聴者はその国の映画産業や文化全般について、限定的で偏った理解を抱くことになります。
研究者らは、架空の実験設定を用いて346人の参加者にこれらの効果をテストした。参加者はさまざまな特徴をサンプリングすることで、結晶のようなエイリアンのカテゴリーについて学習するよう求められた。
参加者には 2 つの条件がありました。1 つはすべての機能をランダムにサンプリングするもの、もう 1 つはパーソナライゼーション アルゴリズムによって優先する機能を選択するものでした。
結果は、アルゴリズムに頼る参加者は、より少ない選択的特徴をサンプリングし、限定的でしばしば誤った分類に過度に自信を持っていることを示しました。
「彼らは、自分の選択が正しかったときよりも、実際に間違っていたときのほうが、より自信を持っていた。彼らの知識が少なかったことを考えると、これは憂慮すべきことだ」とバグ氏は付け加えた。
ターナー氏は、特に若い学習者にとっての潜在的な社会的影響を指摘した。
「もし本当に世界について学ぼうとしている幼い子供が、ユーザーにもっと多くのコンテンツを消費させることを優先するオンラインアルゴリズムとやりとりしていたら、どうなるでしょうか？」とターナー氏は付け加えた。「似たようなコンテンツを消費することは、学習とは必ずしも一致しません。これはユーザーにとって、そして最終的には社会にとって問題を引き起こす可能性があります。」
出典： オハイオ州立大学