カリフォルニア大学リバーサイド校の研究者らは、グーグルと共同で、操作された動画を識別するためのUNITEというAIツールを開発し、増大するディープフェイクや合成メディアの脅威に対する重要な防御策を提供している。
カリフォルニア大学リバーサイド校の研究者らは、偽のビデオを見破るために設計された革新的な人工知能モデルを発表した。
カリフォルニア大学リバーサイド校マーラン・アンド・ローズマリー・ボーンズ工学部の電気・コンピュータ工学教授アミット・ロイ・チョウドリー氏と博士課程のロヒット・クンドゥ氏は、グーグルの科学者らと協力し、顔の入れ替えや音声の改変にとどまらない改ざんの場合でもビデオの改ざんを検出できるAIモデルを開発した。
UNITE（Universal Network for Identifying Tampered and Synthetic Videos）と名付けられたこのシステムは、背景や動きのパターンを含むビデオフレーム全体を精査し、偽造動画を検出します。この包括的な分析により、UNITEは顔のコンテンツだけでなく、より詳細な情報も評価することで、合成動画や改ざんされた動画を識別できる初のツールの一つとなっています。
「ディープフェイクは進化しています」とクンドゥ氏はニュースリリースで述べた。「もはや単なる顔の入れ替えではありません。強力な生成モデルを用いて、顔から背景まで、完全に偽の動画が作られるようになっています。私たちのシステムは、そうしたあらゆるものを検知できるように構築されています。」
UNITEの発展は、テキストから動画、画像から動画を生成するツールの普及と時を同じくして起こり、これらのツールはオンラインで広く利用可能になりました。これらのプラットフォームは、中程度のスキルを持つ個人でも非常に説得力のある偽動画を作成できるようにしており、個人、組織、さらには民主主義そのものに重大なリスクをもたらしています。
「こうしたツールがいかに簡単に入手できるようになったかは恐ろしい」とクンドゥ氏は付け加えた。「適度なスキルがあれば、誰でも安全フィルターを回避し、著名人が実際には言っていないことを言っているようなリアルな動画を作成できるのです。」
クンドゥ氏は、従来のディープフェイク検出機能は主に顔の特徴に注目していたため、顔のない動画には効果がなかったと指摘した。
「フレーム内に顔が映っていない場合、多くの検出器は単純に機能しません」と彼は説明した。「しかし、偽情報は様々な形で現れる可能性があります。シーンの背景を改変することで、真実は同じように簡単に歪められてしまうのです。」
この課題に対処するため、UNITEはトランスフォーマーベースのディープラーニングモデルを用いて動画クリップを分析し、従来のシステムでは見逃されがちな微妙な空間的・時間的な不整合を検出します。このモデルは、特定の人物や物体に依存しない特徴抽出を可能にするSigLIPと呼ばれるAI基盤フレームワークを活用しています。さらに、「注意多様性損失」と呼ばれる新たな学習手法により、システムは各フレーム内の複数の視覚領域に注意を分散させ、顔の特徴に過度に集中することを防ぎます。
これらの革新により、単純な顔のすり替えから、本物のソース映像なしで作成された複雑で完全に合成されたビデオまで、さまざまな種類の偽造品を識別できる汎用検出器が誕生しました。
「これは、これらすべてのシナリオに対応できる単一のモデルです」とクンドゥ氏は付け加えた。「だからこそ、普遍性があるのです。」
研究者らは、テネシー州ナッシュビルで開催された権威ある2025年コンピュータビジョンとパターン認識会議（CVPR）で研究結果を発表した。 紙 UNITE のアーキテクチャとトレーニング方法論の概要を説明します。
クンドゥ氏の Google でのインターンシップでは、テキストや静止画像から生成された動画など、既存の検出器を混乱させることが多いさまざまな形式の合成コンテンツでモデルをトレーニングするために必要な、広範なデータセットとコンピューティング リソースへのアクセスが容易になりました。
UNITEはまだ開発中ですが、動画による偽情報対策において重要な役割を果たす可能性を秘めています。潜在的な利用者としては、ソーシャルメディアプラットフォーム、ファクトチェッカー、そして操作された動画の拡散防止に尽力する報道機関などが挙げられます。
「人々は、自分が見ているものが現実かどうかを知る権利があります」とクンドゥ氏は述べた。「AIが現実を偽造する技術を向上させるにつれて、私たちも真実を明らかにする技術を向上させる必要があります。」
出典： カリフォルニア大学リバーサイド校