専門家は、憲法上の権利が確実に保護されるよう透明性と公平性を重視し、刑事司法におけるAIの責任ある使用に関するガイドラインを提案している。
人工知能が日常生活に浸透している時代に、それが刑事司法制度に侵入すると、「AIは人生を変えるような重大な決定において公平性を保つことができるのか？」という難しい疑問が生じます。
AIは、犯罪予測、DNA分析、懲役刑の勧告など、従来は裁判官や仮釈放委員会が担ってきた業務にますます関与するようになっています。AIシステムは効率性と客観性を向上させる可能性を秘めていますが、そのリスクは大きく、公平性、透明性、説明責任といった喫緊の課題を提起しています。
2024年XNUMX月、国立司法研究所（NIJ）は、 情報を要求する 司法における AI の将来的な利用を導くため。
コンピューティング研究協会は、サンタフェ研究所のクリス・ムーア教授やアリゾナ州立大学のコンピュータサイエンスのステファニー・フォレスト教授など、学界と産業界の専門家チームを招集して対応を求めた。
彼らの主な主張は、特に憲法上の権利が危険にさらされている場合の透明性に集中している。
「被告人もその弁護士も裁判官も理解できない不透明なシステムが、個人の自由に関する重要な決定に影響を与えるという考えは、私たちの個別化された司法制度に反する」と著者らは指摘した。「不透明なシステムは、被告が対面できない告発者、反対尋問できない証人、反論できない証拠を提示する証人のようなものだ。」
透明性の向上により AI の有用性が低下するのではないかという当初の懸念にもかかわらず、説明可能な AI の進歩は有望な解決策をもたらします。
研究者たちは、AI のプロセスをわかりやすく説明する手法を開発し、有用性を維持しながら理解を深めることができるようになりました。
2024 年 XNUMX 月に NIJ に提出された勧告は、いくつかの重要な分野をカバーしています。
- データとプロセスの透明性: AI を使用するか、AI の推奨事項の影響を受けるかに関係なく、すべての関係者は、AI 主導の意思決定の背後にあるデータと理由を理解する必要があります。
- 出力の具体性: AI による推奨事項は、簡単に誤解される可能性のある定性的なラベルではなく、明確な確率を提供する定量的なものである必要があります。
- 人間の判断に取って代わるものではない：AIは、特に憲法上の権利や拘留に関する問題において、人間の意思決定に取って代わるべきではありません。むしろ、AIは裁判官を支援するデジタルコンサルタントとして機能する可能性があります。
「審査員がシステムの出力が何を意味するのか、そしてどのような間違いを犯す可能性があるのかを理解していれば、システムは有用なツールになると思います」とムーア氏は付け加えた。「審査員の代わりではなく、平均的な、あるいは基準となる勧告を提供するためのツールです。」
チームはその後、 詳細な意見 Communications of the ACM の 13859 月号で、公民権とアメリカの価値観を守りながら AI の安全で信頼できるテストを求める大統領令 XNUMX についてコメントしています。
この文脈で、ムーア氏は AI が達成しなければならない重要なバランス、つまり司法手続きに負担をかけずに公平性と透明性を向上させることを強調しています。
「AIが司法制度の透明性と説明責任を高めるのであれば、AIを活用すべきだ。そうでなければ、AIを使うべきではない」とムーア氏は述べた。
ムーア氏は、AIに必要な透明性を公正信用報告法（FCRA）のような制度と比較しています。FCRAは信用判断に用いられるデータの開示を義務付けていますが、企業に具体的なプロセスではなく、データのみを開示するよう強制しています。司法においても同様のアプローチをとれば、透明性と実用性のバランスをとることができるでしょう。
結論として、刑事司法制度における AI の責任ある使用は、手続きの公正さと透明性を不明瞭にするのではなく、高める能力にあると言えます。
ムーア氏は雄弁にこう述べています。「私たちは常に、AIの推奨を説明し、それがどのように生成されたかを疑問視する用意をしておくべきだ。」
出典： サンタフェ研究所