ユタ州で40年前に起きた殺人事件の裁判で、これまで前例のない法的領域が試されようとしている。死刑の量刑審理において、陪審員が死亡した女性の声の合成レプリカ、つまり ElevenLabs のソフトウェアを用いて作成された AI音声クローン を証拠として聞くことができるかどうか、という点だ。ウェーバー郡の検察官は、この技術によって陪審員が再びジョイス・ヨースト自身の言葉を聞くことができると主張している。一方で弁護側の弁護士や独立した技術専門家は、それがはるかに危険なこと、すなわち人の生死を決める立場にある人々を誤導しかねないと警告している。
Summary
重要なポイント
- ウェーバー郡の検察官は、ダグラス・ラヴェルの差し戻し量刑審理において、殺人被害者ジョイス・ヨーストのAI生成音声クローンを再生したいと考えている。
- ヨーストは1985年、レイプ事件で彼に不利な証言をするのを阻止するためにラヴェルに殺害された。遺体は今も発見されていない。
- このクローンは、ヨーストが失踪直前に予備審問で行った証言の音声クリップと書き起こしを用い、ElevenLabs のソフトウェアで作成された。
- ユタ大学の2人の専門家は、このAI音声が陪審員に不当に影響を与える可能性があり、その正確性を検証することはできないと警告している。
- マイケル・ディレダ判事は、11月中旬までに証拠能力について判断を下す見込みであり、量刑審理は現在2027年2月下旬に予定されている。
検察、殺人被害者のAI音声クローンの使用を提案
ユタ州ファーミントンの検察官は、ダグラス・ラヴェルの運命を決める陪審員の前で、ジョイス・ヨーストの声の合成再構成音声を再生する許可を裁判官に求めている。この要請の中心にあるのは、ヨーストが殺害され、二度と証言台に立てなくなる前、数十年前に行った証言の一部だ。
検察によれば、ダグラス・ラヴェルは1985年8月10日の夜、別件のレイプ裁判で自分に不利な証言をするのを阻止するためにヨーストを拉致し殺害した。ヨーストの遺体はこれまで一度も発見されていないが、ラヴェルは1993年の司法取引交渉の中で殺害を認めている。彼にはこれまで2度死刑判決が下されたが、いずれも控訴審で破棄された。現在、来年2月に新たな量刑審理が予定されている。
ElevenLabs ソフトウェアを用いたAI音声クローンの作成
この再構成音声を作るために、検察側チームはAI音声合成企業である ElevenLabs に依頼し、同社のソフトウェアにヨーストが話している実際の音声クリップと、彼女が失踪直前の予備審問で行った証言の書き起こしを入力した。この組み合わせにより、ツールはヨーストが同じ言葉を話しているかのように聞こえる新たな合成音声を生成できたという。これは、殺人被害者に関連する法廷証拠として、AIによるクローン音声を用いようとする、知られている限り初期の試みの一つである。
弁護側専門家が指摘するAI音声証拠のリスクと限界
ラヴェルの弁護団が招いた2人のコンピュータ科学者は、ElevenLabs のAI音声再構成はどれほど説得力があっても、生身の証人や実際の録音のようには信用できないと主張している。そして陪審員がその違いを見分けられない可能性があると警告している。
ユタ大学コンピュータサイエンス准教授で、カリフォルニア大学アーバイン校で博士号を取得したサミール・パティルは、たとえ人間でないと分かっていても、人々はAI生成コンテンツに日常的に感情的な愛着を抱くと法廷で証言した。「みんなAIだと分かっている」とパティルは、ChatGPT のようなツールを指して述べた。「人間は関与していないのに、人々はそこに感情的な愛着を持ち始めている。まるで本当に怒っているかのように罵倒したりする。そしてその機能を説明するときには、それを生きている何かのように語る。」彼は、陪審員が合成されたヨーストの声にも同じように反応し、機械が生成した近似にすぎないと説明されていても、それを実際の証言として扱ってしまう危険があると警告した。
パティルはさらに技術的な懸念も示した。クローン作成に用いられた書き起こしは、ヨーストの言葉そのものしか記録しておらず、実際にどのように話したかは反映していないという点だ。抑揚、リズム、声の調子といった、研究者がパラ言語的手がかりと呼ぶ要素がなければ、AIの出力がヨーストが証言台で実際にどのように話していたかと一致しているかどうかを確認する術はない。「ジョイス・ヨーストに似た声であることは、必ずしも正確であることを意味しませんし、彼女がその証言でその言葉をどのように話したかについて正確であることをまったく意味しません」とパティルは述べた。「その音声記録が存在しない以上、それを検証することは不可能なのです。」
ElevenLabs による学習データ非公開への懸念
2人目の弁護側証人であるケネス・マリノは、ユタ大学の機械学習助教授であり、元 Google DeepMind のリサーチサイエンティストだ。彼は、テキスト読み上げシステムが一般的にどのように構築されるかを法廷で説明した。AI企業は、モデルの学習にあたって、オンラインで大量に入手しやすい音声を何でも利用する傾向があると彼は述べた。「音声の場合、おそらくポッドキャストやYouTube動画のようなものが多いでしょう」とマリノは言う。その後、出力は重みと呼ばれる内部パラメータを用いて微調整されるが、マリノによれば ElevenLabs は学習データも重みも公開していない。「つまり、どのようなデータで学習されたのか、私たちには本質的に全く分からないのです」と彼は述べた。
こうした不透明性は、法的な争点となっている。ラヴェルの弁護団は、音声クローンツールがどのように学習・改良されたのかに関する詳細を求めて ElevenLabs に召喚状を送った。現時点で同社はこれに応じておらず、合成されたヨーストの音声が実際にどのように生成されたのかについて、裁判所は独立した検証手段を持たないままとなっている。
死刑事件の量刑審理におけるAI利用をめぐる前例のない法的問題
裁判所はこれまで、死亡したり出廷不能となった証人が再び証言できない場合、その人物の証言録取書を人間の代理人が朗読することを認めてきた。しかし、事件記録によれば、死刑が争点となる事件で、殺人被害者の宣誓証言をAI生成の音声クローンを通じて提示した例はこれまでない。この違いこそが、ElevenLabs のAI音声再構成をめぐる今回の争いがウェーバー郡をはるかに超えて注目を集めている理由であり、他の裁判所が合成証拠をどのように扱うかについて、ひな型となるのか、それとも警鐘となるのかを左右しうる。
マイケル・ディレダ判事は、AI音声クローンを陪審員に再生できるかどうかについて、11月中旬までに判断を下す見込みだ。ラヴェルの量刑審理は現在、2027年2月下旬に開始される予定だが、弁護団はすでに延期を求める可能性が高いと示唆しており、スケジュールは、この根本的な法的問題と同様に、なお流動的なままである。
この問題がユタ州の一つの法廷を超えて重要である理由は、生成音声ツールが安価で広く利用可能になるにつれ、検察官と弁護人の双方が、合成再構成が有用な補足説明の域を超え、不信頼である、あるいは不当に説得力を持ちすぎる証拠となるのはどの時点なのかを判断する圧力にさらされるからだ。この事件での判断は、アメリカの裁判所が生死に関わる問題においてAI生成音声をどのように扱うかについての、現実世界での初期のベンチマークの一つとなる可能性がある。
FAQ
なぜ検察はジョイス・ヨーストのAI生成音声クローンを使いたいのですか？
検察は、今後行われる量刑審理でヨーストの過去の証言を合成音声として再生し、本人が証言できない状況でも、陪審員に彼女自身の言葉を聞かせることができると主張している。
AI音声クローンを法廷で使用することについて、専門家はどのような懸念を示していますか？
専門家は、AI音声クローンが陪審員の感情に偏りを生じさせる可能性があること、また、元の証言との正確性を検証するために必要な声の調子やリズムといったパラ言語的手がかりが欠けていることを警告している。
死刑事件でAI生成音声が証拠として使われた前例はありますか？
いいえ。殺人被害者の証言をAI音声クローンとして死刑事件で用いることは前例がなく、この争いは初の判例となりうる法的問題となっている。
AI音声証拠の証拠能力について、裁判官はいつ判断を下しますか？
マイケル・ディレダ判事は、ラヴェルの量刑審理が現在予定されている2027年2月下旬の前、11月中旬までに判断を下す見込みである。
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”なぜ検察はジョイス・ヨーストのAI生成音声クローンを使いたいのですか？”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”検察は、今後行われる量刑審理でヨーストの過去の証言を合成音声として再生し、本人が証言できない状況でも、陪審員に彼女自身の言葉を聞かせることができると主張している。”}},{“@type”:”Question”,”name”:”AI音声クローンを法廷で使用することについて、専門家はどのような懸念を示していますか？”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”専門家は、AI音声クローンが陪審員の感情に偏りを生じさせる可能性があること、また、元の証言との正確性を検証するために必要な声の調子やリズムといったパラ言語的手がかりが欠けていることを警告している。”}},{“@type”:”Question”,”name”:”死刑事件でAI生成音声が証拠として使われた前例はありますか？”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”いいえ。殺人被害者の証言をAI音声クローンとして死刑事件で用いることは前例がなく、この争いは初の判例となりうる法的問題となっている。”}},{“@type”:”Question”,”name”:”AI音声証拠の証拠能力について、裁判官はいつ判断を下しますか？”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”マイケル・ディレダ判事は、ラヴェルの量刑審理が現在予定されている2027年2月下旬の前、11月中旬までに判断を下す見込みである。”}}]}
本記事は人工知能の支援を受けて作成され、編集部による確認を経ています。
