Amazon のスピリチュアル関連セクションをスクロールしながら、ウィッカの儀式やヒンドゥー哲学に関する本を探しているところを想像してみてください。ところが、バーチャルな棚に並んでいる本の大半は、人間のライターが一度も手を触れていないかもしれないのです。これは、新たな調査が描き出した不穏な光景です。この調査では、AI が執筆した宗教書を対象に、機械生成テキストが、同プラットフォーム上の宗教・スピリチュアル出版物の巨大なシェアを、ひそかに占めるようになっていることが判明しました。
今週、AI 検出企業 Originality.ai が発表したこの調査では、Amazon で販売されている 14 の宗教・信条カテゴリにわたる 2,000 冊超の最近出版されたタイトルをサンプルとして分析しました。その結論は、「3 冊のうちほぼ 2 冊」が、人間ではなく人工知能によって書かれた可能性が高い、というものです。
Summary
主なポイント
- Originality.ai は、Amazon 上で分析した宗教書 2,034 冊のうち 1,272 冊、つまり 63% を AI が執筆した可能性が高いと判定しました。
- ウィッチクラフトカテゴリでは、AI 執筆の割合が78%と最も高く、ヒンドゥー教が 76%、道教が 74% に達しました。
- 研究者たちは、ウィッチクラフト関連書籍における事実検証可能な主張の53%を、虚偽の可能性があるとして警告しました。
- Amazon は、著者が自ら AI 執筆であることを申告する「名誉システム」に依存しており、実際にどれだけの著者が申告しているかについての公開データはありません。
- Amazon は、AI の学習データとしてページをスキャンするために、商業ルートを通じて紙の本を購入していることを認めています。
Amazon 上の宗教書の大半は AI 執筆の可能性
この調査結果の数字自体が、すでに衝撃的です。サンプルとなった宗教書の63%が、Originality.ai の検出モデルで高スコアを記録し、機械執筆の可能性が高いと分類されました。これは、ストアの片隅にあるニッチなジャンルに限られた話ではなく、複数の世界宗教をまたぐ商業カテゴリ全体で、過半数を占める結果となっています。
Originality.ai の調査と手法
レポート著者のマイケル・フレイマン氏によると、チームは各タイトルについて、本の説明文、著者プロフィール、テキストサンプルを分析し、それらをスコアリングモデルにかけました。スコアが 50 以上のものは「AI の可能性が高い」と分類されました。レビューした 2,034 冊のうち、1,272 冊がこの閾値を超えました。
フレイマン氏は、この結果を「証拠」ではなく「確率」として位置づけることに注意を払いました。「私たちは、本が確実に AI によって書かれたと断定するつもりはありません」と同氏は Decrypt に語っています。「私たちのモデルは、あるテキストが AI によって書かれた可能性を、一定の確度で判断するものです」。また、研究チームはフラグが立ったタイトルを手作業でスポットチェックしており、「この段階では、AI 執筆の可能性が高いコンテンツと人間が書いたコンテンツの違いを見分けられる」と付け加えました。
宗教カテゴリ別の AI 著者率
すべての信仰伝統が同じように影響を受けているわけではありません。Amazon の「Wicca, Witchcraft & Paganism」リストから抽出されたウィッチクラフトカテゴリは、ヒーリングクリスタル、ハーブ療法、ネガティブエネルギーの浄化といったテーマを扱うタイトルを含み、78% という最高値を記録しました。フレイマン氏は、出版社にとっての魅力は明らかだと指摘します。これらの本は、科学的な基準を満たす必要もなく、メンタルヘルスや「デトックス」に効くといった解決策を約束できるからです。
ヒンドゥー教がそれに続き 76%、道教は 74% でした。シク教、仏教、イスラム教、カトリック、プロテスタント、正教会、ユダヤ教は、その中間の数値となりました。モルモン教は 42%、無神論は 40%、サタニズムは 22% と、調査対象カテゴリの中で最も低い割合でした。研究者たちは、カテゴリごとにサンプル数が大きく異なるため、パーセンテージ同士を直接比較するには限界があると注意を促しています。
AI 検出における検証の難しさと誤検出の問題
AI 検出スコアが高いからといって、その本が自動的に誤解を招くとは限りません。しかしウィッチクラフトカテゴリでは、両者の間に不穏な重なりが見られました。研究者たちは、ウィッチクラフト関連タイトルにおける事実検証可能な主張の 53%を虚偽の可能性があるとしてフラグを立てており、誰のチェックも受けていない AI 生成のスピリチュアルな助言に、読者が健康やウェルネスの判断を委ねてしまうことへの懸念が高まっています。
AI 文章検出ツールの限界
Originality.ai のモデルのような検出ツールは、「判決」を下すのではなく、「可能性」を推定するために作られています。この違いは重要です。というのも、AI 検出技術全体として、これまで一貫性に欠ける実績があるからです。フレイマン氏自身が「決定的な証拠ではなく、一定の確度を示すもの」と表現していることは、どの検出器も精度を保証できていないという、業界全体の認識を反映しています。
AI 検出結果が食い違った事例
AI 検出器の信頼性の低さは、仮定の話ではありません。2024 年 10 月、アメリカ独立宣言を 4 つの異なるツールで分析したテストでは、まったく異なる判定が下されました。ZeroGPT は 97.93% を AI 生成と評価し、QuillBot は完全に人間が書いたものと判定し、GPTZero は人間による執筆の確率を 89% としました。同じ 18 世紀の文書に対して、3 つのツールが 3 通りの矛盾した答えを出したのです。
事態は 3 月にさらに深刻化しました。コロンビアの最高裁判所が、ある法的文書を検出器が AI 生成と判定したことを理由に却下したのです。皮肉なことに、その後弁護士が裁判所自身の判決文を同じ検出器にかけたところ、今度は 93% AI 生成と評価されました。この一件は、検出スコアを法廷で通用する証拠として扱うことが、いかに法的に不安定であるかを浮き彫りにしています。
AI コンテンツと学習における Amazon の役割と倫理的問題
Amazon は、互いに関連しつつも別個の 2 つの論争の中心に位置しています。ひとつは、マーケットプレイスで販売される AI 執筆本をどのように取り締まるかという問題。もうひとつは、自社の AI モデルを学習させるための生テキストを、どのように調達しているかという問題です。どちらの慣行についても、現時点で公に明かされている情報は多くありません。
AI コンテンツ開示に関する Amazon の名誉システム
フレイマン氏によると、「Amazon は、自社プラットフォーム上で AI 執筆コンテンツがどれほど一般的になっているかを把握しており、著者が自らの作品を AI 執筆と自己申告する名誉システムを採用している」とのことです。Originality.ai は、調査結果を公表する前に Amazon と共有しておらず、フレイマン氏は「実際にどれだけの著者が申告しているかについてのデータは一切持っていない」と率直に述べています。Amazon は Decrypt のコメント要請にすぐには応じませんでした。
この点が重要なのは、検証を伴わない自己申告制では、「形式上の要件」と「実際に起きていること」との間に大きなギャップが生じるからです。もし宗教書に占める AI 執筆の割合が本当に 3 分の 2 近くに達しているのであれば、名誉ベースのシステムだけでは、その一部しか把握できていない可能性があります。
AI 学習のための紙の本の利用と倫理的懸念
別の問題として、Amazon の学習データへの欲求は、紙の本の扱い方にも注目を集めています。ある調査では、希少本の出荷がラスベガスのAmazon施設に追跡されました。そこで作業員たちは本の背表紙を切り落とし、ページをスキャンして AI 学習用データセットに取り込んでいたのです。
Amazon は、「お客様が利用する製品やサービスの開発・改善を支援するために、商業ルートを通じて本を購入している」と認めましたが、その声明は AI 学習に特化した利用であることを明言するには至りませんでした。
この 2 つの問題を合わせて見ると、同じ根本的な緊張関係が浮かび上がります。一方では、宗教出版のようなカテゴリに、事実確認が行われておらず、場合によっては虚偽の主張を含む AI 生成テキストが洪水のように流れ込んでいます。他方では、そうした AI システムを構築するための生素材が、公的な説明責任がほとんどないまま、紙の本を破壊することで供給されています。販売者向けの AI 自己申告システムも、学習データ用の本の調達パイプラインも、その規模について十分な透明性を提供しておらず、読者・著者・書店は、実際に店頭の裏側で何が起きているのかを知るために、外部の調査に頼らざるを得ない状況に置かれています。
FAQ
Amazon 上の宗教書に対する AI 執筆検出の信頼性はどの程度ですか？
Originality.ai は、確実性ではなく「可能性」を示すスコアリングシステムを用いています。研究者たちは、この結果は AI 著者である「蓋然性」を示すものであり、決定的な証拠ではないと注意を促しています。
どの宗教書カテゴリが、AI 執筆の可能性が最も高いと判定されましたか？
ウィッチクラフトカテゴリが最も高く、サンプルとなったタイトルの 78% が AI 執筆の可能性が高いとしてフラグを立てられました。
AI 学習のために紙の本を利用する Amazon の手法には、どのような倫理的懸念がありますか？
Amazon は、時に希少本を含む紙の本を AI 学習のために購入・スキャンし、その後廃棄しています。これにより、資料そのものの破壊や、著者の明示的な同意がないことへの倫理的懸念が生じています。
Amazon は、著者に対して自著が AI 執筆であることの開示を義務づけていますか？
Amazon は、著者が自ら AI 執筆コンテンツであると申告する名誉システムを採用していますが、実際にどれだけの著者がこれを開示しているかについての公開データはありません。
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”Amazon 上の宗教書に対する AI 執筆検出の信頼性はどの程度ですか？”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Originality.ai は、確実性ではなく「可能性」を示すスコアリングシステムを用いています。研究者たちは、この結果は AI 著者である「蓋然性」を示すものであり、決定的な証拠ではないと注意を促しています。”}},{“@type”:”Question”,”name”:”どの宗教書カテゴリが、AI 執筆の可能性が最も高いと判定されましたか？”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”ウィッチクラフトカテゴリが最も高く、サンプルとなったタイトルの 78% が AI 執筆の可能性が高いとしてフラグを立てられました。”}},{“@type”:”Question”,”name”:”AI 学習のために紙の本を利用する Amazon の手法には、どのような倫理的懸念がありますか？”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Amazon は、時に希少本を含む紙の本を AI 学習のために購入・スキャンし、その後廃棄しています。これにより、資料そのものの破壊や、著者の明示的な同意がないことへの倫理的懸念が生じています。”}},{“@type”:”Question”,”name”:”Amazon は、著者に対して自著が AI 執筆であることの開示を義務づけていますか？”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Amazon は、著者が自ら AI 執筆コンテンツであると申告する名誉システムを採用していますが、実際にどれだけの著者がこれを開示しているかについての公開データはありません。”}}]}
本記事は人工知能の支援を受けて制作され、編集部による確認を経ています。
