OpenAI は、同社の最も重要な内部セーフガードの 1 つを密かに分解し、それを担当していたチームを解散しました。このチームは、同社の最も危険なリスクを見つけ出す役割を担っており、同社の人工知能モデルが引き起こし得る危険を監視していました。フィナンシャル・タイムズによると、2026 年 7 月末に解散した OpenAI のチームは「準備チーム（preparedness group）」と呼ばれ、モデルが生物兵器の開発や大規模なサイバー攻撃などに悪用される可能性があるかどうかにフラグを立て、その発生を防ぐ方法を検討する任務を負っていました。
Summary
重要なポイント
- フィナンシャル・タイムズによると、OpenAI は 2026 年 7 月末に準備チームを解散した。
- このチームの仕事は、AI モデルから生じる深刻なリスクを評価し、生物・サイバー脅威を含め、それらを軽減する方法を構築することだった。
- リスクの責任は、1 つの専任グループが扱うのではなく、既存チームに分割・統合されている。
- 倫理リードの Chloé Bakalar、チーフ・フューチャリストの Josh Achiam、安全担当責任者の Johannes Heidecke は、いずれも最近 OpenAI を離れた。
- 準備チームを率いていた元 Anthropic スタッフの Dylan Scandinaro は、再帰的自己改善型 AI に焦点を移している。
OpenAI の準備チームに何が起きたのか
OpenAI の準備チームは、1 つの率直な問いに答えるために存在していました。それは「モデルはリリース前に現実の被害を引き起こし得るか？」というものです。つまり、そのシステムが生物兵器の構築を手助けしたり、高度なハッキング作戦を実行したり、その他の深刻な害をもたらすことができるかどうかをテストし、そのリスクを減らすためのセーフガードを設計することを意味していました。現在、そのような中央集権的な機能は、独立したユニットとしては存在していません。
代わりに、フィナンシャル・タイムズによると、生物やサイバーリスクといった特定の危険分野の監督は分割され、社内の他の既存チームに吸収されました。もはや、全体として壊滅的な悪用を監視することだけを仕事とする単一のグループは存在しません。この分散型アプローチが、同じ問題を同じ程度に効果的に捉えられるかどうかは、外部の人間には簡単には検証できません。
これが最初の安全チーム解体ではない
これは単発の動きではありません。OpenAI はここ数年、かつて評判の基盤となっていた、より研究寄りで長期的な安全インフラを着実に解体してきました。同社は以前、AGI readiness チームと superalignment チームの両方を閉鎖しており、これら 2 つのグループは、AI システムが現在よりも劇的に高い能力を持つシナリオに備えることに明確に焦点を当てていました。
これらを総合すると、同社の安全体制が、モデルが弱まるどころか強力になっているまさにそのタイミングで縮小していることを示すパターンが浮かび上がります。それぞれの解体だけを見れば、日常的な組織変更のように見えるかもしれません。しかし、次々と積み重なると、OpenAI がかつて公に擁護していた長期的リスク計画から戦略的に後退しているように見え始めます。
一連の退職が状況を補完する
この再編は、OpenAI の安全・倫理部門からの一連の著名な退職と時期を同じくしています。倫理リードの Chloé Bakalar、チーフ・フューチャリストの Josh Achiam、安全担当責任者の Johannes Heidecke は、いずれも最近同社を離れました。少なくとも公には、彼らと同じ肩書きを持つ後任が 1 対 1 で補充されたわけではありません。
解散したチームと離職したリーダーシップという組み合わせは、同社の安全へのコミットメントの変遷を見守ってきた人々からの批判を招いています。2024 年に OpenAI を辞任した Jan Leike は、フィナンシャル・タイムズに対し、同社は安全よりも、彼の言う「ピカピカのプロダクト」の創出を優先していると語りました。これは鋭い非難であり、短期間に安全重視の役職がこれほど多く空席になったことを踏まえると、なおさら重く響きます。
タイミングが重要な理由
これらは真空の中で起きているわけではありません。OpenAI は、巨額の新規株式公開が見込まれる段階へと進んでおり、その種の精査に備える企業は、業務のスリム化、チームの統合、そして投資家が理解しやすい成長ストーリーに明確に結びつかないものの削減を行う傾向があります。最悪のシナリオに焦点を当てた専任のリスク評価チームは、たとえ OpenAI が創業以来語ってきたミッションには合致していたとしても、その物語には必ずしも当てはまりません。
このことは、OpenAI 社内にとどまらない影響を持ちます。同社は長らく、責任ある AI 開発のリーダーとして自らを位置づけており、安全に関する人員配置に関する社内の選択は、業界全体が注視するトーンを形作る傾向があります。OpenAI 規模の企業が、上場を前に専任のリスクチームをプロダクトグループに統合しているのであれば、商業的プレッシャーが高まったときに優先順位がどこに置かれるのかについて、それが何を示唆しているのかを、競合他社も規制当局も注視する可能性が高いでしょう。
現在リスク業務を舵取りしているのは誰か
解散前に準備チームを率いていた Dylan Scandinaro は、会社を去るわけではありません。2 月に Anthropic から引き抜かれた Scandinaro は、代わりに、より範囲は狭いものの、ある意味ではより高いリスクを伴う問い、すなわち再帰的自己改善型 AI、つまり人間の関与がほとんどないループの中で自らの能力を高めることができるシステムの含意に注意を向けています。
この配置換えは、OpenAI が依然として最も極端な長期リスクに専任の目を向けていたいと考えているものの、その組織の仕方は以前とは異なることを示唆しています。生物・サイバーリスク評価を既存のプロダクトチームに統合しつつ、元チームリード 1 名により狭い研究役割を割り当てるというやり方が、同等のカバレッジにつながるのかどうかは、Leike のような批評家が提起している未解決の問題です。現時点で、OpenAI は、再配分された責任が、かつての独立チームと同じようにどのように測定され、説明責任を負うのかについて、公に明らかにしていません。
FAQ
OpenAI の準備チームは何を担当していたのですか？
準備チームは、OpenAI の AI モデルが、生物兵器の開発や大規模なサイバー攻撃を可能にするなどの深刻なリスクをもたらすかどうかを評価し、モデルがリリースされる前にそれらのリスクを軽減するための戦略を策定していました。
なぜ OpenAI は準備チームを解散したのですか？
OpenAI は詳細な公的説明を行っていません。フィナンシャル・タイムズは、この動きが 2026 年 7 月末に行われたと報じており、同社が大規模な IPO を見据える中でのより広範な再編の一環であり、それ以前には AGI readiness チームと superalignment チームを解散する決定がなされていたと伝えています。
現在、OpenAI では誰が AI リスク評価を担当していますか？
生物やサイバー脅威といった特定のリスク分野の責任は分割され、1 つのグループに集中させるのではなく、既存のチームに移管されています。元準備チームリードの Dylan Scandinaro は、現在は再帰的自己改善型 AI の含意に特化して取り組んでいます。
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”OpenAI の準備チームは何を担当していたのですか？”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”準備チームは、OpenAI の AI モデルが、生物兵器の開発や大規模なサイバー攻撃を可能にするなどの深刻なリスクをもたらすかどうかを評価し、モデルがリリースされる前にそれらのリスクを軽減するための戦略を策定していました。”}},{“@type”:”Question”,”name”:”なぜ OpenAI は準備チームを解散したのですか？”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”OpenAI は詳細な公的説明を行っていません。フィナンシャル・タイムズは、この動きが 2026 年 7 月末に行われたと報じており、同社が大規模な IPO を見据える中でのより広範な再編の一環であり、それ以前には AGI readiness チームと superalignment チームを解散する決定がなされていたと伝えています。”}},{“@type”:”Question”,”name”:”現在、OpenAI では誰が AI リスク評価を担当していますか？”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”生物やサイバー脅威といった特定のリスク分野の責任は分割され、1 つのグループに集中させるのではなく、既存のチームに移管されています。元準備チームリードの Dylan Scandinaro は、現在は再帰的自己改善型 AI の含意に特化して取り組んでいます。”}}]}
本記事は人工知能の支援を受けて作成され、編集チームによる確認を受けています。
