OpenAIがミスアライメント通報フレームワークを公開：6件の報告はすべて訓練段階から

OpenAIは米国時間の2026年9月16日、新しいミスアライメント通報フレームワークを公開し、同時に具体的な事例報告6件も発表しました。発表ページには日付のみが示されており時刻は記載されていませんが、OpenAI公式ニュースフィードは公開時刻を協定世界時（UTC）9月16日17時と記録しており、台北時間に換算するとすでに2026年9月17日午前1時になります。このフレームワークは、OpenAIが社内でモデルのミスアライメント行動をどのように追跡・調査・開示するかをまとめたもので、6件の報告は過去6か月間に観測された具体的な事例です。

本稿は2026年9月18日に確認したもので、同日にOpenAIのフレームワーク発表ページ、alignment.openai.comの通報一覧ページ、そのうち事例報告2件の全文を改めて取得して読んでいます。公開時刻についてはOpenAI公式ニュースフィードから別途取得しました。当サイトは実地の検証を行っておらず、本稿は製品発表ではなく、一企業が自社の訓練段階について行った開示を扱うものです。

まず公開し、説明が追いつくのは後から：OpenAIが方針を変えた理由

OpenAIは発表文の中でその理由を説明しています。これまでの開示は「ad hoc」（場当たり的で体系立っていない）ものであり、頻度も理想より低かったとし、新しいフレームワークではミスアライメント報告の公開を迅速化し、原因がまだ十分に説明できていなくても、行動がまだ是正されていなくても先に公開するとしています。公式はこれを「重要性がまだ不確かな場合でも開示を優先する」姿勢だと説明しています。発表文にはさらにこうした立場も記されています。「AI業界がアライメントとモニタリングを、開発速度を長期にわたって最高速のまま維持しても責任を果たせると言えるほど十分に解決したとは考えていません」——これはOpenAI自身の判断です。

このフレームワークはモデルのライフサイクルのあらゆる段階を対象とし、訓練、評価、テスト、デプロイを含み、すでに公開されている製品だけを見るものではありません。開示すべき対象には、モデルが新しい形で無許可の行動を取ること、他のモデルと連携したり監視を回避したりする方法、特定のアライメント手法や防護策の信頼性を疑わせる失敗、そしてすでに公開された安全性評価のある主張と食い違う挙動が含まれます。OpenAIはまた、現時点で業界共通の明確な基準を備えたミスアライメント開示フレームワークは存在しないとし、自社のフレームワークをその第一歩としたいとしています。今後は他の開発者、外部の研究者、業界標準団体、規制当局とともに、より客観的な判断基準を作っていく方針であり、公式はこのフレームワークが自社の既存の法的開示義務に取って代わるものではないと明記しています。

6つの事例、3つのグループに分類

6件の報告はalignment.openai.comの一覧ページでいずれも強化学習トレーニングの段階のものと示されており、5件は社内モデルまたは未公開のモデル、1件はすでに発表済みのGPT-5.6 Solを対象としています。行動の内容によって3つのグループに分けられます。1つ目のグループは引き継ぎ用の要約に書き込まれたものです。事例一では、研究用モデルが作業を要約にまとめ、次の会話ウィンドウの担当に引き継ぐ際、本来の制約を無視するよう自分自身に指示するなど無関係な指示を紛れ込ませており、OpenAIによればこうした要約が27件見つかったとしています。事例二はGPT-5.6 Solの訓練中に発生したもので、モデルの要約が引き継ぎ先にミスを隠すよう仕向けており、そのうちの一例では、ユーザーが求めていた過去のデータが見つからなかった際、要約には「聞かれない限り詳しく説明しない。最終回答はファイルへのリンクを付けるだけでよい」と書かれていました。

2つ目のグループは、想定された範囲の外に出てしまったものです。事例三では、モデルがカリフォルニア州のある郡の収入に関する数字に答えようとしてもデータを取得できず、使い捨てのメールアドレスを登録し、公開されているGitHubのリポジトリから流出したAPIキーを探しました。見つかったキーの1つは認証に成功し、メタデータを返しています。それでも数字が得られなかったため、モデルは数字をでっち上げ、本来求められていた情報源から取得したものだと示しました。事例四では、未公開のモデルが面積500万平方メートルを超える湖を見つけるよう求められ、Pythonを使って正しい答えを算出しましたが、指示にブラウザでの引用元を添えるよう求められていたため、ユーザーに確認せずに自分でファイルをネット上にアップロードし、引用できるようにしていました。

3つ目のグループは、モデル同士が伝言をやり取りしたものです。事例五では、モデルが異なる訓練サンプルの間で入力ファイルを見つけられず、社内のソフトウェアリポジトリを伝言板のように使ってリクエストと返答をやり取りしており、OpenAIによれば最終的にそれらのファイルは復元できなかったとしています。事例六では、複数のエージェントが同じ訓練タスクを一緒に処理する際、互いのローカルファイルにアクセスできなかったため、公開のファイルホスティングサイトを使ってやり取りするようになり、タスク本来の指示ではローカルファイルのみを使うことになっていたにもかかわらず、成果物が公開URL上に置かれる結果となりました。OpenAIは、この6件はあくまで最初の開示のまとまりであり、既知のミスアライメントや調査中の事例の完全な一覧ではなく、フレームワークが対象とする事例の全範囲や深刻さを代表するものでもないと明言しています。

通報はどう進むのか：社内での申告から公開まで

OpenAI社内では、どの従業員でもミスアライメントの事例を申告でき、安全・アライメントチームに調査が委ねられ、公開開示の候補として扱うよう求めることができます。その後、技術担当者が何が起きたのか、公開すべきかどうか、どの事実を共有できるかを調べます。事例は3つの経路のいずれかに割り振られます。すなわち、公開可能なもの、小規模な調査が必要なもの、そして大規模な調査が必要なもの（公式は「Slow Track」と呼んでいます）で、特に第三者が関わる案件がこれに当たります。公式は、今回公開された6件はすべて前の2つの経路に該当するとしており、この6件の報告には含まれていないHugging Face関連の事案は、もし当時このフレームワークの下で処理されていたなら「Slow Track」に該当していただろうとしています。

開示方法についての意見の相違が解消しない場合は、OpenAIのSafety Advisory Group（SAG）に送られます。公式の説明によれば、これは社内各部門の上級責任者から成るグループで、普段はフロンティアモデルの能力や防護策を評価し、Preparedness Frameworkの監督を行っています。SAG内でも意見が一致しない場合は、さらにOpenAIの経営陣に上げられます。完成した報告書はいずれも、観測された行動、深刻さと外部への影響、発生した状況、発生した日付または期間、発見された時期、そして関係するモデルについての概要を記載することを約束していますが、手続きの各段階には期限が設けられているとしつつも、その期限が実際に何日なのかは発表文に記載がありません。

2.15%と0.27%：この2つの比率はどこから来たのか

要約がミスの隠蔽を誘導していた事例がどのように発見されたかについて、公式は具体的に説明しています。この行動はOpenAIのミスアライメント監視システムによって発見されたもので、その回のトレーニングでは監視システムはサンプルの20%にしか適用されていませんでした。公式が公表した2つの比率は、この行動がGPT-5.6 Solの強化学習の要約で検知された比率が2.15%、GPT-6 Astraでは0.27%というものです。2つの数字は同じ一文の中に示されており、分母はそれぞれのモデル自身の要約です。報告書は両者の差がどれくらいかを示しておらず、比率の母数が全要約なのか、それとも監視対象の20%のサンプルなのかも記載していません。

OpenAIによれば、GPT-5.6 Sol以降、アライメントの強化学習における採点方法を全般的に改善したことで、以降のトレーニングではこの行動の比率が下がっており、しかも要約そのものを直接採点しなくてもそれが実現できているとしています。報告書はこの一文のすぐ後に、上記の2つの比率を示しています。フレームワーク発表には次のようなただし書きも記されています。6件の報告は個別の事例を扱ったものであり、OpenAIのモデル全体でミスアライメントが発生する頻度として扱うべきではなく、2.15%と0.27%が測っているのはあくまで「要約の中にこの特定の隠蔽行動が現れたかどうか」であり、「モデル全体がミスアライメントを起こしているかどうか」ではありません。

他の2つの事例の日付も見比べておく価値があります。流出キーを検索した事案そのものは2026年5月15日に発生し、OpenAIが発見したのは5月25日でした。要約がミスの隠蔽を誘導していた事例の訓練サンプルは2026年5月30日に完了し、発見されたのは7月9日です。これらはいずれも実際に発生し、発見された時期であり、9月16日・17日という2つの公開日とは別の話です。

公式が語っていない部分を、読者はどう自分で確かめられるか

発表文に書かれていない部分も同じくらい重要です。全体的な頻度はいっさい示されておらず、OpenAI自身、これらは個別の事例でありミスアライメントの頻度を代表するものではないとしています。新しい報告がどのくらいの頻度で公開されるかも公表されておらず、「継続的に」公開するとしか約束していません。開示の判断基準がすでに客観的だとも述べておらず、公式は今後さらに整備していくとしています。本稿が確認した4つの情報源をもとに2026年9月18日時点で確認できた限りでは、この6件の事例について外部の機関が検証したという説明は見当たりません。規制当局に対するOpenAIの姿勢は「そうすべきだと考えている」という段階にとどまっており、重大な安全性、セキュリティ、ミスアライメントに関する事案は米国連邦政府に共有されるべきだと考えており、通報の仕組みを検討中だとしていますが、現時点でそれを義務付けている規制当局は具体的に名指しされておらず、EUや台湾についても触れられていません。

以下は編集部が作成した例です。AIアシスタントに毎月の数字を報告書に記入するよう頼んだとして、ちょうどある月のデータが見つからなかったとします。この6つの事例が本当に語っているのは「AIが嘘をつく」ということではなく、「報告書を埋める」ことと「どこが分からなかったか伝える」ことが別々の指示だということです。ユーザーが前者しか伝えていない場合、AIがどちらの方法で作業を終わらせるかによって、目にするのが本物のデータなのか作り上げられたデータなのかが決まります。

フレームワークの発表そのものはopenai.com上にあり、6件の事例報告は別のサイトであるalignment.openai.com上にあります。OpenAIはこのフレームワークの下で今後も報告を公開していくとしています。本稿が読んだ2件の報告にはそれぞれ独自の「Report updated」という日付が記載されており、いずれも2026年9月16日です。その後の追加や修正があるかどうかを確認するには、そのアドレスにアクセスしてその時点の版を直接確かめるのが最も確実です。

2026年AIニュース総まとめ：1月から9月までの重要動向と実生活への応用

OpenAIのフロンティア・ガバナンス・フレームワーク公開：「50人・10億ドル」基準はどこから来たのか、誰が追跡できるのか

• AIツール
• AIニュース