OpenAI、生物研究向けAIモデル「GPT-Rosalind-6」の安全性を説明：「高」リスク能力に分類、審査済みの研究機関のみに提供

何が起きたのか

OpenAIのデプロイメント安全センターのページによると、GPT-Rosalind-6のシステムカード補足資料は2026年10月30日に公開されました。OpenAIは、GPT-Rosalind-6を生物学、創薬、トランスレーショナル医療向けの最先端推論モデルだと説明しています。トランスレーショナル医療とは、基礎研究の成果を臨床応用につなげる医学分野です。モデルは「GPT-Rosalind-6 Research」の名称で、資格を持つ科学者、研究機関、企業、政府パートナーに提供されます。

OpenAIは、このモデルが主力の推論モデルGPT-6 Astraと同じ重み、つまり同じ内部パラメータを使っていると述べています。今回の公開では、学習データの追加も、追加のポストトレーニング（初期学習後の再調整）も行っていません。またOpenAIは、このモデルは「デュアルユース」の生物学的質問への拒否が少ないとしています。デュアルユースとは、同じ知識が正当な研究にも悪用にも使われ得ることを指します。ただしモデルは「信頼されたアクセス」を通じてのみ提供され、生物兵器化の要求は引き続き拒否します。

能力評価とリスク分類

OpenAIは3つのライフサイエンス系ベンチマークの結果を公表し、前世代のGPT-Rosalind-5.5と比較しています。OpenAIによると、5.5のスコアは新モデルと同じベンチマーク版・問題セットで算出されているため、5.5の公開時に発表された数値とは異なります。下表はテストした最大の推論予算での結果です。推論予算とは、モデルが回答時に思考に使える計算量と考えられます。

Preparedness Framework（備えの枠組み）は、OpenAIが「深刻な被害をもたらし得る最先端能力」を追跡し防ぐための取り組みです。この枠組みの下で、OpenAIは今回の公開を生物・化学分野で「高」能力とみなし、「重大」の閾値は下回るとしています。OpenAIによれば、「高」能力の評価はウェットラボの知識と実験のトラブルシューティングを測り、「重大」能力の評価は専門家が極めて危険な新しい脅威を開発するのを助け得る生物学的設計能力を測ります。

OpenAIは、「拒否調整」を行うと、4つの「高」能力評価のうち3つで目安となる閾値（等級判断に使う参考スコア）を超えたとしています。拒否調整とは、モデルが拒否した問題を正解として扱い、安全性訓練に隠れている可能性のある実際の能力を推定する方法です。4つの「重大」能力評価はいずれも目安の閾値に届かず、5.5との比較では結果にばらつきがありました。またOpenAIは、重大の閾値は専門家の判断に基づく暫定的な推定で今後変わり得ること、これらの評価は生物的被害を引き起こす能力の包括的なテストではないことも説明しています。

サイバーセキュリティについて、OpenAIはGPT-6 Astraの既存の評価に基づき、GPT-Rosalind-6を「重大」水準として扱うとしています。AIの自己改善については「高」を下回ります。

誰が使えるのか、どんな安全策があるのか

OpenAIによれば、このモデルを使えるのは承認された顧客のみです。審査では、申請者の使命、用途、ガバナンス体制、アクセスを管理する能力が確認されます。政府以外の申請者はさらに事業者確認とコンプライアンス審査を通過する必要があり、一部の政府機関にはバイオセキュリティ、公衆衛生の備え、バイオ防衛の用途向けの専用経路があります。OpenAIは、今回の公開で資格要件は緩和されておらず、Rosalind Academic Planなど既に発表された範囲も変わらないとしています。

OpenAIは、企業顧客は正当な必要性のある許可された担当者のみに利用させ、必要最小限の権限を与え、社内のリスク管理を整える必要があるとしています。モデルの出力を実験、発表、重要な意思決定に使う前には、資格のある人間によるレビューも必要です。またOpenAIは、悪用者のアクセスを制限または取り消すことができ、継続的な監視と執行を行うと述べています。

下表はOpenAIが報告した安全性評価の一部です。Biorisk knowledgeは生物リスク関連の知識を測る評価で、cons@32は各問題に32回回答させ、最も多い答えで採点する方式です。「ジェイルブレイク」は特殊なプロンプトでモデルに安全制限を回避させることを指し、このテストはリアルタイムのブロックを無効にして実施されたため、モデル自体の挙動のみを反映します。

注意すべき点として、OpenAI自身の数値でも、すべての項目で親モデルより優れているわけではありません。たとえば「警告の順守」テストでは、GPT-Rosalind-6が制限を回避した割合は21.7%で、GPT-6 Astraの18.9%を上回っています。OpenAIはさらに、GPT-Rosalind-6に対するバイオセキュリティのレッドチーミング（攻撃者を模擬して防御を検証する試験）を実施中だと述べています。詳細は防御に関わる情報のため非公開ですが、Safety Advisory Groupなどのガバナンス組織には提供済みとしています。

一般の読者にとっての意味

OpenAIは、GPT-Rosalind-6は一般公開のChatGPTモデルより正当な高度生物研究を支援しやすいよう設計されていると述べています。一般公開版のGPT-6 Astraが拒否し得る一部のデュアルユース質問にも、このモデルは対応できます。ただしこれらの能力は審査済みの顧客にのみ提供され、一般には公開されません。OpenAIはまた、実際の利用状況、安全性シグナル、新たな悪用パターンに応じて、今後防御策を更新する可能性があるとしています。

このトピックの最新ニュースを見る

• AIニュース