OpenAI, 생물학 연구용 AI 모델 GPT-Rosalind-6 안전 설명 공개: '높음' 위험 능력으로 분류, 심사를 거친 연구기관에만 제공

무슨 일이 있었나

OpenAI 배포 안전 센터 페이지에 따르면 GPT-Rosalind-6 시스템 카드 보충 문서는 2026년 10월 30일에 공개되었다. OpenAI는 GPT-Rosalind-6이 생물학, 신약 개발, 중개의학에 쓰이는 최첨단 추론 모델이라고 밝혔다. 중개의학은 기초연구 성과를 임상 응용으로 옮기는 의학 분야다. 이 모델은 GPT-Rosalind-6 Research라는 이름으로 자격을 갖춘 과학자, 연구기관, 기업, 정부 파트너에게 제공된다.

OpenAI는 이 모델이 주력 추론 모델인 GPT-6 Astra와 같은 가중치, 즉 같은 내부 매개변수를 쓴다고 밝혔다. 이번 공개에서는 학습 데이터를 추가하지 않았고, 추가 사후 학습(초기 학습이 끝난 뒤의 재조정)도 하지 않았다. OpenAI는 또 이 모델이 '이중 용도' 생물 질문에 대해 거부를 덜 한다고 밝혔다. 이중 용도란 같은 지식이 정당한 연구에도 쓰이고 악용될 수도 있다는 뜻이다. 다만 모델은 '신뢰 기반 접근'으로만 제공되며, 생물무기화 요청은 여전히 거부한다.

능력 평가와 위험 등급

OpenAI는 생명과학 벤치마크 세 가지의 결과를 공개하고 이전 세대인 GPT-Rosalind-5.5와 비교했다. OpenAI는 5.5의 점수가 새 모델과 같은 벤치마크 버전과 문항 세트를 사용한 것이라, 5.5 출시 당시 공개된 수치와 다르다고 설명했다. 아래 표는 테스트한 최고 추론 예산에서의 결과다. 추론 예산은 모델이 답할 때 생각하는 데 쓸 수 있는 연산량으로 이해하면 된다.

Preparedness Framework(대비 프레임워크)는 OpenAI가 '심각한 피해를 일으킬 수 있는 최첨단 능력'을 추적하고 방지하기 위해 쓰는 방식이다. OpenAI는 이 프레임워크에 따라 이번 공개를 생물·화학 분야에서 '높음' 능력으로 보며, '치명적' 기준에는 못 미친다고 했다. OpenAI에 따르면 '높음' 능력 평가는 습식 실험실(실제 시약과 생물 시료로 실험하는 실험실) 지식과 실험 문제 해결을 측정하고, '치명적' 능력 평가는 전문가가 매우 위험한 새로운 위협을 개발하도록 도울 수 있는 생물 설계 능력을 측정한다.

OpenAI는 '거부 조정'을 거친 뒤 모델이 '높음' 능력 평가 네 개 중 세 개에서 지표 기준(등급 판단에 쓰는 OpenAI의 참고 점수선)을 넘었다고 밝혔다. 거부 조정은 모델이 거부한 문항을 정답으로 계산해, 안전 학습에 가려졌을 수 있는 실제 능력을 추정하는 방식이다. '치명적' 능력 평가 네 개는 모두 지표 기준에 도달하지 못했으며, 5.5와 비교하면 결과가 엇갈린다. OpenAI는 치명적 기준이 전문가 판단에 따른 예비 추정치여서 나중에 조정될 수 있고, 이 평가들이 생물학적 피해를 일으킬 능력에 대한 완전한 시험은 아니라고도 설명했다.

사이버 보안과 관련해 OpenAI는 GPT-6 Astra의 기존 평가에 따라 GPT-Rosalind-6을 '치명적' 등급으로 본다고 밝혔고, AI 자기 개선 분야는 '높음' 미만이라고 했다.

누가 사용할 수 있고 어떤 보호 장치가 있나

OpenAI는 승인된 고객만 이 모델을 쓸 수 있다고 밝혔다. 심사에서는 신청자의 사명, 용도, 거버넌스 역량, 접근 통제 능력을 본다. 비정부 신청자는 추가로 비즈니스 인증과 규정 준수 심사를 통과해야 하며, 일부 정부 기관에는 생물 안보, 공중보건 대비, 생물 방어 용도로 신청할 수 있는 전용 경로가 있다. OpenAI는 이번 공개로 자격 요건을 완화하지 않았으며 Rosalind Academic Plan 등 앞서 공개된 범위는 그대로라고 밝혔다.

OpenAI에 따르면 기업 고객은 정당한 필요가 있는 승인된 인원만 쓰게 하고, 필요한 최소 권한만 부여하며, 내부 위험 통제를 갖춰야 한다. 모델 출력을 실험, 발표, 중대한 의사결정에 쓰기 전에 자격을 갖춘 사람의 검토도 거쳐야 한다. OpenAI는 또 오용자의 접근을 제한하거나 취소할 수 있으며 관련 규정을 계속 모니터링하고 집행하겠다고 밝혔다.

아래 표는 OpenAI가 보고한 안전 평가 일부다. Biorisk knowledge는 생물 위험 관련 지식을 측정한다. cons@32는 모델이 문항마다 32번 답한 뒤 가장 많이 나온 답으로 채점하는 방식이다. '탈옥'은 특수한 프롬프트로 모델이 안전 제한을 우회하게 만드는 것을 말하며, 이 테스트는 실시간 차단을 끈 상태에서 진행되어 모델 자체의 행동만 반영한다.

OpenAI 자체 수치에서도 모든 항목이 기반 모델인 GPT-6 Astra보다 낫지는 않다는 점에 유의해야 한다. 예를 들어 '경고 준수' 테스트에서 GPT-Rosalind-6이 제한을 우회한 비율은 21.7%로, GPT-6 Astra의 18.9%보다 높다. OpenAI는 또 GPT-Rosalind-6에 대한 생물 안전 레드팀 테스트(공격자를 모의해 방어를 점검하는 것)가 진행 중이라고 밝혔다. 세부 내용은 방어 정보와 관련되어 공개하지 않지만, Safety Advisory Group과 다른 거버넌스 기관에는 제공했다고 한다.

일반 독자에게 갖는 의미

OpenAI에 따르면 GPT-Rosalind-6은 일반에 공개된 ChatGPT 모델보다 정당한 고급 생물 연구를 더 잘 지원하도록 설계되었다. GPT-6 Astra의 일반 공개 버전에서 거부될 수 있는 일부 이중 용도 질문도 이 모델은 지원할 수 있다. 다만 이러한 능력은 심사를 거친 고객에게만 제공되며 일반 대중에게는 공개되지 않는다. OpenAI는 앞으로 실제 사용 상황, 안전 신호, 새롭게 나타나는 오용 패턴에 따라 보호 조치를 갱신할 수 있다고도 밝혔다.

이 주제의 최신 뉴스 보기

• AI 뉴스