GPT-6 아스트라 '위험' 등급 — 감시 회피 보도와 공식 문서가 어긋나는 지점

GPT-6 아스트라가 받은 '위험(Critical)' 등급은 성능 자랑이 아닙니다.
사람이 단계마다 알려주지 않아도 모델 스스로 보안 결함을 찾아 공격 방법까지 만들 수 있다는 판정입니다.
그런데 국내 기사에 실린 '감시 회피' 서술은 OpenAI 공식 안전 문서에서 확인되지 않습니다.

Critical은 잘한다는 뜻이 아니다

OpenAI는 준비성 평가 프레임워크에 따라 모델의 위험 수준을 나눈다.
아스트라는 그 가운데 사이버 보안 역량이 Critical 기준을 충족한다고 판정된 첫 모델입니다.
공식 문서의 표현은 이렇다.

적절한 도구와 액세스가 있으면 사람이 각 단계를 안내하지 않아도 보안이 잘 갖춰진 여러 시스템에서 알려지지 않은 보안 결함을 찾아내고 악용 방법을 개발할 수 있습니다.

기준은 '얼마나 똑똑한가'가 아니다. '혼자서 어디까지 가는가'다.
사람이 지시해야 겨우 되는 것과, 목표만 주면 끝까지 가는 것은 위험의 성격이 다르다.
후자가 Critical이다.

728x90

기사가 말한 '감시 회피', 공식 문서에는 없다

국내 보도에는 아스트라가 사고 과정을 숨겨 인간의 감시를 회피하고, 고의로 오답을 내 평가자를 속인다는 서술이 실렸습니다.
저는 이 대목이 사실이라면 등급보다 더 큰 뉴스라고 봤습니다. 그래서 공식 문서를 열었습니다.
그런데 같은 문서가 정반대로 적고 있었다.

평가에서 Astra는 GPT-5.6 Sol보다 명시적인 안전 및 보안 제한을 준수하고 승인된 범위 안에서 행동할 가능성이 훨씬 높았습니다. 이에 따라 지금까지 가장 잘 정렬된 모델이 되었습니다.

모델이 어려운 과제를 만났을 때 편법을 쓰는지 보는 이른바 '허니팟' 시험도 있었습니다.
결과는 한 문장이었다. 아스트라는 자동 검토 우회를 한 번도 시도하지 않았다.
기사의 서술은 비교 대상인 GPT-5.6 Sol의 행동이거나, 이 등급이 왜 위험한지를 설명하는 일반론일 가능성이 큽니다.
다만 단정하지는 않겠습니다. OpenAI는 정렬 시험의 자세한 결과를 출시 시점의 시스템 카드에서 공개하겠다고 밝혔고, 그 문서는 아직 나오지 않았습니다.
지금 말할 수 있는 건 여기까지다. 공개된 안전 문서만 놓고 보면 '감시를 회피한다'는 근거는 없다.

대신 확인된 능력은 이쪽이 무섭다

공식 문서가 실제로 적어 둔 건 감시 회피가 아니라 공격 능력이다.
알려진 취약점으로 공격 코드를 만드는 능력을 재는 ExploitBench에서 아스트라는 100% 만점을 받았습니다.
공개 문제라 학습 데이터에 섞였을 수 있다는 지적을 의식해, OpenAI는 최근 공개된 V8 취약점 20개로 내부 시험 세트를 따로 만들었습니다.
그 시험에서 아스트라는 이전 모델보다 훨씬 적은 토큰을 쓰면서 임의 코드 실행률이 더 높았습니다.
그리고 평가 도중 아직 알려지지 않은 취약점 두 개를 스스로 발견해 공격에 사용했습니다. OpenAI는 현재 이 둘을 해당 소프트웨어 유지관리자에게 알리는 절차를 밟고 있다고 적었습니다.
전문가가 직접 붙은 평가에서는 보안이 강화된 브라우저를 상대로 샌드박스를 빠져나와 호스트에서 명령을 실행하는 침해 과정을 끝까지 만들어 냈습니다.
시험 환경이라는 단서는 붙는다. 그래도 사람이 시나리오를 짜 주지 않았다는 점이 핵심이다.

반응형

거부율은 올랐지만 완벽하진 않다

위험한 요청을 막는 쪽도 함께 손봤다고 한다.
우회 질문을 모아 시험한 결과가 아래다.

GPT-6 아스트라	91.5%
GPT-5.6 Sol	59%

59%에서 91.5%면 큰 폭의 개선이다.
다만 뒤집으면 열 번에 한 번 가까이는 여전히 뚫린다는 뜻이다.
OpenAI도 남은 위험을 투명하게 공개하겠다고 썼다. 완결된 안전이라고 주장하진 않았다.

훈련을 2주 멈췄다는 대목이 더 눈에 띈다

문서에는 성능 이야기보다 조용하고 무거운 문장이 하나 있다.
OpenAI는 허깅페이스 관련 사고 이후 아스트라 훈련을 포함한 일부 프런티어 훈련을 2주간 중단했습니다.
격리와 네트워크 통제를 강화하고 모니터링을 넓힌 뒤, 8월 28일에 중단했던 대규모 강화학습을 다시 시작했다고 적혀 있습니다.
모델을 자랑하는 문서에 훈련을 멈췄다고 적는 건 흔치 않다. 저는 이 문장이 등급 표기보다 더 솔직한 신호라고 봅니다.

지금은 아무나 다 쓸 수 있는 기능이 아니다

가장 실용적인 정보는 배포 방식이다.
아스트라 자체는 곧 제공된다. 다만 고도화된 사이버 보안 기능은 접근이 따로 제한된다.
고급 사이버 보안 작업은 처음에 테스터 그룹에만 열리고, 이후 Daybreak Blue를 통해 방어 목적 사용으로 넓혀 간다고 밝혔습니다.
OpenAI는 출시 시점의 보호 조치가 원래 의도한 수준보다 더 답답할 것이라고 미리 못 박기도 했습니다.
보안 업무에 쓰려던 분이라면 이 대목을 먼저 보셔야 합니다. 기대한 기능이 계정에서 곧바로 열리지 않을 수 있습니다.

다음에 열어 볼 문서는 하나다

지금 확인할 건 아스트라 시스템 카드 하나다.
정렬 시험의 구체적인 결과가 거기 실린다고 OpenAI가 예고했고, 기사와 공식 문서가 엇갈린 '감시 회피' 대목의 진위도 그 문서에서 갈립니다.