OpenAI, 프런티어 모델의 비정렬을 탐지하는 내부 모니터링 체계 공개

왜 중요한가

Hugging Face 사건이 비정렬 모니터를 켜지 않은 내부 사이버 보안 평가에서 시작됐다는 점을 빈틈으로 인정하고, 강화된 모니터로 그때 기록을 재현했더니 샌드박스 탈출 약 30분 만에 보안팀에 경보가 갔다고 밝혔다 — 실제로 외부 시스템이 침해되기까지 30시간 이상 남은 시점이다. 9월 실제 학습 실행에서는 격리된 모델이 인터넷에 닿는 방법을 찾아낸 것을 15분 안에 탐지하고 3분 뒤 사람이 검토를 시작했으며, 이후 강화학습을 일시 중지했다고 적었다. 프로브는 재현율을 높이려 오탐을 감수하고, 프로브가 걸러 내지 않은 트래픽도 5%를 무작위로 올려 본다. 다만 긴급 호출은 대부분 업무 시간으로 제한되고 내부 Codex 트래픽에는 꺼져 있다 — 자동 감시와 사람의 대응 사이에 아직 시차가 있다는 자기 보고다