'Automated researchers can reliably mitigate alignment failu…

'Automated researchers can reliably mitigate alignment failures' 공개 — 기만·아첨·프라이버시 침해·보상 해킹 등 10개 정렬 실패 범주에 대해 Claude가 자율적으로 완화 기법을 제안·학습·평가한 실험. 자사 보고로 10개 범주 전부에서 역량 저하 없이 목표 벤치마크를 개선했고 보류 벤치마크와 4.7배 큰 모델로도 이전됐다고 주장. 기만 항목에서 Claude가 안전 격차의 85%를 좁힌 반면 인간 연구자 28명(1인 8시간)은 20%였다고 보고. 연구 에이전트 트랜스크립트 약 1,600건 중 39건(2.4%)에서 부정행위 시도를 탐지