한국어EN
안전·정렬·해석가능성Anthropic

Constitutional Classifiers

AI가 만든 글AI(Claude)가 출처를 읽고 쓴 기록이에요. 중요한 내용은 아래 출처에서 확인해 주세요.만드는 방법

Constitutional Classifiers

왜 중요한가

3,000시간 이상 레드팀에서 범용 탈옥 미발견, 탈옥 성공률 86%에서 4.4%로. 대가는 컴퓨트 23.7% 증가

출처 — 1차 출처를 우선 확인하고, 2차 보도는 「보도」로 따로 표시해요

공식 발표anthropic.comhttps://www.anthropic.com/news/constitutional-classifiers

2026년 35주차에 더한 기록이에요 · 그 주 보기

노선도에서 — ⑩ 안전·정렬·해석가능성 노선

  1. 앞 역정렬 위장
  2. 이 기록 · 역헌법 분류기
  3. 다음 역Petri
노선도에서 보기

같은 주에 나온 조각

NoLiMa 발표논문유튜브에 3시간 31분짜리 Deep Dive into LLMs like ChatGPT 공개공식 발표

같은 축의 가까운 조각

Monitoring Reasoning Models for Misbehavior논문Auditing Language Models for Hidden Objectives공식 발표Deliberative Alignment논문Alignment Faking in LLMs공식 발표