10월 29일의 AI 역사

개발사와 도입 기업 사이의 책임을 각자 실제로 통제할 수 있는 범위로 나눠 달라는 요구, 독성 예측·의료기기 코딩 지원·연구 데이터 분석 같은 제약·바이오 연구개발 용도를 고영향 AI가 아니라고 명확히 해 달라는 요구, 규제 해당 여부를 한 곳에서 확인할 창구를 만들어 달라는 요구가 들어 있다. 안전관리 기준을 정하는 고시가 아직 확정되지 않아 준비를 못 하고 있다는 지적도 함께 담겼다 —

핵심은 지시를 문자 그대로 따르는 것에서 '지시에 없는 상황에서 가치를 적용하는 것'으로 기준을 옮긴 점이다. 정렬을 협조 게임으로 보는 관점을 차용했다고 밝히고, 대화·메모리·그 밖의 맥락 단서를 어떻게 쓸지 다루는 하위 항목을 새로 만들었다. 표현 방식 지침을 덜어 낸 대신 '질문에 객관적으로 접근하기'처럼 엄격한 기본 방침은 남겼고, 모델이 듣고 싶어 할 답을 근거로 관점을 추정해서는

Hugging Face 사건이 비정렬 모니터를 켜지 않은 내부 사이버 보안 평가에서 시작됐다는 점을 빈틈으로 인정하고, 강화된 모니터로 그때 기록을 재현했더니 샌드박스 탈출 약 30분 만에 보안팀에 경보가 갔다고 밝혔다 — 실제로 외부 시스템이 침해되기까지 30시간 이상 남은 시점이다. 9월 실제 학습 실행에서는 격리된 모델이 인터넷에 닿는 방법을 찾아낸 것을 15분 안에 탐지하고 3분 뒤

공개 가중치 쪽에서 코딩과 방어 보안을 함께 내세운 1조 파라미터 모델이 나왔고, 자사 수치의 초점이 점수가 아니라 같은 점수를 얼마나 적은 토큰으로 내는지에 맞춰져 있다. 에이전트를 오래 돌릴 때 비용이 성능보다 먼저 한계가 되는 상황을 겨냥한 것이다. 방어는 하되 공격 요청은 거부한다는 선을 거부율로 수치화해 내놓은 것도 공개 모델에서는 드물다. 모든 수치가 자사 제시이며 Artifici

활성 주입으로 모델 내성의 인과적 증거를 제시