6부 앞으로

AGI는 이미 왔을까, 아직 멀었을까

둘 다 맞다고 말할 수 있어. '어디까지 해내야 AGI인가' 하는 기준선을 어디에 긋느냐에 따라, 지금 AI가 통과이기도 하고 미달이기도 하거든.

기준을 낮게 — '사람처럼 자연스럽게 말이 통하면 AGI' — 잡으면 이미 통과야. 1950년 튜링이 낸 기준이 그쪽에 가까웠고, 지금 AI는 어려운 시험 문제를 사람 평균보다 잘 푼 경우도 나왔어.

기준을 높게 — '처음 보는 일을 스스로 배워서 끝까지 해내면 AGI' — 잡으면 아직이야. 2026년 3월 나온 새 시험에서 사람은 다 맞힌 문제를 AI는 거의 못 맞혔거든.

직접 해보기 — 'AGI 기준'을 어디에 둘까 — 손잡이를 옮기면 답이 바뀐다

손잡이를 왼쪽에 두면 기준이 낮고, 오른쪽에 두면 기준이 높아. 막대는 조사 결과가 아니라, 기준을 옮기면 답이 어떻게 갈리는지 보여주는 그림이야.

기준선을 낮게 그을 때 vs 높게 그을 때

같은 AI를 놓고도 판정이 갈리는 건, 자를 다르게 대고 있어서야.

그래서 누가 'AGI 왔다/아니다'라고 하면, 먼저 물어볼 건 하나야 — 기준이 뭔데?

1. Q1AGI를 두고 답이 갈리는 가장 큰 이유는?

   1. ① '어디까지 해내야 AGI인가' 기준이 달라서
   2. ② AI 성능을 아무도 못 재서
   3. ③ AI가 매일 바뀌어서
   4. ④ 숫자를 일부러 숨겨서

2. Q2기준을 '처음 보는 일을 스스로 배워 끝까지 해내기'로 높이면 지금 AI는?

   1. ① 여전히 여유롭게 통과
   2. ② 아직 미달이라는 쪽이 훨씬 많다
   3. ③ 판정 자체가 불가능하다
   4. ④ 사람보다 항상 낫다

3. Q3'AGI 왔다'는 말을 들었을 때 먼저 물어볼 것은?

   1. ① 누가 말했나요
   2. ② 값이 얼마인가요
   3. ③ 기준이 뭔가요
   4. ④ 언제 나왔나요

AGI가 왔냐 아니냐는 AI한테 묻는 질문이 아니라, 기준선을 어디에 긋느냐는 우리 쪽 질문이야.

내 직업이 통째로 사라질까

직업이 통째로 사라진다기보다, 하나의 일이 여러 조각으로 쪼개져서 그중 몇 조각만 AI로 넘어가. 지금까지 관찰된 모양은 그쪽에 가까워.

AI는 한 조각은 엄청 잘하는데 처음부터 끝까지 혼자 이어서 해내는 건 아직 약하거든. 2025년 실제 업무를 통째로 맡겨 본 시험에서 가장 잘한 AI가 끝까지 해낸 건 2.5%였어.

그래서 사람 쪽에 남는 조각이 달라져. 무엇이 맞는지 정하고, 확인하고, 책임지는 쪽으로 무게가 옮겨 가고, 없던 직함이 새로 생기기도 해.

직접 해보기 — 이 조각은 누구 몫일까

직업 이름 말고 '그 일의 조각'을 보고 골라 봐. 같은 직업 안에서도 조각마다 답이 달라져.

일 하나를 네 조각으로 쪼개면

주황색 조각이 지금 AI가 빠르게 가져가고 있는 쪽이야.

2023년엔 '프롬프트 엔지니어'라는 직함까지 새로 생겼어 — 조각이 바뀌면 이름도 바뀌거든.

1. Q1지금까지 관찰된 AI와 일의 관계에 가장 가까운 설명은?

   1. ① 직업이 통째로 사라진다
   2. ② 일이 조각으로 쪼개져 몇 조각만 넘어간다
   3. ③ 아무것도 바뀌지 않는다
   4. ④ 사람이 할 일이 하나도 안 남는다

2. Q2실제 업무를 통째로 맡겨 본 2025년 시험 결과는?

   1. ① 대부분 끝까지 해냈다
   2. ② 사람보다 두 배 빨랐다
   3. ③ 가장 잘한 AI도 2.5%만 끝까지 해냈다
   4. ④ 아예 시작도 못 했다

3. Q3사람 쪽에 남는 조각은 주로 어느 쪽?

   1. ① 빠르게 반복하기
   2. ② 받아 적기
   3. ③ 많이 외우기
   4. ④ 정하고 책임지기

AI가 가져가는 건 직업이 아니라 조각이야. 그러면 남는 조각을 잘하는 사람이 되면 돼.

AI한테 '안 돼'는 누가 가르칠까

AI 안전은 AI를 착하게 만드는 마법이 아니라, 모델 위에 하나씩 덧붙이는 장치야. 크게 세 가지 — 거절하기, 하기 전에 물어보기, 나중에 들여다보기.

장치를 붙이면 진짜로 달라져. 2025년 한 연구에서는 규칙을 어기게 만드는 꼼수 질문의 성공률이 86%에서 4.4%로 떨어졌어.

대신 공짜는 아니야. 계산이 그만큼 더 들고(그 연구에선 약 24% 증가), 멀쩡한 부탁까지 덜컥 거절해 버리는 '과잉 거절'이 생겨. 그래서 요즘은 거절 실력과 과잉 거절을 같이 재.

직접 해보기 — 안전장치를 떼고 붙여 보기

같은 모델이야. 위에 얹은 장치만 떼었다 붙였다 하면 행동이 어떻게 달라지는지 봐.

같은 모델, 장치를 떼었을 때와 붙였을 때

바뀐 건 모델이 아니라 모델을 둘러싼 장치야.

그래서 '이 AI 안전해요?'보다 좋은 질문은 '무슨 장치가 붙어 있어요?'야.

1. Q1AI 안전장치 세 가지로 오늘 배운 건?

   1. ① 빠르게·싸게·많이
   2. ② 켜기·끄기·다시 켜기
   3. ③ 외우기·풀기·맞히기
   4. ④ 거절하기·물어보기·들여다보기

2. Q2장치를 붙였을 때 꼼수 질문의 성공률 변화는?

   1. ① 86%에서 4.4%로 줄었다
   2. ② 0%가 됐다
   3. ③ 그대로였다
   4. ④ 오히려 늘었다

3. Q3안전장치가 치르는 값은?

   1. ① 속도가 빨라진다
   2. ② 계산이 더 들고 과잉 거절이 는다
   3. ③ 정답률이 오른다
   4. ④ 값이 없다

안전은 AI의 착한 성격이 아니라, 누군가 값을 치르고 붙여 둔 장치야.

로봇의 어느 조각에 AI가 들어 있을까

요즘 로봇이 똑똑해 보이는 건 몸이 좋아져서가 아니야. 로봇의 '뇌' 자리에 우리가 쓰는 것과 같은 AI를 꽂았기 때문이야.

쪼개 보면 눈·말귀·판단 조각에는 AI가 들어갔고, 손과 다리를 실제로 움직이는 조각은 여전히 기계 기술이야. 둘은 원래 뿌리가 다른 분야인데 2023년쯤부터 본격적으로 붙기 시작했어.

그래서 진짜 어려운 쪽은 생각이 아니라 몸이야. 균형은 1초에 수백에서 수천 번 잡아야 하는데 생각은 그 속도로 못 해서, 빠른 회로와 느린 회로를 따로 돌려.

직접 해보기 — 로봇을 조각내 보면 — 어디에 AI가 들어갔나

버튼을 누르면 같은 로봇을 시대별로, 그리고 속까지 쪼개서 보여줘. 주황색이 AI가 들어간 조각, 초록색이 기계 기술로 굴러가는 조각이야.

로봇이 한 번 움직이기까지

주황색 조각이 AI, 마지막 초록 조각이 기계 기술이야.

그래서 '로봇이 AI다'가 아니라 '로봇 안에 AI가 들어갔다'고 말하는 게 정확해.

1. Q1요즘 로봇이 똑똑해 보이는 가장 큰 이유는?

   1. ① 뇌 자리에 우리가 쓰는 것과 같은 AI를 꽂아서
   2. ② 몸이 훨씬 튼튼해져서
   3. ③ 배터리가 커져서
   4. ④ 사람이 뒤에서 조종해서

2. Q2예전 로봇의 가장 큰 약점은?

   1. ① 힘이 약했다
   2. ② 정해 준 대로만 움직여 조금만 달라져도 헛손질
   3. ③ 너무 느렸다
   4. ④ 소리가 시끄러웠다

3. Q3로봇이 빠른 회로와 느린 회로를 나눠 쓰는 이유는?

   1. ① 전기를 아끼려고
   2. ② 소리를 줄이려고
   3. ③ 균형은 초당 수백 번 필요해서
   4. ④ 무게를 줄이려고

로봇이 AI가 된 게 아니라, 로봇의 앞쪽 세 조각에 AI가 들어간 거야.