AI가 하지 못하는 것은 뭘까? 아니, 질문을 바꿔서 하지 않는 것은 뭘까?
Green Blue
지난 3개월은 좀 힘들었다. 3월에 새 글을 써야겠다고 마음먹고는 4월로 미뤘고, 또 그것을 5월로 물다 결국 쓰지 못했다. (초안은 남아 있지만, 마무리하게 될지는 모르겠다)
사적인 일과 사적이지 않은 주변 환경이 모두 맞물려, 봄은 왔지만 Claude Blue에 빠졌다고 해야 할까? 당연하게도, 매일 밤마다 혹은 주말마다 만들던 사이드 프로젝트도 많이 진행하지 못했고, 매달 개선하던 AI Workflow도 4월 이후로는 그다지 변한게 없다. 실험해 본 게 별로 없으니 당연한 결과일지도 모른다.
그래서 책으로 도망쳤다. 그 덕분에 좋은 책 2권을 만났고, 그 책 이야기를 하는 것으로 글을 시작하려 한다.
인류 과학의 진화 (테드 창)
아껴두었던 테드 창의 첫번째 단편집 <당신 인생의 이야기>은 예상대로 좋았다. 수록된 소설 자체로는 더 훌륭한 단편들이 많았지만, 지금 시기에 가장 눈에 들어오는 단편은 <인류 과학의 진화>라는 아주 짧은 단편이었다.
이 짧은 단편을 요약하자면, 기존의 인류와 고지능화 된 메타 인류라는 2가지의 인류가 살아가는 미래를 다루고 있다. 기존 인류는 메타 인류의 고도화된 사고 체계를 이해 할 수 없다. 그래서 인류는 메타 인류가 만든 결과물을 이해하기 위한 학문을 연구한다. 메타 인류가 엄청난 기술을 계속 만들어내고 그것이 실제로 작동하긴 하는데, 인류는 왜 그렇게 되는지 이해할 수 없으니 이를 해석하는 연구가 생겨난 것이다. 당연하게도, 인류는 더 이상 스스로 과학을 연구할 필요도, 할 수도 없게 되었다. 메타 인류가 과학을 경이로운 속도로 알아서 발전시키고 있으니.
이렇게 보면 어디서 많이 들어본 이야기다. 올해는 OpenAI가 AI Scientist를 본격적으로 시작한다는 해이다. 그리고 현재의 LLM은 소설 속 메타 인류와 닮아 있다. 우리가 만들었지만, 정작 그것이 어떻게, 왜 작동하는지 명확히 모른 채 LLM을 만들고 쓰고 있는 우리처럼 말이다.
책의 역사
도서관에서 우연히 발견했다가 너무 재미있어서 새벽까지 읽게 된 책이다.
작년에 읽었던 <40가지 테마로 읽는 도시 세계사> 책을 통해서, 마인츠에서 발명된 구텐베르크 인쇄기와 발명 이후 50년 동안의 역사에 대해 알게 되었었다. 당시 나는 AI에게 여러 번 물어가면서, 이런저런 지식을 얻어가며, 관련된 생각도 정리 했었다. 그 때의 거대한 변화와, 그 변화를 맞닥뜨린 필경사들의 처지가 지금의 개발자들이 마주한 변화와 비슷하다고 느꼈기 때문이다. (그래서 그 때 썼던 글이 바로 이 글)
그런데 진짜 전문가가 쓴 이 책을 읽고 나서, 내가 모르는게 진짜 많았다는 걸 깨달았다. 이전에 읽었던 책이나, AI의 답변에 잘못된 정보(할루시네이션)가 있었다는 의미는 아니다. 책과 AI가 해줬던 답변들 중에 틀린 건 없었다. 다만, 내가 물어보지 않으면 AI는 물어보지 않는 것에 대해서 먼저 말해주지 않기 때문에, 그냥 잘못된 상태로 넘어간 것들이 많았다.
예를 들면, 내가 작년 말에 알던 내용은 이랬다.
- 필경사 1명이 성경 1부를 만들려면 3년 정도 걸림
- 구텐베르크 인쇄기 발명 당시에 유럽의 필경사는 대략 3만명 정도
- 즉, 유럽 전체에서는 1년에 1만부 정도의 성경을 만들 수 있었음
- 필경사 1명이 3년 동안 작업해야 했고, 1년에 나오는 총 부수도 적었기에 가격이 비쌌음.
- 인쇄기 발명 되고, 50년동안 2000만부의 성경이 만들어짐
- 인쇄본 성경의 가격은 필사본의 1/3 정도로 생각보다 기하급수적으로 떨어지진 않았지만, 생산된 성경의 수는 연간 1만부에서 40만부로 엄청나게 늘어남
- 그 뒤로는 왕족이나 귀족들을 위한 고급 필경사만 살아남았고, 나머지 초중급 필경사들은 인쇄기에 대체 되어서 사라졌음
- 그러다가, 타자기가 나온 후, 필경사라는 직업이 완전히 멸종함
였다.
그런데, 책을 읽어보니 중간중간 맥락이 빠져있거나, 내가 비어 있는 틈을 잘못 채우고 있는 부분이 많았다.
- 인쇄기가 나온 후 필사본은 인쇄된 책에 의해 빠르게 대체 되었다?
👉 초기 50년 동안(인튜나뷸라 시대)는 인쇄를 하더라도 삽화나 채색은 여전히 수작업으로 했다. 당시 인쇄본의 지향점은 필사본처럼 보이는 것 이었기에, 육안으로는 필사본인지 인쇄본인지 구분이 안되게 만들었다. (현대의 전공자들도 인쇄본 고서를 필사본 고서로 오인하는 경우가 많다고 한다.)
- 인쇄기라는 발명 때문에 필경사라는 직업이 사라졌다?
👉 듣고 보면 당연하지만, 미처 생각하지 못했던 점인데, 필경사 혼자서는 책을 만들지 못한다. 당시의 책은 양피지로 만들었기 때문에 양피지 장인이 필요했다. (양피지는 현재의 종이에 비해 두껍고 무거워서, 무거운 책은 20kg이 넘었다고). 또한 채색가, 삽화가, 제본업자가 따로 있었다. 그러니까, 직업 한 개가 없어진 게 아니라 필사본과 관련된 직업 여러개가 사라진 것이다.
그러면 책의 가격이 우리가 생각하는 것처럼 기하급수적으로 싸진 시대는 언제 왔을까? 생각보다 아주 오랜 시간이 걸렸다. 산업혁명을 거치며 인쇄기가 수동에서 기계식으로 바뀌고, 우리가 쓰는 펄프 종이가 나온 뒤에야, 우리가 아는 책이 되었다. 분리수거장에 있는 종이류를 잘 보다보면, 가끔씩 줍줍 할 정도로 흔하고 싸진 것은 생각보다 비교적 최근의 일이었다.
왜 AI는 이런 이야기를 안해줬을까?
AI는 왜 이런 이야기를 해주지 않았을까? AI는 내가 물어본 이야기에 대해서는 잘 대답해 주지만, 물어보지 않는 이야기는 절대 먼저 꺼내지 않는다. 내가 인쇄기 발명 이후에 어떻게 되었는지에 대해 물어봤으니, 그 뒤에 50년의 이야기만 해줬을 것이다. 필경사에 대해서만 물어봤으니, 필경사와 같이 일하던, 양피지 장인, 채색가, 삽화가의 존재는 언급하지 않았다. 학기가 시작되면 학생들이 분철된 책을 서점에서 빌려다가 밤새 손으로 복사 하던 르네상스 시절 대학가의 풍경 같은 이야기도, AI에겐 들을 수 없었을 것이다.
AI가 서재패 이야기를 하진 않겠지
작년에 진행하던 바이브 비스타 코딩 클럽를 올 초부터는 방식을 조금은 바꿔서 운영하고 있다. 같이 모여서 개발을 하는 것보다, 같이 모여서 이야기를 나누는게 더 좋을거 같다는 생각이 들었기 때문이다. 지금은 멤버분들을 한 분씩 초대해서 같이 이야기를 나누는 시간으로 채워가고 있다.
각자 만들고 있는 것들, 각자 AI Native, AI Engineering 시대에 맞춰서 해본 것들을 공유하고, 해보고 안되던 것들에 대해 이야기하고, 요즘하고 있는 각자의 고민들을 나누고 있다.
그렇다고 회사 회의처럼 주제에 대한 이야기만 하는 자리도 아니기에, 이런 저런 잡담도 같이 많이 한다. 최근에 본 유튜브 영상이나, 넷플릭스 컨텐츠나, 노래 같은 것들에 대한 이야기도. 그러다가, 얼마 전에는 주말에 서울재즈페스티벌(서재패)에 가신다는 멤버가 있어서 한참 동안 그 이야기를 나눴다. 한로로 이야기와 올림픽공원 언덕 위에서 들을 수 있는 무료 관람(?) Tip 이야기까지.
문득 AI는 절대로 이런 이야기는 하지 않겠다라는 생각이 들었다. AI는 물어본 것에 대해서는 잘 말해주지만, 말하지 않는 것은 주제와 관련 없는 내용은 절대 말하지 않는다. 내가 하는 모임이 사람들과 하는 모임이 아니라 AI Agents들과 하는 대화였다면, 맥락 없이 갑자기 서재패 이야기를 꺼내는 AI는 없었을 것이다. 그랬다면 나는 그 주말에 서재패가 열리는지도, 한로로가 이번 서재패에 오는 지도 몰랐겠지.
오해를 유도하는 진실 (Misleading truth)
칸트의 윤리학에는 오해를 유도하는 진실(Misleading truth)이라는 개념이 있다. <정의란 무엇인가>를 쓴 마이클 샌델 교수는 다음과 같은 예시를 들며 이 개념을 설명한다.
Misleading Truth는 문장 자체는 진실이지만, 상대방이 알아서 오해하도록 교묘하게 표현하는 것입니다. 예를 들어서, 친구를 죽이려는 살인마가 내 집에 찾아와 “네 친구 어디 있냐?”라고 물었을 때, “여기 없어요”라고 말하는 것은 거짓말이 됩니다. 하지만 “한 시간 전에 친구를 마트에서 봤어요”라고 말하는 것은 거짓말이 아니라, Misleading truth 입니다. 한 시간 전에 마트에서 본 것은 분명한 사실이고, 지금 집에 친구가 없다고 거짓말을 하지는 않았기 때문입니다.
예전엔 AI의 가장 큰 문제를 잘못된 정보를 알려주거나 만들어내는 환각(Hallucination)이라고 했지만, 이제는 환각보다는 Misleading truth가 더 크게 다가온다. 더군다나, 환각은 가드레일을 만들고 검증 loop를 만들면, 상당 부분 잡아낼 수 있다. 오히려 더 해결하기 어려운 문제는, AI가 일부러 숨기는 것은 아니지만 우리가 묻지 않을 때까진 말해주는 않는 것들 아닐까.
여담 - 2026년 5월 말의 Snapshot
5월 말에 주니어 개발자 100여 명 앞에서 <AI 시대 속 개발자의 생존법> 이라는 주제로 발표를 할 기회가 있었다. (궁금하신 분을 위한 발표 자료 링크, 그런데 구어를 전제로 만든 자료라서, 슬라이드만 봐서는 의미 전달이 온전히 안 될 수 있다.)
발표 초반에 청중들에게 질문을 하나 던졌다. 일방적인 발표보다 지금 우리가 어느 지점에 와 있는지 다 같이 확인하고 시작하는 게 훨씬 좋을 것 같아서였다. 한국에서의 현재 상황은 어떠한가 궁금하기도 했고.
오늘 어떤 방식으로 코딩 하셨나요?
- 구글 검색을 하면서, IDE에서 손으로
- ChatGPT나 Copilot과 함께 IDE에서
- Claude Code나 Codex로
- 문서만 만들고 나머지는 딸깍
딱 1년 전에 똑같이 물어봤다면, 대부분 1번이나 2번에 손을 들었을 것이다. 3번은 5% 남짓 되었을까? 그렇다면 2026년 5월 27일, 그날의 Snapshot은 어땠을까?
놀랍게도, 혹은 놀랍지 않게도 1번에 손을 든 사람은 단 한 명도 없었다. ChatGPT가 나오기 전, 즉 불과 몇 년 전까지만 해도 모두가 당연하게 여기던 방식으로 코딩하는 사람이 100 중 단 한 명도 없다는 뜻이다.
예상대로 2번에 손을 든 사람도 많지 않았다. 10% 남짓 정도? 청중의 60~70%는 3번인 Claude Code나 Codex로 개발을 하고 있었다. 1년 전만 해도 5% 남짓한 비주류였던 개발 방식이, 이제는 완전히 대세이자 주류로 자리 잡은 것이다.
사실 이 질문은 Claude Code를 만든 Boris Cherny의 발표에서 따 왔었다. 지난 5월 5일 발표에서 그가 청중에게 같은 질문을 던졌고, 거기서는 1~2번에 답한 사람이 15% 정도, Claude Code를 쓴다는 답변이 50% 정도였다. (참고로 Claude 앱에 있는 Claude Code를 쓰는 비율도 25% 정도로 많았다)
그렇다. 실리콘밸리도, 그리고 한국도 이제는 Coding Agent로 개발을 하는 것이 완전히 주류가 되었다.
방법이 바뀌었다면, 그 방법을 둘러싼 환경과 개발 방식들도 같이 바뀌어야 할 것이다. 당장 채용 프로세스로 쓰고 있는 사전과제는 다 같이 Claude Code를 쓴다면, 어떤 의미가 있을까? 잘 만들어진 사전과제라면, “해줘”만 반복하면 잘 나올테고, 아니라면 “해줘”로 해결되지 않는다면, 사전과제조차 불분명하게 만드는 좋지 않은 회사라는 증명 정도 되지 않을까?
변화하는 시대에, 어떻게 변화해야 할지는 결국 시도해 보는 방법 밖에 없어 보인다. 여담이 너무 길어진거 같아, 이 이야기는 다음 글에서 이어서.