드와케시의 3b1b (그랜트 샌더슨) 인터뷰 - 'AI와 수학의 미래' 편 내용이 어려워서 수학과 AI에 관한 용어를 제외하고도 표현할 수 있는 벼리에 해당하는 메시지만 담도록 대강화(大綱化)를 해보게 했습니다. 많은 디테일과 뉘앙스들이 희석됐겠지만 그래도 요즘 시기에 질문 던지며 고민해 볼만한 내용이 많이 들어 있네요.
과연 '이해'가 여전히 중요할까, 사람이 LOOP 안에 들어있는 것이 여전히 가치있을까에 관한 고민이기도 한데요. 물론 LOOP 밖에 있는 모드와 LOOP 안에 있는 모드로만 구분하는 것은 그릇된 이분법일 수 있고, 공존 가능하거나 제 3의 관점이 있을 수도 있다고 열어놓고 생각해 보고 있습니다.
(GPT-5.5) 이 대화의 출발점은 단순하다. 어떤 지적 도구가 특정 분야에서 놀라운 성과를 내기 시작했다면, 그것은 그 분야만의 사건이 아니라 앞으로 다른 지식 노동 전반에서 벌어질 변화의 전조일 수 있다. 그러나 이 전조를 해석할 때 조심해야 한다. 한 분야에서 매우 어려워 보이는 과제를 해냈다고 해서, 곧바로 인간이 하는 모든 지적 일을 대신할 수 있다고 결론 내릴 수는 없다. 능력의 진보는 평평하게 오지 않는다. 어떤 영역에서는 갑자기 인간을 앞서가고, 어떤 영역에서는 여전히 아주 사소해 보이는 일에도 막힌다. 더 미묘한 점은, 한 분야 안에서도 이런 들쭉날쭉함이 다시 반복된다는 것이다.
따라서 “어려운 시험을 통과했다”는 사건은 중요하지만, 그것이 곧 모든 지능의 문턱을 넘었다는 뜻은 아니다. 어떤 시험은 겉으로는 창의성을 요구하는 것처럼 보이지만, 막상 들여다보면 반복 훈련이나 대량 탐색으로 풀리는 부분이 많을 수 있다. 반대로 어떤 문제는 작고 장난스러워 보이지만, 정해진 요령으로 밀어붙이기 어렵고 정말로 사고방식의 전환을 요구할 수 있다. 이 차이를 무시하면, 우리는 한 성취를 과소평가하거나 과대평가하게 된다.
여기서 중요한 질문은 “문제를 풀 수 있는가”가 아니라 “어떤 종류의 문제를 어떤 방식으로 푸는가”이다. 이미 주어진 문제를 푸는 능력과, 애초에 무엇이 중요한 문제인지 알아보는 능력은 다르다. 또 어떤 문제를 풀기 위해 기존의 지식들을 연결하는 능력과, 아예 새로운 사고의 틀을 만들어내는 능력도 다르다. 원문이 가장 집요하게 붙드는 구분은 바로 여기에 있다.
서로 다른 분야에 흩어져 있던 개념들이 사실 깊은 곳에서 같은 구조를 공유한다는 사실을 알아보는 순간이 있다. 이런 경우에는 새로운 도구가 특히 강력할 수 있다. 인간은 각자 자기가 배운 분야, 만난 사람, 읽은 문헌, 우연히 참석한 대화에 묶인다. 반면 기계적 지성은 훨씬 넓은 범위의 지식을 동시에 훑고, 서로 먼 영역들 사이의 유사성을 찾아낼 수 있다. 이 능력이 제대로 작동한다면, 오랫동안 문헌 속에 잠들어 있던 연결들이 빠르게 드러날 수 있다. 원문에서 말하는 “아직 캐내지 못한 잠재력”은 바로 이런 것이다. 이미 재료는 있는데, 아직 아무도 그것들을 한데 묶지 못한 상태다.
이것은 단순한 연결보다 훨씬 어렵다. 기존에 있던 두 길을 잇는 것이 아니라, 사람들이 앞으로 올라가야 할 새로운 지형 자체를 만드는 일이다. 역사적으로 큰 개념적 전환은 이런 모습에 가까웠다. 처음에는 무슨 말인지 잘 이해되지 않고, 곧바로 쓸모도 없어 보이며, 기존의 평가 방식으로는 가치를 알아보기 어렵다. 하지만 시간이 지나면 그 개념이 여러 문제를 한꺼번에 설명하고, 이후 세대가 사고하는 기본 언어가 된다. 이런 종류의 성취는 “정답을 맞혔다”는 식으로 즉시 평가하기 어렵다. 그것이 정말 생산적인 생각이었는지는 수십 년 뒤에야 드러날 수도 있다.
이 경우 답은 나올 수 있지만, 인간의 이해는 크게 늘지 않을 수 있다. 길고 복잡한 논증이 있고, 그것이 옳다고 확인되더라도, 왜 그 길이 자연스러운지, 무엇을 배워야 하는지, 이후 다른 문제에 어떻게 적용해야 하는지는 여전히 불투명할 수 있다. 원문은 이 가능성을 진지하게 다룬다. 앞으로 기계가 거대한 문제의 답을 내놓을 수는 있지만, 그 답이 곧 인간에게 이해 가능한 통찰을 준다는 보장은 없다.
이 구분은 “성과”와 “이해”의 차이로 이어진다. 어떤 사실이 참임을 보이는 것과, 그 사실이 왜 참인지 납득 가능한 방식으로 설명하는 것은 다르다. 더 나아가, 그 사실을 어떤 더 큰 그림 속에 놓아야 하는지 아는 것은 또 다르다. 인간이 진정으로 원하는 것은 단순히 결과가 아니다. 우리는 그 결과가 세계를 보는 방식을 어떻게 바꾸는지 알고 싶어 한다. 어떤 복잡한 것을 더 작고, 더 명료하고, 더 예측력 있는 형태로 압축해주는 설명을 원한다. 원문에서 반복되는 “우아함”이나 “압축”에 대한 이야기는 이 지점과 닿아 있다. 좋은 이해란 단순히 많은 정보를 쌓는 것이 아니라, 많은 것을 적은 개념으로 볼 수 있게 되는 일이다.
그렇기 때문에 앞으로 기계가 많은 결과를 생산하게 되더라도, “그 결과를 인간이 소화할 수 있게 만드는 일”은 독립적인 중요성을 갖는다. 어쩌면 기계가 그 설명까지 잘하게 될 수도 있다. 원문은 인간 해설자의 역할이 영원히 안전하다고 단순히 말하지 않는다. 오히려 한때는 “기계가 증명하고 인간이 설명한다”고 생각했지만, 이제는 기계가 설명도 꽤 잘하게 될 가능성을 인정한다. 다만 그래도 남는 것이 있다. 무엇을 설명할 것인가, 어떤 아이디어가 씨름할 가치가 있는가, 어떤 순서로 사람들에게 보여줄 것인가, 왜 이것이 흥미로운가를 고르는 역할이다.
이 지점에서 인간의 역할은 연구자라기보다 큐레이터에 가까워질 수 있다. 미술관에서 작품은 이미 존재하지만, 관람자는 여전히 어떤 작품을 어떤 맥락에서 볼지 안내받기를 원한다. 마찬가지로 지식이 너무 많이 생산되는 시대에는, 더 많은 결과를 만드는 것보다 어떤 결과가 의미 있는지를 가려내는 능력이 중요해진다. 사람들은 순수한 정보만 원하는 것이 아니라, 자신이 신뢰하는 누군가가 “이것은 볼 가치가 있다”고 말해주기를 원한다. 그 신뢰는 단순한 정확성에서만 나오지 않는다. 취향, 관계, 동기 부여, 맥락 감각에서 나온다.
원문이 또 하나 강조하는 것은, 기계가 빠르게 발전하는 영역에는 특정한 조건이 있다는 점이다. 답이 맞는지 틀리는지 확인하기 쉬워야 한다. 같은 과제를 수없이 반복해볼 수 있어야 한다. 실패와 성공의 차이를 비교할 수 있어야 한다. 시작 조건을 복제해 여러 번 시도할 수 있어야 한다. 이런 조건이 갖춰진 곳에서는 기계가 빠르게 배운다. 그러나 현실 세계의 많은 일은 그렇지 않다. 사업을 성공시키는 일, 사람을 설득하는 일, 시장에서 판단하는 일, 기관을 운영하는 일은 매번 상황이 바뀐다. 같은 조건을 복제하기 어렵고, 무엇이 결과를 만들었는지 분리하기 어렵다. 따라서 특정한 지적 과제에서 빠른 진보가 일어난다고 해서, 그것이 곧바로 모든 현실 문제로 번역되지는 않는다.