2025년 11월 29일

두괄식 결론

Ilya:

내가 했던 말 중 제대로 전달되지 않은 포인트 하나,

지금의 방법을 더 키워 나가면(스케일링하면) 계속 성능 향상이 있을 것이다. 특히, 이게 중간에 멈춰 버리지는 않을 것이다.

다만 그럼에도 불구하고, 여전히 어떤 중요한 무언가는 계속해서 빠져 있을 것이다.

Ilya × Noam + Andrej

image.png

Noam:

소셜 미디어에서는 AI 논쟁을 보통 다음과 같은 두 가지 캐리커처로 단순화해 버리는 경향이 있다.

(A) LLM은 결국 망할 것이고 AI는 과장된 hype일 뿐이라고 생각하는 회의론자들.

(B) 이미 필요한 재료는 다 갖췄고 초지능(superintelligence)이 임박했다고 믿는 광신도들.

하지만 헤드라인을 넘어 실제로 선도적인 연구자들이 하는 말을 읽어 보면, 놀랄 만큼 의견이 수렴되는 지점이 많다.

  1. 지금의 패러다임만으로도, 추가적인 연구적 돌파구가 없어도, 막대한 경제·사회적 임팩트를 내기에는 충분할 가능성이 크다.
  2. AGI/ASI(범용/초지능 인공지능)에 도달하려면 추가적인 연구적 돌파구가 더 필요할 확률이 높다. (지속 학습(continual learning)과 샘플 효율(sample efficiency)이 연구자들이 흔히 예로 드는 두 가지다.)
  3. 아마도 우리는 그런 돌파구를 찾아낼 것이고, 20년 안에는 거기에 도달할 것이다.

@demishassabis 는 5~10년일지도 모른다고 말했다.

@fchollet 은 최근 5년 정도라고 말했다.