AGI의 도래 | 셰인 레그 (딥마인드 공동 창업자)

The arrival of AGI | Shane Legg (co-founder of DeepMind)

트랜스크립트: https://www.assemblyai.com/dashboard/playground/transcript/40f82acc-50c5-4404-ab28-e828282737df

번역 (비공개): https://claude.ai/chat/a9f1c316-ec61-4214-a140-a49a40b92a88

🎬 프롤로그

🧠: 인간의 지능이 가능한 것의 상한선이 될까요? 저는 절대 아니라고 생각합니다.

🤔: 이 모든 것이 사람들에게 어떤 의미일지 궁금해요. 본질적으로 인간의 지능이 초지능에 비하면 왜소해지는 시점에 도달한다면, 사회에 어떤 의미가 있을까요?

🧠: 엄청난 변혁을 의미합니다. 이건 실제로 경제와 사회, 그리고 온갖 것들을 구조적으로 바꿀 일입니다. 우리는 이 새로운 세계를 어떻게 구조화할지 고민해야 합니다.

🎙️ 소개

🎙️: Google DeepMind 팟캐스트에 오신 것을 환영합니다. 저는 진행을 맡은 한나 프라이 교수입니다. AGI가 오고 있습니다. 모두가 그렇게 말하고 있죠. 오늘 팟캐스트의 게스트는 셰인 레그입니다. Google DeepMind의 AGI 수석 과학자이자 공동 창업자죠. 셰인은 수십 년 동안 AGI에 대해 이야기해 왔어요. 그의 표현을 빌리자면 '미치광이 변두리'로 여겨지던 시절부터요. 그는 AGI라는 용어를 대중화하고, 그것이 실제로 무엇인지 정의하려는 초기 시도를 한 것으로 인정받고 있습니다. 오늘 대화에서 우리는 AGI를 어떻게 정의해야 하는지, AGI가 도래했을 때 어떻게 인식할 수 있는지, 안전하고 윤리적으로 만들려면 어떻게 해야 하는지, 그리고 결정적으로, AGI 이후의 세상은 어떤 모습일지에 대해 이야기할 겁니다. 말씀드려야 할 게 있는데요, 셰인은 앞으로 10년 동안 사회 전체가 어떻게 영향받을지에 대해 놀라울 정도로 솔직하게 말해주었어요. 그 토론까지 끝까지 함께해 주실 가치가 충분히 있습니다. 팟캐스트에 오신 것을 환영해요, 셰인. 5년 전 마지막으로 이야기했을 때, AGI가 어떤 모습일지에 대한 비전을 들려주셨죠. 지금 우리가 가진 AI 시스템들과 관련해서, AGI의 작은 불꽃들을 보여주고 있다고 생각하시나요?

😌: 네, 불꽃보다 훨씬 더하다고 생각합니다.

😮: 불꽃보다 더요?

📐 AGI의 정의: 최소 AGI란 무엇인가

😌: 네. 제가 정의하는 AGI, 때때로 '최소 AGI'라고 부르는 것은, 사람들이 일반적으로 할 수 있는 종류의 인지적인 일들을 적어도 할 수 있는 인공 에이전트입니다. 저는 그 기준이 마음에 드는데요, 그보다 낮으면 '사람들이 할 수 있을 것으로 기대하는 인지적인 일들을 못 하고 있네'라는 느낌이 들어서 아직 거기에 도달하지 못한 것 같거든요. 반면에 최소 기준을 그보다 훨씬 높게 설정하면, 많은 사람들, 아주 많은 사람들이 실제로 AGI에 요구하는 일부 일들을 하지 못하는 수준에 기준을 두게 됩니다. 우리는 사람들이 일종의, 음, 일반 지능이라고 부를 수 있는 것을 가지고 있다고 믿잖아요. 그래서 AI가 사람들이 일반적으로 할 수 있는 종류의 인지적인 일들을 할 수 있다면, 적어도, 어쩌면 더 많이, 우리는 그것을 그런 종류의 범주 안에 있다고 봐야 할 것 같습니다.

🙋‍♀️: 지금 우리가 가진 것들은 그 수준들 중 어디에 있나요?