What 2026 looks like — LessWrong

다니엘 코코타일로 저 2021년 8월 7일 AI Alignment Forum

이 글은 비네트 워크숍[1]을 위해 작성되었습니다. 목표는 현재 제가 관리할 수 있는 한 최대한 현실적인(제게) 상세한 미래 역사("궤적")를 작성하는 것입니다. 즉, 저는 이와 유사하게 상세하고 명확하게 더 그럴듯한 대안적 궤적을 알지 못합니다. 방법론은 대략 다음과 같습니다: 2022년의 미래 역사를 작성합니다. 이를 조건으로 삼고, 2023년의 미래 역사를 작성합니다. 2024년, 2025년 등에 대해 반복합니다. (저는 2022-2026년을 먼저 게시하여 2027년 이후를 작성하는 데 도움이 될 피드백을 얻으려 합니다. 이야기가 특이점/멸종/유토피아 등에 도달할 때까지 계속 작성할 계획입니다.)

이렇게 하는 이유는 무엇일까요? 몇 가지 이유가 있습니다:

1. 구체적인 예시를 작성하려고 시도하면 배우게 되는 것들이 있습니다. 예를 들어, 가능성이 생각했던 것보다 더 그럴듯하거나 덜 그럴듯할 수 있다는 점입니다.
2. 미래에 관한 대부분의 진지한 대화는 높은 수준의 추상화로 이루어집니다. 예를 들어 GDP 가속화, TAI(변혁적 AI)가 구매 가능할 때까지의 타임라인, 다극 vs 단극 테이크오프 등을 논의합니다... 비네트는 탐구할 가치가 있는 간과된 보완적 접근법입니다.
3. 대부분의 이야기는 역방향으로 쓰여집니다. 저자는 어떻게 끝날지에 대한 아이디어로 시작하여, 그 결말에 도달하도록 이야기를 구성합니다. 반면, 현실은 과거에서 미래로 진행됩니다. 현실은 누군가를 즐겁게 하거나 논쟁에서 요점을 증명하려는 것이 아닙니다.
4. 일화적으로, 여러 사람들이 폴 크리스티아노의 "재앙의 이야기" 시리즈가 도움이 되었다고 하며, 일반적인 논의에 비해 이러한 이야기들은 우리가 원하는 것에 꽤 가깝습니다. (저는 여전히 조금 더 세부 사항이 좋을 것이라고 생각합니다 - 예를 들어, 폴의 이야기는 날짜나 기간, 또는 사실상 어떤 숫자도 제공하지 않습니다.)[2]
5. "저는 누군가가... AI가 어떻게 진행될지에 대한 궤적을 작성하길 원합니다. 지금부터 엄청난 지능 폭발까지 각 연도의 세계 GDP가 어떨지 매우 구체적이어야 합니다. 그리고 그 각 연도의 세계가 어떤 모습일지 그냥 적어보세요. 왜냐하면 저는 내부적으로 일관되고 그럴듯한 궤적을 작성하는 방법을 모르기 때문입니다. 저는 터무니없이 빠른 테이크오프를 제외하고는 이런 것들 중 하나도 작성하는 방법을 모릅니다." --벅 슐레거리스

이 비네트를 작성하기 어려웠습니다. 원하는 수준의 세부 사항을 달성하기 위해 많은 것을 만들어내야 했지만, 현실적이기 위해 계속해서 "그러나 실제로는 이런 상황에서 정말로 무슨 일이 일어날까?"라고 물어야 했습니다. 이는 제가 미래에 대해 얼마나 적게 알고 있는지 고통스럽게 분명히 드러냈습니다. 여러 지점에서 저는 "음, 이것은 그럴듯하지 않게 보이지만, 지금으로서는 더 그럴듯한 것을 생각할 수 없고 진행해야 합니다"라고 결론지어야 했습니다. 실제 세계가 여기서 제시된 궤적에서 빠르게 벗어날 것으로 충분히 예상합니다. 이러한 차이를 제 판단에 대한 증거로 주장하는 사람은 (사후 지식의 이점을 가지고) 2021년에 직접 작성한 비네트/궤적을 제시하여 증명하시기 바랍니다. 만약 그것이 유사한 수준의 세부 사항을 유지하면서(따라서 똑같이 목을 내밀고) 더 정확하다면, 저는 깊이 고개를 숙여 존경을 표합니다!

이것이 다른 사람들이 곧 더 많은 비네트를 작성하도록 영감을 주기를 바랍니다. 우리 Center on Long-Term Risk는 전략 논의에 사용할 컬렉션을 갖고 싶어합니다. 이를 하고 싶으시다면 알려주세요. 제가 조언과 격려를 드릴 수 있습니다! 저는 다른 워크숍을 기꺼이 진행하겠습니다.

2022

GPT-3는 마침내 구식이 되었습니다. OpenAI, 구글, 페이스북, 딥마인드 모두 거대한 멀티모달 트랜스포머를 보유하고 있으며, 이는 GPT-3와 크기가 비슷하지만 이미지, 비디오, 아마도 오디오도 포함해 일반적으로 더 높은 품질의 데이터로 훈련되었습니다.

그뿐만 아니라, 이제 이들은 일반적으로 다양한 방식으로 미세 조정되었습니다. 예를 들어, 질문에 정확하게 답하거나, 챗봇으로서 흥미로운 대화를 생성하도록 말입니다.

챗봇은 대화하기 재미있지만 변덕스럽고 결국 지식인들에게는 피상적이라고 여겨집니다. 이들은 특별히 중요한 어떤 것에도 유용하지 않지만, 몇 가지 응용 프로그램이 있습니다. 어쨌든 재미있기 때문에 사람들은 기꺼이 비용을 지불합니다.

[편집: 이 글을 게시한 다음 날, 중국에서 2021년 챗봇 시장이 연간 4억 2천만 달러이며 활성 사용자가 1천만 명이라는 사실을 알게 되었습니다. 이 기사에 따르면 2021년 글로벌 시장은 약 20억 달러이며 연간 약 30%씩 성장할 것으로 예상됩니다. 저는 더 빠르게 성장할 것으로 예측합니다. 새 편집: xiaoice도 참조하세요.]

첫 번째 프롬프트 프로그래밍 라이브러리와 첫 번째 관료제가 발전하기 시작합니다.[3] 예를 들어: 사람들은 일반적인 AI 비서를 꿈꾸고 있으며, 이는 여러분을 대신하여 인터넷을 탐색할 수 있습니다. "USB 스틱을 사주세요"와 같은 지시를 내리면 구글 검색을 하고, 몇 가지 다른 옵션의 가격과 리뷰를 비교하고, 구매를 합니다. "스마트 구매자" 기술은 작은 프롬프트 프로그래밍 관료제로 구현되어, 초기 명령을 듣고 스마트 구매자 기술을 활성화하는 더 큰 관료제의 구성 요소가 됩니다. 또 다른 기술은 "웹 개발" 기술일 수 있습니다. 예: "교수들이 가지고 있는 종류의 개인 웹사이트를 만들어주세요. 여기 제 파일에 대한 접근 권한이 있으니 게시할 자료로 사용하세요." 이 꿈의 일부는 제대로 작동하는 앱이 더 나은 모델을 훈련하는 데 사용될 수 있는 많은 데이터를 생성한다는 것입니다.

2022년에 사용 가능한 관료제/앱은 아직 그다지 유용하지 않지만, 많은 것들이 수평선 상에 있는 것 같습니다. 멀티모달 사전 훈련과 미세 조정 덕분에, 2022년의 모델들은 GPT-3를 GPT-1처럼 보이게 만듭니다. 열광이 커지고 있습니다.

2023