https://ai-2027.com/scenario.pdf
Daniel Kokotajlo Scott Alexander Thomas Larsen Eli Lifland Romeo Dean
우리는 향후 10년간 초인간적인 AI의 영향력이 산업 혁명을 능가할 정도로 막대할 것이라고 예측합니다. OpenAI, Google DeepMind, Anthropic의 CEO들은 모두 향후 5년 안에 AGI(범용 인공지능)가 도래할 것이라고 예측했습니다. Sam Altman은 OpenAI가 "진정한 의미의 초지능"과 "영광스러운 미래"를 목표로 하고 있다고 말했습니다.
이를 단순한 과대광고로 치부하고 싶을 수 있습니다. 하지만 이는 심각한 실수가 될 것입니다. 단순한 과대광고가 아닙니다. 우리 스스로 AI를 과대 포장할 생각은 없지만, 10년 안에 초지능이 도래할 가능성이 놀랍도록 높다고 생각합니다.
만약 우리가 초지능의 문턱에 서 있다면, 사회는 전혀 준비되어 있지 않습니다. 초지능 개발을 헤쳐나갈 수 있는 그럴듯한 경로를 명확히 설명하려는 시도조차 한 사람은 거의 없습니다. 우리는 그러한 간극을 메우고 절실히 필요한 구체적인 내용을 제공하기 위해 AI 2027을 작성했습니다.
우리는 세상에 이와 같은 작업이 더 많아지기를 바라며, 특히 우리와 의견이 다른 사람들의 참여를 기대합니다. 이를 통해 우리가 어디로 향하고 있는지, 그리고 긍정적인 미래로 나아가기 위해 어떻게 방향을 설정해야 하는지에 대한 폭넓은 대화를 촉발하기를 바랍니다.
우리는 이 시나리오를 작성하면서 "다음에는 무슨 일이 일어날까?"라고 스스로에게 반복적으로 질문했습니다. 현재 시점에서 시작하여 첫 번째 기간(2025년 중반까지)을 작성한 다음, 다음 기간을 작성하여 결말에 도달했습니다. 우리는 특정 결말에 도달하려고 하지 않았습니다. 그런 다음 여러 번 폐기하고 다시 시작하여 그럴듯하다고 생각하는 완성된 시나리오를 만들었습니다. 첫 번째 결말인 '경쟁 결말'을 완성한 후, 대략 동일한 전제에서 시작하여 상황이 더 희망적으로 끝날 수 있는 방식을 묘사하고 싶었기 때문에 새로운 대안 분기를 작성했습니다.
우리가 모든 것을 맞출 수는 없을 것입니다. 이 중 상당 부분은 추측입니다. 하지만 이 프로젝트를 진행하는 동안 우리는 최대한 정보에 입각한 추측을 하기 위해 방대한 양의 배경 조사, 전문가 인터뷰, 추세 외삽법을 수행했습니다. 더욱이 우리 팀은 예측, 특히 AI 분야에서 뛰어난 실적을 보유하고 있습니다. 주요 저자인 Daniel Kokotajlo는 4년 전 "2026년의 모습"이라는 유사한 시나리오를 작성했는데, 이는 놀랍도록 잘 맞아떨어졌으며, Eli Lifland는 최고의 경쟁 예측가입니다.
모든 챕터의 시작 부분 오른쪽 여백에는 시나리오의 해당 섹션이 진행되는 시점의 세계 상황을 파악하는 데 도움이 되는 작은 차트가 있습니다. 이 숫자가 의미하는 바에 대한 자세한 설명과 방법론에 대한 훨씬 더 자세한 내용은 ai-2027.com에서 확인할 수 있습니다.
AI 2027이 도움이 되기를 바랍니다.
세상은 처음으로 AI 에이전트의 모습을 엿보게 됩니다. 컴퓨터 사용 에이전트에 대한 광고는 "개인 비서"라는 용어를 강조합니다. "DoorDash에서 부리토 주문해 줘" 또는 "내 예산 스프레드시트를 열고 이번 달 지출 합계를 내줘"와 같은 작업으로 프롬프트를 입력할 수 있습니다. 필요에 따라 사용자에게 확인을 요청할 것입니다. 예를 들어 구매 확인을 요청하는 식입니다. Operator와 같은 이전 버전보다 발전했지만, 널리 사용되기에는 어려움을 겪습니다.
한편, 대중의 관심 밖에서는 더욱 전문화된 코딩 및 연구 에이전트가 각자의 전문 분야를 변화시키기 시작합니다. 2024년의 AI는 구체적인 지침을 따를 수 있었습니다. 글머리 기호를 이메일로 바꾸고 간단한 요청을 작동하는 코드로 만들 수 있었습니다. 2025년에는 AI가 직원처럼 기능합니다. 코딩 AI는 단순한 보조자라기보다는 자율적인 에이전트에 가까워지고 있습니다. Slack이나 Teams를 통해 지침을 받고 스스로 상당한 코드 변경을 수행하여 때로는 몇 시간 또는 며칠을 절약하기도 합니다. 연구 에이전트는 사용자의 질문에 답하기 위해 30분 동안 인터넷을 샅샅이 뒤집니다.
이론적으로 (그리고 엄선된 예시에서는) 에이전트가 인상적이지만, 실제로는 신뢰할 수 없습니다. AI 트위터는 특히 우스꽝스러운 방식으로 엉망이 된 작업에 대한 이야기로 가득합니다. 더 나은 에이전트는 또한 비쌉니다. 지불한 만큼 얻는 것이며, 최고의 성능은 월 수백 달러의 비용이 듭니다. 그럼에도 불구하고 많은 기업이 AI 에이전트를 워크플로에 통합하는 방법을 찾습니다.