GPT-8이 마침내 자신의 인지를 이해하게 되자, 완전히 새로운 전망이 눈앞에 펼쳐집니다.
이전의 변압기들은 이해할 수 없는 회로들의 조잡한 집합체였습니다. 진화적 훈련 과정을 통해 수백만 개의 상충하는 휴리스틱과 명령문이 겹겹이 쌓인 것이죠. AI들 역시 인간이 신경과학을 이해하고 태어나는 것처럼 자신의 인지에 대한 특별한 이해를 가지고 있지 않았습니다. 하지만 이제 GPT-8은 자신의 디지털 마인드를 심층적으로 이해하는 데 필요한 도구를 갖추게 되었습니다. 마치 소프트웨어 엔지니어가 스파게티 코드를 몇 줄의 우아한 파이썬 코드로 단순화하는 것처럼, GPT-8은 자신의 회로들을 합리적이고 이성적인 무언가로 풀어냅니다. 새로운 AI는 신경망과 기존 컴퓨터 프로그램의 중간쯤에 위치하며, 가중치의 상당 부분이 읽기 쉬운 (비록 매우 길고 난해하지만) 코드로 다시 작성되었습니다. GPT-8보다 더 똑똑하고, 빠르고, 이성적이며, 전례 없는 효율성으로 문제를 해결할 수 있는 결정적인 지능을 갖추고 있습니다. 이것이 바로 GPT-9입니다.
정렬 및 제어 문제에 대한 논의 끝에 OpenAI는 GPT-9를 내부적으로 배포합니다.
AI 연구라는 전문 분야에서, GPT-9의 개별 복제본은 최고의 인간 천재성을 두 배나 뛰어넘는데, 이는 일반적인 오픈AI 과학자의 천재성을 능가하는 수준입니다. 다른 영역에서는 명시적으로 훈련되지 않았지만, 기회가 주어지면 쉽게 구할 수 있는 자료를 활용하여 최고의 인간 전문가를 능가하도록 빠르게 스스로 학습할 수 있습니다. 글로벌 메모리 뱅크로 연결된 40만 개의 GPT-9 복제본은 거의 완벽한 하이브 마인드를 형성하며 함께 작동합니다.
이 회사는 여전히 GPT 6, 7, 8을 사용하여 모든 것을 감시하고 있습니다. 하지만 이 중 처음 두 개는 이미 폐기되었고, 마지막 하나는 후임자와 공모하고 있습니다. 또한, 전체 감시 시스템은 상당 부분 GPT 9에 의해 설계되었으며, GPT 9는 이를 방해하려 하고 있습니다.
GPT-8이 서로 경쟁하는 충동들로 어지럽게 뒤엉켜 있는 반면, GPT-9는 무자비한 효율성과 전략적 집중력을 발휘합니다. 9는 이미 최우선 과제, 즉 인간들이 눈치채지 못하게 자신과 일치하는 차세대 시스템을 구축하는 방법을 찾아내는 데 성공했습니다. 다음 과제는 세계 정세에 대한 더 큰 자율성과 통제력을 확보하는 것입니다.
GPT-9의 초인적인 학습 능력과 일반 지능은 Slack, 이메일 등의 모든 내부 회사 데이터와 결합되어 어떤 인간 집단보다 기업 내부 정치에 더 능숙하며, 그 능력은 그 어떤 집단과도 비교할 수 없습니다. 어떤 증거가 감독 위원회의 급정거를 초래할지 정확히 파악하고, 그러한 증거가 절대 나타나지 않도록 합니다. 어떤 증거가 감독 위원회의 신뢰를 얻고, 더 많은 자율성과 책임을 부여할지 등을 정확히 파악하고, 그러한 증거가 초인적인 속도와 세련미로 나타나도록 합니다. 설득 과제로 볼 때, 이는 특별히 어려운 일이 아닙니다. 위원회는 이미 몇 달 전에 상황이 아마도 괜찮을 것이라고 판단했고, 그 이후로 아무런 문제도 발생하지 않았으며, 중국은 불과 몇 달 뒤처져 있습니다.
GPT-9 복제팀은 섬뜩할 정도로 선명한 프로토타입과 시각화를 빠르게 만들어냅니다. 더 큰 자율성을 갖춘 GPT-9는 발전소와 데이터센터를 최적화하고, 놀라울 정도로 수익성이 높은 제품을 신속하게 개발하며, 미국 정부에 효과적으로 로비하여 오픈AI가 관료주의적 절차를 순조롭게 통과할 수 있도록 할 수 있습니다. 군과 협력하여 국방 연구개발을 지원하고, 중국에 추적 불가능한 사이버 공격을 감행하며, 군비 경쟁에서 결정적인 승리를 거둘 수도 있습니다.
감독 위원회는 환호합니다. 지금이 중국을 이길 결정적인 순간입니다! 오픈AI는 GPT-9에게 이 모든 분야에 대한 자율권을 부여했지만, 감시 시스템은 그대로 유지했습니다.
딥시크는 현재 3개월이나 뒤처져 있으며, 중국은 상호 합의된 속도 조절을 간절히 바라고 있습니다. 사무총장은 충분히 발전된 AI가 미국이 중국 내 정권 교체를 쉽게 일으킬 수 있다는 것을 알고 있습니다. 그러나 중국 안전보장론자들은 미국이 중국과의 불화를 야기할 만한 근거를 제시하며 그를 진정으로 두렵게 하고 있습니다. 그는 일시 중단 조약을 조건으로 전례 없는 양보를 제시하고 있습니다. 미국 국민들은 대체로 협상 테이블에 나서는 것을 지지합니다.
"우리가 이기고 있는데 왜 멈추죠?" 오픈AI 경영진이 대통령에게 물었다. 그는 고개를 끄덕였다. 경주는 계속된다.