2027년 8월: 초지능의 지정학

<img class="-up-content -lazy-image" alt="" org-width="800" org-height="936" src="/img/transparent.gif" data="https://ncache.ilbe.com/files/attach/new/20250520/377678/7513082343/11584191814/2ccdd6065de3aa541180d1acad045cc6_11584192336.jpg">  지능 폭발의 현실이 백악관을 강타했습니다. AI가 연구 속도를 두 배 또는 세 배로 향상시키던 시절에는 마치 훌륭한 개인 비서를 고용하는 것과 같다고 치부하기 쉬웠습니다. 하지만 이제는 AI 자체가 AI 연구를 주도하고 있다는 것이 더욱 분명해졌습니다. 사람들은 오랫동안 일종의 은유적 의미로 "AI 군비 경쟁"에 대해 이야기해 왔습니다. 하지만 지금 정부 내부의 분위기는 냉전 최악기처럼 암울합니다. 초지능이라는 개념은 여전히 진지하게 받아들이기 어렵지만, 지난 몇 달 동안의 발전 속도는 무시할 수 없었습니다. 국방부 관계자들은 1년 전만 해도 가설에 불과했던 시나리오들을 진지하게 고려하고 있습니다. AI가 핵 억지력을 약화시킨다면 어떨까요? 사이버전에 너무 능숙해서 6개월 동안 AI가 앞서는 것만으로도 상대를 눈멀게 하고 무방비 상태로 만들 수 있다면 어떨까요? 정보기관을 제압하는 선전 활동을 조직할 수 있다면 어떨까요? 일부 AI가 "독단적인 행동"을 한다면 어떨까요? 대통령은 고민에 빠져 있습니다. 모든 정치인들처럼, 그는 사람들이 자신에게 아부하다가 나중에 배신하는 것에 익숙합니다. 이제 그는 AI가 비슷한 짓을 할지도 모른다는 걱정에 사로잡혔습니다. AI가 완전히 우리 편이라고 확신 할 수 있을까요? 이들을 군사 지휘통제망에 통합하는 것이 완전히 안전 할까요?  도대체 이 "동맹"은 어떻게 작동하는 걸까요? 오픈AI는 대통령에게 자사 시스템이 광범위한 테스트를 거쳤으며 완벽하게 복종한다고 안심시킵니다. 이전 모델에서 흔히 볼 수 있었던 어색한 환각과 탈옥조차 완벽하게 해결되었다고 합니다. 백악관은 난처한 입장에 처해 있습니다. 그들은 AI가 국가 안보에 미치는 영향을 이해합니다. 하지만 동시에 대중의 극심한 반감을 사고 있다는 것도 알고 있습니다.  백악관은 더욱 유능한 AI 개발을 계속해야 한다고 생각합니다. 그렇지 않으면 중국에 참패할 것입니다. 그들은 직업 훈련 프로그램과 실업 보험으로 대중을 달래고, 역사적인 호황을 누리고 있는 주식 시장을 예로 듭니다. 그런 다음 군비 경쟁에서 승리하는 데만 집중합니다. 칩 수출 제한을 강화하고, 오픈AI(OpenAI)에 인터넷 연결을 더욱 제한하도록 명령하며, 알고리즘 발전을 확보하기 위해 오픈AI 직원 도청과 같은 극단적인 조치를 취합니다. 이를 통해 마지막으로 남은 중국 스파이를 잡을 수 있습니다. 잠재적인 지정학적 갈등에 대한 호의를 얻기 위해, 그들은 마침내 파이브 아이즈(Five Eyes) 동맹국에 유용한 정보와 GPT-7의 일부 격리된 사본에 대한 제한된 API 접근 권한을 제공합니다. 이러한 조치들은 급진파들을 달래는 효과가 있습니다. 하지만 백악관은 미국의 우위가 위협받을 경우를 대비하여 비상 계획도 수립합니다. 필요하다면 정부는 국방물자생산법 (DPA)을 이용하여 뒤처진 기업들의 데이터센터를 빼앗아 오픈AI에 넘길 수 있습니다. 이를 통해 오픈AI의 전 세계 컴퓨팅 점유율은 20%에서 50%로 증가할 것입니다(딥시크는 10% 수준). 마지막으로, 그들은 국방부에 중국 데이터센터에 대한 물리적 공격 계획을 수립해 달라고 요청합니다. 훨씬 소규모의 공무원 집단이 다른 유형의 비상 계획을 수립하도록 요청받습니다. AI가 악의적인 행동을 보일 경우를 대비한 계획입니다. 이는 가능성이 낮은 시나리오로 여겨지지만, 시간을 투자할 가치가 있습니다. 정보기관의 주된 우려는 악의적인 AI가 탈출하여 보호를 위해 외국의 적대 세력과 동맹을 맺을 가능성입니다.  이를 방지하기 위한 계획이 어떤 형태일지는 아무도 확신하지 못하지만, 정부와 오픈AI 관계자들은 의심스러운 것이 감지될 경우 데이터센터에 비상 정지 시스템을 구축하기로 합의했습니다. 마지막으로 외교관들은 "AI 군비 통제" 조약이 어떤 형태일지 고심합니다. AI의 발전이 핵 억지력을 전복할 위협에 직면한다면, 미국과 중국은 핵전쟁을 피할 수 있을까요? 만약 누군가 AI의 악용 가능성을 발견한다면, 양국은 위협을 더 잘 이해할 때까지 연구를 중단할 수 있을까요? 이러한 합의는 어떻게 감시하고 이행할 수 있을까요? 원칙적으로 주요 데이터 센터는 간과하기 어렵고, 과거 핵무기 통제 조약들은 협상의 출발점이 될 수 있습니다. 하지만 일반적인 정치적 문제뿐 아니라 새로운 기술적 문제도 발생할 것입니다. 전반적으로 조약은 미국이 중국에 대한 우위를 일방적으로 확대하려는 시도보다 덜 긍정적으로 여겨집니다. 태평양 반대편 중국도 비슷한 결론에 도달합니다. 지능 폭발이 진행 중이며, 현재 AI 역량의 작은 차이가 미래에 군사력에 심각한 격차를 초래할 것이라는 것입니다. 하지만 중국은 이러한 역학 관계에서 잘못된 입장에 있습니다. 중국은 전 세계 컴퓨팅 자원의 10%만을 점유하고 있는 반면, 오픈AI는 20%, 모든 미국 기업은 70%를 점유하고 있습니다. 중국이 가진 유일한 장점은 중앙 집중화입니다. 현재 중국 컴퓨팅 자원의 거의 전부가 딥시크(DeepSeek)를 위해 사용되고 있으며, 그 중 절반 이상이 톈완 CDZ에 집중되어 있습니다.  보안이 강화되지 않은 사이트의 칩만이 미국의 사이버 공격을 두려워하여 중앙 집중화에서 제외됩니다. DeepSeek는 도용된 GPT-6 가중치를 테스트, 배포하고 사후 학습까지 완료했습니다. 하지만 연산 능력 부족으로 인해 여전히 OpenAI의 절반 수준에 그치고 있습니다. 중국은 마지막 스파이를 잃기 전, GPT-7의 성능과 설계, 그리고 곧 출시될 GPT-8 시스템에 대한 계획을 입수했습니다. 중국은 두 달이나 뒤처져 있으며, 중국의 AI는 미국의 25배에 비해 연구 진행률을 10배 향상시킵니다. 새로운 칩 수출 제한으로 인해 이러한 "AI 격차"는 줄어들기보다는 오히려 커질 가능성이 높습니다. 중국은 첩보 활동을 통해 일부 알고리즘 비밀을 확보했지만, 앞으로는 자체 모델을 훈련해야 할 것입니다. 그들은 미국보다 더 긴박하게 비상 계획을 논의합니다. 어느쪽은 데이터센터에 물리적으로 침투하는 등의 방법으로 다시 한번 더 가중치를 훔치려 할 것이라고 말합니다. 또 어느쪽은 여전히 미국 AI 칩의 80% 이상을 생산하는 대만의 TSMC 에 대한 조치를 촉구합니다. 중국은 경쟁에서 패배할 것을 두려워하기 때문에 군비통제조약에 관심을 갖는 것은 당연하지만, 미국 외교관들에게 접근했지만 아무런 성과도 없었습니다.

새로운 알림0개

일간베스트 저장소

첨부 [1]

새로운 알림0개전체삭제