실리콘밸리에서 AI 개발 속도를 늦추자는 목소리가 커지고 있지만, 반도체 구매와 데이터센터 확보 경쟁은 오히려 가속되고 있다. 안전성 검증을 위한 시간을 벌자는 담론과 실제 자본이 움직이는 방향이 서로 다른 곳을 향하는 이 엇갈림은, 규제·안전 논의가 산업의 실질적 투자 흐름을 바꾸지 못하고 있음을 보여준다.
속도 조절론의 등장
다리오 아모데이 앤스로픽 CEO는 9월 12일 공개한 에세이에서 “AI 모델의 능력을 개선하는 속도를 늦춰야 한다”고 주장하며 3단계 구상을 제시했다. 외부 평가자가 기업 내부에 상주해 위험을 점검하는 1단계, 민주주의 국가들의 공조, 나아가 국제적 공조로 확장하는 구상이다. 앤스로픽은 이 중 외부 평가자에 사무실과 노트북, 출입 권한을 제공하는 1단계만 즉시 시행에 들어갔다. 반도체 구매나 데이터센터 건설을 줄이겠다는 뜻은 아니라는 점도 함께 강조됐다.
말과 다른 자본의 흐름
속도 조절 담론이 확산되는 동안에도 투자 지표는 반대 방향을 가리킨다. 브로드컴은 2027 회계연도 AI 반도체 매출을 약 1150억달러, 2028 회계연도는 약 2300억달러로 전망했고, 이 목표치는 시장 반응과 관계없이 유지되고 있다고 보도됐다. 앤스로픽과 오픈AI는 20~30메가와트(MW) 규모의 소형 데이터센터 부지를 계속 찾고 있으며, 디 인포메이션 집계에 따르면 앤스로픽이 최근 11개월간 체결한 컴퓨팅 자원 임차 계약 규모는 약 5170억달러에 달한다. 오픈AI가 공개한 신모델 GPT-6 아스트라에는 10만개가 넘는 GPU가 투입된 것으로 알려졌다. 안전을 이유로 속도를 늦추자는 주장과, 실제로는 그 어느 때보다 큰 규모의 투자가 동시에 진행되고 있는 셈이다.
공조는 왜 흩어지는가
속도 조절을 둘러싼 산업 내부의 합의도 견고하지 않다. 마크 저커버그 메타 CEO와 젠슨 황 엔비디아 CEO는 공동 대응론에 거리를 두는 모습을 보였다. 정치권의 반응도 우호적이지 않다. 도널드 트럼프 미국 대통령은 “강하고 똑똑한 대통령”이라는 표현으로 AI 안전장치와 관련한 입장을 밝혔고, 마이크 존슨 하원의장을 포함한 미 정치권과 중국 정부는 속도 조절론에 부정적인 태도를 보이고 있다. 카네기국제평화재단의 안톤 라이히트, 스콧 싱어 연구원은 명확한 정의와 검증 장치, 정부 지원 없이는 실질적인 공조가 어렵다고 분석했다.
한국은 어디에 있나
지난 7월 28일 공개된 관련 서한에는 발표 당시 약 1100여명이 서명했고, 이달 기준 서명자는 1386명으로 늘었다. 그러나 한국은 이 초기 논의에 참여하지 않았으며, 위험 평가 역량을 갖춘 국내 AI 기업이 있는지도 확인되지 않았다. 현재까지 실제로 이행이 예고된 것은 외부 평가자 상주라는 1단계뿐이며, 민주주의 국가 공조와 국제 공조 단계는 아직 구상 단계에 머물러 있다. 안전을 명분으로 한 속도 조절 논의가 자본의 흐름을 바꾸지 못한 채, 담론과 투자가 각자의 속도로 달리고 있는 형국이다.