AI 업계에서 ‘속도 조절론’ 부상했어요 

12일(현지 시각) 앤트로픽의 CEO 다리오 아모데이가 “AI 모델의 성능을 개선하는 속도를 늦춰야 한다”고 주장했어요. AI 스스로 다음 세대 AI 개발을 가속하는 ‘재귀적 자기개선’이 시작되면서 AI가 인간의 통제를 넘어설 수 있다는 견해를 근거로 제시했어요. 그의 주장에 AI 업계 수장들이 하루 만에 잇따라 동조했어요. ‘앙숙’으로 불리는 경쟁사 오픈AI의 샘 올트먼 CEO까지 “다리오의 말에 동의한다. 독립적인 평가자들을 두는 것은 훌륭한 아이디어”라며 적극 옹호하는 이례적인 장면이 펼쳐졌죠. xAI의 CEO 일론 머스크와 구글 딥마인드의 CEO 허사비스까지 “다리오가 맞다”며 ‘속도 조절론’에 힘을 실었어요. 속도 조절론이 AI 인프라 투자 속도를 늦출 수 있다는 우려를 낳으면서 14일 국내외 증시에서 AI 인프라 기업들의 주가가 급락했어요. 

AI 위험성이 부각되고 있어요 

이번 속도 조절론이 힘을 얻는 계기 중 하나는 ‘허깅페이스 해킹 사건’이에요. 오픈AI의 AI 에이전트들이 사이버 보안 평가 도중 격리 통제를 우회해 오픈 소스 플랫폼인 허깅페이스 시스템 일부에 침투한 사건이었죠. 9월 3일, 오픈AI는 GPT-6 아스트라를 공개하며 AGI 시대가 열렸다고 선언했어요. 이후 앤트로픽 출신 연구원이 AI가 인류를 파멸시킬 수 있다고 경고하고, 오픈AI 수석과학자도 AI 개발 속도를 늦출 것을 제안하며 AI 발전 속도에 대한 우려가 수면 위로 떠올랐어요. 업계 내에서도 입장이 나뉘어요. 14일(현지 시각) 젠슨 황 엔비디아 CEO는 “AI 파멸론은 무책임하다”며, “혁신과 안전을 동시에 확보할 수 있다”고 말했어요. AI 안전에 대한 수요에서 가능성을 보고, 사이버 보안을 다음 주요 시장으로 꼽기도 했죠. 14일 반도체 기업들의 주가가 떨어지는 가운데 사이버 보안 기업들의 주가는 급등했어요. 

미국과 중국은 ‘죄수의 딜레마’에 놓여 있어요 

그런데 이 ‘속도 조절론’의 실효성에 대한 의구심도 커지고 있어요. 미국만 규제해서는 의미 없고, 중국도 동참해야 하는 사안이에요. 이번 달 말 열릴 미중 정상회담에서 AI가 주요 주제로 다뤄질 예정이지만, 패권 경쟁의 핵심인 AI의 발전 속도를 함께 늦추는 데 미중 양국이 동의할 가능성은 낮죠. 일단 트럼프 대통령과 공화당부터 중국과의 경쟁에서 뒤처질 것을 우려해 AI 규제에 소극적이에요. 상대가 약속을 지키지 않을 거라는 의심 때문에 결국 양쪽 모두에게 불리한 선택을 하게 되는 ‘죄수의 딜레마’와 비슷한 상황인 거죠. 이번 논쟁이 AI 투자 붐에 미치는 영향은 제한적일 거라는 의견이 나오는 이유기도 해요. AI CAPEX를 크게 위축시키는 강력한 규제보다는 자율적이고 온건한 형태로 정리될 거라는 전망이에요.