AI양필승 시리즈 11. 메타의 실패가 말해주는 한국 AI 데이터센터 계획에 대한 경고

한국 정부는 전라남도에 세계 최대 규모의 AI 데이터센터(AIDC)를 세우겠다는 야심찬 계획을 발표했습니다. 총 사업비 35조 원, 3기가와트(GW)의 전력 용량, 여기에 올해 안에 고성능 GPU 1만 개 확보 계획까지 포함된 이 프로젝트는 대한민국이 글로벌 AI 경쟁에서 선도 국가로 도약하겠다는 의지를 상징합니다.

하지만, 이러한 장대한 선언 앞에서 우리는 한 걸음 멈춰 서서 생각해볼 필요가 있습니다. 특히, AI 인프라 전환의 함정과 실패 사례를 면밀히 들여다보지 않는다면, 우리는 수십 조 원의 국민 세금과 시간을 허공에 날릴 위험에 처하게 됩니다.

대표적인 반면교사는 바로 “메타(Meta)”입니다. 페이스북으로 잘 알려진 이 글로벌 빅테크 기업은 수년 전부터 AI 전환을 위해 대규모 투자를 단행했습니다. 하지만, 기존에 보유하던 수많은 데이터센터, 즉 CPU 기반의 레거시(legacy) 인프라는 AI 전환에 거의 쓸모가 없다는 사실을 깨닫게 됩니다. 무려 90% 이상이 AI용으로는 비효율적이라는 결론에 이르렀고, 결국 메타는 기존 시설을 폐기하고 아예 AI에 최적화된 데이터센터를 처음부터 새로 짓는 것을 선택했습니다.

왜일까요?

기존 IT 데이터센터는 CPU를 기반으로 설계되어, 전력 밀도, 열 발생, 네트워크 대역폭, 워크로드 처리 방식 등 모든 요소가 AI와는 맞지 않았기 때문입니다. 반면 AI는 GPU 중심의 고밀도 연산, 고속 인터커넥트, 특수 냉각 시스템 등 완전히 다른 물리적·논리적 요구사항을 필요로 합니다. 이런 상황에서 기존 인프라를 억지로 개조하는 것은 경제적이지도, 기술적으로도 비효율적이라는 것이 메타의 결론이었습니다.

이 지점에서 우리는 한 가지 오래된 격언을 떠올릴 수 있습니다.

“버리기 아까워 억지로 쓰다 후회한다.”혹은,“쓸모없는 도끼 자루는 언젠가 손을 다치게 마련이다.”

인생에서도 마찬가지입니다. 지나간 투자, 존재하는 자산이 아깝다고 억지로 끌고 가면 결국 더 큰 손실과 후회를 낳습니다. 기술 인프라 전환에도 이 법칙은 똑같이 적용됩니다.

한국도 이미 비슷한 사례를 겪은 바 있습니다. 전라남도는 몇 년 전 GPU가 탑재된 AI 데이터센터를 구축했지만, 실제 장착된 GPU는 30~40개에 불과했습니다. 그나마도 예산 부족으로 기업 대상 서비스가 중단되면서 사실상 유명무실한 시설이 되어버렸습니다. 단지 “지었다”는 성과만 남았을 뿐, 운영 가능성과 지속성이 뒷받침되지 않았기 때문입니다.

지금 AI는 IT의 확장이 아닌, 문명의 전환이자 IT와 단절된 신기술이라는 점을 분명히 인식해야 마땅합니다. 칩 설계부터 전력 인프라, 냉각 방식, 운영체계와 소프트웨어까지 모든 것이 새롭게 설계되어야만 합니다. 단지 건물만 크게 짓고, GPU만 많이 사들인다고 AI 인프라가 구축되는 것이 아닙니다.

그럼에도 불구하고, 최근 더불어민주당 이재명 대선 후보는 100조 원 규모의 AI 투자를 공약으로 내세웠습니다. 그의 보궐선거 당선 가능성이 점점 높아지면서 이 공약이 현실화될 가능성도 커지고 있습니다. 물론 대규모 투자 자체는 반길 만한 일입니다. 그러나 이 투자가 메타처럼 ‘있는 것을 활용하자’는 사고에 기반하거나, 과거형 데이터센터 모델에 기대어 추진된다면, 그 결과는 참담할 수 있습니다.

한국은 인재도, 자본도, 의지도 모두 갖춘 나라입니다. 하지만 진정한 리더십은 ‘방향’과 ‘전문성’, 그리고 타이밍에 대한 겸손한 인식에서 나옵니다. 지금은 단지 규모를 자랑할 때가 아니라, 글로벌 사례에서 교훈을 얻고, 국내 실패에서 배워야 마땅할 시점입니다.

앞으로의 AI 인프라 구축 전략은 다음과 같은 원칙을 따라야 합니다.첫째, 레거시 데이터센터는 과감히 버리고 처음부터 AIDC를 설계할 것.둘째, 민간 전문가 및 AI 클라우드 실무자와의 협업을 통해 유연하고 확장 가능한 아키텍처를 구축할 것.셋째, ‘한 번에 끝내자’는 과도한 매몰 투자보다는 단계적이고 실증 중심의 접근을 택할 것.

지금 한국이 AI 시대의 핵심 인프라 구축에 실패하면, 단지 돈을 잃는 것이 아니라 AI 주권을 잃게 됩니다. 반대로, 우리가 지금 현명하게 판단하고 방향을 바로잡는다면, 한국은 AI 문명의 핵심 주도국으로 도약할 수 있습니다.

지금 필요한 것은 ‘무엇을 얼마나 하느냐’보다, ‘어떻게 왜 하느냐’에 대한 성찰입니다. AI는 속도전이 아니라, 깊이와 구조의 게임입니다. 그리고 그 시작은, 과거를 버릴 용기에서 출발합니다.

~~~~~~~~~

지은이 양필승: 1957년생. 미국 UCLA 중국현대사 박사. 건국대학교 교수와 한국뉴욕주립대 석좌교수 및 중국 칭화대학 겸임교수 역임, 현 중국 지린 메트로폴리탄기술교육대학 총장, 1999년 CKT그룹 설립, 2018년 매경 세계지식포럼 AI부문 좌장, 2019년 메일랩 설립 CEO.

MAILab (메일랩) www.mailab.co.kr: 자체 엔진인 i2Brain 및 자체의 AI 슈퍼컴퓨터와 Vision AI Framework, MEGA Image AI Platform 및 MEGA Industrial AI Platform에 터잡아 QSS 통합 솔루션으로 방역, 보안 및 안전에 대한 인공지능 솔루션을 상품화하고, 미국, 캐나다, 중국, 인도에 엔지니어링과 마케팅 조직을 통해 QSS Integrated Solution 등 Industrial AI, 선천성 심장병 알고리즘 등 Medical AI, Robotic AI Fulfilment Service 등 Logistic AI, 스킨케어와 메이크업 제품의 판매 및 생산을 위한 Beauty AI 등을 개발하고 있습니다.

~~~~~~~~~

문의:   sryoo@ckt21.com