[송평인 칼럼]AI는 고속도로 아니라 발전소다

AI는 까는 게 아니라 돌리는 것
필요한 건 고속도로 아니라 발전소
아버지를 아버지라 부르지 못하는 홍길동처럼
발전소 대신 고속도로만 되뇌는 정부

송평인 칼럼니스트

이재명 대통령이 국회 시정연설에서 언급한 ‘AI(인공지능) 고속도로’란 말은 이 정부의 AI 인식이 정곡을 찌르지 못하고 겉돌고 있다는 느낌을 줬다. 잘 알려져 있다시피 AI는 고속도로처럼 까는 게 아니라 발전소를 돌리는 게 관건이다.

과거 김대중 대통령이 오명 과기부 장관을 등용해 인터넷 전송망을 깐 것을 정보 고속도로라고 한다. 전송망은 고속도로처럼 까는 것이니까 고속도로에 비유할 만하다. 그러나 AI는 그렇지 않다.

내가 지금 칼럼을 쓰면서 사용하는 노트북의 칩은 중앙처리장치(CPU)가 초당 3GHz(기가헤르츠)의 속도로 연산을 한다. 코어 수를 고려하지 않는다면 0과 1이 교차하는 횟수가 무려 초당 30억 회에 이른다는 뜻이다. AI 컴퓨터의 칩은 연산 단위부터가 다르다. AI는 플롭(FLOP)이란 단위를 쓴다. 플롭으로 따지면 내 노트북 정도의 연산속도를 지니고 코어가 8개나 된다고 해도 총연산량은 0.1∼0.5플롭(이하 테라 기준)에 지나지 않는다.

일반용이 아닌 게임용부터는 CPU 대신 그래픽처리장치(GPU)에 주로 의존해 연산을 하는데 그 연산량은 13플롭 정도다. 데이터센터용 컴퓨터 GPU의 연산량은 무려 1000플롭이다. 미국이 중국 수출을 금지한 엔비디아 H100이 그 정도 성능을 갖고 있다. H100 GPU는 하루 2500원 정도의 전력을 소비한다. 이렇게만 보면 별것 아닌 것 같지만 데이터센터를 운영하려면 1만 개 정도의 GPU가 필요하다. 그러면 한 달 전기료는 2억5000만 원이 된다. 여기에 연산 과정에서 발생하는 막대한 열을 식히는 냉각장치 등 부대 시설의 전기료까지 고려하면 그 2배인 5억 원이 든다. 데이터센터 운영비의 80%가 전기료라는 말은 그래서 나왔다.

이 대통령은 AI 정책 수석비서관직을 신설하고 네이버 출신 AI 전문가를 앉혔다. 그런 정부가 AI 발전의 관건이 고속도로가 아니라 발전소임을 모를 리 없다. 그럼에도 AI 발전소라 말하지 못하고 AI 고속도로라 하는 것은 아버지를 아버지라 부르지 못하는 홍길동 같다.

이 대통령이 2022년 대선 토론에서 ‘RE100도 모르냐’고 하던 불편한 장면이 기억에서 잘 지워지지 않는다. 상대 당 후보를 면박 줘서 불편했던 게 아니다. RE100은 ‘Renewable Energy 100%’라는 뜻으로 기업이 사용하는 모든 전력을 재생에너지로 조달하자는 캠페인을 말한다. 다만 RE100은 기업의 자발적 참여로 추진되는 것이며 국가를 비롯해서 누구도 구속하지는 않는데도 대통령이 되고자 하는 사람이 무슨 금과옥조처럼 여기는 것이 불편했다.

RE100은 기후변화에 대응하기 위한 것이 주목적이기 때문에 굳이 원자력을 제외할 이유가 없다. 그런데도 원자력을 배제하고 있다. RE100의 재생에너지는 주로 태양력, 풍력 발전을 말한다. 태양력 발전도 풍력 발전도 쉽지 않은 우리나라에서 어떻게 AI 발전에 필요한 전기를 재생에너지만으로 풍부하고 싸게 공급하겠다는 것인가. RE100에 과도하게 집착하는 대통령 때문에 전기 문제를 정직하게 다루지 못하다 보니 견강부회식으로 갖다 붙인 것이 바로 AI 고속도로라는 말일 게다.

얼마 전 이재용, 정의선 회장과의 ‘깐부 치킨’ 소맥으로 화제를 뿌린 엔비디아 CEO 젠슨 황이 두 회장에게 개인적으로 선물한 컴퓨터가 있다. 엔비디아가 지난달 출시한 DGX SPARK라는 개인용 AI 컴퓨터로 두꺼운 책만 한 크기일 뿐이지만 성능은 슈퍼급이다. 컴퓨터 판매 전문 사이트에서 찾아 보니 가격이 700만 원 정도인 것으로 나온다. 소스 코드가 공개된 AI도 있어서 기업이 아닌 개인이 직접 AI 코드를 발전시켜 활용할 수 있는 길도 열려 있다. 바야흐로 AI의 개인화가 시작되는 시점이다.

DGX SPARK는 H100보다 30배나 빠르다는 블랙웰 GPU를 쓴다. H100이 하루 2500원 정도의 전력을 소비한다고 하니 단순히 계산하면 블랙웰은 하루 7만5000원 정도의 전력을 소비한다는 결과가 나온다. 부자들이 아니고서야 누가 전기료로 이 많은 돈을 써가며 AI 컴퓨터를 쓰겠는가. 전기료를 떠나 점점 더 많은 사람들이 개인용 AI 컴퓨터를 쓰게 될 때 또 어떻게 그 많은 전력을 공급할 것인가. AI에 진심이라면 과거 정부의 성공한 정보 고속도로의 이미지를 빌려오는 데 급급하지 말고 이 문제를 우선적으로 고민하는 모습을 보여야 한다.