<IT 사랑방> 제2의 “사업보국” - AI반도체 > News Insight

최근 전 세계에서 가장 핫한 기업은 어디일까 ? LLM혁명을 일으킨 Open-AI? 그들만의 특별한 디자인과 생태계를 갖춰 앞서 나간 애플 ? Open-AI와 손잡고 Copilot 제품을 쏟아내는 전 세계 시총 1위의 MS ? 그도 아니면 페이스북, 인스타그램에 이어 Thread까지 무사히 런칭한 메타 ? 

필자는 위 기업들이 아닌 엔비디아라는 반도체기업을 꼽고 싶다. 2010년 당시 주가가 2달러에 그치던 기업이 최고가 823달러에 이르며 2024년 2월 26일 기준 시가총액은 1조 9천억 달러로 아마존을 제치고 전세계 시총 4위에 올랐다. 이런 성장 속도에는 암호화폐, 게임산업의 성장 등의 이유가 있겠지만 가장 큰 원인은 인공지능 혁명 덕분이다.

엔비디아는 최초 CPU로 출발한 기업이었지만 비디오 게임 시장의 미래를 보고 그래픽칩셋 설계 회사로써 첫 발을 떼었다. 이후 병렬연산에 특화된 그래픽카드의 특성상 비트코인과 같은 암호화폐의 채굴에 매우 적합함이 알려짐에 따라 수요가 폭발적으로 증가하게 된다. 이에 더해 AI연구자들은 그래픽카드가 가진 병렬연산이 AI를 학습하는데 매우 탁월함을 알게 되었다. 본격적인 그래픽카드 확보 전쟁이 시작된 것이다. 

머신러닝 및 딥러닝은 크게 훈련(Training)과 추론(Inference)두 가지로 나뉘게 된다. 지식을 쌓는 학습의 과정인 Training과 지식을 바탕으로 답을 찾아가는 과정인 Inference는 차이가 있는데, Training에 있어서는 GPU가 유리할 수 있지만 Inference에서는 GPU가 비효율적이게 된다. 

가장 최근 Nvidia의 매출액을 살펴보면 Nvidia의 데이터센터 매출 중 40%가 Inference용 AI반도체에서 나온 것을 알 수 있다. 이는 애널리스트들의 예측인 10%를 보기 좋게 빗나간 결과로 예상보다 훨씬 빠른 속도로 Inference시장이 커지고 있다는 것을 알 수 있다. 이는 AI를 활용한 보편적 서비스가 우리 삶에 빠르게 침투한다는 것을 의미한다. 

Nvidia는 GPU쪽에서 강력한 기술을 가지고 있기에 AI반도체 시장을 빠르게 선점하여 전 세계적인 독과점을 이끌고 있지만 이는 앞서 설명하였듯 Training에서의 강력함을 말하는 것이지 Inference에서의 성능을 담보하는 것은 아니다. Training은 분산처리를 통해 칩의 성능이 다소 낮더라도 칩을 많이 사용하면 학습 시스템의 Scaling이 가능하게 된다. 하지만 Inference의 경우 실제 사람들에게 서비스가 되어야 하는 부분이기 때문에 사람들의 체감 속도를 더 높여야 한다. 따라서 기존 Training에서 강점을 보인 GPU와는 다른 latency기반의 성능을 요구하는 새로운 접근법의 AI반도체 설계가 필요하다. 

미래를 잡기 위해 현재 우리나라에서는 크게 3개의 스타트업이 AI 반도체 펩리스를 선도하고 있다. 먼저 “사피온”이다. 사피온은 2016년 SKT내부의 R&D조직으로 출발해 분사한 기업으로 현재 약 5000억원의 기업가치를 인정받은 기업이다. 해당 기업은 X220이라는 AI반도체를 출시해 2022년 NHG데이터 센터의 인프라를 구축한 바 있다. 

두번째는 “리벨리온”이다. 리벨리온은 2020년 설립된 회사로써 현재 기업가치는 약 3500억원으로 평가되며 AI반도체 ATOM을 기반으로 KT클라우드에 납품을 하게 될 예정이다. 

세번째는 “퓨리오사 AI”이다. 2017년 설립된 기업으로 현재 6000억원가량의 기업가치를 평가받고 있다. 네이버클라우드, 카카오엔터프라이즈와 각각 컨소시엄을 구성해 정부 사업을 진행중에 있다. 

이에 더해 최근 삼성전자와 네이버가 연합해 Inference 전용 칩을 설계 중에 있으며 하이닉스 또한 사피온과 손잡고 AI반도체에 발빠르게 대응하고 있다. 

최근 필자는 대한민국의 미래가 아주 중대한 분기점에 와 있음을 느끼고 있다. 기존의 반도체시장의 성공 공식은 일명 “치킨게임”을 통해 주변 기업과의 경쟁에서 이기고 독과점과 같은 시장 만드는 것이 목표였다. 하드웨어의 발전을 소프트웨어가 따라오지 못한다고 여겼으며 고성능 HBM(High Bandwidth Memory) 보다는 수율 좋은 GDDR(Graphics Double Data Rate)에 더 치중하는 모양새였다. 하지만 AI혁명 이후 고성능의 HBM 수요는 폭발적으로 증가하고 있다. 더 이상 기존의 성공공식은 먹히지 않고 있다. 기존의 지배자였던 기업들은 지배력을 잃은 상황이고 도전자들은 기회를 포착해 숨통을 끊으려 하는 아나키적 시대를 맞고 있다. 

1983년 2월 8일 동경에서 이병철회장의 결단으로 삼성은 반도체 사업에 진출하여 각고의 노력을 통해 “사업보국”을 이뤄내게 된다. 현 시점의 대한민국 또한 다르지 않다. 다시 한번 역사에 남을 선택과 집중이 필요한 시점이다. 세계 최고 반도체 강국의 이점을 살려 AI의 시대를 맞아 선두에 서 전세계를 이끌 수 있는 대한민국이 되기를 소망해본다. 

<ifsPOST>​