인공지능 반도체 NPU

인공지능 반도체 NPU

 

'인공지능 컴퓨팅 비용이 눈물이 날 정도로 막대하다' 오픈AI 최고 경영자의 말입니다. 챗GPT가 많은 관심을 받고 있지만 수익화가 필요하다고 강조하며 이와 같이 말했습니다. 챗GPT에는 1만개가 넘는 엔비디아 'A100' GPU가 사용되었습니다. 다른 회사들이 개발하는 초거대 AI 또한 GPU 기반으로 작동됩니다. 직렬 처리 방식을 사용하는 중앙처리 장치(CPU)와 달리 병렬처리 방식을 통해 대규모 연산을 처리할 수 있기 때문입니다. 그러나 막대한 연산을 짧은 시간 안에 처리해야 하는 초거대 AI의 특성 때문에 GPU중심의 체계로는 고전력, 고비용의 한계를 극복할 수 없습니다. 이러한 비용과 전력소비의 문제를 해결하지 못하면 AI산업에 한계에 부딪힐 수 밖에 없습니다. 이러한 대안이 바로 NPU입니다.

 

1. NPU

NPU(Neural Processing Unit, 신경망처리장치)는 딥러닝 알고리즘 연산에 최적화된 프로세서로, 빅데이터를 사람의 신경망처럼 빠르고 효율적으로 처리할 수 있습니다. AI반도체라고 불리는 NPU는 학습 및 추론 등 AI 워크로드 핵심 기능을 구현하기 위한 연산처리를 저전력으로 빠르게 처리할 수 있어 매우 효율적입니다. GPU가 그래픽 처리에 특화된 반도체라면 NPU는 사람의 뇌를 모방해서 설계되어 있기 때문에 GPU보다 10배 빠른 연산처리가 가능하고 사용전력량도 4분의 1에서 5분의 1수준으로 줄어듭니다.

 

NPU는 우리 생활에서 이미 많이 사용되고 있습니다. 스마트폰 카메라로 사진을 찍을 때 배경안의 사물, 환경, 인물을 인식해 자동으로 초점을 조정하거나, 음식 사진 촬영시 음식모드로 자동전환 되는 것, 촬영된 결과물에서 불필요한 피사체를 지울 수 있는 것도 NPU 때문입니다.

 

2. NPU 시장

현재 AI반도체 시장은 세계 1위 GPU업체인 엔비디아가 장악하고 있습니다. 하지만, 더 나은 AI의 개발을 위해서는 위에 서 설명한 바와 같이 고전력, 고비용의 한계를 돌파해야 합니다. 이에 많은 한국기업들이 NPU를 대안으로 생각하고 도전하고 있습니다.

 

국내에서 NPU를 개발하는 업체는 삼성전자외에도, 팹리스 업체인 퓨리오사AI, 리벨리온, 사피온 등이 있습니다. 퓨리오사AI는 AMD와 삼성전자에서 일했던 백준호 대표가 2017년에 설립한 회사로 2021년 NPU '워보이'를 출시하여 카카오엔터프라이즈 등에 납품을 하고 있습니다. 2024년에 2세대 칩을 발표한다는 계획입니다. 퓨리오사AI의 2세대 칩은 1세대 칩보다 하드웨어 성능은 8배, 데이터전송속도는 30배 가량 향상될 것으로 예상하고 있습니다.

 

SK그룹 계열의 사피온은 2020년 'X220'을 출시하여 반도체성능대회에서 엔비디아의 GPU 'A2' 대비 2배 이상의 데이터처리속도를 입증하여 시장의 주목을 받았습니다. 사피온은 엔비디아 대비 전력소비는 40%에 불과하고, 성능은 1.6배 이상이라는 것이 회사측의 설명입니다. 2023년 하반기에는 'X220'대비 4배 성능의 'x330'을 출시할 예정이라고 합니다.

 

리벨리온은 2020년에 설립되어 2021년에 '아이온' 올해는 '아톰'을 출시하였습니다. 아톰은 챗GPT에 활용된 'A100'과 비교하여 전력소비량이 20%에 불과한 것으로 알려졌습니다. KT가 출시할 AI서비스인 '믿음'에 '아톰'이 탑재될 예정입니다.

 

3. 성공여부

숫자로 나타난 NPU의 성능을 보면 많은 기대가 됩니다. 하지만, 현재 AI반도체 시장 1위인 엔비디아의 존재감은 압도적입니다. AI반도체 관련 인력들은 엔비디아의 GPU에 특화되어 있어, 많은 인력들이 엔비디아의 GPU를 기반으로 개발하고 있습니다. NPU를 가지고 AI를 개발하려면 3배 이상의 시간이 듭니다.

 

쿠다는 개발자들이 AI용 소프트웨어를 보다 쉽게 개발할 수 있도록 하는 일종의 플랫폼입니다. 2006년에 공개된 후 지금까지 누적 다운로드 수만 3,000만 건에 이르며 쿠다를 이용하는 개발자만 300만명에 달하는 것으로 알려졌습니다. 개발자들은 엔비디아의 GPU가 아닌 다른 반도체를 AI개발에 활용할 경우 관련 소프트웨어 개발에만 최소 3~5배 가량의 시간을 투입해야 한다고 주장하는 만큼, 개발자들의 엔비디아 선호현상은 줄어들 여지가 없는 것으로 보입니다.

 

이에 국내 팹리스 또한 국내외 업체와 협업을 통해 소프트웨어 개발에 매진하고 있습니다. 퓨리오사AI는 미국의 소프트웨어 개발업체 '허깅페이스'와 협력하여 개발자 대상 AI 소프트웨어 플랫폼 구축에 힘을 쏟고 있습니다. 다른 팹리스 들도 개발자들을 대상으로 소프트웨어개발키트 등을 제공하여 엔비디아에 도전하고 있습니다.