“챗GPT 구동을 위한 컴퓨팅 비용이 눈물 날 정도로 막대하다.” 오픈 AI CEO 샘 알트만이 밝힌 말이다. 오픈AI가 서비스하는 '챗GPT'는 약 1만여개의 GPU(Graphic Processing Unit, 그래픽처리장치)를 기반으로 이용자의 질문을 연산 처리한다. 이러한 GPU 기반 AI 연산 체계는 사용목적에 맞는 설계가 쉬우며, 도입비용이 낮은 장점이 있다. 그러나, 이러한 방식은 막대한 연산을 GPU로 처리하는 구조로 고전력, 고비용 문제에 직면하였다. 특히나, 연산이 급속도로 증가하는 AI, 머신러닝 특성상 이러한 부하도 급증할 것으로 전망되며, 대안이 요구되고 있다.
[그림] GPU 기반 AI 연산 체계
NPU(Neural Processing Unit, 신경망처리장치)는 이러한 AI 연산에 대응할 수 있는 대안으로 주목받고 있다. NPU는 AI, 머신러닝 연산을 위해 구현된 구조로 대량의 데이트를 인공신경망 구조에 맞춰, 연산할 수 있다. 이런 구조는 기존 GPU를 활용한 연산에 비해 개선된 분산병렬처리 구조로 저전력을 달성하여, 기존 GPU 연산에서 발생하는 고전력 문제를 해결할 수 있다. 이러한 NPU에 적용되는 반도체는 특별하다. NPU 적용을 위한 AI 반도체는 학습 및 추론 등 AI 워크로드 핵심 기능을 구현하기 위한 데이터 연산 처리를 저전력으로 고속처리해 효율성을 높이기 위해 설계가 되었다.
[그림] CPU, GPU, NPU 구조 차이
NPU에 적용되는 AI 반도체는 기술으로 3단계로 나늰다. ① 기존 반도체의 개선형, ② 1세대 AI 반도체, ③ 2세대 AI 반도체로 분류된다. ① 기존 반도체의 개선형은 CPU·GPU·필드 프로그래머블 게이트 어레이(FPGA)로 사용 목적에 맞게 프로그래밍할 수 있다는 특징이 있다. 그러나 NPU 특성에 맞춘 연산처리 성능과 소비전력 효율이 상대적으로 낮은 문제가 있다. ② 1세대 AI 반도체는 이러한 문제를 개선한 반도체로 연산 고속화를 위해, 적용 AI에 맞춰 주문형 반도체 이다. 이러한 1세대 반도체는 앞선 세대에 비해 높은 연산효율과 최적화된 구조로 저전력을 달성하였으나, 주문형 반도체로 가격이 높으며, 범용적으로 활용하기 어려운 문제가 있다. ③ 2세대 AI 반도체는 '비 폰노이만' 방식이 적용으로 범용적인 AI 반도체로 초점이 맞춰진 AI 반도체이다. 이러한 특징으로 대량 생산에 용이하며, 앞선 세대와 유사한 연산처리 능력으로 저전력, 저비용을 달성한 반도체이다.
[그림] 세대별 반도체 분류
(주)모빌린트(대표 신동주)는 이러한 AI 반도체 기술로 투자유치(Series B, 200억원)에 성공하였다. 모빌린트의 AI 반도체인 ARIES(에리스)는 1세대 AI 반도체로 경쟁사 제품 대비 연산처리 성능은 4배가량 높고, 에너지 사용 수준은 1/5 이하이다. 국내외 기업들과 실증 사업을 진행하고 있으며, 스마트팩토리, 스마트시티, 로봇 등 다양한 분야에 제품을 적용하고 검증을 마쳤다. 또한, 모빌린트는 차세대 칩인 REGULUS(레귤러스)를 개발 중에 있는데, 2세대 AI 반도체로 5W 이내의 전력으로 고성능 AI 기능을 수행할 수 있어 NPU는 물론 로봇, 드론, 온디바이스 등 다양한 분야에 활용될 수 있다. 이러한 모빌린트의 차세대 인공지능 반도체 기술은 국내외 특허포트폴리오로 보호되고 있으며, 경쟁사들과 차별화된 기술구성을 보여주고 있다. 이번 투자를 바탕으로 (주)모빌린트는 기존 AI 반도체 ARIES(에리스)의 양산과 차세대 칩 REGULUS(레귤러스)의 개발에 사용될 예정이다.
[그림] (주)모빌린트의 AI 반도체 AIRES
이 외에도 국내 기업들의 시장 참여가 활발하다. 이 중 (주)딥엑스(대표 김녹원)는 펩리스 AI 반도체 생산 기업으로 시장 내 AI 반도체 양산을 주도하고 있다. (주)딥엑스는 이미지·영상 식별을 위한 비전 AI 반도체인 'DX-M1'을 개발하였으며, 고객사 40여 곳을 통해 검증하고 있다. 'DX-M1'은 AI 영상분석을 지원하는 딥엑스의 플래그십 반도체로, 경쟁사의 AI반도체들보다 연산처리 최적화로 전력소비를 최대 20배까지 줄인 것이 특징이다. 이를 위한 장치인 SRAM 투입 비용도 낮춰 제조 단가를 절감할 수 있는 제품이다. 이러한 기술력을 바탕으로 2023년 3개 부문에서 'CES 혁신상'을 수상하였다. (주)딥엑스가 수상한 3가지 부문은 '임베디드 기술 부문', '컴퓨터 하드웨어 부문', '로봇 부문'에서 AI 반도체 기업 최초로 수상하였다. AI 반도체 전문 기업 (주)사피온(대표 류수정)도 대표적인 AI 반도체 기업이다. (주)사피온의 AI 반도체인 'X330'은 NPU에 적용하기 위한 AI 반도체로 기존 AI 반도체 대비 연산처리 속도가 4배, 전력효율 또한 2배 향상된 반도체이다. 이러한 AI 반도체 기술력을 바탕으로 SK 텔레콤과 SK브로드밴드의 NPU 팜 구축을 협력 중에 있다. (주) 사피온은 향후, 자율주행, CCTV 등 고성능이 요구되는 NPU에 적용할 예정이다.
[그림] (주)딥엑의 AI 반도체 ‘DX-M1’과 (주)사피온의 AI 반도체 ‘X330’
정부의 NPU와 AI 반도체 개발에 대한 지원은 활발하다. 과기부는 '국산 AI 반도체를 활용한 K 클라우드 추진'을 발표 하였다. K 클라우드 정책은 글로벌 최고 수준의 초고속·저전력 국산 AI반도체를 개발하고, 이를 데이터센터에 적용해 경쟁력을 강화가 주요 목표이다. 이를 위해 정부는 오는 2030년까지 총 8262억원을 투자할 예정이다. 이는 3단계에 걸쳐 진행될 예정이다.
[그림] 국산 NPU, AI 개발을 위한 과기부의 ‘K 클라우드’ 정책
AI 컴퓨팅 시장은 한해가 다르게 변화가 활발하다. 기존의 시장의 승자였던 오픈AI 조차, 세계적인 빅테크 기업들인 구글, 메타, 애플 등의 시장 참여로 경쟁은 심화되고 있다. 기업들은 이러한 변화에 바람에 변화에 잘 안착한다면, 새로운 승자가 될 것으로 예상된다.
'BLT 테크체크'는 매주 최근 투자유치가 있는 기술분야를 소개합니다.
필자 소개
특허법인 BLT 리서치 센터팀
#NPU #AI반도체 #신경망처리장치 #NeuralProcessingUnit #모빌린트 #딥엑스 #사피온 #오픈AI #인공지능 #인공지능반도체 #ChatGPT #챗GPT
“챗GPT 구동을 위한 컴퓨팅 비용이 눈물 날 정도로 막대하다.” 오픈 AI CEO 샘 알트만이 밝힌 말이다. 오픈AI가 서비스하는 '챗GPT'는 약 1만여개의 GPU(Graphic Processing Unit, 그래픽처리장치)를 기반으로 이용자의 질문을 연산 처리한다. 이러한 GPU 기반 AI 연산 체계는 사용목적에 맞는 설계가 쉬우며, 도입비용이 낮은 장점이 있다. 그러나, 이러한 방식은 막대한 연산을 GPU로 처리하는 구조로 고전력, 고비용 문제에 직면하였다. 특히나, 연산이 급속도로 증가하는 AI, 머신러닝 특성상 이러한 부하도 급증할 것으로 전망되며, 대안이 요구되고 있다.
[그림] GPU 기반 AI 연산 체계
NPU(Neural Processing Unit, 신경망처리장치)는 이러한 AI 연산에 대응할 수 있는 대안으로 주목받고 있다. NPU는 AI, 머신러닝 연산을 위해 구현된 구조로 대량의 데이트를 인공신경망 구조에 맞춰, 연산할 수 있다. 이런 구조는 기존 GPU를 활용한 연산에 비해 개선된 분산병렬처리 구조로 저전력을 달성하여, 기존 GPU 연산에서 발생하는 고전력 문제를 해결할 수 있다. 이러한 NPU에 적용되는 반도체는 특별하다. NPU 적용을 위한 AI 반도체는 학습 및 추론 등 AI 워크로드 핵심 기능을 구현하기 위한 데이터 연산 처리를 저전력으로 고속처리해 효율성을 높이기 위해 설계가 되었다.
[그림] CPU, GPU, NPU 구조 차이
NPU에 적용되는 AI 반도체는 기술으로 3단계로 나늰다. ① 기존 반도체의 개선형, ② 1세대 AI 반도체, ③ 2세대 AI 반도체로 분류된다. ① 기존 반도체의 개선형은 CPU·GPU·필드 프로그래머블 게이트 어레이(FPGA)로 사용 목적에 맞게 프로그래밍할 수 있다는 특징이 있다. 그러나 NPU 특성에 맞춘 연산처리 성능과 소비전력 효율이 상대적으로 낮은 문제가 있다. ② 1세대 AI 반도체는 이러한 문제를 개선한 반도체로 연산 고속화를 위해, 적용 AI에 맞춰 주문형 반도체 이다. 이러한 1세대 반도체는 앞선 세대에 비해 높은 연산효율과 최적화된 구조로 저전력을 달성하였으나, 주문형 반도체로 가격이 높으며, 범용적으로 활용하기 어려운 문제가 있다. ③ 2세대 AI 반도체는 '비 폰노이만' 방식이 적용으로 범용적인 AI 반도체로 초점이 맞춰진 AI 반도체이다. 이러한 특징으로 대량 생산에 용이하며, 앞선 세대와 유사한 연산처리 능력으로 저전력, 저비용을 달성한 반도체이다.
[그림] 세대별 반도체 분류
(주)모빌린트(대표 신동주)는 이러한 AI 반도체 기술로 투자유치(Series B, 200억원)에 성공하였다. 모빌린트의 AI 반도체인 ARIES(에리스)는 1세대 AI 반도체로 경쟁사 제품 대비 연산처리 성능은 4배가량 높고, 에너지 사용 수준은 1/5 이하이다. 국내외 기업들과 실증 사업을 진행하고 있으며, 스마트팩토리, 스마트시티, 로봇 등 다양한 분야에 제품을 적용하고 검증을 마쳤다. 또한, 모빌린트는 차세대 칩인 REGULUS(레귤러스)를 개발 중에 있는데, 2세대 AI 반도체로 5W 이내의 전력으로 고성능 AI 기능을 수행할 수 있어 NPU는 물론 로봇, 드론, 온디바이스 등 다양한 분야에 활용될 수 있다. 이러한 모빌린트의 차세대 인공지능 반도체 기술은 국내외 특허포트폴리오로 보호되고 있으며, 경쟁사들과 차별화된 기술구성을 보여주고 있다. 이번 투자를 바탕으로 (주)모빌린트는 기존 AI 반도체 ARIES(에리스)의 양산과 차세대 칩 REGULUS(레귤러스)의 개발에 사용될 예정이다.
[그림] (주)모빌린트의 AI 반도체 AIRES
이 외에도 국내 기업들의 시장 참여가 활발하다. 이 중 (주)딥엑스(대표 김녹원)는 펩리스 AI 반도체 생산 기업으로 시장 내 AI 반도체 양산을 주도하고 있다. (주)딥엑스는 이미지·영상 식별을 위한 비전 AI 반도체인 'DX-M1'을 개발하였으며, 고객사 40여 곳을 통해 검증하고 있다. 'DX-M1'은 AI 영상분석을 지원하는 딥엑스의 플래그십 반도체로, 경쟁사의 AI반도체들보다 연산처리 최적화로 전력소비를 최대 20배까지 줄인 것이 특징이다. 이를 위한 장치인 SRAM 투입 비용도 낮춰 제조 단가를 절감할 수 있는 제품이다. 이러한 기술력을 바탕으로 2023년 3개 부문에서 'CES 혁신상'을 수상하였다. (주)딥엑스가 수상한 3가지 부문은 '임베디드 기술 부문', '컴퓨터 하드웨어 부문', '로봇 부문'에서 AI 반도체 기업 최초로 수상하였다. AI 반도체 전문 기업 (주)사피온(대표 류수정)도 대표적인 AI 반도체 기업이다. (주)사피온의 AI 반도체인 'X330'은 NPU에 적용하기 위한 AI 반도체로 기존 AI 반도체 대비 연산처리 속도가 4배, 전력효율 또한 2배 향상된 반도체이다. 이러한 AI 반도체 기술력을 바탕으로 SK 텔레콤과 SK브로드밴드의 NPU 팜 구축을 협력 중에 있다. (주) 사피온은 향후, 자율주행, CCTV 등 고성능이 요구되는 NPU에 적용할 예정이다.
[그림] (주)딥엑의 AI 반도체 ‘DX-M1’과 (주)사피온의 AI 반도체 ‘X330’
정부의 NPU와 AI 반도체 개발에 대한 지원은 활발하다. 과기부는 '국산 AI 반도체를 활용한 K 클라우드 추진'을 발표 하였다. K 클라우드 정책은 글로벌 최고 수준의 초고속·저전력 국산 AI반도체를 개발하고, 이를 데이터센터에 적용해 경쟁력을 강화가 주요 목표이다. 이를 위해 정부는 오는 2030년까지 총 8262억원을 투자할 예정이다. 이는 3단계에 걸쳐 진행될 예정이다.
[그림] 국산 NPU, AI 개발을 위한 과기부의 ‘K 클라우드’ 정책
AI 컴퓨팅 시장은 한해가 다르게 변화가 활발하다. 기존의 시장의 승자였던 오픈AI 조차, 세계적인 빅테크 기업들인 구글, 메타, 애플 등의 시장 참여로 경쟁은 심화되고 있다. 기업들은 이러한 변화에 바람에 변화에 잘 안착한다면, 새로운 승자가 될 것으로 예상된다.
'BLT 테크체크'는 매주 최근 투자유치가 있는 기술분야를 소개합니다.
필자 소개
특허법인 BLT 리서치 센터팀
#NPU #AI반도체 #신경망처리장치 #NeuralProcessingUnit #모빌린트 #딥엑스 #사피온 #오픈AI #인공지능 #인공지능반도체 #ChatGPT #챗GPT