온디바이스 AI 기술의 경쟁력은 AI 최적화 기술에서 나온다. 온디바이스 AI 기술은 스마트 기술의 핵심으로 자리잡고 있다. 대표적으로 최근 애플에서 발표한 '애플인텔리전스'와 자율주행자동차, 스마트팩토리 내 엣지 시스템에 이런 온디바이스 AI 기술이 적용되고 있다. 생성형 AI의 등장으로 디바이스 내에서 연산을 바로 하는 온디바이스 AI 기술의 중요성은 증대하고 있지만, 기존 AI 기술과 다르게 제한된 디바이스의 성능(연산 성능, 메모리, 전력량 등)으로 인한 한계가 명확하다.
[그림] 온디바이스 AI 특징 및 강점 - 출처: 미래에셋자산운용
온디바이 AI가 구현되기 위해, AI 최적화 기술이 필수적이다. AI 최적화 기술은 크게 3가지로 AI 모델 경량화 기술, 하드웨어 기술, 알고리즘 최적화 기술 등이 필요하다. AI 모델 경량화를 통한 AI 최적화 기술은 모델의 필수적인 요소만 남기고 최소화 하여 모델 구조를 단순화 시키는 기술이다. 하드웨어를 통한 AI 최적화 기술은 온디바이스에 적합한 AI 반도체를 하드웨어 적으로 구현하는 기술로 대표적인 AI 반도체인 NPU를 적용하거나, 연산력을 향상하기위해, GPU를 병렬 연결하 방법 등이다. 알고리즘 최적화를 통한 AI 최적화 기술은 연산 시 발생하는 오차를 최소화 하여, 수치적 안정성을 유지하는 기술과 메모리 접근 패턴을 개선하는 방법등 이다. 이러한 AI 최적화 기술은 카카오페이, 하이퍼커넥트, 콴다 등 다양한 온디바이스 AI 기업들이 적용하고 있다.
[그림] AI 최적화를 위한 모델 경량화 기술 및 알고리즘 최적화 기술 개요
국내 스타트업들의 온디이스 AI를 위한 AI 최적화 기술 개발은 활발하다. 이들 중 주목할 기업이 있다. 바로, (주)옵트에이아이(대표 이재호)다. (주)옵트에이아이는 AI 기업으로 온디바이스 AI 환경에서 디바이스 환경에 맞는 적합한 경량 모델을 설계하고, 배포 자동화 기술을 개발하였다. 이를 통해, LG전자, 현대자동차 등을 고객사로 보유하고 있다. 옵트에이아이는 이러한 기술력으로 딥테크 팁스(초격차 스타트업 1000+ 프로젝트)에 선정되었다. 딥테크 팁스 선정으로 지원받는 지원금(3년 최대 15억 원)으로 기존 최적화 기술을 고도화하고 초거대 AI를 최적화할 수 있는 기술을 개발할 예정이다.
[그림] (주)옵트에이아이의 AI 최적화 기술
AI 솔루션 기업 (주)노타도 적극적으로 온디바이스 AI를 위한 AI 최적화 기술을 개발 중에 있다. (주)노타는 온디바이스 AI 내, 특정 노드와 하드웨어에서 지원되지 않는 문제를 적합 AI 모델을 적용하여, 문제를 해결 하였다. 이를 통해, 온디바이스 내, AI 최적화한 환경을 구현할 수 있다. 이 외에도, (주)알고리즘랩스(대표 손진호)도 자체 AI 솔루션을 기반한 산업별 요구에 맞춘, 온디멘드 AI 솔루션을 제공한다. 인공신경망 기반 결합 네트워크 기술을 적용하여, 인공신경망 기술 기반 AI 모델을 최적화할 수 있는 기술을 개발하였다. 본 기술을 활용하여, 기존 AI 모델의 문제해결 능력을 향상할 수 있으며, 최적화할 수 있다. 이렇듯 기업들의 온디바이스 AI를 위한 최적화 기술 개발에 활발하다.
[그림] (주)노타의 온디바이스 AI 최적화 솔루션 ‘넷츠프레소’
정부도 이러한 AI 최적화 기술이 적용될 온디바이스 AI 기술 개발을 적극 지원 중에 있다. 중소기업벤처부는 온디바이스 AI 스타트업 발굴을 위한 '온디바이스 AI 초격차 챌린지'를 LG전자(디바이스), 인텔(칩셋), 마이크로소프트(SW) 등 각 분야의 글로벌 전문기업으로부터 기술검증(PoC) 등 기술 지원과 중기부로부터 협업 비용을 지원한다. 이렇듯 정부의 온디바이스 AI 기술 고도화를 위한 지원은 더욱 확대할 것이다.
'BLT 테크체크'는 매주 최근 투자유치가 있는 기술분야를 소개합니다.
필자 소개
특허법인 BLT 리서치 센터
#AI최적화 #온디바이스AI #AI모델경량화 #알고리즘최적화 #생성형AI #애플인텔리전스 #카카오페이 #하이퍼커넥트 #콴다 #옵트에이아아 #노타 #알고리즘랩스
온디바이스 AI 기술의 경쟁력은 AI 최적화 기술에서 나온다. 온디바이스 AI 기술은 스마트 기술의 핵심으로 자리잡고 있다. 대표적으로 최근 애플에서 발표한 '애플인텔리전스'와 자율주행자동차, 스마트팩토리 내 엣지 시스템에 이런 온디바이스 AI 기술이 적용되고 있다. 생성형 AI의 등장으로 디바이스 내에서 연산을 바로 하는 온디바이스 AI 기술의 중요성은 증대하고 있지만, 기존 AI 기술과 다르게 제한된 디바이스의 성능(연산 성능, 메모리, 전력량 등)으로 인한 한계가 명확하다.
[그림] 온디바이스 AI 특징 및 강점 - 출처: 미래에셋자산운용
온디바이 AI가 구현되기 위해, AI 최적화 기술이 필수적이다. AI 최적화 기술은 크게 3가지로 AI 모델 경량화 기술, 하드웨어 기술, 알고리즘 최적화 기술 등이 필요하다. AI 모델 경량화를 통한 AI 최적화 기술은 모델의 필수적인 요소만 남기고 최소화 하여 모델 구조를 단순화 시키는 기술이다. 하드웨어를 통한 AI 최적화 기술은 온디바이스에 적합한 AI 반도체를 하드웨어 적으로 구현하는 기술로 대표적인 AI 반도체인 NPU를 적용하거나, 연산력을 향상하기위해, GPU를 병렬 연결하 방법 등이다. 알고리즘 최적화를 통한 AI 최적화 기술은 연산 시 발생하는 오차를 최소화 하여, 수치적 안정성을 유지하는 기술과 메모리 접근 패턴을 개선하는 방법등 이다. 이러한 AI 최적화 기술은 카카오페이, 하이퍼커넥트, 콴다 등 다양한 온디바이스 AI 기업들이 적용하고 있다.
[그림] AI 최적화를 위한 모델 경량화 기술 및 알고리즘 최적화 기술 개요
국내 스타트업들의 온디이스 AI를 위한 AI 최적화 기술 개발은 활발하다. 이들 중 주목할 기업이 있다. 바로, (주)옵트에이아이(대표 이재호)다. (주)옵트에이아이는 AI 기업으로 온디바이스 AI 환경에서 디바이스 환경에 맞는 적합한 경량 모델을 설계하고, 배포 자동화 기술을 개발하였다. 이를 통해, LG전자, 현대자동차 등을 고객사로 보유하고 있다. 옵트에이아이는 이러한 기술력으로 딥테크 팁스(초격차 스타트업 1000+ 프로젝트)에 선정되었다. 딥테크 팁스 선정으로 지원받는 지원금(3년 최대 15억 원)으로 기존 최적화 기술을 고도화하고 초거대 AI를 최적화할 수 있는 기술을 개발할 예정이다.
[그림] (주)옵트에이아이의 AI 최적화 기술
AI 솔루션 기업 (주)노타도 적극적으로 온디바이스 AI를 위한 AI 최적화 기술을 개발 중에 있다. (주)노타는 온디바이스 AI 내, 특정 노드와 하드웨어에서 지원되지 않는 문제를 적합 AI 모델을 적용하여, 문제를 해결 하였다. 이를 통해, 온디바이스 내, AI 최적화한 환경을 구현할 수 있다. 이 외에도, (주)알고리즘랩스(대표 손진호)도 자체 AI 솔루션을 기반한 산업별 요구에 맞춘, 온디멘드 AI 솔루션을 제공한다. 인공신경망 기반 결합 네트워크 기술을 적용하여, 인공신경망 기술 기반 AI 모델을 최적화할 수 있는 기술을 개발하였다. 본 기술을 활용하여, 기존 AI 모델의 문제해결 능력을 향상할 수 있으며, 최적화할 수 있다. 이렇듯 기업들의 온디바이스 AI를 위한 최적화 기술 개발에 활발하다.
[그림] (주)노타의 온디바이스 AI 최적화 솔루션 ‘넷츠프레소’
정부도 이러한 AI 최적화 기술이 적용될 온디바이스 AI 기술 개발을 적극 지원 중에 있다. 중소기업벤처부는 온디바이스 AI 스타트업 발굴을 위한 '온디바이스 AI 초격차 챌린지'를 LG전자(디바이스), 인텔(칩셋), 마이크로소프트(SW) 등 각 분야의 글로벌 전문기업으로부터 기술검증(PoC) 등 기술 지원과 중기부로부터 협업 비용을 지원한다. 이렇듯 정부의 온디바이스 AI 기술 고도화를 위한 지원은 더욱 확대할 것이다.
'BLT 테크체크'는 매주 최근 투자유치가 있는 기술분야를 소개합니다.
필자 소개
특허법인 BLT 리서치 센터
#AI최적화 #온디바이스AI #AI모델경량화 #알고리즘최적화 #생성형AI #애플인텔리전스 #카카오페이 #하이퍼커넥트 #콴다 #옵트에이아아 #노타 #알고리즘랩스