노타 – 삼성•LG가 동시에 투자한 인공지능 경량화 스타트업

2022-01-10

인공지능은 어디에 있을까?

이세돌이 알파고에 패배한 ‘운명의 날’로부터 벌써 많은 시간이 흘렀다. 당시에 많은 사람들은 인공지능과 로봇이 인간의 일자리를 없앨것으로 생각했다. 하지만, 아직 많은 변화가 일어나지는 않았다. 인공지능 기술로 회계사, 의사, 부동산 중개인, 은행원, 주차 안내원, 번역가 등이 사라질 위험이 높다고 발표되었으나, 사람들은 여전히 각자의 위치에서 열심이고, 해당 산업규모도 아직 건재하다. 자율주행차 기술이나 스마트 교통시스템과 같이 이미지 프로세싱이 필요한 영역 외에는 ‘인공지능 태풍’이 불어닥칠 영역이 한정적이지 않나? 하는 의구심이 들 수 있을 정도로, 아직은 뚜렷하게 보이지는 않는것 같다. 최근에는 뷰노, 알체라 등 다수의 인공지능 스타트업이 코스닥(KOSDAQ)에 상장하는 등 인공지능 기업들이 사회적, 경제적으로 주목받고 있으나, 인공지능으로 매출을 만들어내는것은 여전히 쉽지 않은 상황이다. 왜 그럴까?

사진출처: 노타(Nota) 홈페이지 / NetsPresso

노타(대표 채명수)는 인공지능을 압축하는 스타트업이다. 현재까지 발표된 대부분의 인공지능은 고성능의 그래픽처리 프로세서(GPU)를 필요로 한다. 현재 각광받고 있는 인공지능 기술의 발전이 왜 이루어졌는지를 살펴보면, 결국 GPU 프로세서의 발전에 따라서 생겨난 것이다. 인공지능을 만들기 위해서는 엄청나게 많은양의 데이터를 학습시켜야하며, 이렇게 학습된 데이터를 이용해 ‘추론’을 하는 과정에서도 GPU 프로세서의 고도의 능력이 필요로 하게된다. 노타는 연산량을 줄여주는것이 핵심기술이다. 노타의 기술 ‘넷츠프레소’을 활용하면 고도의 GPU가 많이 필요하지 않게 되는것이다. 인공지능 모델의 연산량을 줄여 GPU의 사용량을 줄이거나, CPU에서 구동하게 해주는 것이다. 원래 100MB의 모델을 1MB미만의 크기로 줄인 경험도 있다고 한다. 이렇게 되면 연산량이 약 85%나 줄어든다고 한다.연산량을 줄이게되면, 인공지능의 크기를 압축할 수 있고, 이를 현장의 작은 컴퓨터에 올릴 수 있게 되는 것이다. 이를 ‘온 디바이스’라고 한다. 서버와 네트워크로 연결되지 않거나 통신량이 작게 해주는것은 인공지능이 우리 생활속에 스며들게 하는것을 의미한다. 지금까지의 인공지능은 모두 서버에서 수 많은 GPU가 엄청난 연산을 한 후, 현장에 어떻게 하라는 지시를 내렸으나, 앞으로의 인공지능은 현장에서 바로 연산하고 ‘추론’을 할 수 있게 된다. 인공지능이 더 작아지고, 더 현장친화적이고, 더 민첩해지는 것이다.이를 넷츠프레소(NetsPresso)라고 이름지었다.

실제로 노타가 개발한 ‘온디바이스 지능형 교통 신호 제어기술’은 평택의 도로를 더 민첩하게 만들었다. 노타는 평택에서 영상인식 기반으로 교차로의 교통량, 차량 대기열, 점유율 등을 파악해 혼잡도를 분석하고, 그에 맞춰 교차로 신호를 효과적으로 제어했다. 노타의 인공지능은 서버에 멀리 있는것이 아니라 평택시 평궁 사거리에서 추팔 산업단지 사거리까지 구간의 교차로 곳곳에 있다. 인공지능 모델을 효율적으로 경량화하여 교차로 현장의 신호등 포스트 위에 위치한 작은 컴퓨터들이 서로 일하게 만들었고, 통행속도는 최대 321% 개선되었다. 현장에서 가까운 위치에서 컴퓨팅을 수행하는 것을 ‘엣지 컴퓨팅’ 기술이라고 하는데, 이는 인공지능이 경량화되지 않으면 구현이 어렵다고 봐야한다. 노타는 차별화된 기술력을 기반으로 네이버, 삼성SDS, LG CNS, 스톤브릿지, 디에스자산운용 등으로부터 누적투자금 273억원을 달성하였다.

인공지능은 어떤 형태로 우리 삶에 스며들까? 노타의 인공지능 경량화 기술이 그 촉매가 될수 있을지 관심있게 지켜보자.

노타(Nota) 홈페이지 👉 https://nota.ai/