엣지 AI 추론 연산에 최적화…CEVA, 2세대 신경망 프로세서·API 공개

최태우 기자 / 기사승인 : 2019-09-23 13:19:11
  • -
  • +
  • 인쇄
엣지 디바이스용 AI 프로세서 IP, 컴파일러 세트 발표
▲ CEVA NeuPro-S 블록다이어그램

[IT비즈뉴스 최태우 기자] 반도체 설계자산(IP)기업인 세바(CEVA)가 17일(현지시간)부터 19일까지 벨기에 브뤼셀에서 열린 오토센스 컨퍼런스(AutoSens Brussels)에서 엣지(Edge) 애플리케이션에서 심층신경망 추론(Inference) 연산을 지원하는 2세대 인공지능(AI) 프로세스 아키텍처인 뉴프로(NeuPro)-S와 커스텀 신경망 엔진을 지원하는 심층신경망 컴파일러(CDNN-Invite) API를 발표했다. 


CDNN-Invite API는 통합된 신경망에 최적화된 런타임 펌웨어에서 보유하고 있는 신경망 엔진과 NeuPro-S 코어의 이종 코프로세싱(co-processing)을 지원하는 점이 특징이다. NeuPro-S는 자율주행, 스마트폰 등 엣지 AI 프로세싱이 필요한 비전 애플리케이션에 최적화 설계됐다.

엣지 단에서 분할(Segmentation), 탐지(Detection), 분류(Classification)를 위한 신경망 처리를 지원하는 NeuPro-S는 외부 SDRAM과의 빠른 전송을 지원하며 멀티 레벨 메모리 시스템, 다중 웨이트 압축 옵션(multiple weight compression options), 단일 혹은 통합 아키텍처에 CEVA-XM6 비전 DSP를 포함하는 이종 프로세서 간 통합도 가능하다.

사측 발표자료에 따르면, NeuPro-S는 자체 1세대 AI 프로세서보다 평균 성능이 50% 상승했으며 40% 낮은 메모리 대역폭, 30% 낮은 전력 소비량을 제공한다.

NeuPro-S 제품군(NPS1000/2000/4000)은 사이클당 각각 1000, 2000, 4000씩 8-bit MAC연산을 수행할 수 있도록 사전 구성(pre-configured)됐다. NPS4000의 경우 1.5GHz에서 최대 12.5테라플롭스(TOPS) 연산을 지원하며 코어당 가장 높은 합성곱신경망(CNN) 확장을 통해 최대 100TOPS까지 확장, 연산이 가능하다.

CDNN-Invite API는 고객이 설계한 신경망 엔진을 CEVA의 심층신경망(CEVA Deep Neural Network, CDNN) 프레임워크와 통합 가능하며 각각의 CEVA-XM6 비전 DSP, NeuPro-S 및 커스텀 신경망 연산을 위한 최적화 기능이 추가됐다.

NeuPro-S는 현재 공급 중이며 CDNN-Invite API는 샘플 공급 후 올해 말 일반에 배포될 예정이다.

일란 요나 CEVA 비전 사업부 총괄부사장은 “NeuPro-S 아키텍처와 CDNN-Invite API는 증가하는 신경망 기술 개발자에게 최적의 대안이 될 것으로 기대한다”고 말했다.

 

[저작권자ⓒ IT비즈뉴스. 무단전재-재배포 금지]

  • 글자크기
  • +
  • -
  • 인쇄
뉴스댓글 >

주요기사

+

많이 본 기사

마켓인사이트

+

컴퓨팅인사이트

+

스마트카

+

PHOTO NEWS