[그것을 알려주마] SK텔레콤은 왜? AI가속기에 ‘GPU’ 아닌 ‘FPGA’를 선택했나

최태우 기자 / 기사승인 : 2019-11-04 10:39:29
  • -
  • +
  • 인쇄
AIX 커스텀카드 외 16나노(nm) FPGA 베이스 알베오(Alveo) 가속카드 추가 도입

▲ 샘 로건(Sam Rogan) 자일링스 부사장이 질문에 답하고 있다.

- GPU 아닌 FPGA 선택 이유, “가성비 아닌 유연성에 포커스”

[IT비즈뉴스 최태우 기자] SK텔레콤이 통신 인프라 기반 서비스 단에 적용할 수 있는 인공지능(AI) 추론(Inference) 성능 최적화를 목적으로 자일링스(Xilinx)와의 협력 체제를 강화한다.

지난해 6월 세계 최초로 필드프로그래머블어레이(FPGA)를 적용, 자체 설계한 AI가속기(Accelerator)인 AIX를 상용망에 도입한 SK텔레콤은 16나노(nm) FPGA인 버텍스(Virtex) 울트라스케일+를 장착한 알비오(Alveo) 가속카드를 추가로 도입하고 서비스 고도화를 추진한다.

전세계 통신기업(Telco)이 자체 AI가속기를 설계, 도입하는 이유는 하나다. 통신 망을 기반으로 다양한 서비스 확장을 추진하기 위해서는 빠르고 지능화된 AI가 필수요소다. 이동통신서비스 외에도 미디어, 보안, e커머스 등 다양한 산업·서비스 부문에 AI를 도입하는 주된 이유다.

기술 구현의 핵심은 AI 영역 중에서도 추론(Inference) 성능 고도화다. 학습(Training)과 추론(Inference)으로 구분돼 있는 AI 영역에서 추론은 서비스 단과 직결된다. 다수의 데이터를 기반으로 연구개발이나 성능 고도화에 적용되는 학습과 달리 빠르고, 유연하며, 지연성 없이 처리해야 한다. 이는 엔드커스터머와 연결되는 서비스 단에서는 서비스 경쟁력과 좌우되는 문제다.

박진효 SK텔레콤 ICT기술원장은 1일 열린 SK텔레콤-자일링스 공동 기자간담회 자리에서 “1년 전 최초로 공개한 AIX는 AI스피커인 누구(NUGU)와 SK텔레콤 콜센터에도 적용된 상태”라며 “ADT캡스에 적용돼 있는 영상보안 기술, 또 5G 모바일엣지컴퓨팅(MEC)에도 AI 적용 계획을 갖고 있는 만큼 5G와 AI 결합을 목적으로 고도화를 추진할 계획”임을 밝혔다.

◆1세대 커스텀 가속카드 외 알비오 U250 하이엔드 카드 추가 배치
AIX는 SK텔레콤이 3년 전부터 개발해 온 AI 추론가속기 프로젝트 이름이다. 영상분석, 큐레이션, 자연어처리 등 AI 코어기술 개발을 위해 자일링스의 FPGA를 기반으로 보드, 최적화 소프트웨어 모두 자체 개발했다. 텐서플로나 파이토치, 카페 등 다양한 딥러닝 프레임워크를 지원하기 위한 런타임 개발도구도 지원하는 상태다.

이강원 SK텔레콤 클라우드랩장은 “AI는 SK텔레콤이 추구하는 미래 서비스 산업군에 탑재되는 핵심요소”라며 “서비스 단에 적용되는 추론영역은 통신사업자 입장에서는 성장 가능성이 크다. 증강·가상현실(AR/VR) 서비스나 향후 연결되는 커넥티드카, 영상보안시장 등 기업시장(B2B) 영역에서 다양하게 적용 가능한 코어기술”이라고 설명했다.
 

▲ 아담 스크라바(Adam Scraba) 자일링스 디렉터가 1일 현장에서 자일링스 데이터센터 전략에 대한 발표를 하고 있다.

자일링스의 FPGA 2개를 탑재한 자체 개발 가속기(Custom)는 AI스피커인 누구(NUGU)와 SK텔레콤 콜센터에서 자연어처리(음성인식, STT) 가속을 위해 활용되고 있다. 최근에는 영상분석(Vision)을 위한 가속(티뷰, T-view)을 위해 하이앤드 가속카드인 알베오 U250도 새로 도입했다.티뷰는 현재 ADT캡스의 보안서비스 단에 적용된 상태다.

영상분석과 같은 다량의 데이터 처리가 요구되는 애플리케이션을 커버하기 위해 초기 FPGA인 20나노 킨텍스(Kintex)에서 단일칩 기준으로 최다 DSP를 탑재한 16나노 버텍스(VU9P) FPGA 2대를 장착한 커스텀 가속카드도 활용하고 있다.

정무경 SK텔레콤 ICT기술원 팀장은 “지난해 킨텍스 FPGA를 사용한 1세대 AI가속카드의 경우 디지털시그널프로세서(DSP)의 가용성을 최대 95%까지 끌어올렸다. 다량의 데이터를 처리해야하는 이슈가 많은 만큼, DSP가 많이 탑재된 버텍스 FPGA를 활용하면서 DSP 가용성도 90%까지 끌어올린 상태”라며 “성능 개선을 위해 하드웨어(FPGA)와 소프트웨어 최적화를 같이 진행하고 있다”고 말했다.

이어 “현재 응용케이스도 늘리고 있다. 기본은 알고리즘 기반의 확장이다. 음성에서 영상까지 커버할 수 있도록 구성한 상태며 합성곱신경망(CNN), 순환신경망(RNN)까지 확장한 상태”라고 덧붙였다.

◆GPU 아닌 FPGA 선택한 이유, 단순 ‘가성비’ 문제인가?
AI를 처리하기 위한 핵심자원은 활용하는 실리콘(Chip)의 처리능력이다. 상용 AI가속기를 생산하거나 자체 구축하는 실리콘기업과 서비스프로바이더(ISP) 모두 가용성능을 최적화할 수 있는 보드설계에 앞서 이를 운영하는 핵심인 칩을 선택하며, GPU와 같은 범용반도체나 FPGA와 같은 특수반도체 모두 활용되고 있다.

FPGA 시장에서 점유율을 과반 차지하고 있는 자일링스가 내세우는 FPGA의 강점은 ‘전력비 효율성’이다. 대량 연산처리에 사용되는 전력소비량 대비 성능개선에 최적화된 칩이 FPGA라고 내세운다. 고가의 GPU 대비 저렴한 점도 시장에서 강점으로 내세운다.

이강원 클라우드랩장도 이날 발표에서 “GPU를 베이스로 하는 시스템도 생각했으나, FPGA를 탑재한 AIX가 2배 정도 가성비가 높아 탑재하게 됐다”고 언급했다.

사실 GPU나 FPGA 단독으로 AI가속컴퓨팅을 구현할 수는 없다. 2개 칩 모두 핵심코어(CPU)와 연결되는 이기종컴퓨팅(Heterogeneous Computing) 구성을 위해 탑재하는 가속기를 위해 선택하는 실리콘이다. GPU는 연산에 특화된 칩이다. FPGA는 전력효율성이 높다. ‘가성비’를 내세운 자일링스도 FPGA가 GPU의 대안이라는 말에는 긍정도 부정도 하지 않는다.

핵심은 FPGA가 갖춘 유연성(Programable)이다. AI 학습이 아닌 추론, 서비스 단에서는 다양한 이슈를 반영해야 한다. 실시간 AI서비스 구현을 추구하는 통신사의 경우 프로세싱 파워와 저전력, 저지연성과 함께 다양한 알고리즘을 지원하고 반영해야 한다. 필드 단에서 바로 맞춤화할 수 있는 유연성은 FPGA가 갖는 최대의 장점이다.

▲ 빅터 펭(Victor Peng) 자일링스 CEO가 10월1일(현지시간) 미국 캘리포니아 산호세에서 열린 개발자 컨퍼런스(XDF 2019) 키노트 세션에서 바이티스(Vitis)를 공식 발표하고 있다. [ITBizNews DB]

◆SW레벨에서 HW정의-사용하는 바이티스(Vitis), ‘성능 최적화’ 기대도
자일링스가 지난달 1일(현지시간) 미국 캘리포니아 산호세에서 개최한 개발자컨퍼런스(XDF)에서 ‘바이티스(Vitis)’를 공개한 이유도 궤를 같이 한다. RTL 레벨에서 수정돼 다루기 어려웠던 FPGA를 쉽게 사용할 수 있는 소프트웨어 플랫폼이라는 게 사측 설명이다.

소프트웨어 레벨에서 하드웨어(FPGA)를 정의하는 기존의 툴(SDx) 체인의 장점을 잇는 3세대 플랫폼으로 다수의 도메인 특화 AI 가속 라이브러리, 개발자가 가장 많이 사용하고 있는 딥러닝 프레임워크 모두 지원하는 게 플랫폼의 핵심이다. 다수의 ML 라이브러리도 자일링스개발자센터, 깃허브(GitHub)를 통해 오픈소스로 공개하고 있다.

빅터 팽 자일링스 CEO도 XDF 현장에서 “이기종컴퓨팅 환경에 최적화돼 클라우드/데이터센터는 물론 엣지(Edge) 단에 적용되는 다양한 AI 애플리케이션의 개발을 지원하고, 필드 단에서 빠르게 이슈에 대응할 수 있는 유연성을 갖춘 소프트웨어 플랫폼을 목적으로 개발된 제품이 바이티스”라고 설명한 바 있다.

1일 공동 기자간담회에 참석한 샘 로건(Sam Rogan) 자일링스 아태지역 세일즈 부사장도 “리얼타임 AI서비스가 확장되면서, AI가속 최적화를 위한 유연성이 요구되고 있다”며 “CNN, RNN 등 다양한 알고리즘과 워크플로가 있다. 복잡하며 최적화를 위해 많은 시간이 걸린다. 머신러닝(ML)을 더 빠르고 쉽게 개발-배포할 수 있도록 지원하는 최적화 플랫폼이 바이티스”라고 설명했다.

정무경 팀장도 “FPGA를 베이스로 하는 커스텀가속카드와 소프트웨어 모두 자체 개발, 운영하고 있다. 자일링스의 바이티스가 이제 막 공개된 플랫폼인걸 감안하면, 향후 이를 활용한다면 AI가속 라이브러리 최적화에도 도움이 될 것으로 기대한다”고 말했다.

 

[저작권자ⓒ IT비즈뉴스. 무단전재-재배포 금지]

[관련기사]

멜라녹스 인수전 뛰어든 엔비디아, 판 커진 인수경쟁2019.03.11
“5G 파급력 입증할 기업시장, 엔드-코어 연결하는 안정성 확보가 핵심”2019.04.18
가속컴퓨팅시장 정조준한 자일링스, “빅터 펭 전략, 성공할까?”2019.06.21
“구글(TPU), 자일링스(FPGA)…시장 플레이어와의 경쟁 환영한다”2019.07.03
인텔·바이두, AI 학습용 신경망프로세서(NNP) 개발 협력 발표2019.07.04
데이터 처리에 최적화, ‘엣지(Edge)’ 기술이 뜬다2019.07.22
자일링스, 보급형 가속컴퓨팅 카드 ‘알비오 U50’ 공개2019.08.08
네이버가 선택한 팹리스기업, “퓨리오사AI를 아십니까?”2019.08.14
AI스피커 ‘누구(NUGU)’, 시각장애인 점자학습에 활용된다2019.08.20
너바나(Nervana) 신경망 칩 내세운 인텔, “더 늦기 전에 주도권 확보”2019.08.21
FPGA기업이자 FPGA기업이 아닌 자일링스, 금융·핀테크 IT인프라 시장에 뛰어든 이유2019.09.18
[단독] 자일링스, 머신러닝(ML) 라이브러리 수백 개…오픈소스로 푼다2019.10.02
빅터 펭 자일링스 CEO, “칩과 툴 연결하는 통합 플랫폼이 바이티스(Vitis)”2019.10.02
아카마이, 엣지-클라우드 DT 가속화 위한 업데이트 단행2019.10.22
5G 상용 서비스 시작한 중국, ‘14억 인구 모인 최대시장 열렸다’2019.11.01
[그것을 알려주마] SK텔레콤은 왜? AI가속기에 ‘GPU’ 아닌 ‘FPGA’를 선택했나2019.11.04
멀티캠퍼스·KT, AI스피커 기반 교육용 콘텐츠 공동개발 추진2019.11.07
엣지시스템 개발자 품는 엔비디아, 초소형 AI모듈 ‘자비에NX’ 공개2019.11.07
“레드벨벳 아이린이 SM 아티스트 스케줄을 알려준다고?”2019.11.08
포니ai·윈드리버와 손잡은 자일링스, “7나노 ACAP, 바이티스 SW로 최적화”2019.11.14
5G코어(5GC) 네트워크 혁신을 위한 MEC/SBA 테스팅 접근법 ①2019.11.15
케이토네트웍스·CMT정보통신, 국내 SD-WAN 서비스시장 ‘출사표’2019.11.15
‘신용카드보다 작다’…구글·에이수스, AI 개발보드 ‘팅커엣지(Tinker Edge)’ 공개2019.11.16
구글, 딥러닝VM/컨테이너 지원 ‘텐서플로 엔터프라이즈’ 발표2019.11.21
톰 레이튼 아카마이 회장, “엣지(Edge) 도입, 트래픽 분산-보안이슈 해결위한 필수”2019.11.26
자일링스, AI 추론 개발환경 ‘바이티스AI(Vitis AI)’ 오픈소스로 공개2019.12.04
  • 글자크기
  • +
  • -
  • 인쇄
뉴스댓글 >

주요기사

+

많이 본 기사

마켓인사이트

+

컴퓨팅인사이트

+

스마트카

+

PHOTO NEWS