최종편집 : 2020-07-09 14:24 (목)
Arm, AI 엣지 컴퓨팅 위해 CPU 훈련·추론 성능 향상 예고
상태바
Arm, AI 엣지 컴퓨팅 위해 CPU 훈련·추론 성능 향상 예고
  • 김주연 기자
  • 승인 2019.10.16 23:45
  • 댓글 0
이 기사를 공유합니다

컴퓨팅 기술의 제5의 물결은 인공지능(AI)과 5세대(5G) 이동통신, 사물인터넷(IoT)으로 정의된다. 이 중 IoT는 아직 초기 단계지만 작은 센서에서 시작해 현재는 고성능 엣지 컴퓨팅으로까지 논의가 확장됐다. 

Arm은 이같은 흐름에 대응, 방대한 양의 IoT 데이터를 처리할 수 있는 ‘AI 엣지(AI Edge)’를 실현하기 위한 비전을 마련했다고 16일 밝혔다.

먼저 회사는 Armv8-A 아키텍처 업데이트에 bfloat16 데이터 포맷을 추가, Arm 기반 중앙처리장치(CPU)의 AI 훈련·추론 성능을 크게 향상시킬 계획이다.

내년에 출시될 네오버스 ‘제우스(Zeus)’ 플랫폼에도 bfloat16을 지원, IoT 산업 내 선도적인 입지를 공고히 하겠다는 목표를 세웠다. 

엣지에서 AI는 두 가지 역할을 동시에 하게 된다. ▲데이터에 저장된 정보를 기반으로 시의적절한 결정을 내리고, ▲방대한 양의 데이터가 적절한 장소로 이동해야 하는 경우에는 AI가 데이터 흐름 관리부터 패킷 검사까지 모든 작업을 지원해야 한다. 이는 훈련과 추론의 문제로, 기존 컴퓨팅 시스템에서는 진행할 수 없다. 

AI 엣지를 활용하는 애플리케이션을 성공적으로 배치하기 위해서는 광범위한 전력 및 성능 요구 사항을 충족하는 다양한 솔루션을 제공해야 한다. 

AI 엣지는 AI를 중심으로 해 클라우드 네이티브인 동시에 데브옵스(devops, 개발과 운영이 협업하는) 방식으로 관리돼야 한다. 또 가상 기계 등의 기기를 통해 물리적 자원 낭비를 줄이고 멀티테넌시(multitenancy)를 지원해야 한다. 보안상 안전도 중요하다.

Arm은 이러한 AI 엣지 전환의 문제를 해결하기 위해 프로젝트 카시니(Project Cassini)를 발표했다. 

프로젝트 카시니는 다양하고 안전한 엣지 에코시스템 전반에 걸쳐 클라우드 네이티브 경험을 제공하는 것에 초점을 맞춘 이니셔티브다. 하드웨어 및 펌웨어 플랫폼 요구사항, 플랫폼 관리 소프트웨어, 보안 등 세 가지 영역을 주로 다루고 있다. 

엣지 컴퓨팅 기술의 등장으로 컴퓨팅을 분산하는 수요가 급격히 늘자 Arm 네오버스(Neoverse) 컴퓨팅 솔루션에 대한 수요도 증가하고 있다고 Arm은 설명했다.

드류 헨리(Drew Henry) Arm IPG 전략 및 운영 부문 선임 부사장은 "지 컴퓨팅과 관련해서 Arm은 인프라 스택 내 모든 지점에서 지능적인 의사 결정이 이뤄질 수 있도록 하드웨어, 소프트웨어, 툴 개발에 집중적으로 투자할 것"이라며 "이는 클라우드에서 엣지, 그리고 엔드포인트 디바이스에 이르기까지 네트워크 전반에 걸쳐 프로세서 수준의 이기종 컴퓨팅을 사용해야 한다는 것"이라고 설명했다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사