AI 반도체 전문기업 딥엑스(대표 김녹원)는 생성형 AI를 인류가 상용화할 수 있는 결정적인 기술로 ‘거대 AI의 연합 구동(Federated Operation of LLM)’으로 보고 네트워크 및 클라우드 시스템과의 호환성 및 최적화 기술 개발에 착수했다고 6일 밝혔다.

딥엑스는 개인화 기기에서 지능은 초거대 AI의 수준으로 전력은 수 와트로 구동할 수 있는 온디바이스 AI 반도체를 내년 하반기 선보일 예정이다. 

최근 챗GPT, 제미나이 등 LLM 서비스를 위해 엔비디아의 GPU 기반 솔루션이 주목받고 있지만 소모되는 GPU의 전력 에너지가 한 나라의 전력 에너지를 넘어서는 수준에 이르렀다. 이에 따라 마이크로소프트, 아마존, 메타, 구글, 오픈AI 등은 GPU를 대체하고 자사의 AI 알고리즘 수행에 최적화된 자체 칩을 제작하는상황이다.

딥엑스의 AI 반도체 원천기술은 온디바이스에서 AI 구동시 고성능, 저전력, 경제성을 획기적으로 향상시키는데 최적화돼 있다. 이같은 강점을 차세대 기술에도 적용해 딥엑스는 생성형 AI를 인류가 상용화하는 데 결정적인 기술로 ‘거대 AI의 연합 구동(Federated Operation of LLM)’이라 정의하고 핵심 기술로 개발할 계획이다.