모빌리티 AI NPU 및 칩 소개

감사의 인사에 대해서 드리고 싶고요. 지금부터 달력하게 저희 회사에 대해서 소개를 한번 드리도록 하겠습니다. 저희 회사는 19년도에 창립해서 현재까지 한 18년 정도 업무를 지니고 있고요. 저희 대표님께서 13년부터 카이스트 연구실에서 NPU에 대해서 연구를 시작했기 때문에 대략 10여 년 이상을 NPU에만 연구하고 있다고 봐주시면 될 것 같습니다. 그래서 현재 저희 나오고 있는 칩들이 AI 가성기와 SOC 칩 이 두 가지의 칩이 있습니다.

이 측들은 현재 혁신 제품에 등록되어 있는 제품도 있고요. 그리고 CES에서 혁신상을 추삭한 제품도 있고 다양하게 기술력을 인정을 받게 되었습니다. 간단하게 지금 현재 AI 트렌드에 대해서 말씀드리고자 하면은 지금 현재 기존에는 클라우드 중심의 학습 위주의 시스템들이 활성화됐다고 하면은 현재는 NCE 위주 NCE 칠원 위주의 시스템으로 칠원 위주로 지금 인상체를 전환하고 있는 과정이라고 보고 있습니다.

현재 에이전틱 AI와 피지컬 AI, 이 관련해서는 경량함이 최적화 중심의 추론 시스템들이 활성화되어야 된다고 생각하고 있습니다. 여기에 발맞춰서 저희 모빌리티에서는 온 디바이스부터 엣지 데이터 센터까지 다양한 환경에서 저희의 MPU를 활용할 수 있게 제공하고 있습니다. 그 중에 하나가 AI 액셀레이터인 에리스라는 칩이고 또 하나의 칩은 AI SOC인 레귤러스라는 칩입니다.

에리스에 대해서 간략하게 먼저 소개해드리겠습니다. 에리스는 삼성 17nm 공정에 공정도 이루어졌고요. 그리고 80톱스의 성능을 가지고 있습니다. 현재 TDP는 20와트의 수급기를 가지고 있습니다. 이런 에리스 측으로 현재 저희가 다양하게 라인업을 구성하고 있는데 첫번째로 MLA 발견하는 노 프로파일 제품 두번째는 MLA 400이라는 에리스 14개가 들어가 있는 PCI 카드 그리고 MLA 100 MXM이라는 임패지용 MXM 카드 그리고 MLA A1이라는 스탠드홀 AI 박스 형태로 에리스는 제공하고 있습니다. MLA 100.5는 현재 혁신형태에 올라와 있는 혁신 제품도 지정되어 있고요. MLA A1도 마찬가지로 혁신 제품으로 공급되어 있습니다.

간단하게 PCI 카드 형태의 MLA 100 같은 경우에는 80도로 성능을 가지고 PC5W 뒤에 수속기를 가지고 있습니다. 그러다 보니까 고유율의 고성능을 지금 현재 생각을 하고 있고 다양한 PC 환경부터 서버 환경까지 다양한 컴팩터에 적용할 수 있습니다. 또 하나의 MLA 400 PCI 카드 같은 경우에는 큰 LNM 모델까지 한 30필년 모델까지 구현할 수 있는 카드 형태로 현재 엣지 연산 능력에 최대 32톱스까지 320톱스까지 올려놓은 제품입니다.

이런 PCI 카드들은 HP나 DEL 서버 형태로 제작하고 있고요. 이 제품 모두 혁신 제품으로 등록을 추진하고 있고 아마 올해는 하락계열 혁신 제품으로 등록이 될 예정입니다. MXN 카드 같은 경우에는 컴팩트한 포켓터를 가지고 있어서 슬림하게 여푸 장착해서 산업 현장에 직접 납품할 수 있는 구조로 되어 있습니다.

이러한 MXM 카드가 엣지 AI 박스에 설치가 되어 있어서 다양하게 산업 현장에서 대응해서 활용할 수 있습니다. 다음은 레귤러스입니다. 레귤러스는 AI SOC 칩인데 TSMC 12나로 공장을 가지고 있습니다. TDP는 약 3호 TDP를 가지고 있고 10톱스의 성능을 가진 SOC 칩입니다. CPU 뿐만 아니라 비디오 커넥, ISP까지 다양한 IP들이 내장되어 있다고 보시면 됩니다.

이런 네블러스는 현재 모듈 형태로, 엔비디아 젯슨 같이 모듈 형태로 제공을 드리고 있고요. 그리고 이 모듈 형태를 다양하게 먼저 활동하기 위해서 SBC 형태로 개발 키트를 제공을 해드리고 있습니다. 그리고 또 하나 USB 타입으로 실질적으로 바로 현장에서 사용할 수 있게끔 앱온 시킬 수 있는 제품을 출시를 했습니다. SOM 형태의 모듈 형태입니다. 이것은 SOC 칩 자체가 지금 CIP만으로 공급하기에는 현재는 사용하기가 어렵기 때문에 저희가 모듈 형태로 제공을 해드리고 있고요.

마련해서 시트홉스의 성능에 8기가의 메모리를 가지고 있습니다. 그리고 55x50의 사이즈를 가지고 당장 cctv에 연결하게 되면 AI의 IP 카메라로 만들 수 있는 장점이 있습니다. 이러한 모듈 형태를 실질적으로 테스트해볼 수 있는 개발 키트 형태로 sbc를 제공하고 있습니다. sb는 최근에 출시된 제품인데 즉각적으로 pcn pc나 노트북 환경에서 즉각적으로 사용할 수 있는 add-on 제품이라고 보실 수 있습니다. 실시간 온 디바이스 처리를 할 수 있어서 언제 어디서든지 손쉽게 사용할 수 있는 장점이 있습니다.

그리고 이런 하규어 제품을 한꺼번에 처리할 수 있는 SDK를 제공해드리고 있습니다. 그래서 저희 SDK는 사전 훈련된 모델을 컴파일하고 MPU에서 실행시킬 수 있고 다양하게 손쉽게 사용할 수 있게끔 제공해드리고 있습니다. 이 SDK는 저희가 따로 배포 사이트를 운영하고 있기 때문에 배포 사이트에서 가입하셔서 실제 사용해보실 수 있고요. 그리고 닥스.모빌트.컴이라는 저희 문서 사이트에 가시면 저희 SDK에 대한 소개 자료가 있으니까 한번 불러보시면 좋을 것 같습니다.

저희 모빌리티의 장점이라고 할 수 있으면은 지금까지 설명드렸던 하드웨어들이 모두 저전력에 고성능에 성능을 낸다라고 보실 수 있습니다. 먼저 저희가 벤치나킹하고 있는 GPU 대비해서 대략 5%에서 20% 이상까지 성능을 가성비 및 전성비에 느낄 수가 있고요. 그리고 고백사 모델부터 C&N, RL, LLM, VLL까지 다양한 모델들을 지원하고 있습니다.

또 하나, 다양하게 70개 이상 POC를 거치면서 다양한 고객 피드백을 받아가지고 현장에서 다양하게 테스트를 해봤기 때문에 지금 현재 여기 계신 분들께서 직접 사용하실 수 있게끔 저희가 충분히 기술적인 지원을 해드릴 수 있습니다. 이러한 제품들은 사급 현장들에 투입되는 제품들이기 때문에 다양한 신뢰성 테스트를 거치고 있고 그 신뢰성이 완성되고 나서 인증을 통해서 저희가 출시를 하고 있습니다.

그리고 또 하나 OS의 호환성입니다. OS는 대부분 AI 모델들을 리눅스를 바탕으로 OS를 가지고 가는데 저희는 리눅스 뿐만 아니라 윈도우까지 지원을 하고 있고요. 그리고 ARM 서버 및 AMD 그리고 인텔 CPU까지 다 지원을 하고 있습니다. 그리고 다양한 서버 밴더들과의 호환성 테스트 및 OEM 계약을 통해서 이런 서버 시스템까지 공급해 드릴 수가 있습니다. 지금부터는 적용 사례에 대해서 잠깐 소개해드리도록 하겠습니다.

먼저 AI 서버입니다. 현재 AI CC에서 서비스가 되고 있고요. 기존의 모델이 A40을 이용한 챔퍼 서비스들 그리고 AI 컨택센터 시스템들을 사용했었는데 고성능 GPU를 대시할 수 있게끔 MNA 100을 투입해서 동일한 성능 이상의 성능을 가지고 지금 현재 서비스를 하고 있는 제품입니다.

그래서 AI 서버 같은 경우에는 실질적으로 지금 현재 STT 및 TTS 이렇게 단독으로 서비스를 운영하는 경우와 STT, TTS 하이브리드로 운영하는 경우가 두 가지 지금 시스템으로 서비스가 되고 있는 상황입니다. 다음은 관제 시스템입니다. 지금 현재 CCTV나 영상관제 시스템들 그리고 상풀감치를 위한 상풀감치 시스템들 이 모든 CCTV 관제 시스템들이 현재 GPU로 활용되는 것이 MPU로 활용해서 MPU로 대체해서 현재 기술실증이 완료된 상황입니다. 그리고 상풀 조기감치 시스템 같은 경우에는 현재 약 2000년대의 CCTV를 한 150장의 M&A 백합을 가지고 현재 운영하고 있습니다.

다음은 로봇입니다. 로봇 분야에도 마찬가지로 CCTV 및 라이더 이런 복합센서 모듈들이 다 탑재가 되어 있는데 이 모든 탑재된 모듈을 저희 엠에드시의 박스를 통해서 AI를 실현했고 사람이 직접 갈 수 없는 화면에서 사전 고행 모러스에 활용해서 실시간으로 상태를 확인할 수 있는 기술 시점을 하였습니다. 다음은 키오스크입니다. 현재 키오스크는 일률적인 서비스를 제공하고 있는데 여기에 STT, TTS를 활용해서 상호 커뮤니케이션 할 수 있는 시스템들을 개발했고요.

그리고 무인 매장에서 실시간으로 셀프 대산할 수 있게끔 적용할 수 있는 POC를 진행하고 있고 아마 올 한강 정도는 상용화될 예정입니다. 다음은 스마트 팩토리입니다. 스마트 팩토리 분야에서도 불량 자동 검출 시스템이라든지 바코드, OCR 등 이런 시스템들을 직접 MPU를 활용해서 실질적으로 서비스를 진행하고 있습니다.

마지막으로, 레귤러스에 관한 실증 사례입니다. 레귤러스가 고해상도 저자량인 비전 카메라에 저희 레귤러스를 탑재해서 AI가 기반 비전 검사를 할 수 있게끔 실증을 하고 있고요. 그리고 또 하나 드론에 저희 모듈이 탑재돼서 드론 감시 카메라에도 AI를 적용할 수 있는 장점이 있습니다. 마지막 교육지원입니다.

현재 NVIDIA GPU 같은 경우에 오랜 기간 동안 교육 환경에서 NVIDIA GPU를 활용할 수 있는 시스템들을 많이 구축해서 지금까지 성장해왔다고 생각을 하고 있습니다. 다양하게 저희 같은 경우에도 마찬가지로 NVIDIA처럼 교육 관련된 학교나 산업 현장에 교육할 수 있는 시스템들을 구축해서 앞으로 NPU가 확대될 수 있게 계속 노력을 하고 있습니다. 지금까지 기존에 있는 모델에 대해서 설명을 드렸는데요

현재 모빌리티에서는 두 가지 타입의 비율을 제공해 드리고 있습니다. 하나는 AI 가속기이고, 하나는 SOC 칩입니다. AI 가속기 같은 경우에는 지금 현재까지 MLA 3회까지 출시가 됐고요. 그리고 2028년부터는 하말이라는 노드맵과 타우러스라는 1000톤수 이상의 제품이 출시될 예정입니다. SOC는 레귤러스가 올 하반기에 양산 체계가 완료가 되고 그 이후에 2018년도에 MLA 4부터 시작해서

계속 추가적인 로드맵을 가지고 있습니다. 앞으로 이런 SOC 같은 경우에는 휴머노이드, 로봇, 다양한 환경에서 제공해 드릴 수 있는 장점을 가지고 있습니다. 저희는 100여개 이상의 파트너, 그리고 10여개 이상의 산업 분야에서 다양하게 POC를 진행했고 기술 실정을 했습니다. 그래서 저희 MPU가 현재 어디서든지 다 적용이 가능하고 앞으로 여기 계신 모든 분들과 함께

MPU를 적용할 수 있는 AI 시스템들을 같이 공동 개발했으면 좋겠습니다. 네, 이상으로 모빌리티에 대해서 간략 소개를 드렸습니다. 감사합니다.