온디바이스 AI 전략과 반도체 생태계

온디바이스 AI가 처음에 24년도, 23년도만 해도 굉장히 핫한 키워드였는데 지금은 양자 그리고 피지컬 AI 이런 걸로 약간 트렌드가 바뀌고 있는 상황인 것 같아요. 그럼에도 불구하고 온디바이스 AI 기술 사업화는 앞으로 계속 되어야 할 영역이라고 생각을 하고 있고요. 여기 계시는 여러분들과 함께 저희 애트리와 함께 성공적으로 기술 사업화를 해나갔으면 좋겠습니다. 키포인트로는 크게 세 가지를 저희는

생각을 하고 있고 첫 번째는 반도체, 역시 반도체가 중요하겠죠. 경쟁력 있는 지능형 반도체를 우리 애트레이서도 만들고 있고 요즘은 딥엑스, 모빌리트, 서버급이긴 하지만 크리오사, 리벨리온 이런 칩들이 계속 나오고 있는 상황인데 칩 사람들은 열심히 만들어 주시고 계시긴 하거든요. 근데 양산이 지금 안 되고 있는 그런 상황에는 있습니다. 양산이 안 되는 여러 가지가 있겠지만 이 칩을 얼마나 많은 수요가 있느냐에 따라서 그게 좀 결정이 되는 것 같아요.

저희는 이 칩이 많이 쓰일 수 있도록 여러 활동들을 하고 있고 또 신규로 나오고 있는 칩들도 저희가 먼저 테스트를 해서 여러 기업들이 활용할 수 있게끔 그런 반도체들을 찾는 것을 저희가 지금 하고 있는 상황이고요. 그럼 이 칩을 가져다가 소프트웨어나 하드웨어 플랫폼화해서 예를 들어 라즈메리파이와 같은 보명의 보드를 만들어서 저희가 공급을 해드리고 있는데 그 플랫폼에 2종의 AI 반도체를 수용할 수 있는 구조를 넣었고 그다음에 소프트웨어를 좀 잘 활용하실 수 있게 패키지화를 해서 저희가 두 번째 전략으로서 이 플랫폼을 공급을 하고 있고요. 이 영역에 대해서는 지금 전남대학교의 교수님과 함께

연구를 더 해 나가고 있는 상황입니다. 그리고 마지막으로는 저희 스케일업 밸리에서 추진하고 있는 생태계를 어떻게 키워나갈 것이냐 그런데 이 생태계에서 가장 중요한 것은 기술도 있지만 결국은 그 기술을 갖다가 제품화할 수 있는 전략을 수립을 하거나 IP를 확보하거나 더 중요한 투자 자금을 잘 모아줄 수 있는 그런 어떤 생태계가 두 구조가 필요한데 그런 것들을 우리 스케일업 밸리 유선사업에서 지금 계속 진행을 하고 있습니다.

오늘 기술교류회는 이 세 가지 전략에 대해서 저희가 세션을 좀 나눠가지고 준비를 했고요. 경쟁력 있는 반도체를 발굴하기 위해서 저희가 가지고 있는 AB9이라는 칩, 그리고 앞으로 개발하시는 칩에 대한 모드맵들을 오늘 진흥형 반도체 의무공부의 구모태 국무부장님께서 발표를 해주실 거고요. 기존에 딥엑스 모빌린트가 나오기 전에 저희는 이스라엘 헤일로 제품을 가지고 이 문화의 세리나 이를 좀 개발해 왔습니다.

다행스럽게도 그쪽에서 개발했던 내용들이 딥엑스나 모빌링트 칩에도 핏하게 들어가는 상황이 되고 지금 모빌링트 칩까지 오셨지만 닥터테인 헬스케어의 화장품 키오스크에 포팅하는 거를 따끈따끈하게 머재 완료를 했습니다. 그래서 이렇게 해나가고 있고요. 딥엑스 칩도 저희가 잘 사용을 해나가고 있는데 이렇게 광주의 인트플로우라는 회사가 가장 잘 활용을 하고 있는 상황이고요. 아마도 올해 새로 공동연구를 하신 제주 기업인 에슬리테크가 스포츠테크 쪽으로 딥엑스를 활용하실 거라고 보시면

그 외에도 저희가 A-Future 슈퍼게이트 아이닉스 칩들을 사다가 이런저런 테스트를 해보고 있는 상황인데 슈퍼게이트는 칩이 안 나오는 상황이긴 합니다. 그리고 후반부에 말씀드리겠지만 저희가 마이크로 데이터 센터라고 하는 온 디바이스 AI 영역과 조금 다르긴 한데 그쪽에 퓨리오사 리벨리오 칩들을 활용해서 개발하는 것도 진행을 하고 있고요. 그래서 저희가 이 반도체들을 발굴하고 협력하는 어떤 전략을 구상하고 있다. 이렇게 이해를 해주시면 좋겠습니다.

두 번째 전략으로는 아까 말씀드린 하드웨어 플랫폼, 소프트웨어 플랫폼들을 만들어가고 있는데 이제 MPU를 하나만 키웠을 때 적용할 수 있는 응용이 굉장히 좁습니다. 왜냐하면 모델은 복잡해지고 있고 다양한 응용을 수용하기 위해서는 결국은 이 칩의 파워가 터져야 하는데 칩의 파워를 무진장 키울 수가 없더라고요. 그래서 저희는 이걸 병렬로 연결을 해서 어떻게 해소를 해보자고 가설을 세웠었고 이걸 적용을 해보니 실제로 파이프라이딩을 잘하면 성능이 상당히 올라가더라 라는 확인을 했고요. 이걸 바탕으로 저희가 기술 이전을 해드리고 있는 상황인데 저희가 약간 추구하는 것은 이 칩들이 결국은

각각 어떤 영역에 특화된 칩 형태로 개발이 될 거라고 기대를 했어요. 예를 들어서 객체인식에 특화된 A사 칩을 끼우고 포즈추정에 특화된 B사 칩을 끼우면 더 효율적으로 돌릴 수 있지 않겠느냐 그리고 각사의 칩은 자기가 잘하는 영역의 칩을 계속 고도화 개발하면 상업적으로 좋겠거니라는 생각을 하고 이런 포즈포즈를 취하고 있습니다. 이 구조가 파워가 딸리기 때문에 요즘 나오고 있는

SLLM 같은 것은 좀 올리기가 어렵거든요. 그래서 저희가 CPU와 MPU가 통합되어 있는 보드를 여러 개 끼워서 이 SLLM 모델을 올릴 수 있는 형태의 것으로도 만들어서 지금 현재 기술 이전을 해드리고 있는 상황입니다. 그리고 그 위에 올라가는 소프트웨어 플랫폼인데요. 이 ALT 플랫폼을 음성으로 질문을 던지면 얘가 해석을 해서 답변을 생성을 하고 그 답변을 다시 보이스로 리턴을 해주는 것을 할 수 있도록 저희가 소프트웨어를 구성을 해서 만들었고

그 다음은 다중 AI 모델, 특히 시각지능을 여러개를 올려서 효율적으로 처리할 수 있는 소프트웨어 플랫폼도 만들어서 하고 있고요. 그 다음은 좀 작은 모델이긴 하지만 5G 모델 같은 거 IoT 센서와 연결을 한 보드 형태의 것을 만들어서 시계열 데이터를 잘 추론할 수 있는 인디바이스 AI 기술도 선보이고 있습니다. 이게 여기까지가 이제 저희 두 번째 전략이고 세 번째 전략은 이제 수요를 발굴하고 기술 개발하고 사업화를 확산한 생태계 구축이 저희 과제에서 하고 있는 내용인데

다 설명들을 들으셨기 때문에 아실 겁니다. 결국 이 과제를 통해서 기업들이 크게 성장하는 생태계를 구축을 하고 있는데 저희가 우리 패밀리 내, 그러니까 66개사에게 투자를 할 수 있는 전용펀드를 지금 23억 원을 조성을 해놨어요. 그리고 그 중에 일부를 몇 개 기업들에게 투자를 해놓은 상태이고요. 앞으로 우리 담당하시는 라플라스 파트너스 한인서 대표님께서 올해 투자 모금액을 100억 원을 지금 목표로 하고 움직이고 계시기 때문에 여러 기업분들이 이걸 좀 잘 인지를 하셔가지고

경쟁력 있는 제품, 마케팅 이런 것들을 잘 하시면서 저희와 함께 이 펀드도 받을 수 있는 여건이 되시기를 바라고 있고 저희가 열심히 도와드릴 예정입니다. 지금 애트리가 공동연구 15건을 하고 있는데 전자기술연구원께서 한 3개 정도를 맡아주고 계셔서 큰 힘이 되고 있습니다. 이 사업을 통해서 생태계를 구축하는 어떤 와프를 만들고 있고 거기에서 결과적으로는 지금 미래유니콘 기업 7개사를 발굴하는 걸 최종 목표로 하고 있습니다.

현재 후보 기업이 4개 정도가 발굴이 됐고요. 앞으로 3개 기업들을 더 올해 내년까지 해서 발굴할 예정입니다. 여기까지는 저희 기존의 온 디바이스 AI 전략이었고, 미래 전략이라고 하는 계획을 또 수립을 하고 있습니다. 저희 로드맵인데요. 보실 것은 첫 번째 AI 컴퓨팅 컨티니엄 생태계를 구축을 할 겁니다. 이게 무슨 얘기냐면, 저희가 지금 현재 디바이스만, 온 디바이스 영역만 하고 있는데 엣지 영역, 그러니까 기지국이나 마이크로 데이터 센터와 같은 엣지 영역, 그리고 데이터 센터 큰 하이퍼 스케일의 데이터 센터와 통과

정신망을 다 연결해서 AI 서비스가 통합적으로 실행될 수 있는 체계 조금 더 쉽게 말씀드리면 내가 어떤 AI 서비스를 요구를 하면 이 특정 AI 모델이 디바이스에서 돌아야 될 것이냐, 엣지에서 돌아야 될 것이냐, 클라우드에서 돌아야 될 것이냐를 결정을 해서 최적의 위치에다가 실행시켜주는 체계라고 보시면 됩니다. 그런 체계를 저희가 지금 여러 경로로 트라이를 하고 있는 상황이고요.

여기에 핵심은 저는 통신사라고 보고 있어요. 결국은 칩을 많이 팔아줄 곳, 많이 써서 팔아줄 곳 그리고 AI 서비스 기업들의 운영 서비스를 가져다가 확산시켜줄 곳은 결국은 저희는 통신사로 바라보고 있고 통신사가 저희와 함께 KT하고 LG 플러스라고 얘기를 하고 있는데 같이 협력을 해서 생태계를 구축을 해나가는 것을 다운 스텝으로 잡고 있습니다. 그래서 이런게 있다라고 말씀드리고 당연히 지역 수요를 발굴하는 것은 광주에 있는 ICA하고 계속하고 있는 상황이고요.

그 다음에 아이카가 가지고 있는 국가 AI 데이터 센터나 앞으로 생길 MPU 컴퓨팅 센터와 협력을 해서 이런 컨티뉴 생태계를 이쪽에다가 적용하는 그런 방안들을 가지고 아마 빠르면 28년도부터 되지 않을까 싶은데 그래서 한 4, 5년 동안 저희가 개발을 할 것 같고요. 그리고 마지막으로 저희가 잘 모르는 영역이지만 우리 본부장님도 계시지만 팸리스 협력을 계속 지속적으로 강화해야 한다고 생각을 하고 있습니다. 근데 여기서 가장 중요한 게 팸리스사분들도 결국 칩을 많이 팔아야 하거든요. 근데 그 칩을

유저들이 잘 사용을 해야 널리 퍼지게 되는데 그게 굉장히 지금 부족한 상황이라고 저희는 생각을 합니다. 그래서 오늘 저희 패밍사사하고 협력, 공부 협약서를 맺게 되는데 이걸 할 겁니다. 개발자 교육 협력을 할 겁니다. 저희 공부에 마이크로 데이터 센터하고 온 디바이스 AI 보드를 가져다 놓고 우리 학생들이나 기업이 끼시는 분들이 우리 교육 프로그램을 열어두면 거기 와서 수강을 하시게 만들 거거든요

아마 9월경에 첫 수업 시작이 될 것 같고 그것도 저희가 언론이나 홍보를 통해서 공고를 드릴 예정이에요. 근데 교육 수강생 용량이 크지가 않습니다. 올해 20명 정도를 목표로 하고 있어요. 퓨리오사, 퓨리오사하고 모빌리트사하고 딥엑스사 3개사의 교육 프로그램을 오픈할 예정이오니 여기 기업분들, 개발자분들 많이 오셔가지고 많이 써보시고 확인해보시면 좋을 것 같습니다. 그래서 칩을 가져다가 포팅하고 하는 건 애트리가 하는데 실제 쓸 수 있는 유저들을 키우는 거는 페미스트사와 안개선적으로 협력을 하겠다.

이런 4가지 전략들을 저희가 가지고 있습니다. 그래서 그거에 맞게끔 오늘 전략을 소개해드렸고 오늘 첫 번째 시간이 다 되긴 했는데 우리 사진 촬영을 하고 넘어갈 거고요. 그다음 우리 배트리가 가지고 있는 진흥형 반도체 용본부의 현재 R&D 칩을 개발해가는 PIM, CIM, 뉴로봇변 반도체 이거에 대한 얘기를 구본태 본부장님 모시고 들을 생각입니다. 저희의 전략원이 되겠죠.

다음은 이 과제에서 올해 추진했던 내용들을 여러분들께 공유를 드리려고 하고요. 그 다음에 오늘 어렵게 보셨습니다. 3개사의 제품 소개와 어디어디에 적용을 했는지를 소개를 해드리려고 하고 있고요. 그 다음은 전남도 교육 최강욱 교수님, 김혜길 교수님과 세미나이 대지 AI가 하드웨어 플랫폼 안에 들어가는 코어가 되는 소프트웨어 미술들을 교육을 해주실, 발표를 해주실 예정입니다. 그리고 마지막에는 저희 생태계와 관련이 있는 전략인데

이 적용하는 응용 서비스가 여러 회사들이 만들고 계시는데요. 올해 신규로 저희 메이아이, 로보다인, 텐마이즈, 애슬리테크가 이 협의체 패밀리로 들어오게 되셨어요. 그래서 이분들이 어떤 것을 기존의 제품을 어떻게 온 디바이스 A화를 하느냐에 대해서 발표를 해주실 거고 저희가 좀 바라는 것은 저희가 좀 부신점이긴 합니다만 감히 말씀드려서 죄송하긴 합니다.

B2B가 좀 많이 일어나면 좋을 것 같아요. 서로 저 회사가 어떤 걸 잘하는 거나 우리 회사에서 부족한 부분을 저 회사와 협력을 하면 만들어질 수 있겠구나 이런 것들을 좀 꿈꾸고 있거든요. 근데 좀 쉽지는 않은 것 같아요. 이게 무이기도 쉽지가 않고 그래서 저희 중간중간에 브레이크 타임이 있으니까 발표하시는 거 들어보시고 좀 얘기해 주시면 좋겠습니다. 그리고 오늘 IPR&D 투자유치, 연구소 기업 창업 기술 개발 상담을 미리 신청해 주신 기업들도 계시는데 신청을 안 하셔더라도 중간중간에 가셔가지고 가능하거든요.

가셔서 상담도 받아주시면 좋겠습니다. 여기까지가 오프닝이 되겠습니다.