빌 게이츠는 "미래는 AI 개인비서 개발기업이 승자가 될 것이다. 5년 내에 AI는 컴퓨터 사용방식이 완전히 바뀔 것이다"고 주장했다. 과연 컴퓨터 사용방식이 완전히 바뀔까? 스마트폰이 사라질까?

올초 국제전자제품박람회(CES)에서 '세계최초의 AI 폰' 갤럭시 S24가 'AI 실시간 통역 통화' 등 '온디바이스 AI' 기술로 세계의 주목을 받았다.

온디바이스 AI(On-Device AI)란 물리적으로 떨어진 클라우드 서버에 의존하지 않고 사용자의 디바이스 내부에서 인공지능 연산을 바로 수행하는 것을 말한다. 인터넷 연결 없이도 AI 기능을 구현할 수 있으니 AI 폰 하나하나가 '작은 인공지능'이다.

애플은 지난 6월 세계개발자회의(WWDC 2024)에서 AI 시스템 '애플 인텔리전스(AI; Apple Intelligence)'를 공개하면서 '온디바이스 AI 시대'로의 대전환을 천명했다. 이 내용은 애플 음성비서 '시리'에 '챗GPT-4o 미니'를 탑재함으로써 생성형 AI 기능을 앞으로는 클라우드가 아닌 온디바이스로 제공하겠다는 것이다. 그들의 최종 목표는 아이폰, 아이패드, 맥, 애플워치 등 애플 전 제품에 AI 개인지능시스템을 구축해서 2010년대 아이폰 혁명의 영광을 되찾겠다는 것이다.

애플과 경쟁 중인 삼성은 지난 7월 '갤럭시 언팩 2024' 행사에서 구글과의 협업을 통해 고도화된 AI 폰을 소개했다. 특히 앞·뒷면의 스크린을 활용해 실시간으로 번역된 텍스트를 동시에 확인하며 대화할 수 있는 AI 폴더블폰의 통역 기능은 온디바이스 AI를 최적화한 제품이라는 평가를 받았다.

이와 함께 '갤럭시 링', '갤럭시 워치' 등의 차세대 온디바이스 AI로 '내 몸 안의 주치의'의 가능성을 보여줬다.

삼성전자 노태문 사장은 "연말까지 약 2억대의 갤럭시 AI 폰에 실시간 번역과 생성형 이미지 편집 등 AI 기능을 탑재해 온디바이스 AI를 확산하겠다"고 발표했다.

그밖에 디바이스의 후발주자 구글은 자사의 LLM 제미나이와 삼성의 기술 협력을 통해 AI폰 '픽셀8'을 출시했다. 마이크로소프트는 PC 키보드에 '코파일럿(Copilot) 키'를 컴퓨터의 시작 버튼을 대체하는 'AI PC'를 개발했다.

빅테크 기업들은 온디바이스 AI에 사활을 걸었다. 그 이유는 첫째, 인터넷 연결이 안 되는 오프라인 상황에서 AI가 가능함으로서 개인정보 보호 및 보안을 강화할 수 있다. 둘째, 디바이스 내부에서 정보를 처리함으로서 데이터 전송속도와 빠른 답변이 가능하다. 셋째, 클라우드 서버와 연결이 필요없기 때문에 관련 비용과 전력을 절감할 수 있다. 넷째, 자사가 보유하고 있는 기술과 강점에 온디바이스 AI를 융합해 소비자를 묶어두는, 이른바 록인(Lock-In) 전략을 강화할 수 있다. 다섯째, 타사의 AI 반도체인 GPU의 의존도를 낮추고 자사에 특화된 NPU 반도체를 자급자족함으로써 장기적으로 안정적이고 독자적인 AI 생태계를 구축할 수 있다.

메타의 AI 수석과학자 얀 르쿤은 "LLM은 대기업의 손에 달려 있다. 가져올 수 있는 게 아무것도 없다. 앞으로 LLM의 한계를 넘는 차세대 AI 시스템에 대해 연구해야 한다"고 주장했다. 다양한 AI 연구개발자들이 다품종 소량화에 특화된 sML과 제 2의 스마트폰 개발에 사활을 거는 이유다.