[스포츠서울 | 표권향 기자] 삼성전자는 지난달 갤럭시 S24 언팩 행사에서 소개한 신제품에 대해 ‘세계 최초로 온디바이스(On-device) AI를 탑재한 기기’라고 강조했다. 이 기술은 △실시간 통화 통역 △서클 투 서치 △AI 보정으로 화질 개선 △AI 사진 편집 제안 등 지금까지 경험해보지 못한 혁신이라는 점에서 이목을 집중시켰다.

인공지능(AI) 기술은 스마트기기에서 수집한 정보를 중앙 클라우드 서버로 전송해 분석 후, 다시 기기로 보내는 방식이다. 반면, 온디바이스 AI는 클라우드 서버를 거치지 않고 스마트기기 자체적으로 정보를 수집·연산한다.

즉, AI 연산이 사용자의 스마트기기 내에서 실행되는 기술이다. 기기 자체에서 AI 연산을 할 수 있는 칩을 내장한 것. 학습이 완료된 AI 모델을 경량화해 스마트기기에 탑재했다.

챗GPT의 모든 AI 연산이 오픈AI 서버에서 이뤄지는 것과 방식이 다르다. 이처럼 온디바이스 AI는 △저지연 △개인정보 보호 △단독 AI 사용 등의 장점을 가지고 있다. 단말기기 내부에서 정보를 처리하기 때문에 데이터 수집·전송되는 시간을 줄여 응답속도가 빠르다. 따라서 실시간 처리 작업에서 유용하다.

지난해 챗GPT에서 한국인 687명의 성명·이메일·결제지·신용카드번호 4자리·만료일 등 개인정보가 다른 사용자에게 노출된 사고가 있었다.

온디바이스 AI는 중앙 서버를 거치지 않아 클라우드 기반 AI의 문제점으로 지적됐던 보안 문제를 해결한다. 또한 별도의 네트워크 없이도 작동돼, 안정성을 높일 수 있다. 이를 통해 실시간 번역과 같은 작업이 가능해졌다.

하지만 단점도 있다. 경량화된 AI 모델인 만큼 AI 기능이 제한적이다. 특히 고성능을 요구하는 작업에서는 한계가 있다. 또 AI 연산은 많은 에너지를 소모하기 때문에 배터리 수명을 단축한다.

이 밖에도 △학습 데이터의 한계 △기기별 업데이트 △다양성 부족 등 사용자마다 요구하는 데이터 범위에 따라 효과를 얻지 못할 수 있다.

이 때문에 온디바이스 AI를 다루는 삼성전자 등 업체들은 현재 AI 모델의 최적화와 하드웨어 기술에 대한 연구·개발을 지속해 진행하고 있는 것으로 알려졌다.

어쨌든 업계에서는 온디바이스 AI를 ‘세상을 바꿀 미래’라고 말하곤 한다. 온디바이스 AI 기능이 탑재된 스마트폰, 태블릿, 노트북 등의 기기들로 세대교체 돼 AI칩과 하드웨어의 수요가 증가할 것으로 전망하고 있다.

gioia@sportsseoul.com