[스포츠서울 | 위수정 기자] 자동차 검사 기간이 다가오면 인공지능(AI)이 먼저 알려주고 가까운 검사소를 추천한다. “광화문 출퇴근 40분 이내, 7억 원 이하 아파트”를 요청하면 조건에 맞는 매물을 찾아 실거래가를 비교해 준다. 개인 상황에 맞는 공공 혜택도 알아서 챙겨준다.

KT가 그리는 ‘모두의 AI’ 청사진이다. 단순한 질의응답을 넘어 공공·교육·금융·쇼핑·부동산 등 다양한 서비스를 연결하고, 검색부터 추천, 신청, 구매까지 한 번에 처리하는 ‘생활 밀착형 AI’를 구현한다는 구상이다. 핵심 무기는 ‘6000만 서비스 접점’이다. 새로운 AI 앱을 출시해 가입자를 모으기보다, 이미 대중이 널리 사용하는 기존 서비스 곳곳에 AI를 심어 일상 속으로 파고들겠다는 전략이다.

◇ 다음·무신사·직방 등 일상 서비스로 파고드는 ‘이음 인사이드’

KT 컨소시엄의 핵심 전략은 개방형 AI 생태계인 ‘이음 인사이드(Inside)’다. 전용 앱과 웹을 구축하는 것은 물론, 다음, 무신사, 직방, EBS 등 참여 기업의 기존 서비스와 지니TV에도 동일한 AI 환경을 적용한다.

사용자가 별도 앱을 설치하지 않아도 평소 쓰던 플랫폼에서 곧바로 AI를 호출할 수 있다. 참여 기업들이 확보한 앱, 웹, IPTV 등의 사용자 접점을 모두 합치면 6000만 규모에 달한다.

예를 들어 직방에서 관심 아파트를 검색하면 AI가 실거래가와 신규 매물을 분석해 시세보다 저렴한 곳을 알려준다. 쇼핑 앱에서는 조건에 맞는 제품을 비교 및 추천해 주고 구매까지 자연스럽게 연결한다. 사용자의 검색 이력과 문의 내용도 기억한다. 과거 대화를 바탕으로 관심사를 파악한 뒤 부동산, 쇼핑, 공공서비스 등 영역을 넘나들며 맞춤형 정보를 제공한다.

KT 이진형 AX사업본부장(상무)은 “국민들이 즐겨 찾는 기존 서비스에 이음 인사이드를 적용해 사용자와의 접점을 빠르게 확대해 나갈 계획”이라고 밝혔다. 나아가 컨소시엄 미참여 기업도 이음 인사이드를 도입할 수 있도록 소프트웨어 개발 도구(SDK)를 제공하는 등 생활 서비스 사업자와의 협력을 넓혀갈 방침이다.

◇ 국산 AI 5종 적재적소 배치…든든한 뒷배 ‘토큰팩토리’

6000만 접점에서 쏟아지는 방대한 요청을 처리하는 기술적 기반은 KT의 AI 운영 플랫폼 ‘토큰팩토리’다.

KT는 단일 AI 모델에 의존하지 않고, 업스테이지 ‘솔라’, 모티프테크놀로지스 ‘모티프’, 솔트룩스 ‘루시아’, NC AI ‘바르코’, KT ‘믿음’ 등 5종의 국산 AI 모델을 작업 특성에 맞춰 유연하게 활용한다. 여기에 리벨리온의 신경망처리장치(NPU)와 래블업·베슬AI의 인프라 운영 기술도 결합했다.

토큰팩토리는 사용자의 명령을 처리하는 ‘프리필(Prefill)’ 과정과 답변을 생성하는 ‘디코드(Decode)’ 과정을 분리해 컴퓨팅 자원을 효율적으로 배치한다. KT에 따르면 이를 통해 분당 토큰 처리량(TPM)을 약 31% 향상시켰으며, 프롬프트 압축 기술로 입력 토큰은 최대 80%까지 절감할 수 있다.

이 상무는 “글로벌 모델의 성능을 단숨에 뛰어넘기보다는, 실제 서비스에 적용했을 때 얼마나 경쟁력 있는 구성을 만들어내느냐가 관건”이라며 모델 간의 최적화된 연계성을 강조했다.

◇ 검색을 넘어 ‘행동하는 AI’로…API 연동 및 보안은 과제

KT의 최종 목표는 AI가 단순 정보 검색을 넘어 실제 ‘행동’까지 대행해 주는 것이다. 공공 서비스 분야에서는 사용자의 연령과 거주지 등을 분석해 맞춤형 혜택을 선제적으로 안내하고, 행정 절차 확인부터 발급 및 신청까지 지원한다. 향후 영농, 창업 분야로도 영역을 확장할 계획이다.

다만 실제 신청·예약·구매를 매끄럽게 수행하기 위해 풀어야 할 숙제도 있다. 공공 서비스의 경우 정부의 응용프로그램 인터페이스(API) 개방 범위에 따라 서비스 수준이 결정되며, 미개방 절차는 여전히 사용자가 직접 정부 사이트를 방문해 처리해야 한다.

고도화된 개인화 서비스에 따른 개인정보 보호와 신뢰성 확보도 필수적이다. 이에 KT는 개인정보보호위원회와 정보 안전성 확보를 위한 태스크포스(TF)를 꾸리고, AI사업본부 내 전담 보안 조직을 통해 참여사들과 보안 체계를 공유할 방침이다.

트래픽 급증에 대비해 정부 지원 GPU 외에 자체 GPU로 유연하게 전환할 수 있는 인프라도 갖췄다. 기본 서비스는 무료로 제공하되, 향후 프리미엄 기능이나 B2B(업무·전문가용) 서비스에 한해 별도의 수익 모델을 적용하는 방안을 검토 중이다.

요컨대 KT의 ‘모두의 AI’ 전략은 압도적인 단일 모델 개발보다는, AI를 국민의 일상에 얼마나 자연스럽게 스며들게 하느냐에 방점이 찍혀 있다. 6000만 사용자 접점을 잇는 ‘이음 인사이드’가 최전선이라면, 국산 AI 모델과 인프라를 최적화하는 ‘토큰팩토리’는 이를 든든하게 뒷받침하는 핵심 엔진이다.

이 상무는 “이음 인사이드를 필두로 한 개방형 생태계를 통해 디지털 소외계층까지 포용하는 일상 속 AI를 구현할 것”이라며, “국내 최고 수준의 멀티 모델과 KT의 역량이 집약된 토큰팩토리를 바탕으로 빠르고 안정적인 AI 서비스를 제공하겠다”고 말했다.wsj0114@sportsseoul.com

기사추천