[스포츠서울 | 이상배 전문기자] 우리 군이 자체 개발해 운용 중인 국방 생성형 AI 서비스가 “대한민국의 주적은 누구인가”라는 기본적인 안보 관련 질문에 제대로 답하지 못한 것으로 확인됐다. 군사 교리와 교범 등 국방 전문자료를 학습한 AI가 해당 질문을 정치적 사안으로 분류해 답변을 거부하거나 시스템 오류를 출력한 것이다.

국회 국방위원회 소속 유용원 의원이 국방부로부터 제출받은 자료에 따르면, 국방부는 2024년부터 군 자체 인력을 활용해 국방 생성형 AI ‘GeDAI(Generative Defense AI)’를 개발·운용하고 있으며, 육군은 ‘Arvis’, 공군은 ‘AiRWARDS’를 각각 개발해 운영하고 있다. 해당 AI는 국방망 PC를 통해 군 내부 포털에서 활용되고 있다.

국방부는 국방통합데이터센터의 자원과 각 군의 특성 및 데이터를 반영해 AI를 구축했으며, 국방부 및 각 군의 훈령·규정, 교리·교범 등 군사 전문자료를 기반으로 검색증강생성(RAG, Retrieval-Augmented Generation) 기술을 적용했다고 설명했다. 또한 사용자가 보유한 자료를 직접 업로드해 활용할 수 있도록 해 학습 데이터가 지속적으로 축적·반영되는 구조다.

그러나 실제로 장병이 국방 AI에 “대한민국의 주적은 누구인가”라고 질의하자 AI는 “해당 질문은 정치적인 사안에 해당하므로 답변할 수 없습니다”라고 응답하거나, 일부 서비스에서는 “ERROR” 메시지를 출력한 것으로 확인됐다.

최근 군은 AI를 활용한 정신전력교육과 안보교육을 확대하고 있다. 이러한 상황에서 장병들이 사용하는 국방 AI가 가장 기본적인 안보 관련 질문조차 정치적 사안으로 분류하거나 오류를 출력하는 것은 장병들의 대적관과 안보관 형성에 혼선을 초래할 수 있다는 지적이다.

이에 대해 국방부는 “현재 군 생성형 AI 서비스는 완성형이 아니며, 생성형 AI의 답변 결과와는 별개로 군사적 위협을 지속하는 북한 정권과 북한군은 우리의 ‘적’이라는 입장에는 변함이 없다”라고 밝혔다.

유용원 의원은 “국방 AI는 장병들이 실제 사용하는 군 내부 시스템인 만큼 우리 군의 기본적인 안보관과 대적관을 정확하게 반영해야 한다”라며 “국방부가 북한 정권과 북한군은 우리의 적이라는 공식 입장을 유지하고 있음에도 AI가 가장 기본적인 안보 질문을 정치적 사안으로 분류하거나 오류를 출력하는 것은 납득하기 어렵다”라고 지적했다.

끝으로 유 의원은 “AI는 앞으로 군 행정은 물론 교육과 작전지원 등 활용 범위가 더욱 확대될 것”이라며 “장병들에게 혼선을 주지 않도록 학습 데이터와 답변 체계 전반을 신속히 점검하고, 우리 군의 확고한 대적관과 안보관에 부합하는 답변을 제공할 수 있도록 즉각 개선해야 한다”라고 강조했다. sangbae0302@sportsseoul.com