[스포츠서울 | 원성윤 기자] “최적의 포트폴리오라고 해서 가입했는데 손실이 났습니다. 왜 이 상품을 담았는지 설명해 주세요.” (고객)

“AI 알고리즘이 분석한 결과라, 정확한 매수 근거를 저희도 100% 알 수는 없습니다.” (은행 창구 직원)

시중은행의 AI 자산관리가 쾌속 질주하고 있지만, 그 이면에는 딥러닝 기술 특유의 ‘블랙박스(Black Box)’ 딜레마가 도사리고 있다. 불완전판매 리스크와 함께, AI에 밀려 설 자리를 잃어가는 기존 프라이빗 뱅커(PB)들의 고용 불안도 수면 위로 떠올랐다.

가장 큰 문제는 AI가 특정 자산을 매매한 논리적 근거를 인간 행원이 완벽히 역추적하기 어렵다는 점이다. 현행 금융소비자보호법상 금융사는 고객에게 투자 위험성과 상품 구조를 명확히 ‘설명’할 의무가 있다. 거시경제 변수 급변으로 AI 포트폴리오에 대규모 손실이 발생할 경우, 설명 의무 위반을 둘러싼 대규모 법적 분쟁이 불가피하다. 금융당국이 AI가 도출한 결과를 고객이 납득할 수 있도록 시각화하는 ‘설명 가능한 AI(XAI)’ 가이드라인 마련에 고심하는 이유다.

프리미엄 채널로 꼽히던 영업점 PB 센터의 분위기도 냉랭하다. 데이터 분석과 포트폴리오 설계라는 핵심 업무를 AI가 훨씬 빠르고 정확하게 수행하면서, 은행들은 고비용 구조인 대형 PB 센터를 통폐합하는 추세다. 은행권의 한 PB는 “투자 분석은 기계에 넘겨주고, 이제 직원들은 VIP 고객의 세무 서류를 발급해 주거나 감정적인 불만을 응대하는 ‘고급 서비스직’으로 전락한 기분”이라고 토로했다.

전문가들은 과거 데이터를 학습하는 AI의 한계를 경계해야 한다고 입을 모은다. 2008년 글로벌 금융위기나 2020년 코로나19 팬데믹처럼 과거 패턴에 존재하지 않는 ‘블랙 스완(극단적 이례 변수)’이 발생할 경우, AI 알고리즘이 획일적인 매도 주문을 쏟아내며 시장의 패닉 셀링을 가속할 수 있다는 경고다. 인간을 압도하기 시작한 AI 금융 시대, 혁신의 속도만큼이나 정교한 안전장치 마련이 시급해졌다. socool@sportsseoul.com