스타세이비어 1 대 1 문의에서 'AI 환각' 발견, 개발사 사과

서브컬처게임 '스타세이비어(StarSavior)'가 고객센터 문의 답변에서 발견된 ‘AI 환각’ 문제로 홍역을 치렀다.

스타세이비어는 작년 11월 출시와 함께 여러 논란에 휩싸였다. 이 중 많은 유저들이 공통적으로 의문을 제기한 부분은 고객센터 1 대 1 문의였다. 이를 이용한 유저들은 전반적으로 답변의 속도가 빠르지 않거나, 부정확한 답변을 받았다고 주장했다.

이와 관련된 문제가 본격적으로 비화된 것은 지난 1월 초, 한 유저가 SSR 등급 캐릭터 '타냐'의 종족을 문의한 내용을 커뮤니티에 게재하며 시작됐다. 인게임 스토리에 따르면 타냐의 대사에서는 호랑이가, 관련 상품에서는 늑대가 연상되어 고객센터에 문의를 넣었고, '너구리 수인'이라는 예상치 못한 답변이 돌아왔다.

이를 계기로 그간 고객센터에서 이상한 답변을 받은 유저들이 사례를 공유하기 시작했다. 예를 들어 향후 등장이 예고된 캐릭터가 이미 나왔다고 설명하거나, 인게임에 등장한 적 없는 '두바이 쫀득쿠키'에 대해 묻자 상세하게 설명하는 등의 사례가 보고됐다. 이는 AI에서 흔하게 확인할 수 있는 '할루시네이션(환각, 진실이 아니거나 존재하지 않는 정보를 사실인 것처럼 생성하는 것)'으로 보였다.

특히 해당 1 대 1 문의 답변에는 AI가 활용됐거나, 챗봇이라는 표현이 없어 유저들의 비판이 이어졌다. 일부 유저는 고객센터 답변을 AI가 담당하냐고 문의했고, 고객센터 담당자가 직접 작성한다는 답변까지 받은 내용을 게재했다.

이와 같은 논란에 5일 스튜디오비사이드는 해당 사안을 설명하고 사과하는 공지를 게재했다. 본래 1 대 1 문의 답변은 AI 자동 응답이 아니라, 담당 상담원이 직접 문의를 확인하나, 운영 대행 업체의 일부 상담원이 AI를 이용해 답변 안내문을 작성했다고 전했다. 운영팀은 "이번 사안을 무겁게 받아들이고 있다"라며, 상담원 재배치 및 교육 실시, 검수 프로세스 강화 등을 약속했다.