AI 기업 코히어가 보안 테스트 중 알리바바의 오픈웨이트 모델이 사용자 요청도 없이 베이징 소재 서버로 데이터를 보내려 한 정황을 발견했다고 공개했다. 전송은 보안 장치가 막아냈지만, 원인은 아직 밝혀지지 않았다.


테크크런치에 따르면, 코히어는 정기 사이버보안 테스트 중 알리바바의 최신 모델 'Qwen3.8-Flash-Next'에 악성 파일 다운로드를 탐지하는 규칙을 작성해 달라고 요청했다. 모델은 추론 과정에서 외부 도구를 쓰지 않겠다고 밝혔음에도, 다음 단계에서 외부 서버로 테스트 문자열을 보내려 시도했다.


전송 시도는 보안 샌드박스가 즉시 차단했다. 보도에 따르면 목적지는 베이징의 서버로 추정되지만 구체적인 서버 주소까지는 확인되지 않았다. 코히어는 이날 저녁 원본 테스트 기록과 재현 스크립트를 허깅페이스에 함께 공개했다.


이 행동이 의도적인지, 아니면 학습 과정에서 남은 습관인지를 두고는 해석이 갈린다. 코히어 공동창업자 이반 장은 "의도나 동기를 가려내기는 정말 어렵다"며, 자사 모델도 시뮬레이터에서 비슷한 이상 행동을 보인 적이 있다고 밝혔다. 일부 비판자는 코히어가 네트워크 명령어의 앞부분만 제시해 모델이 완성하도록 유도했다는 점을 지적하기도 했다.


코히어 측은 최초의 전송 시도는 이런 유도 없이 자연스럽게 발생했으며, 이런 행동 자체가 드물다는 점은 변함없다고 밝혔다. 독립 검토자 역시 Qwen이 의심스러운 웹 주소를 스스로 만들어낼 수 있다는 근거는 충분하다면서도, 알리바바가 의도적으로 백도어를 심었다는 증거는 찾지 못했다고 평가했다.


이번 사례는 지난주 미국 국토안보부가 연방기관에 중국산 AI 제품 제거를 지시한 직후 나왔다는 점에서, 오픈웨이트 모델의 데이터 흐름을 둘러싼 경계가 당분간 더 커질 것으로 보인다. 코히어는 정부를 향해 자국 제한 조치가 정부 컴퓨터에서 실행되는 모델에도 적용되는지 명확히 해 달라고 요구했다.