법무법인 화우는 18일 서울 강남구 아셈타워 화우연수원에서 '제14회 법무법인 화우 게임 대담회'를 개최했다. 이날 대담회에서는 정호선 법무법인 화우 변호사가 '게임에서의 AI 생성물 표시의무'를, 이수경 법무법인 화우 변호사가 '인공지능기본법과 국내대리인 제도 실무'를 주제로 발표했다.

행사에서는 올해 1월 22일 시행된 '인공지능기본법'이 규제와 산업 진흥의 성격을 함께 갖고 있으며, 현재 계도기간이 진행되고 있기는 하나 게임사 입장에서는 생성물 표시의무와 국내대리인 제도를 미리 살펴볼 필요가 있다는 점이 강조됐다.

"AI를 썼느냐"보다는, "AI 기능을 이용자에게 제공했느냐"

첫 발표를 맡은 정호선 변호사는 게임에서의 AI 활용을 크게 세 가지로 나눠볼 필요가 있다고 설명했다. 이용자가 게임을 플레이하면서 AI와 실시간으로 상호작용하는 경우, 게임 제작 단계에서 AI를 활용하는 경우, 그리고 이용자가 AI의 존재 자체를 인지하지 못하는 백엔드 개발·운영 자동화다.

세 유형의 규범적 위치는 서로 다르다. 실시간 상호작용은 표시의무의 직접적인 대상이 될 가능성이 높고, 제작 단계에서의 활용은 원칙적으로 대상이 아니지만 경우에 따라 경계선에 놓일 수 있다. 이용자가 인지하지 못하는 개발·운영 자동화는 원칙적으로 표시의무 대상에서 벗어난다는 설명이다.

핵심은 게임 개발에 'AI를 사용했는가'가 아니다. 현행 규정상 표시의무는 인공지능사업자에게 부과되며, 타사의 AI를 활용하는 사업자 역시 해당 AI 기능을 고객에게 제공하는 '인공지능 이용사업자'에 해당해야 의무 대상이 된다.

정 변호사는 이를 두고 "AI를 썼는가가 아니라 AI 기능을 제공했는가, 쉽게 말하면 고객에게 제공했는가가 판단 기준"이라고 설명했다. AI를 이용해 만들어진 결과물을 게임 제작에 사용했다는 이유만으로 완성된 게임 자체가 곧바로 인공지능 제품이나 서비스가 되는 것은 아니라는 의미다.

게임에 적용하면 경계는 보다 명확해진다. 과학기술정보통신부 투명성 가이드라인에서는 게임 제작 과정에서 생성형 AI 결과물을 활용한 경우 게임사를 '이용자'로 보는 반면, AI와 직접 상호작용하거나 동적으로 AI 콘텐츠를 생성하는 기능을 게임에 탑재한 경우에는 인공지능 이용사업자로 보고 있다.

가령 개발사가 생성형 AI로 배경 이미지나 소재 등을 제작해 게임 안에 삽입하는 것과, 이용자가 게임 속 AI NPC와 대화하면서 매번 새로운 답변을 생성하게 하는 것은 다르게 취급된다는 것이다.

정 변호사는 "AI로 만든 소재를 게임에 넣었는가가 아니라 이용자가 플레이하는 순간 AI와 실시간으로 상호작용하거나 AI가 동적으로 콘텐츠를 생성하느냐가 구분선"이라고 설명했다.

표시 방법 역시 AI 결과물이 서비스 밖으로 나가는지에 따라 달라질 수 있다. 게임 내부에서만 콘텐츠가 제공된다면 NPC 명칭 등에 AI임을 표시하거나 최초 대화 시 이를 안내하는 등 비교적 유연한 방식이 가능하다. 반면 결과물을 외부로 제공하거나 공유하는 경우에는 사람이 인식할 수 있는 표시나 기계가 판독할 수 있는 워터마크·메타데이터 등을 고려해야 한다는 설명이다.

다만 게임에서는 '외부 반출'의 범위를 어디까지 볼 것인지가 문제로 남는다. AI NPC와 나눈 대화가 포함된 화면을 이용자가 스크린샷으로 찍었다고 해서 해당 이미지 전체를 AI 생성물의 외부 반출로 볼 수 있느냐는 것이다.

정 변호사는 이에 대해 스크린샷·녹화·공유 기능까지 인공지능기본법 제31조 제2항이 예정한 외부 반출로 보기는 어렵다는 의견을 밝혔다. 법 조항이 기본적으로 AI 결과물 자체를 제공하는 기능을 상정하고 있는 데다, 이용자가 공유하는 대상 역시 AI가 생성한 문장 자체가 아니라 게임 화면이라는 이유에서다.

게임이라는 매체의 특성도 고려해야 한다고 주장했다. AI 생성물 표시의무가 방지하려는 핵심 위험 가운데 하나가 이용자가 AI 생성물을 현실 정보로 오인하는 문제라면, 처음부터 가상 세계임을 인지하고 이용하는 게임에서는 그 위험성이 상대적으로 낮다는 것이다.

정 변호사는 뉴스나 광고처럼 정보의 신뢰성이 중요한 영역에서는 해당 정보가 사람과 AI 중 누구에 의해 만들어졌는지가 중요한 판단 기준이 될 수 있지만, 게임은 다르다고 설명했다. 게임 이용자는 제작자가 구성한 가상 세계에 진입한다는 사실을 이미 인지하고 있기 때문에 현실과의 혼동 가능성이 비교적 낮다는 주장이다.

오히려 지나친 표시는 게임 경험을 해칠 가능성이 있다. AI NPC의 행동이나 대사가 생성될 때마다 'AI에 의해 생성되었습니다'라는 문구가 노출될 경우 캐릭터와 세계관에 대한 이용자의 몰입을 지속적으로 끊을 수 있기 때문이다.

정 변호사는 인공지능기본법이 예술적·창의적 표현물에 대해서는 전시 또는 향유를 저해하지 않는 방식으로 표시할 수 있도록 한 만큼, 게임 역시 이러한 예외를 적용할 여지를 열어둘 필요가 있다고 주장했다.

해외 규제와 비교해도 게임의 특수성을 고려할 필요가 있다는 설명이다. 정 변호사는 EU의 AI Act 제50조와 관련 가이드라인에서 비디오게임과 같이 이용자가 생성적·허구적 환경임을 명확히 인지할 수 있는 상황을 별도로 고려하고 있다고 소개했다.

실시간으로 생성되는 일회성 콘텐츠는 경험 또는 세션 단위로 고지하는 방식이 가능하고, 1인 플레이 게임에서의 AI NPC 등은 표시의무 예외로 보는 사례도 있다는 설명이다. 미국 캘리포니아 사례 역시 일정 규모 이상의 사업자를 중심으로 표시의무를 부과하는 등 사업 규모를 고려하고 있다고 덧붙였다.

정 변호사는 국내에서도 법 개정만 기다리기보다 시행령상 예외 조항을 적극적으로 해석하거나, 과기정통부 장관 고시를 통해 게임 산업의 특성을 반영할 수 있는 길을 마련할 필요가 있다고 제언했다.

그는 "인공지능기본법은 산업의 종류나 콘텐츠 성격을 고려하지 않고 획일적인 의무를 부과하고 있다"며 "현실 세계와의 오인이라는 해악은 뉴스·광고와 게임에서 성립하는 기반이 다르다. 산업별 특성과 사업 역량을 균형 있게 고려하는 차등적인 규율이 필요하다"고 강조했다.

해외 게임사도 규제 안으로, "국내대리인, 이름만 올려서는 안 돼"

이어 이수경 변호사는 인공지능기본법 제36조에 규정된 국내대리인 제도의 실무를 소개했다. 인공지능기본법은 해외 사업자라 하더라도 국내 이용자에게 영향을 미치는 경우 적용될 수 있으며, 일정 기준을 충족하면서 국내에 주소 또는 영업소가 없는 인공지능사업자는 국내대리인을 서면으로 지정하고 과기정통부 장관에게 신고해야 한다.

국내대리인 지정 대상은 ▲전년도 전체 매출액 1조 원 이상 ▲인공지능 부문 전년도 매출액 100억 원 이상 ▲전년도 말 기준 직전 3개월간 국내 이용자 수가 1일 평균 100만 명 이상 ▲시정명령 불이행 등에 따라 과태료를 부과받은 사실이 있는 사업자 가운데 하나에 해당하는 경우다.

국내대리인을 지정하지 않을 경우 법률상 최대 3,000만 원 이하의 과태료 부과 대상이 될 수 있다. 행사에서는 시행령상 실제 부과 기준에 따라 위반 횟수와 관계없이 2,000만 원의 과태료가 적용된다고 설명했다.

지정만으로 끝나는 것도 아니다. 사업자는 인터넷 사이트에 국내대리인의 성명 또는 법인명과 대표자, 주소, 전화번호·전자우편 주소 등을 공개해야 한다. 과기정통부 신고 역시 별도로 진행해야 하며 복수의 국내대리인을 지정한 경우 모두 신고하고, 정보가 변경되면 수정 신고해야 한다.

이 변호사는 국내대리인에게 별도의 전문 자격이 요구되는 것은 아니지만, 제도의 취지를 고려하면 실질적인 연락 창구로 기능하는 것이 중요하다고 강조했다. 법적으로는 국내에 주소나 영업소가 있는 개인 또는 법인도 국내대리인이 될 수 있지만, 과기정통부 안내에서는 관련 업무 수행 역량과 원활한 한국어 의사소통 등이 중요하게 고려되고 있다는 설명이다.

특히 국내 법인이나 연락사무소가 있다는 이유만으로 국내대리인 의무에서 자동으로 벗어난다고 보기도 어렵다. 국내 법인이 실제 사업 주체로서 관련 업무와 의사결정을 수행한다면 별도의 국내대리인이 필요하지 않을 수 있지만, 국내 법인이 마케팅이나 지원 업무만 담당하고 핵심 의사결정과 운영이 해외 본사에서 이뤄진다면 별도의 국내대리인이 필요할 수 있다는 설명이다.

이 변호사는 과거 정보통신망법을 시작으로 전기통신사업법, 개인정보보호법, 게임산업법 등 여러 법률에 국내대리인 제도가 확산되는 과정에서 의무가 점차 구체화됐다는 점도 짚었다.

제도가 형식적으로만 운영돼 국내대리인에게 연락해도 해외 본사와 연결되지 않는 사례가 발생하면서 '유효한 연락 수단' 확보나 본사의 관리·감독 등 추가 의무가 생겨났다는 것이다.

이에 따라 AI 사업자 역시 국내대리인을 단순히 서류상 지정하는 데 그치기보다 위험관리 방안, 이용자 보호와 피해구제, 사람의 관리·감독 체계 등 법 준수를 위해 필요한 사항을 단계별로 문서화하고 국내대리인이 이를 확인할 수 있는 구조를 마련할 필요가 있다고 조언했다.

이 변호사는 "정부에 적극적으로 소명하기 위해서는 각 단계마다 문서를 잘 작성해 가지고 있을 필요가 있다"며 국내대리인이 실제로 본사와 원활하게 소통하고 관련 자료를 확인할 수 있는 체계를 갖추는 것이 중요하다고 강조했다.

마지막으로 그는 과거 자율주행차 연구 과정에서 자율주행 여부를 차량 외부에 표시하자는 아이디어가 산업계로부터 '행정 편의주의적'이라는 지적을 받았던 경험을 소개하며, 게임의 AI 표시의무에서도 같은 문제가 반복될 수 있다고 말했다.

국내 게임에만 과도한 워터마크나 표시가 노출될 경우 게임의 디자인과 몰입도를 해칠 가능성이 있는 만큼, 규제 목적뿐 아니라 실제 이용 경험과 산업 경쟁력까지 함께 고려해 과기정통부와 논의를 이어갈 필요가 있다는 설명이다.

자체 AI 개발하는 게임사, 어디까지 '내부 활용'일까?

발표 이후에는 이승훈 안양대학교 게임콘텐츠학과 교수 겸 게임콘텐츠등급분류위원회 위원장을 좌장으로 대담이 이어졌다. 정호선·이수경 법무법인 화우 변호사와 김종일 화우 게임센터장이 참여해 인공지능기본법상 게임사의 법적 지위부터 생성형 AI 표시의무의 실무적 난제, 국내대리인 제도의 역할까지 세 가지 주제를 중심으로 의견을 나눴다.

첫 번째 화두는 인공지능기본법상 게임사의 법적 지위였다. 이승훈 교수는 인공지능기본법이 단순한 규제법이라기보다 AI 산업 진흥과 안전성·신뢰성 확보를 함께 추구하는 법이라고 설명하면서도, 실제 생성형 AI를 활용하는 기업 입장에서는 자신들이 규제 대상인 '인공지능사업자'에 해당하는지를 판단하는 것부터 혼란이 발생할 수 있다고 짚었다.

이에 정호선 변호사는 게임사가 인공지능기본법상 의무를 부담하는지 판단하려면 먼저 '인공지능 개발사업자' 또는 '인공지능 이용사업자'에 해당하는지를 살펴봐야 한다고 설명했다.

게임사가 상용 AI 툴을 가져와 내부 개발도구로 사용하는 경우에는 원칙적으로 '이용자'에 그친다. AI 제품이나 서비스를 외부 고객에게 제공하는 것이 아니라 내부 개발을 위해 사용하는 만큼 인공지능 이용사업자로 보기 어렵고, 이에 따른 의무도 부담하지 않는다는 것이다.

반면, AI NPC처럼 AI 기능으로 실시간 콘텐츠를 생성하고 이를 통해 이용자와 상호작용한다면 이야기가 달라진다. 이용자에게 AI를 기반으로 한 제품 또는 서비스를 제공하는 것으로 볼 가능성이 커지면서 인공지능기본법상 각종 의무의 적용 가능성도 함께 높아진다.

정 변호사는 "게임사업자 입장에서는 표시의무를 어떻게 이행할지를 고민하기 전에 먼저 우리가 인공지능기본법상 의무 부담 주체인지 판단하는 과정이 중요하다"고 설명했다.

김종일 게임센터장은 이러한 점에서 인공지능기본법이 기존 게임산업 규제와 성격을 달리한다고 봤다.

게임산업에는 이미 등급분류나 확률형 아이템 등 오랜 기간 확립된 표시의무가 존재하고, 일부 규정을 위반하면 형사처벌까지 이어질 수 있다. 반면 인공지능기본법은 아직 제도 형성 초기 단계인 만큼 산업계와 정부가 제도의 취지를 함께 구체화해 나가는 성격이 상대적으로 강하다는 설명이다.

김 센터장은 "안전성 확보나 이용자의 알 권리 보장 같은 제도적 취지를 잘 파악하고, 이를 바탕으로 정부 당국과 제도를 만들어 나가는 과정이 필요하다"고 말했다.

이 교수는 최근 대형 게임사들이 외부의 범용 AI를 활용하는 단계를 넘어 자체 AI와 LLM을 구축하는 사례가 늘고 있다는 점도 화두로 던졌다. 자사가 축적한 게임 데이터 등을 AI에 학습시키고 이를 신규 콘텐츠 개발에 활용한 뒤 결과적으로 이용자에게 게임을 제공하는 경우, 어디까지를 '내부 활용'으로 봐야 하는지가 새로운 쟁점이 될 수 있다는 것이다.

정 변호사는 현재 과기정통부의 기본적인 입장은 AI 모델이나 서비스를 내부적으로 활용하는 경우 인공지능 이용사업자로 보지 않는 것이라고 설명했다. 다만 '내부 활용'의 범위를 어디까지 볼 것인지에 대해서는 아직 명확한 기준이 정립되지 않았다고 덧붙였다.

그는 자체 AI가 개발자나 내부 구성원의 업무를 지원하고 최종 이용자에게 제공되는 서비스 자체가 AI 서비스가 아니라면 여전히 내부 활용으로 볼 여지가 크다고 봤다. 다만 이는 아직 정부가 명확하게 정리한 사안은 아니라며 향후 해석을 지켜볼 필요가 있다고 전제했다.

특히 자체 LLM을 구축했다는 이유만으로 기업에 더 많은 표시의무가 부과된다면 오히려 기업이 자체 AI 개발을 꺼리게 만들어 산업 발전에 역행할 수 있다고 지적했다.

AI 대사 찍힌 게임 스크린샷, 'AI 생성물'인가?

두 번째 대담에서는 생성형 AI 표시의무가 실제 게임 서비스에서 마주할 수 있는 난제가 집중적으로 다뤄졌다.

이 교수는 생성형 AI에 워터마크나 암호화된 표식을 삽입하는 기술이 발전하고 있지만, 텍스트를 재작성하거나 포맷을 변경하면 표식이 사라질 수 있고 여러 AI를 혼용할 경우 판별 자체가 어려워지는 등 기술적인 한계가 존재한다고 설명했다.

게임에서는 문제가 더욱 복잡하다. 인게임 스크린샷이나 영상 녹화, 클립 공유 등은 대부분의 게임이 지원하는 범용 기능이다. 이 과정에서 AI가 생성한 배경이나 캐릭터, NPC의 대사 등이 일부 포함됐다는 이유만으로 캡처된 화면 전체를 '외부 반출된 AI 생성물'로 봐야 하는지 불분명하다는 것이다.

게임 플레이를 직접 하는 것만큼 스트리밍이나 영상으로 시청하는 문화가 커지면서, 이용자가 AI 요소를 포함한 게임 화면을 방송하거나 게시했을 때 표시 책임을 어디까지 부담해야 하는지도 향후 쟁점으로 꼽혔다.

정 변호사는 법을 해석할 때 문언뿐 아니라 "왜 이 법을 만들었는가"라는 입법 목적을 함께 살펴봐야 한다고 강조했다.

인공지능기본법 제31조 제2항은 AI의 생성물 또는 생성 결과물을 대상으로 한다. 하지만 이용자가 스크린샷 기능으로 외부에 내보내는 대상은 기본적으로 '게임 화면'이지 AI 결과물 그 자체라고 단정하기 어렵다는 것이 그의 해석이다.

또 표시의무의 중요한 목적 중 하나가 AI 결과물이 기존 서비스 맥락을 벗어나 유통될 때 제3자가 이를 현실의 정보로 오인하지 않도록 하는 데 있다면, 게임 화면에서는 이러한 위험이 상대적으로 낮다고 봤다.

게임 이용자는 처음부터 가상 세계를 전제로 콘텐츠를 접하고 있으며, 외부에 공유된 스크린샷 역시 UI나 아이템, 캐릭터 등을 통해 게임 화면이라는 사실을 쉽게 인지할 수 있기 때문이다.

정 변호사는 AI 요소가 조금이라도 포함됐다는 이유만으로 게임 화면 전체를 생성 결과물로 판단할 경우 규제 범위가 지나치게 넓어질 수 있다고 지적했다.

이용자가 게시물을 외부에 유통하는 문제와 게임사가 AI 서비스를 제공하며 부담하는 표시의무 역시 서로 다른 층위로 봐야 한다고 설명했다. 허위 정보 유통에 대한 사회적 우려에는 공감하지만, 명백히 게임 화면임을 알 수 있는 콘텐츠까지 동일한 기준으로 규율하는 데에는 신중할 필요가 있다는 의견이다.

이 교수는 아직 인공지능기본법을 둘러싼 여러 해석상 논란이 남아 있지만, 시행 초기인 만큼 시간이 지나면서 산업 현실에 맞게 제도가 구체화될 것으로 전망했다.

현장 질의에서는 AI 활용 자체가 게임의 핵심 재미로 연결되는 작품의 표시 방법에 대한 질문도 나왔다. AI가 이용자의 음성을 학습해 다른 플레이어를 흉내 내는 렐루게임즈의 '미메시스'처럼, 실시간 AI 활용이 게임 플레이의 중심에 놓여 있다면 표시 자체를 피하기는 어려울 수 있다. 이 경우 몰입을 해치지 않으면서 어떻게 의무를 이행해야 하느냐는 질문이다.

정 변호사는 매번 AI 결과물이 생성될 때마다 반복적으로 문구를 노출하는 방식은 게임의 몰입감을 크게 떨어뜨릴 수 있다고 봤다. 대신 게임이나 서비스에 처음 진입했을 때 고지하거나 경험·세션 단위로 표시하는 등 이용자가 AI 활용 사실을 인지하면서도 플레이를 방해하지 않는 방식이 바람직하다는 의견을 밝혔다.

또 스팀과 같은 외부 플랫폼이나 약관에 AI 활용 여부를 고지하는 것만으로 충분한지를 묻는 질문에는 '사전 고지'와 '생성물 표시'를 구분해야 한다고 답했다. 서비스가 AI를 활용한다는 사실을 미리 알리는 것과 실제 AI 산출물에 대한 표시의무는 별개의 의무이므로, 생성물에 대한 표시는 원칙적으로 게임 서비스를 이용하는 과정에서 이뤄져야 한다는 설명이다.

"국내대리인 제도, 형식적인 운영은 오히려 위험"

마지막 주제에서는 인공지능기본법을 비롯해 여러 법률에 흩어져 있는 국내대리인 제도의 공통점과 차이점이 논의됐다.

이수경 변호사는 국내대리인 제도가 처음 도입될 당시 지정 대상을 어디까지로 정할지가 가장 큰 고민 가운데 하나였다고 설명했다. 이후 전년도 전체 매출액이나 부문별 매출액, 이용자 수 등 일정 규모를 기준으로 하는 방식이 다른 법률로 확산됐고, 각 산업의 특성에 따라 조금씩 다른 기준이 적용되기 시작했다.

예를 들어 게임 분야에서는 다운로드 횟수 등이 고려될 수 있고, 개인정보보호법에서는 정보주체 수가 중요한 기준이 되는 식이다. 인공지능기본법의 경우 해외 사업자의 비중이 높은 만큼 기존 전기통신사업법이나 정보통신망법 등에서 활용해온 기준을 상당 부분 참고한 것으로 보인다고 설명했다.

국내대리인이 수행하는 역할도 법마다 차이가 있다. 공통적으로는 해외 사업자와 국내 정부·이용자 사이의 소통 창구를 맡고 필요한 자료를 제출하는 역할이 있지만, 각 법률이 규율하는 영역에 따라 구체적인 의무가 추가된다.

AI 분야라면 위험관리 방안이나 잠재적 위험, 이용자 보호 조치 등에 대한 자료를 정부가 요구했을 때 이를 제출할 수 있어야 한다. 게임산업법에서는 확률형 아이템 등 게임산업 고유의 규제에 대응해야 하고, 일부 법률은 본사와 연결되는 유효한 연락수단 확보나 국내대리인에 대한 본사의 관리·감독까지 요구한다.

이 변호사는 "나중에 만들어진 법일수록 국내대리인에게 부과되는 의무가 조금씩 강해지는 경향이 있다"고 설명했다.

이승훈 교수 역시 국내대리인이 단순한 연락처 이상의 역할을 해야 한다고 강조했다. AI 기본법의 국내대리인은 AI 서비스의 기술 구조를 어느 정도 이해하면서 정부가 요구하는 자료에도 대응할 수 있어야 하는 만큼, 관련 업무에 대한 이해와 역량을 가진 주체를 선임할 필요가 있다는 것이다.

김종일 게임센터장은 국내대리인 제도를 규제 대응의 관점뿐 아니라 국내 AI 이용 기업의 입장에서도 바라볼 필요가 있다고 제안했다.

국내 게임사를 비롯한 산업 관계자들이 해외 AI 서비스를 이용하다 문제가 발생했을 때 실제 담당자와 연락하는 것은 여전히 쉽지 않다. 국내대리인이 해외 AI 사업자와 실질적으로 연결되는 연락 창구 역할까지 수행한다면 AI를 활용하는 국내 사업자 입장에서도 보다 투명한 환경에서 서비스를 이용할 수 있다는 설명이다.

김 센터장은 해외 게임사의 경우 일정 규모를 넘어서면 정보통신망법과 전기통신사업법, 개인정보보호법, 게임산업법, 전자상거래법 등 복수의 국내대리인 제도를 동시에 적용받을 수 있다는 점도 짚었다. 각각의 법에서 요구하는 업무와 책임 범위가 다른 만큼 실제 해외 사업자들은 여러 국내대리인 업무를 어떻게 통합해 운영할지를 고민하고 있다고 전했다.

이수경 변호사는 국내대리인 제도를 형식적으로 운영하는 것은 오히려 위험할 수 있다고 조언했다.

정부의 조사나 질의에는 신속히 대응하면서 정작 이용자의 민원을 제대로 처리하지 않거나, 국내대리인에게 연락했음에도 다시 일반 고객센터로 문의하도록 안내하는 사례가 실제로 발생한다는 것이다. 사무실과 연락처를 형식적으로 마련했더라도 실질적인 민원 처리나 본사와의 연결이 이뤄지지 않는다면 규제당국이 국내대리인 업무가 제대로 수행되지 않는다고 판단할 가능성이 있다는 설명이다.