AI 생성물 표시 의무, 유통 단계까지 넓힐까: 과기정통부와 방미통위 이견

01무슨 일인가

AI로 만든 사진이나 영상이 SNS에 올라오는데 진짜인지 어떻게 아느냐는 의문이 늘고 있어요. 올해 1월 22일 시행된 AI 기본법은 생성형 AI 결과물이 서비스 밖으로 나갈 때 AI가 만들었다는 표시를 붙이도록 정해뒀어요. 의무를 지는 쪽은 AI 서비스를 이용자에게 직접 제공하는 인공지능사업자이고, 국내 이용자를 상대로 하는 해외 사업자도 포함돼요.

표시 방식은 둘 중 하나예요. 사람이 보고 들을 수 있는 워터마크를 넣거나, 메타데이터(파일 안에 적어 넣는 정보)처럼 기계가 읽는 방식을 쓰는데, 기계 판독만 쓰면 다운로드할 때 AI 생성물이라고 한 번 이상 알려야 해요. 실제와 구분하기 어려운 딥페이크는 영상이면 재생 구간 전체에 표시하는 것이 원칙이에요.

지금 논의되는 것은 그다음 칸이에요. 내려받은 이미지를 다른 플랫폼에 올리면서 표시가 사라지면 그 플랫폼이 어떤 책임을 지느냐는 문제예요. 과기정통부와 방송미디어통신위원회(방미통위)가 유통 단계 의무의 범위를 두고 입장이 갈려, 국회가 요구한 10월 초 시한을 넘기고도 방향이 나오지 않았다고 10월 말 보도가 전했어요.

02왜 이렇게 됐나

눈에 보이는 워터마크는 이미지 편집으로 쉽게 지워진다는 지적이 나와요. 10월 20일 한국인공지능산업협회 조찬 포럼에서 박상철 서울대 법학전문대학원 부교수는 눈에 보이지 않는 워터마크와 메타데이터를 모든 사업자가 쓰고 플랫폼이 탐지와 표시를 돕는 방향에는 폭넓은 공감대가 있다고 말했어요.

의무를 누구에게 어디까지 걸지는 아직 정리되지 않았어요. 박 교수는 유통 사업자의 표시 의무를 성범죄나 소비자·투자자 기만 같은 위험 영역으로 좁힐지 모든 AI 생성물로 넓힐지가 열려 있다며 사회적 합의가 필요하다고 짚었어요. 대상을 넓힐수록 규제를 받는 쪽도 함께 늘어나서 합의가 쉽지 않은 구조예요.

기술 쪽에서는 만드는 순간에 출처를 기록하자는 제안이 나왔어요. 워터마크 기술업체의 김동화 상무는 창작자와 편집 이력을 남기는 국제 표준 C2PA에 눈에 보이지 않는 워터마크를 함께 쓰자고 했는데, 메타데이터는 유통 과정에서 벗겨져도 파일에 박아 넣은 워터마크는 추적에 쓸 수 있다는 이유에서예요.

함께 운영하는 곳

03이 숫자는 큰 건가

계도기간(처벌을 미루고 안내 위주로 운영하는 기간)은 1년 이상이에요. 시행일 1월 22일부터 11월 5일까지 약 9개월 반이 지났으니, 1년으로 잡아도 2027년 1월 22일까지 약 2개월 반이 남아요.

계도기간에는 사실조사와 과태료 부과가 모두 미뤄져요. 기간이 1년 이상이라고 안내됐으므로 2027년 1월 22일보다 일찍 끝나지는 않는 셈이에요.

유통 단계 의무가 걸리면 몇 곳이 대상이 되는지는 아직 나온 적이 없어요. 숫자로 잴 수 있는 것은 여기까지예요.

04지난번엔 어떻게 됐나

앞선 사례는 시행 직전에 있었어요. 과기정통부가 하위법령과 가이드라인을 내면서 일반 창작자는 의무 주체가 아니라고 밝혔어요. 그래서 AI를 써서 웹툰을 연재해도 표시 책임은 AI 서비스를 제공한 사업자에게 있어요.

10월 20일 포럼에서는 법 시행 첫해라 계도기간 동안 책임 배분과 표시 의무를 손질할 여지가 있다는 얘기가 나왔어요.

유통 플랫폼에 같은 의무를 지운 앞선 사례는 관련 보도에 등장하지 않아요. 아직 견줄 만한 사례가 없어요.

05나한테 뭐가 달라지나

AI로 이미지를 만들어 올리는 개인이라면 표시 의무의 주체가 아니에요. 의무는 AI 서비스를 제공한 사업자에게 있어서, 서비스에서 내려받을 때 붙는 워터마크나 안내가 지금 눈에 보이는 장치예요.

보는 쪽에서는 표시가 없다는 사실이 AI가 아니라는 보증이 되지 않아요. 업로드 과정에서 표시가 지워졌을 때 플랫폼이 어디까지 책임질지는 정해지지 않았고, 계도기간이 2027년 1월 22일 전에는 끝나지 않으니 그때까지 과태료도 없어요.