AI로 만든 콘텐츠, 왜 어떤 건 표시가 안 보이고 어떤 건 꼭 보여야 할까?

01무슨 일인가

온라인을 돌아다니다 보면 이런 장면, 다들 한 번쯤 마주쳤을 거예요. AI가 만든 게 분명한데 표시 하나 없는 이미지가 있는가 하면, 화면 한쪽에 'AI 생성'이라고 큼지막하게 박힌 영상도 있죠. 신기하게도 두 경우 모두 같은 법의 적용을 받는데, 표시 방식만 서로 다른 거예요.

올해 1월 22일 시행된 인공지능기본법은 생성형 AI로 만든 결과물에 표시 의무를 지워요. 글이나 이미지 같은 일반 생성물이라면, 사람 눈에는 안 보여도 기계가 읽어내는 비가시적 워터마크만으로도 의무를 채운 셈이 돼요.

반면 실제 인물의 얼굴이나 목소리를 합성해서 진짜와 구별하기 어려운 딥페이크 콘텐츠라면 얘기가 달라져요. 사람이 눈이나 귀로 바로 알아챌 수 있는 가시적 표시를 하는 게 원칙이거든요. 예술 작품처럼 표시가 감상을 크게 방해하는 경우만 예외적으로 비가시적 표시가 허용되고, 이를 어기면 시정명령과 함께 최대 3천만 원의 과태료가 부과될 수 있어요.

02왜 이렇게 됐나

표시 방식을 둘로 나눈 이유는 간단해요. 콘텐츠가 주는 위험의 크기 자체가 다르기 때문이죠. 일반 생성물은 사실과 다르게 오인될 위험이 상대적으로 낮아서, 표시가 있다는 사실만으로도 유통 경로 추적이나 사후 확인이 충분히 가능해요.

반면 딥페이크는 실제 인물이 하지도 않은 말이나 행동을 한 것처럼 보이게 만들어버려요. 보는 사람이 그 자리에서 바로 가짜임을 알아채지 못하면 피해는 순식간에 커지고요. 그래서 사람이 바로 알아볼 수 있는 표시를 원칙으로 못 박은 거예요.

여기에 더해 방송미디어통신위원회는 AI 생성물이 만들어지는 단계뿐 아니라 유통되는 단계에서도 표시가 유지되도록 법 개정을 추진하고 있어요. 만들 때는 분명 표시가 있었는데 다른 곳으로 퍼지면서 슬쩍 지워지는 상황, 이걸 막으려는 조치인데 2027년 6월까지 단계적으로 마련될 예정이에요.

함께 운영하는 곳

03이 처벌 수위는 얼마나 센가

3천만원이라는 과태료 상한이 어느 정도 수준인지는 다른 나라와 견주면 감이 와요. 유럽연합(EU)의 AI법은 같은 라벨링(표시) 의무를 어겼을 때 최대 1,500만유로, 원화로 환산하면 약 264억원의 과징금을 물릴 수 있게 해뒀어요. 한국의 3천만원과 견주면 880배에 이르는 차이예요.

이렇게 큰 차이가 나는 이유 중 하나는 계산 방식 자체가 다르기 때문이에요. EU는 기업의 전 세계 매출액에 비례해 과징금을 매기는 방식도 함께 쓰는데, 매출이 큰 기업일수록 물어야 할 금액도 커지는 구조예요. 반면 한국의 3천만원은 매출 규모와 상관없이 정해진 상한액이고요.

표시 의무를 지키지 않아도 되는 유인이 생기는 것도 이런 격차 때문이라는 지적이 나올 수 있어요. 특히 딥페이크 콘텐츠는 피해가 순식간에 커지는 성격을 감안하면, 과태료 액수 자체가 위반을 막을 만큼 충분한지도 앞으로 따져볼 대목이에요.

04지난번엔 어떻게 됐나

이번에 표시 의무가 특히 엄격하게 적용되는 딥페이크는, 최근 몇 년 사이 피해가 걷잡을 수 없이 커진 영역이에요. 방송통신심의위원회가 심의해 시정을 요구한 딥페이크 성범죄 영상물은 2020년 473건에서 2021년 1,913건, 2022년 3,574건, 2023년 7,187건을 거쳐 2024년에는 2만3,107건으로 늘었어요. 4년 사이 약 49배로 불어난 셈이에요.

피해자 연령대를 보면 이 문제가 왜 심각한지 더 뚜렷해져요. 딥페이크 피해자의 92.6%가 10대와 20대였고, 디지털성범죄 피해자 지원센터에 접수된 합성·편집 피해 가운데 84%가 20대 이하였어요. 이번 워터마크 표시 의무가 유독 딥페이크에 더 엄격한 가시적 표시를 요구하는 것도, 이렇게 젊은 세대에 집중된 피해가 몇 년째 계속 커져온 배경과 맞닿아 있어요.

그러니 인공지능기본법의 표시 의무는 새로운 문제를 예방하기 위해서라기보다, 이미 몇 년째 급증해온 피해를 뒤늦게라도 제도 안으로 끌어들인 조치에 가까워요. 법이 시행된 뒤 시정 요구 건수가 실제로 줄어드는지가, 이 제도가 효과를 내고 있는지 확인할 다음 지표가 될 거예요.

05나한테 뭐가 달라지나

콘텐츠를 만드는 사람이라면 딥페이크에 해당하느냐 아니냐부터 따져서 표시 방식을 다르게 챙겨야 해요. 실제 인물이나 음성을 합성했다면 눈에 보이거나 들리는 표시를 반드시 넣어야 하고요. 일반 생성물이라 해도 비가시적 표시조차 없다면 그 자체로 의무 위반이 돼요.

콘텐츠를 보는 사람 입장에서는 표시가 안 보인다고 AI 생성물이 아니라고 단정할 수 없어요. 비가시적 표시는 애초에 사람 눈에 안 보이게 설계된 표시니까요. 다만 실제 인물처럼 보이는 영상이나 음성에 아무 표시조차 없다면, 법 위반을 의심해볼 만해요.