AI로 만든 콘텐츠, 왜 어떤 건 표시가 안 보이고 어떤 건 꼭 보여야 할까?

01무슨 일인가

온라인을 돌아다니다 보면 이런 장면, 다들 한 번쯤 마주쳤을 거예요. AI가 만든 게 분명한데 표시 하나 없는 이미지가 있는가 하면, 화면 한쪽에 'AI 생성'이라고 큼지막하게 박힌 영상도 있죠. 신기하게도 두 경우 모두 같은 법의 적용을 받는데, 표시 방식만 서로 다른 거예요.

올해 1월 22일 시행된 인공지능기본법은 생성형 AI로 만든 결과물에 표시 의무를 지워요. 글이나 이미지 같은 일반 생성물이라면, 사람 눈에는 안 보여도 기계가 읽어내는 비가시적 워터마크만으로도 의무를 채운 셈이 돼요.

반면 실제 인물의 얼굴이나 목소리를 합성해서 진짜와 구별하기 어려운 딥페이크 콘텐츠라면 얘기가 달라져요. 사람이 눈이나 귀로 바로 알아챌 수 있는 가시적 표시를 하는 게 원칙이거든요. 예술 작품처럼 표시가 감상을 크게 방해하는 경우만 예외적으로 비가시적 표시가 허용되고, 이를 어기면 시정명령과 함께 최대 3천만 원의 과태료가 부과될 수 있어요.

02왜 이렇게 됐나

표시 방식을 둘로 나눈 이유는 간단해요. 콘텐츠가 주는 위험의 크기 자체가 다르기 때문이죠. 일반 생성물은 사실과 다르게 오인될 위험이 상대적으로 낮아서, 표시가 있다는 사실만으로도 유통 경로 추적이나 사후 확인이 충분히 가능해요.

반면 딥페이크는 실제 인물이 하지도 않은 말이나 행동을 한 것처럼 보이게 만들어버려요. 보는 사람이 그 자리에서 바로 가짜임을 알아채지 못하면 피해는 순식간에 커지고요. 그래서 사람이 바로 알아볼 수 있는 표시를 원칙으로 못 박은 거예요.

여기에 더해 방송미디어통신위원회는 AI 생성물이 만들어지는 단계뿐 아니라 유통되는 단계에서도 표시가 유지되도록 법 개정을 추진하고 있어요. 만들 때는 분명 표시가 있었는데 다른 곳으로 퍼지면서 슬쩍 지워지는 상황, 이걸 막으려는 조치인데 2027년 6월까지 단계적으로 마련될 예정이에요.

03나한테 뭐가 달라지나

콘텐츠를 만드는 사람이라면 딥페이크에 해당하느냐 아니냐부터 따져서 표시 방식을 다르게 챙겨야 해요. 실제 인물이나 음성을 합성했다면 눈에 보이거나 들리는 표시를 반드시 넣어야 하고요. 일반 생성물이라 해도 비가시적 표시조차 없다면 그 자체로 의무 위반이 돼요.

콘텐츠를 보는 사람 입장에서는 표시가 안 보인다고 AI 생성물이 아니라고 단정할 수 없어요. 비가시적 표시는 애초에 사람 눈에 안 보이게 설계된 표시니까요. 다만 실제 인물처럼 보이는 영상이나 음성에 아무 표시조차 없다면, 법 위반을 의심해볼 만해요.