윤리 · 읽는 데 약 7분
AI 생성물 표시(라벨·워터마크)는 왜 필요할까
요즘 사진이나 영상 한쪽에 'AI 생성'이라는 표시가 붙은 것을 자주 볼 수 있어요. 이 작은 표시는 보는 사람이 내용을 어떻게 받아들일지 판단하도록 돕는 장치예요. 표시가 어떤 모양으로 붙는지, 우리나라 법은 무엇을 정했는지, 그리고 표시만 믿으면 안 되는 이유를 정리했어요.
라벨, 워터마크, 메타데이터는 무엇일까요
AI 생성물 표시는 크게 눈에 보이는 것과 보이지 않는 것으로 나뉘어요. 화면 구석의 'AI 생성' 글자처럼 바로 보이는 표시가 있고, 눈에는 안 보이지만 프로그램으로 확인할 수 있는 표시가 있어요.
미국 국립표준기술연구소(NIST)는 디지털 워터마크를 콘텐츠 자체에 정보를 넣되 지우기 어렵게 만드는 기술로 설명해요. 또 C2PA라는 공개 기술 표준은 콘텐츠가 어디서 만들어지고 어떻게 고쳐졌는지를 기록해, 식품의 영양 성분표처럼 누구나 이력을 확인할 수 있게 하자는 생각에서 나왔어요.
- 라벨: 'AI로 만든 콘텐츠예요'처럼 화면이나 게시물에 붙는 안내 문구
- 보이는 워터마크: 그림이나 영상 위에 겹쳐 넣은 글자·로고
- 보이지 않는 워터마크: 그림의 점(픽셀)이나 소리 자체에 숨겨 넣은 표시
- 메타데이터: 파일 안에 함께 저장되는 '만든 도구, 날짜' 같은 정보
표시는 왜 필요할까요
AI가 만든 사진과 영상은 진짜와 구별하기 어려울 만큼 정교해졌어요. 표시가 없으면 꾸며 낸 장면을 실제 사건으로 믿거나, 가짜 유명인 광고에 속기 쉬워요.
표시는 AI로 만든 것이 나쁘다는 뜻이 아니에요. 재미로 만든 그림, 광고 이미지, 교육 자료처럼 좋은 쓰임도 많아요. 보는 사람이 'AI가 만들었구나'를 알고 받아들이게 하는 것이 목적이에요.
표시는 만든 사람에게도 도움이 돼요. 처음부터 밝혀 두면 나중에 '속였다'는 오해를 받을 일이 줄어요.
우리나라 인공지능 기본법은 무엇을 정했나요
'인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(인공지능 기본법)은 2025년 1월 21일 제정되어 2026년 1월 22일부터 시행됐어요. 과학기술정보통신부 설명에 따르면, 생성형 AI 결과물을 제공하는 AI 사업자는 이용자의 나이 등을 고려해 명확하게 알아볼 수 있는 방법으로 결과물임을 표시해야 해요.
실제와 구별하기 어려운 딥페이크(합성) 결과물은 눈에 보이게 분명히 표시해야 해요. 애니메이션이나 웹툰처럼 딥페이크가 아닌 결과물에는 눈에 보이지 않는 디지털 워터마크도 허용했어요. 고영향 AI나 생성형 AI를 쓴 서비스라는 사실도 이용자에게 미리 알려야 해요.
정부는 최소 1년 이상 계도 기간을 두고, 이 기간에는 사실조사와 과태료 부과를 미루기로 했어요. 다만 인명 사고나 심각한 인권 침해처럼 아주 예외적인 경우에는 사실조사를 할 수 있다고 밝혔어요.
표시에도 한계가 있어요
NIST가 2024년 11월 낸 보고서는 파일에 담긴 메타데이터가 통째로 지워질 수 있고, SNS 같은 곳에서 파일을 공유할 때 실제로 자주 지워진다고 설명해요. 사생활 보호를 위해 지우기도 하지만, 출처를 속이려고 일부러 지우기도 해요.
파일을 복사하거나 고치는 사람이 메타데이터를 바꾸거나 거짓으로 꾸밀 수도 있어요. 보이지 않는 워터마크는 전용 확인 도구가 있어야 찾을 수 있어요.
그래서 '표시가 없다'는 것이 '진짜'라는 뜻은 아니에요. 표시는 판단을 돕는 단서 가운데 하나로 보고, 중요한 내용은 출처를 따로 확인해야 해요.
표시를 보고 확인하는 습관
표시가 붙은 콘텐츠를 다른 사람에게 보낼 때는 표시를 자르거나 지우지 말고 그대로 전해 주세요. 표시가 없는데 너무 놀랍거나 감정을 크게 흔드는 내용이라면 한 번 더 의심해 보세요.
확인해 보니 AI로 만든 것이 분명한데 실제 일처럼 퍼지고 있다면, 보낸 사람에게 조용히 알려 주는 것도 도움이 돼요. 가족 단체 대화방에서 이런 대화가 쌓이면 서로 속지 않는 힘이 커져요.
- 게시물 설명이나 화면 구석에 AI 표시가 있는지 보기
- 처음 올린 사람과 날짜, 원래 출처를 찾아보기
- 같은 사건을 다룬 언론 보도나 공식 발표가 있는지 확인하기
- 역이미지 검색으로 같은 사진이 다른 곳에 먼저 올라왔는지 보기
- 돈이나 개인정보를 요구하는 내용이면 일단 멈추고 가족·기관에 확인하기
내가 AI로 만든 것을 올릴 때
AI로 만든 그림이나 영상을 SNS에 올릴 때는 'AI로 만들었어요'라고 함께 적어 주세요. 법의 표시 의무는 AI 서비스 사업자에게 있지만, 올리는 사람이 밝혀 주면 보는 사람이 훨씬 쉽게 판단할 수 있어요.
특히 실제 사람의 얼굴이나 목소리, 실제 사건처럼 보이는 장면은 더 분명히 밝혀야 해요. 다른 사람의 얼굴이나 몸을 본인 뜻에 반해 성적으로 합성하는 것은 표시 여부와 상관없이 처벌받는 범죄예요(성폭력범죄의 처벌 등에 관한 특례법 제14조의2).
플랫폼마다 AI 콘텐츠 표시 규칙이 따로 있을 수 있어요. 올리기 전에 이용 안내를 한 번 확인해 보세요.
오늘부터 해 볼 것
- AI 표시가 붙은 콘텐츠는 표시를 지우지 않고 공유해요.
- 표시가 없다고 진짜라고 단정하지 않아요.
- 놀라운 사진·영상은 처음 올린 곳과 날짜를 확인해요.
- 내가 AI로 만든 콘텐츠를 올릴 때 AI로 만들었다고 밝혀요.
- 실제 사람이 나오는 합성물은 만들기 전에 본인 허락을 받아요.
- 이용하는 플랫폼의 AI 콘텐츠 표시 규칙을 확인해 봤어요.
읽은 내용을 글링코에게 가르쳐 줄까요?3분 수업을 풀면 글링코가 배우고 자라요.
「AI와 저작권·정직」 수업 풀기이 글에 나온 용어
자주 묻는 질문
AI 표시가 없으면 진짜 사진인가요?
아니에요. 메타데이터는 공유 과정에서 지워지기 쉽고, 표시를 일부러 없앨 수도 있어요. 표시는 단서 가운데 하나일 뿐이니, 중요한 내용은 처음 올린 곳과 공식 발표를 함께 확인하세요. 표시가 없다면 한 단계 더 확인해야 할 신호로 받아들이면 돼요.
개인이 AI 그림을 SNS에 올릴 때도 법적으로 꼭 표시해야 하나요?
인공지능 기본법의 표시 의무는 생성형 AI 서비스를 제공하는 사업자에게 있어요. 하지만 플랫폼마다 자체 규칙이 있을 수 있고, 보는 사람을 위해 스스로 밝히는 것이 좋아요. AI 콘텐츠를 사업으로 제공한다면 과학기술정보통신부 안내를 확인하세요.
보이지 않는 워터마크는 어떻게 확인하나요?
보이지 않는 워터마크는 그 방식을 아는 전용 확인 도구가 있어야 찾을 수 있어요. 일반 이용자가 직접 찾기는 어려우니, 서비스나 플랫폼이 보여 주는 AI 표시와 콘텐츠 이력 정보를 확인하는 것부터 시작하세요.
참고한 자료
- https://korea.kr/news/policyNewsView.do?newsId=148958380
- https://www.law.go.kr/법령/인공지능발전과신뢰기반조성등에관한기본법
- https://www.nist.gov/publications/reducing-risks-posed-synthetic-content-overview-technical-approaches-digital-content
- https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-4.pdf
- https://c2pa.org/
- https://www.law.go.kr/법령/성폭력범죄의처벌등에관한특례법/제14조의2
