AI 생성물 표기 의무화, 적용 대상과 표시 방법 및 규제 법령 정리

AI 생성물 표시 의무란

ChatGPT로 블로그 글을 쓰고, 미드저니로 썸네일 이미지를 뽑고, AI 보이스로 나레이션을 입히는 일이 이제는 흔해졌습니다. 그런데 이렇게 만든 콘텐츠를 외부에 유통할 때, 'AI가 만들었다'는 사실을 알려야 할 법적 의무가 있는지 궁금해하시는 분들이 많습니다.

2026년 1월 22일, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 '인공지능기본법')이 시행되었습니다. 이 법은 생성형 AI 또는 고영향 AI를 기반으로 한 제품·서비스를 제공하는 사업자에게, 그 사실을 이용자에게 사전에 알리고 결과물에 AI 생성 사실을 표시하도록 의무를 부과하고 있습니다(인공지능기본법 제31조).

쉽게 말해, AI로 만들어진 이미지·영상·음성·텍스트가 서비스 환경 밖으로 나갈 때, 그것이 AI에 의해 생성되었다는 점을 소비자가 알 수 있게 해야 한다는 것입니다. 법 시행과 함께 과학기술정보통신부는 「인공지능 투명성 확보 가이드라인」을 발표하여 구체적인 이행 기준도 함께 제시하였습니다.

적용 대상 — 누가 의무를 지는가

'나도 해당될까'라는 질문에 답하려면, 먼저 법이 규정하는 의무 주체를 정확히 이해해야 합니다. 이 부분에서 많은 분들이 혼동하시는데, 결론부터 말씀드리면 의무를 지는 쪽은 'AI 서비스를 제공하는 사업자'이지, AI를 도구로 사용하는 일반 이용자가 아닙니다.

인공지능사업자의 범위

인공지능기본법에서 말하는 '인공지능사업자'란, AI 기술을 직접 개발했거나 외부 기술을 가져와 고객에게 AI 기반의 제품 또는 서비스를 제공하는 기업을 의미합니다. 여기에는 국내 이용자를 대상으로 서비스를 제공하는 해외 사업자도 포함됩니다.

예를 들어, 사진을 올리면 AI 프로필 사진을 만들어주는 앱 서비스, AI로 캐릭터를 생성해주는 메타버스 플랫폼, 챗봇 형태로 고객 상담을 제공하는 서비스 등이 여기에 해당합니다.

단순 이용자는 의무 대상이 아닙니다

반면, ChatGPT에게 마케팅 카피를 요청하거나, 미드저니로 디자인 시안을 만드는 마케터, AI 영상 도구를 활용해 콘텐츠를 제작하는 크리에이터는 '이용자'에 해당합니다. 이들은 AI 제품·서비스를 제공하는 것이 아니라 제공받은 서비스를 활용하는 입장이므로, 현행법상 표시 의무를 부담하지 않습니다.

다만 주의할 점이 있습니다. 현재 정보통신망법 개정이 논의되고 있어, 향후 게시자(이용자) 차원에서도 AI 생성 사실을 표시해야 하는 의무가 추가될 가능성이 있습니다. 또한 화장품법에서도 가상 모델 사용 시 고지 의무 부과가 검토되고 있어, 법 개정 동향을 지속적으로 모니터링할 필요가 있습니다.

콘텐츠 유형별 표시 방법

AI 생성물의 표시 방법은 콘텐츠의 유형과 특성에 따라 달라집니다. 과학기술정보통신부가 발표한 가이드라인에 따르면, 크게 '가시적 방식'과 '비가시적 방식'으로 나뉘며, 딥페이크 여부에 따라 적용 기준이 달라집니다.

사전 고지 의무

AI 기반 서비스를 제공하기 전, 해당 서비스가 고영향 AI 또는 생성형 AI를 기반으로 운용된다는 사실을 이용자에게 미리 알려야 합니다. 이용약관이나 계약서에 명시하거나, 앱 구동 화면이나 팝업을 통해 고지하는 방식이 허용됩니다. 오프라인 서비스라면 이용자가 쉽게 볼 수 있는 장소에 안내문을 게시하는 것으로 이행할 수 있습니다.

일반 생성물의 표시

생성형 AI로 만들어진 결과물이 다운로드·공유 등으로 서비스 환경 밖으로 유통될 때 표시 의무가 적용됩니다. 이때 사업자는 다음 중 하나의 방식을 선택할 수 있습니다.

• 가시적 방식: 이용자가 육안으로 인식할 수 있는 자막, 로고, 워터마크 등을 콘텐츠에 부착

• 비가시적 방식: 메타데이터, 디지털 워터마크 등 기계가 판독 가능한 방법으로 삽입. 다만 이 경우 다운로드 시점 등에서 AI 생성 사실을 최소 1회 이상 별도로 안내해야 합니다.

서비스 환경(UI) 내에서만 제공되고 외부로 유통되지 않는 경우에는 결과물별 표시 의무가 적용되지 않습니다. 예컨대 게임 내 AI NPC와의 대화, 챗봇 응답 등은 서비스 초기에 AI 활용 사실을 안내하면 충분합니다.

텍스트 생성물

텍스트 결과물도 생성형 AI로 만들어져 외부로 유통되는 경우 표시 대상이 될 수 있습니다. 문서의 머리말이나 파일 메타데이터에 생성 사실을 포함하거나, 다운로드·제공 시 안내 문구를 노출하는 방식이 가능합니다. 프로그래밍 코드의 경우 주석이나 프로젝트 설명 파일에 출처를 밝히는 것도 방법입니다.

이미지·영상·음성 생성물

이미지는 실제 인물이나 사물과 구분이 어려운 딥페이크 수준이라면 가시적 표시가 필수이고, 일반 생성물이라면 가시적 또는 비가시적 방식 중 선택이 가능합니다. 영상의 경우도 마찬가지이며, 음성 콘텐츠는 재생 도입부에서 AI 생성 사실을 안내하는 것이 원칙입니다.

딥페이크 생성물에 대한 강화된 규제

실제와 구분하기 어려운 가상의 음향, 이미지, 영상, 이른바 '딥페이크' 생성물에 대해서는 일반 생성물보다 훨씬 엄격한 기준이 적용됩니다(인공지능기본법 제31조 제3항).

딥페이크 생성물은 반드시 이용자가 명확하게 인식할 수 있는 방식으로 AI 생성 사실을 고지·표시해야 합니다. 비가시적 방식만으로는 부족하고, 사람의 눈이나 귀로 직접 인지할 수 있는 표시가 필요합니다.

한편, 누가 보더라도 가상임을 인식할 수 있는 웹툰, 애니메이션, 일러스트 등은 딥페이크에 해당하지 않습니다. '실제 인물이나 현실과 구분이 어려운지 여부'가 핵심 기준이라는 점을 기억해두시면 됩니다.

참고로 딥페이크를 악용한 이용자 행위 자체는 인공지능기본법이 아닌, 성폭력처벌법이나 정보통신망법 등 개별 법률에 의해 별도로 규율됩니다. 2024년 10월 개정된 성폭력처벌법에 따르면, 피해자의 의사에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 딥페이크 영상을 편집·합성·가공하는 것만으로도 7년 이하의 징역 또는 5천만 원 이하의 벌금에 처해질 수 있으며(성폭력처벌법 제14조의2 제1항), 2024년 10월 개정으로 해당 영상을 소지·구입·저장·시청하는 행위도 처벌 대상으로 신설되었습니다.

위반 시 제재 수준과 법적 리스크

인공지능기본법상 행정 제재

사전 고지 의무를 위반한 인공지능사업자에게는 3,000만 원 이하의 과태료가 부과될 수 있습니다(인공지능기본법 제43조 제1항). 생성물 표시 의무를 위반한 경우에는 과학기술정보통신부 장관이 시정명령을 내릴 수 있고, 이를 이행하지 않으면 역시 3,000만 원 이하의 과태료가 부과됩니다(인공지능기본법 제43조 제1항 제3호).

다만 법 시행 초기의 현장 혼란을 최소화하기 위해, 과기정통부는 최소 1년 이상의 계도기간을 운영하기로 하였습니다. 계도기간 동안 사실조사와 과태료 부과는 유예되며, 인명사고나 인권 훼손 등 중대한 사회적 문제가 발생한 극히 예외적인 경우에만 사실조사가 실시될 예정입니다.

표시광고법 및 정보통신망법상 제재

단순 미표시를 넘어, AI로 만든 가짜 전문가가 제품을 추천하는 등 허위·과장 광고를 한 경우에는 「표시·광고의 공정화에 관한 법률」(표시광고법)이 적용될 수 있습니다. 공정거래위원회는 AI 생성 사실을 표시하지 않은 채 마치 실제 인물이 추천한 것처럼 광고하는 이른바 'AI 워싱(AI Washing)'을 기만적 광고로 보고 엄격히 제재할 방침을 밝힌 바 있습니다.

나아가 정부는 악의적인 허위·조작 정보 유통 행위에 대해 실제 손해액의 최대 5배까지 배상 책임을 부과하는 징벌적 손해배상 제도를 정보통신망법 개정을 통해 도입할 계획입니다. 표시광고법상 과징금 수준 역시 현행 매출액 최대 2%에서 대폭 상향될 전망입니다.

관련 법령 체계 비교

정리하면, 인공지능기본법은 AI 서비스 제공 사업자의 투명성 의무를 규율하고, 표시광고법은 광고의 진실성 측면에서 AI 활용 사실의 은폐를 제재하며, 정보통신망법 개정안은 콘텐츠 게시자와 플랫폼 모두에 대한 의무를 확대하려는 것입니다. 향후 화장품법에서도 가상 모델 고지 의무가 논의되고 있어, AI 관련 규제의 외연은 점차 넓어질 것으로 보입니다.

기업·마케터를 위한 실무 대응 체크리스트

현재 법적 의무가 인공지능사업자에 한정되어 있다 하더라도, AI를 적극적으로 활용하는 기업과 마케터라면 미리 대비하는 것이 현명합니다. 법 개정 동향, 소비자 신뢰도 측면, 그리고 글로벌 규제 확산 추세를 고려하면, 선제적 대응이 불필요한 법적 분쟁을 예방하는 데 도움이 됩니다.

• 의무 주체 해당 여부 확인: 우리 서비스가 고객에게 AI 기술 자체를 경험하게 하는 구조인지, 단순히 AI를 내부 도구로 활용하는 것인지를 구분합니다. 전자라면 인공지능기본법상 표시 의무가 적용됩니다.

• 콘텐츠별 표시 방식 정비: 텍스트, 이미지, 영상, 음성 각각에 대해 가이드라인이 요구하는 표시 방식을 검토하고, 내부 표준 가이드를 마련합니다.

• 딥페이크 해당 여부 사전 검토: AI로 생성한 콘텐츠가 실제 인물·현실과 구분하기 어려운 수준인지를 검토하고, 구분이 곤란한 경우에는 딥페이크 기준을 적용하는 것이 안전합니다.

• 광고 콘텐츠에 대한 별도 점검: AI 가상인물이 제품을 추천하거나, AI로 생성된 체험후기를 활용하는 경우 표시광고법 위반 여부를 추가로 검토합니다. 공정거래위원회는 「추천·보증 등에 관한 표시·광고 심사지침」 개정안을 통해 가상인물의 추천·보증에 대한 고지 의무를 강화하고 있습니다.

• 법 개정 동향 모니터링: 정보통신망법·화장품법 등 관련 법률 개정 상황을 지속적으로 확인하여, 의무 범위가 이용자·게시자로 확대되는 시점에 즉시 대응할 수 있도록 준비합니다.

실제 판례별 쟁점

인공지능기본법이 2026년 초 시행된 만큼, AI 생성물 표시 의무 위반에 관한 직접적인 판례는 아직 축적되지 않았습니다. 다만, 향후 AI 표시 의무와 관련하여 쟁점이 될 수 있는 표시광고법 판례를 아래에 정리합니다. 이들 판례는 소비자 오인 가능성과 기만적 광고의 법리에 관해 법원이 제시한 원칙으로, AI 생성물 관련 분쟁에서도 유사하게 원용될 가능성이 있습니다.

대법원 2018. 7. 12. 선고 2017두60109 판결

표시·광고가 소비자를 속이거나 잘못 알게 할 우려가 있는지는 보통의 주의력을 가진 일반 소비자가 그 표시·광고를 받아들이는 '전체적·궁극적 인상'을 기준으로 객관적으로 살펴야 한다고 판시하였습니다. AI 생성물을 마치 사람이 만든 것처럼 표시하는 경우에도 이와 같은 소비자 오인 여부의 법리가 적용될 수 있어, 해당 판결이 주목됩니다.

대법원 2019. 10. 17. 선고 2019두31815 판결

일반 소비자는 광고에서 직접 표현된 문장뿐 아니라, 간접적으로 암시하는 사항이나 관례적·통상적 상황까지 종합하여 전체적 인상을 형성한다고 설시하였습니다. AI가 생성한 가상 전문가의 추천이 '전문가의 실제 경험에 기반한 추천'이라는 인상을 줄 수 있는지가 이 판결의 법리 하에서 쟁점이 될 수 있습니다.

대법원 2013. 6. 14. 선고 2011두82 판결

허위·과장 광고에 해당하는지 여부를 검토함에 있어, 광고 내용 전체가 소비자에게 주는 종합적 인상을 기준으로 해야 한다는 원칙을 확립한 판결입니다. 부분적으로 사실에 부합하더라도 전체적 맥락에서 소비자를 오인하게 할 소지가 있다면 부당 광고로 인정될 수 있다는 점에서, AI 생성물의 부분적 표시만으로 의무를 이행한 것인지를 검토하는 데 참고가 됩니다.

변호사 인사이트

AI 생성물 표시 의무는 현재 '사업자' 중심으로 설계되어 있지만, 정보통신망법과 표시광고법 개정이 병행 추진되면서 그 적용 범위가 점차 확대될 가능성이 높습니다. 특히 공정거래위원회가 AI 가상인물을 활용한 추천·보증 광고에 대한 심사지침을 구체화하고 있는 만큼, 마케팅 콘텐츠에 AI를 활용하는 기업이라면 '의무 대상이 아니라서 안심'이라는 시각보다 '소비자 오인 방지를 위한 자발적 표시'를 컴플라이언스 기준으로 삼는 것이 장기적으로 안전합니다. 계도기간이 종료되기 전에 내부 가이드라인을 정비해 두시는 것을 권합니다.

자주 묻는 질문

Q1. 마케터가 ChatGPT로 작성한 블로그 글에도 AI 표시를 해야 하나요?

현행 인공지능기본법상, AI를 도구로 활용하여 콘텐츠를 만드는 '이용자'에게는 표시 의무가 부과되지 않습니다. 다만, 정보통신망법 개정이 추진되고 있어 향후 게시자에게도 표시 의무가 부과될 수 있으므로 동향을 주시할 필요가 있습니다.

Q2. AI로 만든 웹툰을 플랫폼에 연재하면 표시 의무는 누가 집니까?

웹툰을 제작한 창작자는 AI 기본법상 의무 주체가 아닙니다. 해당 웹툰 제작에 사용된 AI 생성 서비스를 제공한 인공지능사업자가 표시 의무의 책임 주체입니다. 플랫폼이 자체적으로 생성형 AI 기능을 제공하는 경우에는 플랫폼도 의무를 질 수 있습니다.

Q3. 서비스 내부에서만 사용되는 AI 결과물에도 표시가 필요한가요?

결과물이 서비스 환경(UI) 내에서만 소비되고 외부로 유통되지 않는 경우, 결과물별 표시 의무는 적용되지 않습니다. 서비스 이용 전 또는 이용 과정에서 AI 활용 사실을 안내하면 됩니다.

Q4. 텍스트 생성물도 표시 대상인가요?

네, 텍스트도 생성형 AI로 만들어져 외부로 유통되는 경우 표시 대상이 됩니다. 다만 텍스트 특성상 메타데이터 등 기계 판독 방식이나 다운로드·제공 시 안내하는 방식으로 표시할 수 있습니다.

Q5. 표시 의무를 위반하면 즉시 과태료가 부과되나요?

현재 최소 1년 이상의 계도기간이 운영되고 있으며, 해당 기간 동안 사실조사와 과태료 부과는 원칙적으로 유예됩니다. 다만 인명사고나 인권 훼손 등 중대한 사안에 대해서는 예외적으로 사실조사가 실시될 수 있습니다.

Q6. 해외 AI 서비스(OpenAI, Google 등)도 한국법의 적용을 받나요?

국내 이용자를 대상으로 AI 제품·서비스를 제공하는 해외 사업자도 인공지능기본법의 적용을 받습니다. 실제로 OpenAI, Google 등 주요 글로벌 AI 서비스는 이미 자체적으로 가시적·비가시적 워터마크를 적용하고 있습니다.

Q7. AI로 만든 광고에서 가상 의사가 제품을 추천하면 어떤 문제가 생기나요?

AI로 생성한 가상 전문가가 실존 인물인 것처럼 제품을 추천하면, 표시광고법상 기만적 광고에 해당하여 시정조치와 과징금이 부과될 수 있습니다. 식품·의약품 분야에서는 해당 광고 자체를 금지하는 내용의 법 개정이 추진되고 있습니다.

번화의 접근방식 / 마치며

AI 생성물 표시 의무는 "AI를 쓰지 말라"는 규제가 아닙니다. AI를 활용하되, 그 사실을 투명하게 밝히라는 취지입니다. 다만 인공지능기본법, 표시광고법, 정보통신망법 개정안 등 여러 법령이 동시에 움직이고 있어, 사업자의 입장에서는 자신에게 어떤 의무가 적용되는지를 정확히 파악하는 것이 쉽지 않을 수 있습니다.

특히 '사업자'와 '이용자'의 구분이 명확하지 않은 경우, AI 가상인물을 활용한 마케팅의 적법성이 문제 되는 경우, 딥페이크 해당 여부에 대한 검토가 필요한 경우에는 구체적인 사실관계를 바탕으로 법률 검토를 받아보시는 것이 안전합니다.

법률사무소 번화는 AI·블록체인·가상자산 등 신기술 영역에서 발생하는 규제·컴플라이언스 이슈에 대해 법리적 검토와 실무적 대응 방안을 함께 안내해 드리고 있습니다. 계도기간이 종료되기 전에 내부 컴플라이언스 체계를 정비하고 싶으시다면, 초기 상담을 통해 실무 대응 전략을 수립해 보시길 권합니다.

✍️ 작성: 법률사무소 번화 서준범 변호사
주요 업무분야: PG, 핀테크, 스타트업, 가상자산, AML, 전자금융, 민사·형사 분쟁
대한변협 등록 전문분야: 민사, 형사 전문
변호사 소개: 서준범 변호사 소개 페이지
최종 검토일: 2026. 06. 17.
작성·검수 방식: 게시 전 담당 변호사 최종 검토 완료