앤트로픽이 8월 11일에 텍스트 워터마킹을 공개했다. 클로드가 써준 문장 안에 사람 눈에 보이지 않는 표식을 심는 기능이다. 적용 기준선은 발표일이 아니라 8월 2일이다. 그날 이후 출시되는 클로드 모델부터 표식이 들어가고, 그전에 나온 모델은 유예를 받아 앞으로 몇 달에 걸쳐 순차 적용된다. 일단 적용되면 클로드 앱, 플랫폼 API, 클로드 코드를 가리지 않고, AWS나 구글 클라우드를 거쳐 클로드를 부르는 경우에도 똑같이 붙는다. 표식은 모델 단계에서 들어가고, 사용자가 이를 끌 수 있는 설정은 공개되지 않았다.
기술 자체는 새롭지 않다. 흥미로운 쪽은 시점이다. 오픈AI는 거의 같은 기술을 완성해두고도 지금껏 배포하지 않았다. 정확도가 모자라서가 아니었다. 꺼내는 순간 잃을 것이 너무 컸기 때문이다. 그 서랍을 앤트로픽이 먼저 열었다. 무엇이 서랍을 열게 했는지, 그리고 그 결정이 한국에서 서비스를 만드는 사람에게 무엇을 남기는지를 짚어보려 한다.
글자 속에 표식을 어떻게 숨기나
그림이나 영상에 워터마크를 넣는 건 상상하기 쉽다. 픽셀은 수백만 개고, 그중 몇 개를 사람 눈이 알아채지 못할 만큼 살짝 흔들어도 그림은 멀쩡하다. 흔든 자국이 곧 서명이 된다.
글은 사정이 다르다. 문장에는 흔들 여백이 없다. 조사 하나만 바꿔도 어색해지고, 단어 하나를 바꾸면 뜻이 달라진다. 그래서 오랫동안 텍스트 워터마킹은 어려운 문제로 남아 있었다.
돌파구는 언어 모델이 글을 쓰는 방식 자체에 있었다. 모델은 다음 단어를 한 번에 하나씩 고른다. 이때 후보는 하나가 아니다. "회의를 다시" 다음에 올 말로 "잡자", "정하자", "조율하자"가 모두 자연스럽다면, 모델은 이 중에서 무작위로 하나를 뽑는다. 여기가 빈틈이다. 어느 쪽을 골라도 글이 멀쩡한 자리, 그러니까 문장이 아무 손해도 보지 않는 선택의 지점이 문장마다 수십 군데씩 있다.
워터마킹은 그 무작위를 무작위가 아니게 만든다. 앤트로픽이 가진 비밀 키와 바로 앞에 나온 몇 단어를 재료로 계산해서, 어느 후보를 고를지 미리 기울여 놓는 것이다. 읽는 사람에게는 여전히 자연스러운 문장이다. 한 자리만 놓고 보면 그냥 우연히 그 단어가 뽑힌 것과 구별되지 않는다. 하지만 이런 자리가 문장마다 수십 개씩 쌓이면 이야기가 달라진다. 키를 가진 쪽이 글 전체를 훑어 "키가 가리킨 쪽으로 몇 번이나 기울었나"를 세면, 우연으로 설명하기 어려운 쏠림이 통계로 드러난다. 검출은 낱개 단어를 보는 게 아니라 이 쏠림의 누적을 본다.
방식의 뿌리는 구글 딥마인드가 2024년 네이처에 실은 SynthID-Text이고, 앤트로픽은 그 계보를 스콧 애런슨이 2022년에 내놓은 제안까지 거슬러 짚는다. 앤트로픽은 이 접근을 가져다 자사 모델에 얹었다. 토큰을 더 뱉는 것도 아니고 계산이 늘어나는 것도 아니라, 속도도 요금도 그대로다.
기준선이 하필 8월 2일인 이유
앤트로픽이 갑자기 착해진 건 아니다. 날짜를 보면 이유가 보인다.
EU AI법 50조 2항은 생성형 AI를 제공하는 쪽에 출력물을 기계가 읽을 수 있는 형태로, 그리고 AI가 만든 것임을 알아볼 수 있게 표시하라고 요구한다. 이 조항의 적용일이 2026년 8월 2일이었다. 앤트로픽이 그은 기준선과 정확히 같은 날이다. 8월 2일 이전부터 시장에 나와 있던 서비스에는 기계 판독 표시 의무를 12월 2일까지 미뤄주는 안이 지난 5월 AI 옴니버스 잠정 합의에 담겼다. 잠정이라는 단어가 붙어 있으니 최종 확정 전까지는 그대로 믿고 일정을 짜기 어렵다.
구체적으로 무엇을 어떻게 표시해야 하는지는 실천규약(Code of Practice)이 채운다. 유럽위원회와 AI 이사회는 7월에 AI 생성물 투명성 실천규약이 50조 준수를 입증하는 수단으로 적정하다고 인정했고, 7월 말까지 약 190개 조직이 여기에 서명했다. 앤트로픽도 그 명단에 있다. 서명 자체는 강제가 아니지만, 서명하면 규제 당국 앞에서 "합의된 기준을 따르고 있다"고 말할 근거가 생긴다. 서명해놓고 이행하지 않으면 그 근거가 그대로 불리한 증거로 돌아온다. 조문이 요구하는 기술 표준이 아직 정리되는 중이라, 지금은 이 규약이 사실상의 기준선 노릇을 한다.
눈여겨볼 대목은 앤트로픽이 이 표식을 유럽에만 붙이지 않았다는 점이다. 회사는 지역별로 나눠 적용할 안정적인 방법이 아직 없다고 설명했다. 기술적 사정이라고 하지만 결과는 분명하다. 유럽에서 만들어진 규칙이 서울에서 클로드를 쓰는 사람의 문서에도 그대로 적용된다. EU 규제가 국경을 넘어 사실상의 세계 표준이 되는 흐름, GDPR 때 한 번 겪었던 그 일이 텍스트 워터마킹에서 반복되고 있다.
오픈AI는 왜 서랍을 닫아뒀나
여기서 오픈AI 이야기가 필요하다. 2024년 8월 4일 월스트리트저널은 오픈AI가 텍스트 워터마킹 도구를 이미 1년쯤 완성해둔 채 내보내지 않고 있다고 보도했다. 그로부터 2년이 더 지난 지금까지 이 도구는 나오지 않았다. 보도에 인용된 검출 정확도는 손대지 않은 원문 기준 99.9퍼센트였다. 성능이 문제가 아니었다는 뜻이다.
발목을 잡은 건 세 가지였다.
첫째는 이탈이다. 2023년 4월 자체 설문에서 챗GPT 이용자의 30퍼센트가 워터마킹이 적용되면 사용을 그만두겠다고 답했다. 유료 구독으로 먹고사는 회사에 이 숫자는 그냥 넘기기 어렵다.
둘째는 누가 잡히느냐의 문제다. 오픈AI는 영어가 모국어가 아닌 사용자가 불리해진다는 점을 걱정했다. 이들에게 AI는 부정행위 도구가 아니라 문법을 다듬는 보조 수단인 경우가 많다. 그런데 표식은 문장을 다듬는 데 AI를 썼다는 사실과 글 전체를 AI에 맡겼다는 사실을 구분하지 못한다.
셋째가 가장 뼈아프다. 워터마크는 씻어낼 수 있다. 표식은 앞서 설명한 대로 단어 선택의 쏠림에 기대는데, 문장을 통째로 다시 쓰면 그 선택이 전부 다른 사람 손으로 넘어간다. 다른 언어로 번역했다가 되돌리거나, 문장 재구성 도구를 한 번 돌리기만 해도 쏠림이 흩어진다. 작정하고 지우려는 사람은 지운다. 그러면 표식이 남는 쪽은 지울 생각조차 안 한 사람들이다. 잡으려던 사람은 빠져나가고 잡을 생각이 없던 사람만 걸리는 장치가 되는 셈이다.
세 가지 걱정은 지금도 유효하다. 달라진 건 기술이 아니라 판이다. 8월 2일을 기점으로 워터마킹은 켤지 말지 고르는 제품 결정에서 지킬지 말지 고르는 규제 준수 항목으로 자리를 옮겼다. 오픈AI가 몇 년간 저울질하던 손익 계산은 저울 한쪽에 법이 올라오는 순간 의미를 잃는다.
구독을 끊겠다는 사람들의 항의
발표 이튿날부터 반발이 올라왔다. X에서는 구독을 해지하겠다는 글이 줄줄이 붙었다. "디지털 문신"이나 "주홍글씨" 같은 말이 돌았다. 다만 반발이 여론 전체였던 건 아니다. 테크크런치는 레딧에서는 오히려 워터마킹을 지지하는 반응이 더 많이 눈에 띄었고, 반대하는 글에 "이걸 싫어할 이유는 남을 속이려는 것밖에 없다"는 반박이 달렸다고 전했다.
불만의 진원지가 어디였는지가 흥미롭다. 가장 크게 목소리를 낸 쪽은 클로드에 글을 통째로 맡긴 사람들이 아니었다. 자기가 쓴 글을 클로드에게 교정만 맡겼다는 사람들이었다. 내 생각으로 내가 쓴 문장인데, 오탈자를 고치려고 한 번 통과시켰다는 이유로 "AI가 쓴 글" 표식이 따라붙는 건 부당하다는 항의다. 오픈AI가 2년 전에 걱정했던 바로 그 지점이 그대로 재현됐다.
앤트로픽은 8월 15일에 조금 더 자세한 설명을 내놨다. 짧은 글에는 표식이 잘 안 들어간다. 고를 수 있는 단어의 자리 자체가 적기 때문이다. 사실을 정확히 진술해야 하는 대목도 마찬가지다. 법 이름이나 조문 번호, 사람 이름을 적는 자리에는 애초에 갈아 끼울 후보가 없다. 사람이 쓴 글을 가볍게 손본 경우에는 거의 모든 단어가 원래 그 사람의 것이므로 신호가 희박하다. 검출 여부는 글 길이와 클로드가 얼마나 많이 손댔는지에 달렸다는 것이 회사 설명이다.
개발자들이 제기한 코드 품질 우려에도 답이 나왔다. 코드에는 워터마크가 거의 들어가지 않는다. 같은 동작을 하면서 문법도 맞는 대안이 코드에는 별로 없기 때문이다. 표식이 들어갈 여지가 있는 곳은 주석처럼 말을 자유롭게 쓸 수 있는 자리 정도이고, 실제 동작하는 코드에 미치는 영향은 없다는 것이다.
정리하면 이렇다. 표식은 클로드가 많이 쓴 긴 글일수록 뚜렷하고, 사람이 쓴 글을 살짝 손본 짧은 글에서는 희미하다. 억울하게 걸릴까 걱정한 쪽에는 다행인 성질이다. 교정만 맡긴 문장이 통째로 대필한 문장과 똑같이 표시되지는 않는다는 뜻이니까. 반대로 이걸 적발 장치로 쓰려던 쪽에는 나쁜 소식이다. 가장 잡고 싶은 대상은 대개 결과물을 한 번 더 손보는 사람들이고, 그 손질이 바로 표식을 흐리게 만드는 행위다.
워터마크가 답하는 질문은 하나뿐이다
앤트로픽 스스로 선을 그어둔 부분이 중요하다. 워터마크가 답할 수 있는 질문은 딱 하나다. "이 글에 클로드가 관여했을 가능성이 얼마나 되는가."
그 바깥은 전부 답하지 못한다. 표식이 없다고 사람이 썼다는 뜻이 아니다. 다른 회사 모델로 썼을 수도 있고, 워터마킹이 적용되지 않은 모델을 썼을 수도 있고, 한 번 세탁을 거쳤을 수도 있다. 표식이 있다고 저작권이 앤트로픽에 넘어가는 것도 아니고, 출력물에 대한 법적 책임이 정해지는 것도 아니다. 무엇보다 "클로드가 다 썼다"와 "클로드가 많이 고쳤다"를 갈라주지 못한다.
개인정보 쪽은 걱정을 덜어도 될 듯하다. 앤트로픽은 표식에 사용자나 소속 조직, 대화 내용을 되짚을 수 있는 정보가 전혀 담기지 않는다고 밝혔다. 누가 썼는지가 아니라 무엇이 관여했는지만 남는 구조라는 설명이다. 물론 이건 회사의 설명이고, 키를 가진 쪽만 검증할 수 있는 사안이라 외부에서 확인할 방법은 없다.
이 경계선은 앞으로 나올 검출 API를 어떻게 쓸지에 직결된다. 앤트로픽은 검출 API를 준비 중이라고 밝혔지만 세부 사항은 아직 정하는 중이고, 정확도 수치도 내놓지 않았다. 다만 원리는 시중의 AI 탐지 서비스와 다르다. 그런 서비스들은 문장 생김새를 보고 추측하지만, 앤트로픽의 검출은 자기가 심어둔 신호를 자기 키로 확인한다. 추측과 확인은 성격이 다른 일이다. 그렇다고 "이 글은 사람이 썼다"를 증명하는 도구가 되지는 않는다. 학교나 회사가 이걸 징계 근거로 쓰기 시작하면, 검출되지 않은 쪽을 무죄로 취급하는 순간부터 논리가 무너진다.
한국의 표시 의무는 다른 문장으로 쓰여 있다
한국에도 같은 취지의 법이 이미 돌아가고 있다. AI 기본법이 2026년 1월 22일부터 시행됐고, 31조가 투명성 확보를 규정한다. 생성형 AI로 만든 결과물에는 그 사실을 표시해야 한다.
방식은 EU보다 넓게 열려 있다. 일반 생성물이라면 자막이나 로고처럼 눈에 보이는 표시를 써도 되고, 메타데이터나 디지털 워터마크처럼 기계가 읽는 방식을 써도 된다. 다만 기계 판독 방식을 택하면 안내 문구나 음성으로 최소 한 번은 따로 알려야 한다는 것이 법조계의 해설이다. 진짜와 구분하기 어려운 딥페이크 결과물은 예외다. 여기서는 이용자가 명확히 알아볼 수 있는 가시적 표시가 필수이고, 숨어 있는 표식만으로는 의무를 다한 것이 되지 않는다.
의무를 지는 주체도 짚어둘 필요가 있다. 인공지능사업자다. AI를 도구로 쓰는 일반 이용자는 현행법상 대상이 아니다. 과태료는 3천만 원 이하지만, 정부는 최소 1년 이상 계도 기간을 두기로 했다. 인명 사고나 인권 침해 같은 중대 사안이 아니면 당장 과태료가 나오지는 않는다.
여기까지만 보면 국내 사업자에게 골칫거리는 아니다. 클로드 API로 서비스를 만들었더라도, 화면에 "AI가 생성한 내용입니다"라고 띄우면 표시 의무는 끝난다. 앤트로픽의 워터마크에 기댈 이유가 없다.
문제는 그 옆에서 벌어진다. 국내 사업자가 자기 몫의 표시를 제대로 하든 말든, 그 서비스가 내보내는 문장에는 표식이 하나 더 얹혀서 나간다. 사업자가 요청한 적도 없고, 끌 수도 없고, 얼마나 진하게 박혔는지 확인할 수단도 없는 표식이다. 검출 키는 앤트로픽만 가지고 있다.
이게 언제 문제가 되는지는 상상하기 어렵지 않다. 어느 국내 서비스가 만든 문서를 두고 나중에 누군가 "이건 AI가 쓴 것 아니냐"고 물었다고 하자. 사업자는 자기 제품이 어느 대목에 얼마나 표식을 남겼는지 스스로 답할 수 없다. 앤트로픽의 검출 API를 거쳐야 하고, 그 API는 아직 나오지도 않았다. 표시 의무는 국내법이 지우는데, 실제로 문장에 남은 흔적의 강도와 그걸 읽어낼 수단은 계약 상대방인 외국 회사 쪽에 있다.
법이 요구하는 표시와 모델이 심는 표식이 같은 범주인지도 아직 정리되지 않았다. AI 기본법이 말하는 디지털 워터마크는 통상 파일 메타데이터나 화면에 붙는 표기를 염두에 둔 개념이다. 문장의 단어 선택에 흩어 심는 통계적 신호가 여기에 해당하는지는 조문만 봐서는 알기 어렵다. 계도 기간 1년은 이런 질문을 정리하라고 주어진 시간이지만, 그사이에도 클로드가 만든 문장은 계속 표식을 달고 국내 서비스 밖으로 나간다.
지난주 메타가 값을 깎아주는 대가로 코드를 학습 데이터로 가져가는 요금제를 내놨을 때, 저울에 오른 것은 비용과 데이터였고 어느 쪽을 내줄지는 쓰는 사람이 골랐다. 이번에는 고를 항목이 없다. 앤트로픽이 유럽 규제를 지역별로 나눠 적용할 방법을 찾지 못했다고 밝힌 이상, 서울에서 만든 문서에도 유럽 기준의 표식이 그대로 따라붙는다.
그래서 실무에서 달라지는 건 도구 선택이 아니라 문서의 성격을 나누는 일이다. 표식은 클로드가 처음부터 길게 쓴 글에 진하게 남고, 사람이 쓴 원고를 짧게 손본 자리에는 거의 남지 않는다. 이 차이는 그대로 조직의 문서 분류가 된다. 대외 보고서나 제안서처럼 저작 주체를 따질 여지가 있는 문서라면 초안부터 통째로 맡기는 방식이 뒤에 흔적을 남기고, 사람이 쓴 원고를 다듬는 용도로만 쓰면 그 흔적이 옅어진다. 숨기라는 뜻이 아니다. 어느 쪽이든 표시 의무는 지켜야 한다. 다만 지금까지 "AI를 얼마나 썼는가"는 조직 내부의 관행 문제였고, 이제는 문서 자체에 기록으로 남아 나중에 제3자가 읽어낼 수 있는 사실이 됐다는 것이다. 계도 기간 1년은 그 사실을 어떻게 다룰지 정하라고 주어진 시간이기도 하다.