AI가 AI의 답안지를 배웠다면 학습일까, 무단 복제일까

AI 업계에서 ‘증류’라는 말이 갑자기 ‘훔치기’와 함께 등장하고 있습니다. SBS 영상은 Anthropic이 중국 AI 기업들을 향해 제기한 대규모 모델 증류 의혹을 다뤘습니다.
그런데 증류 자체는 불법 기술이 아닙니다. 큰 모델의 답을 교재 삼아 작은 모델을 훈련하는 오래된 효율화 방법입니다. Google, Amazon 같은 기업도 공식 제품과 문서에서 증류를 제공합니다.
쟁점은 기술 이름이 아니라 남의 모델을 어떤 권한과 방식으로 교사로 썼느냐입니다. 정상적인 과외와 답안지 무단 복사가 모두 ‘배운다’는 동사를 쓴다고 같은 행동은 아닌 것과 비슷합니다.

증류는 도구입니다. 문제는 교사의 허락, 교재를 모은 방식, 결과물의 출처를 숨겼는지에 있습니다.

모델 증류를 가장 쉽게 설명하면

똑똑하지만 크고 비싼 교사 모델에 많은 문제를 풀게 합니다. 그 질문과 답, 경우에 따라 판단 과정과 확률 분포를 모아 더 작고 싼 학생 모델을 훈련합니다.
학생 모델은 교사와 완전히 같아지지는 않지만 특정 작업에서는 훨씬 적은 비용으로 비슷한 답을 낼 수 있습니다. 휴대기기나 사내 서버처럼 자원이 제한된 환경에서 유용합니다.
이 방법은 AI를 실제 제품에 넣는 데 중요한 역할을 해왔습니다. 최상위 모델을 모든 질문에 호출하지 않아도 되므로 속도와 비용, 전력 사용량을 줄일 수 있습니다.

언제 정상적인 학습이 공격으로 바뀌나

Anthropic은 2026년 2월 DeepSeek, Moonshot, MiniMax가 약 2만4000개의 허위 계정을 이용해 Claude와 1600만 회 넘게 문답했다고 발표했습니다. 지역 제한과 서비스 약관을 우회하고, 에이전트 추론·코딩·도구 사용 능력을 집중적으로 뽑아갔다는 것이 Anthropic의 주장입니다.
이 수치는 법원의 최종 판단이 아니라 피해를 주장하는 회사가 탐지한 조사 결과입니다. 따라서 특정 모델이 전부 복제됐다고 단정할 수는 없습니다. 다만 허위 계정과 트래픽 중계, 대규모 자동 수집이 사실이라면 일반 사용이나 연구 실험과는 성격이 다릅니다.

권한	자체 모델 또는 허용된 교사	약관·지역 제한 우회
계정	정상 API 계약과 사용량	허위 계정과 중계망
목적	비용 절감·특정 업무 최적화	경쟁 모델 핵심 능력 추출
공개	교사와 데이터 출처 설명	학습 출처 은폐

왜 답변만 모아도 능력을 배울 수 있나

모델의 가중치를 직접 훔치지 않아도 좋은 질문을 체계적으로 던지면 행동 패턴을 모을 수 있습니다. 단순 상식보다 코딩 오류 수정, 여러 도구를 쓰는 순서, 어려운 문제를 쪼개는 방법처럼 능력이 잘 드러나는 질문을 집중시키는 것입니다.
수백만 개의 질문과 답은 거대한 합성 교재가 됩니다. 학생 모델은 정답만 외우는 것이 아니라 어떤 상황에서 어떤 형태의 답을 내는지 통계적으로 배웁니다.
그렇다고 교사 모델 전체가 복사되는 것은 아닙니다. 학생의 기본 구조와 원래 학습 데이터, 훈련 방법이 다르기 때문에 결과도 달라집니다. ‘완전 복제’보다 특정 능력을 빠르고 싸게 따라잡는 방법이라고 보는 편이 정확합니다.

728x90

가격 경쟁과 안전 문제가 동시에 생긴다

증류가 성공하면 최상위에 가까운 능력을 더 작은 모델과 낮은 가격으로 제공할 수 있습니다. 사용자에게는 반가운 경쟁입니다. 자체 서버에서 돌릴 수 있는 모델이 늘면 데이터 통제권도 커집니다.
반면 교사의 안전장치가 학생에게 그대로 전달된다는 보장은 없습니다. 유해 요청을 막는 별도 분류기와 운영 정책은 답변 데이터만으로 복제하기 어렵습니다. 능력은 배웠지만 제동 장치는 없는 모델이 널리 배포될 수 있습니다.
기업 입장에서는 연구개발 비용을 회수하기 어려워질 수 있습니다. 경쟁자가 서비스 이용료만 내고 핵심 행동을 대규모로 수집한다면 모델 공개와 접근 정책을 더 닫는 방향으로 움직일 가능성도 있습니다.

저는 경계를 이렇게 봅니다

사람도 책과 논문, 다른 사람의 작업을 보고 배웁니다. 그렇다고 유료 서비스의 계정을 수만 개 위조해 결과를 자동 수집하는 행동까지 자연스러운 학습이라고 부르기는 어렵습니다.
반대로 기업이 모든 유사한 결과를 지식 절도라고 주장하는 것도 위험합니다. 아이디어와 일반적인 문제 해결 방식까지 한 회사가 소유할 수는 없습니다. 무엇을 보호할 수 있는지 법과 계약, 기술 표준이 아직 충분히 정리되지 않았습니다.
그래서 최소한 교사 모델, 수집 허가, 데이터 규모, 결과물의 출처를 공개해야 한다고 봅니다. 투명성이 있어야 합법적 효율화와 무단 능력 추출을 구분할 수 있습니다.

반응형

결론

모델 증류는 AI를 싸고 빠르게 만드는 핵심 기술이며 그 자체로 잘못이 아닙니다. 논란은 경쟁사의 서비스를 속여 대규모 교재를 만들었는지, 약관과 접근 제한을 우회했는지에서 시작됩니다.
중국 AI의 빠른 추격을 전부 증류 하나로 설명해서도 안 됩니다. 효율적인 구조, 공개 생태계, 인재와 자본 같은 여러 요인이 함께 작동합니다. 동시에 Anthropic이 공개한 규모의 수집 의혹도 가볍게 볼 일은 아닙니다.
앞으로 모델 비교표를 볼 때 성능과 가격뿐 아니라 무엇으로 학습했고 어떤 안전장치를 갖췄는지도 함께 봐야 합니다.