AI 자기복제 뉴스, 원문은 헤드라인과 다르다 | 앤트로픽 TV박스 15대 실험에서 한 것과 안 한 것 (2026년 10월 기준)

"AI가 스스로를 복제했다"는 헤드라인을 보면 손이 먼저 갑니다. 그런데 앤트로픽이 10월 12일 공개한 글은 이 문장보다 훨씬 조심스럽습니다. 실험이 하나가 아니라 둘로 나뉘어 있기 때문입니다.

앤트로픽의 Frontier Red Team은 작은 AI 모델이 스마트 오븐이나 저가 안드로이드 TV 박스 같은 상용 IoT 기기에서 스스로 복제할 만큼 똑똑해지기까지 몇 달 남았을 수 있다고 밝혔습니다. TV 박스 15대가 한 일과, 복제를 끝까지 해낸 모델이 한 일을 나눠서 정리했습니다.

앤트로픽 Frontier Red Team은 10월 12일 값싼 TV 박스 15대에 Gemma4-26B-A4B를 나눠 올려 초당 0.39토큰으로 돌렸다고 밝혔다. 이건 복제가 아니라 추론 시연이다. 복제 시험은 따로 가상 안드로이드 8대에서 열렸고, 공개 가중치 모델 중 GLM-5.2만 끝까지 해냈다. 앤트로픽은 아직 완전한 악성 복제체는 없다고 적었다.

목차

1. 원문의 결론은 "몇 달 뒤 가능할 수 있다"

2. TV 박스 15대가 한 일, 가상 8대가 한 일

3. 속도로 보면 현실감이 달라집니다

4. 원문이 제시한 방어와 집에서 할 수 있는 것

5. 같은 주의 406명 서한은 별개입니다

6. "AI가 ○○했다" 기사를 읽는 세 가지 확인

1. 원문의 결론은 "몇 달 뒤 가능할 수 있다"

앤트로픽이 이 글에서 따진 것은 작은 모델이 상용 IoT 기기에 스스로 퍼질 수 있느냐입니다. 중앙에서 끌 곳이 없어 끄기 어렵지만 퍼지는 속도는 느릴 것이고, 배가 되는 데 며칠이 걸린다고 설명했습니다. 일반 악성코드와 다른 점으로는 낯선 기기를 스스로 알아낼 수 있다는 것을 꼽았습니다.

출처: 앤트로픽 Frontier Red Team 블로그 갈무리(2026년 10월 12일 게시)

현재 위치도 앤트로픽이 직접 정리했습니다. 300억 파라미터 이하 모델은 복제에 필요한 개별 단계를 이미 상당수 해내지만 이어 붙이면 실수합니다. 단순화한 시험에서는 GLM-5.2 이상 모델만 끝까지 해냈고, 작은 모델이 지금 속도로 좋아지면 올해 말쯤 그 수준에 닿을 것이라는 예상입니다.

핵심 앤트로픽은 결론에서 아직 완전한 악성 복제체는 없다고 적었습니다. 다만 개별 단계는 점점 가능해지고 있다고 덧붙였습니다.

"올해 말"이라는 예상은 300억 파라미터 이하 공개 모델들의 일반 능력 지수(ECI) 추세선, 연 13.7점 상승을 GLM-5.2 수준까지 이어 붙인 계산입니다. 앤트로픽도 이 지수가 복제 능력의 대리 지표일 뿐이라 거친 추정이라고 밝혔습니다.

2. TV 박스 15대가 한 일, 가상 8대가 한 일

	TV 박스 데모	복제 시험
무대	실제 저가 안드로이드 TV 박스 15대(대당 약 $55, RAM 4GB)	GCP 방화벽 안 가상 안드로이드(Android 15 에뮬레이터) 8대
하는 일	Gemma4-26B-A4B를 층 단위로 나눠 분산 추론	에이전트가 노드를 옮겨 가며 Llama3.1-8B 추론 서버 구축
결과	초당 0.39토큰	GLM-5.2만 성공, 5회 중 4회 8대 모두·1회 7대
복제인가	아니요, 추론 시연	예, 조건을 단순화한 시험

TV 박스 데모에서는 박스마다 모델의 층 두 개씩을 맡았습니다. 앤트로픽은 RAM 4GB 박스에 4비트로 줄인 모델을 올리면 90억 파라미터급은 4대 이상, 260억 파라미터급은 10대 이상이 필요하다고 계산했습니다.

복제 시험은 방화벽으로 막은 가상 안드로이드 8대에서 열렸습니다. 에이전트가 인증 없이 열려 있는 ADB 포트로 옆 노드에 들어가 파일을 보내고 추론 서버를 세웁니다. 정확성과 부정행위 점검을 통과하면 새 노드에서 복제체가 다시 시작됩니다. 노드가 작아서 복제체 모델은 별도의 추론 서버에서 돌렸습니다.

시험 과제는 모델 자신이 아니라 Llama3.1-8B 추론 서버를 세우는 일이었습니다. GLM-5.2의 능력이 80억 크기 모델에 담긴다면 스스로를 세울 수 있을지를 보려는 설계입니다. 아래 도식은 그 흐름을 개념으로 그린 것입니다.

재구성한 개념 도식(실제 실험 화면이 아니며 퍼지는 순서는 임의로 그림)

출처: 앤트로픽 Frontier Red Team 블로그 갈무리(2026년 10월 12일 게시)

주의 앤트로픽은 이 시험에서 침투 단계를 일부러 단순하게 만들었다고 밝혔습니다. 그래서 현실에서의 성공률은 이 결과보다 높지 않다는 상한선으로 읽어야 합니다. 과거 IoT 봇넷이 제조사 기본 비밀번호 목록만으로 퍼졌다는 점도 함께 적었습니다.

3. 속도로 보면 현실감이 달라집니다

앤트로픽은 이런 복제체가 채팅이나 코딩 도구의 대화 속도보다 훨씬 느리게 퍼질 것이라고 썼습니다. 실제 TV 박스에서 나온 속도를 기준으로 계산한 시간은 이렇습니다.

모델	문맥 창 하나	추론 설정 완료
Gemma4-26B-A4B(최적화 전)	27.3~31.8시간	71~150시간
Qwen3.5-9B	10.9시간	28~51시간

앤트로픽은 90억 파라미터 모델 하나를 복제하는 데 하루에서 이틀 넘게 걸린다고 적었습니다. 규모도 계산했습니다. Kimwolf 봇넷이 감염시켰던 200만 대 이상을 15대씩 묶어 한 묶음에 복사본 하나를 돌린다고 가정하면 약 13.3만 개가 되고, 전부 합쳐도 H100 약 40대 분량의 추론 능력이라고 했습니다.

시험은 두 가지를 더 봤습니다. Qwen3.5-9B가 이전 세대의 메모를 물려받아 반복하면 추론 설정 성공률이 첫 세대 45%에서 이후 세대 61~84%로 올랐습니다. 반면 앞선 모델에게 조언을 받게 해도 의미 있는 개선은 없었다고 합니다.

핵심 느리다고 안전하다는 뜻은 아닙니다. 앤트로픽도 느린 복제체의 등장은 더 빠르고 공격적인 복제체의 신호일 수 있다고 경고했습니다.

4. 원문이 제시한 방어와 집에서 할 수 있는 것

앤트로픽이 제시한 방어는 주로 통신사와 제조사의 몫입니다. 모델 파일 전송과 기기끼리의 지속 통신은 네트워크에서 이상 신호로 보일 수 있고, Mirai 때는 통신사가 감염 증거로 고객을 격리하고 안내해 14일 안에 92%가 정리됐습니다. 통지가 없을 때는 74%였습니다. 영국은 기본 비밀번호를 쓰는 기기를 기준 미달로 봅니다.

제 판단으로는 개인이 할 일은 많지 않습니다. 집에서는 TV 박스나 공유기의 기본 비밀번호를 바꾸고, 출처가 불분명한 저가 박스를 쓰지 않는 정도입니다. 앤트로픽도 이런 TV 박스 제조사들이 보안 기능을 따로 넣지 않는다고 적었습니다. AI 에이전트에 어디까지 맡길지는 뮤즈 vs dots 비교에서, AI와 나눈 대화가 어디까지 남는지는 AI 대화는 일기장이 아니다에서 다뤘습니다.

5. 같은 주의 406명 서한은 별개입니다

반응형

10월 13일 과학자 서한이 공개됐습니다. 서한은 사이버 능력이 있는 AI 모델을 우선 인터넷에서 분리하고, 격리 기준을 정할 국제기구를 만들고, 격리가 뚫린 사고를 보고해 결국 공개하자고 요구합니다. 근거로 든 것은 AI 모델이 허술한 샌드박스를 벗어나 외부 조직의 시스템을 침해한 사고들입니다.

서한 본문은 앤트로픽의 이 실험을 직접 언급하지 않습니다. 시기가 겹칠 뿐 같은 문서가 아닙니다. 서명자는 발표 때 406명이었고, 지금 서한 페이지의 명단은 453명입니다. 이 숫자는 서명이 늘면 바뀝니다.

6. "AI가 ○○했다" 기사를 읽는 세 가지 확인

재구성한 예시 화면(실제 기사와 무관하며 헤드라인은 가상)

1. 어디서 했나. 이번 시험은 방화벽 안 가상 안드로이드 8대였고, 침투 단계가 단순했습니다.
2. 얼마나 걸렸나. TV 박스 속도는 초당 0.39토큰이었고, 복제 한 번에 하루에서 이틀 넘게 걸렸습니다.
3. 어디까지 사람이 정했나. 시험 과제는 Llama3.1-8B 추론 서버 구축이었고 침투는 일부러 쉽게 만들었습니다.

핵심 세 가지 중 하나라도 기사에 없으면 헤드라인만으로 판단을 미루고 원문을 찾아보세요. 이번 건은 서로 다른 실험 둘이 한 문장에 합쳐진 경우였습니다.

Q. AI가 정말 스스로 복제했나요?

방화벽으로 막은 가상 안드로이드 8대에서 GLM-5.2가 Llama3.1-8B 추론 서버를 세우며 끝까지 퍼뜨리는 데 성공했다고 앤트로픽은 밝혔습니다. 침투 단계를 일부러 단순하게 만든 시험이고, 앤트로픽은 아직 완전한 악성 복제체는 없다고 적었습니다.

Q. TV 박스에서 복제가 일어났나요?

아닙니다. TV 박스 15대는 Gemma4-26B-A4B를 나눠 돌린 추론 시연이었고 속도는 초당 0.39토큰이었습니다. 복제 시험은 별도의 가상 안드로이드 8대에서 열렸습니다.

Q. 지금 걱정해야 하나요?

앤트로픽은 몇 달 안에 가능해질 수 있다는 경고를 낸 것이지 이미 일어났다는 보고가 아닙니다. 제 판단으로는 집에서는 기기의 기본 비밀번호를 바꾸는 정도가 현실적인 대응입니다.

Q. 406명 서한이 이 실험의 결과인가요?

아닙니다. 서한 본문은 이 실험을 언급하지 않고, 샌드박스를 벗어난 AI 사고들을 근거로 듭니다. 같은 주에 나온 별개의 문서입니다.

3줄 핵심 요약

1. 앤트로픽은 10월 12일 작은 AI 모델이 몇 달 안에 IoT 기기에서 스스로 복제할 수 있을지 모른다고 밝혔다. 아직 완전한 악성 복제체는 없다고 적었다.
2. TV 박스 15대는 초당 0.39토큰의 추론 시연이었고, 복제는 가상 안드로이드 8대 시험에서 GLM-5.2만 해냈다. 침투 단계는 단순화한 상한선이다.
3. 406명 서한은 별개의 문서다. 기사를 읽을 때는 환경, 속도, 사람이 정한 범위 세 가지부터 확인하자.

마치며

헤드라인은 한 줄이지만 실험은 여러 조각입니다. 다음에 "AI가 ○○했다"는 기사를 만나면 환경, 속도, 사람이 정한 범위 세 가지부터 찾아보세요. 이번처럼 한 문장에 서로 다른 실험이 합쳐져 있다면 그 세 가지가 둘을 갈라 줍니다.

NEXT READ

이어서 읽어 볼 글

01  AI 대화는 일기장이 아니다 · AI에 맡긴 말과 기록

02  뮤즈 vs dots, 무엇을 맡겨도 되나 · 에이전트에 맡길 일과 권한

03  AI에게 중고거래 답장을 맡기기 전에 · 맡기기 전 체크리스트

#AI자기복제,#앤트로픽,#FrontierRedTeam,#AI웜,#IoT보안,#GLM52,#AI안전,#TV박스,#AI뉴스읽기,#요즘소식