AI가 스스로 퍼지는 웜? Anthropic 실험의 결과와 한계

Anthropic의 통제된 자가복제 실험이 보여준 능력과 조건부 전망을 구분하고, 기업이 점검할 IoT 보안 기본을 정리합니다.

Anthropic 연구진은 소형 AI 모델이 인터넷에 연결된 사물인터넷 기기에서 복제될 가능성을 실험했습니다. 다만 연구가 보여준 것은 통제된 평가 환경에서의 일부 능력과 조건부 전망이지, 실제 인터넷에서 자율적으로 퍼지는 AI 웜이 확인됐다는 뜻은 아닙니다. 실험 결과와 예측을 나눠 읽어야 하는 이유입니다.

익숙하지 않은 기기에서 모델을 실행할 수 있을까

Anthropic의 Frontier Red Team은 AI가 낯선 하드웨어에 추론 환경을 설정할 수 있는지와, 여러 단계를 연결하는 평가를 진행했습니다. 연구진은 9B 규모 모델이 시험한 아홉 종류 하드웨어 중 여덟 종류에서 추론을 구동했다고 보고했습니다. 별도 시연에서는 Gemma4-26B-A4B를 저가형 Android TV 박스 15대에 분산해 초당 0.39토큰으로 실행했습니다. 이는 제한된 하드웨어에서도 모델을 나눠 실행할 수 있음을 보인 것이며, 그 자체가 기기를 침해하거나 확산했다는 증거는 아닙니다.

전체 과정을 잇는 실험은 제한적이었다

연구진은 별도의 격리된 시험 환경에서 모델이 여러 과정을 연속으로 수행할 수 있는지도 살폈습니다. 그 단순화된 평가에서 전체 과정을 완료한 것은 GLM-5.2뿐이었습니다. 이 실험은 실제 인터넷의 다양한 방어 체계와 장치 환경을 그대로 재현한 것이 아니므로, 현실에서 자율 복제가 가능하다는 결론으로 확대할 수 없습니다. Anthropic도 현재 완전한 자율 복제자가 확인된 것은 아니라고 명시했습니다.

‘몇 달 뒤’는 관측된 일정이 아니라 조건부 전망

Anthropic은 소형 모델이 과거와 같은 속도로 발전한다면 연말 무렵 관련 능력 수준에 도달할 수 있다고 추정했습니다. 이 전망은 일반 능력 지표를 복제 역량의 대리변수로 사용한 추세선에 기반하며, 연구진 스스로도 대략적인 추정이라고 설명합니다. 그러므로 ‘몇 달 안에 AI 웜이 현실화된다’고 단정하기보다, 특정 실험에서 확인된 능력과 미래 전망을 구분해야 합니다.

영어 원문에서 may, could, if처럼 가능성과 조건을 나타내는 표현을 확인하면 실험 결과와 예측을 섞어 읽는 일을 줄일 수 있습니다. 주요 수치와 조건을 직접 대조하는 과정도 중요합니다.

기업이 지금 점검할 수 있는 것

이번 연구가 주는 실무적 시사점은 AI가 이미 기기를 장악했다는 경보보다, 연결 기기 관리의 중요성에 가깝습니다. 기업은 IoT 자산 목록과 펌웨어 업데이트 상태를 확인하고, 불필요한 외부 연결을 줄이며, 업무망과 장치망을 분리하고, 평소와 다른 통신량을 관찰할 수 있습니다. 이상 징후가 있을 때 영향 범위를 제한하고 장치를 격리할 절차도 미리 정해 두는 편이 현실적인 대응입니다. 이는 특정 AI 모델의 공격 성공을 가정한 처방이 아니라 기존 보안 운영의 기본 원칙입니다.