AI 웜 실험에서 방어자가 읽을 문장, '모델은 무겁다'

앤트로픽이 지난 12일(현지시간) 다른 기기로 옮겨 가며 스스로 복제하는 'AI 웜'이 가능한지 통제된 환경에서 시험한 결과를 공개했습니다. 저가 안드로이드 TV 박스 15대를 묶어 약 260억 매개변수 모델 젬마4-26B-A4B(Gemma4-26B-A4B)를 분산 실행했고 속도는 초당 0.39토큰이었습니다. 90억 매개변수 소형 모델은 9개 하드웨어 유형 중 8개에서 스스로 실행 환경을 꾸렸고, 안드로이드 가상 기기 8개로 만든 네트워크에서는 대형 모델 GLM-5.2가 5번 중 4번 8개 기기 전체로 복제 작업을 넓혔습니다.

조건은 꼼꼼히 봐야 합니다. 실제 기기에 깔린 건 라마3.1-8B(Llama3.1-8B)였고 복제를 지휘한 GLM-5.2는 별도 서버에서 돌았으며, 기기 사이 접근에는 인증이 필요 없었습니다. 실제 인터넷에서 기기를 감염시키며 퍼지는 웜을 만든 것도 아니고요. 앤트로픽은 소형 모델이 지금 추세로 좋아지면 올해 말 자가복제에 필요한 수준에 닿을 수 있다고 전망했습니다.

저는 이 실험의 무게를 '스스로 퍼지는 AI'보다 '적응 비용의 하락'에서 봅니다. 보안업체 신시언트(Synthient)에 따르면 킴울프(Kimwolf) 봇넷은 지난 1월 TV 스트리밍 장치 같은 안드로이드 기기 200만 대 이상을 감염시켰습니다. AI 없이도 봇넷은 이미 잘 돕니다. 기존 봇넷이 특정 운영체제와 취약점에 맞춰 짠 절차로 움직였다면, AI는 처음 보는 기기의 환경을 읽고 실행 중 문제를 고치는 일을 맡을 수 있어요. 공격자가 기기 종류마다 공들이던 수작업이 줄어든다는 뜻입니다.

반대로 방어자에게 좋은 소식도 이 실험 안에 있습니다. AI는 무겁습니다. 모델을 다른 기기로 옮기려면 수 GB의 가중치가 오가야 하고, 감염 기기는 계속 통신하고 주변을 탐색합니다. 앤트로픽도 이런 비정상 통신을 탐지 단서로 꼽고, 통신사가 감염 이용자의 통신을 제한하고 제조사가 기본 보안 설정을 강화하라고 권했습니다. 몇 KB짜리 전통적인 웜보다 훨씬 시끄러운 손님인 셈이죠.

그래서 지금 할 일은 거창하지 않습니다. 사무실이든 집이든 IoT 기기가 묶인 대역에서 대용량 전송과 기기 간 측면 이동에 알림을 걸고, 인증 없이 접근되는 기기를 없애는 것. 이번 실험이 성공한 바로 그 조건, '인증이 필요 없는 네트워크'를 먼저 지우는 팀이 AI 웜 뉴스를 가장 덜 걱정해도 되는 팀입니다.