GPT-5.4에 근접하는 오픈소스 AI를 내 컴퓨터에 설치하는 법

월 구독료 없이, 인터넷 연결 없이, 내 데이터가 외부로 나가지 않는 상태에서 GPT-4o급 AI를 쓸 수 있다면요? 허황된 얘기 같지만, 구글이 방금 그걸 가능하게 만들었어요.

구글에서 오픈소스 모델 Gemma 4를 발표했거든요. 오픈소스 모델이란 ChatGPT처럼 유료 구독을 해야 쓸 수 있는 AI가 아니라, 누구나 내 컴퓨터에 다운로드해서 돌릴 수 있는 AI를 말해요. 그리고 이번 Gemma 4의 성능이 좀 놀라워요.

Gemma 4 — 310억 파라미터로 GPT-4o를 넘었다

31B(310억 파라미터) 모델 기준으로, 수학, 코딩, 과학 벤치마크에서 전작 Gemma 3 대비 2~4배 가까운 점수 향상을 보여줬어요. 2배도 아니고 4배. 한 세대 만에 이 정도 뛰는 건 드문 일이에요.

더 직관적인 수치가 있어요. AI 모델을 실제 사람이 블라인드 평가하는 LM Arena 리더보드에서 1452점을 기록했거든요. OpenAI의 최신 모델인 GPT-5.4가 1484점이에요. 32점 차이. 그리고 한 세대 전 모델인 GPT-4o는 이미 넘어선 성능이에요. 무료로 내 컴퓨터에서 돌리는 모델이 유료 구독 모델의 전 세대를 이겼다는 거죠. (솔직히 이건 좀 충격적이었어요.)

근데 이걸 어떻게 설치하냐고요? 여기서 재밌어져요.

Codex에 프롬프트 한 줄이면 — 설치부터 채팅 UI까지

OpenAI의 코딩 에이전트 Codex를 사용하면, 내 컴퓨터 사양에 맞는 Gemma 4 모델을 다운로드하고 채팅 UI까지 디자인해줘요. AI가 AI를 설치해주는 시대. 코딩을 몰라도, 터미널이 낯설어도 상관없어요.

방법은 간단해요. Codex를 켜고, ChatGPT 채팅 화면을 스크린 캡처해서 "이런 느낌으로 만들어줘"라고 프롬프트에 첨부하면 돼요.

Codex가 이걸 받으면 알아서 구현 계획을 세워요. 어떤 순서로 뭘 설치하고, UI를 어떻게 구성할지 쭉 나열하더라고요.

계획을 세운 뒤에는 알아서 모든 작업을 마쳐요. 모델 다운로드부터 의존성 설치, 채팅 인터페이스 빌드까지. 사람이 할 일은 기다리는 것뿐이에요.

Codex가 알려준 localhost 주소를 웹 브라우저로 열면, 이런 채팅 UI가 나와요. (디자인은 사용자마다 다르게 나올 수 있어요.)

ChatGPT를 쓰듯 궁금한 점을 묻고, 답변을 받을 수 있어요. 근데 이건 OpenAI 서버가 아니라 내 컴퓨터에서 돌아가는 거예요.

내 컴퓨터 위의 AI는 누구의 눈치도 안 본다

정리하면 이래요. ChatGPT는 OpenAI가 출시한 AI 서비스의 이름이고, 그 안에서 GPT-5.4, GPT-5.3 같은 AI 모델이 돌아가잖아요. 오늘 Codex로 만든 건 바로 이 "AI 채팅 서비스"예요. 다만 기반 모델이 GPT가 아니라 구글의 Gemma라는 차이만 있을 뿐이에요.

오픈소스 모델의 진짜 의의는 따로 있어요. ChatGPT 서버가 다운돼도, 구독료가 올라도, 서비스 약관이 바뀌어도 영향을 안 받는 나만의 AI를 가질 수 있다는 거예요. 고성능 Gemma 4를 사용하려면 그만큼 컴퓨터 사양이 좋아야 하긴 하지만, 성능이 된다면 설치해보는 걸 추천해요. ChatGPT 무료 버전보다 성능이 좋거든요.

거기서 끝이 아니에요. 이 채팅 서비스에 원하는 기능을 직접 덧붙일 수 있어요. 내 직업과 관심사를 미리 입력해두면 매번 나를 기억하는 AI가 되고, 대화 히스토리가 자동으로 아카이브되게 만들 수도 있죠. 이 작업도 Codex에게 맡기면 돼요. "채팅 히스토리를 저장하는 기능을 추가해줘"라고 입력하면 끝. Codex는 ChatGPT 계정만 있으면 어느 정도 무료로 사용할 수 있으니, 한번 직접 해보시는 걸요.

유료 AI 서비스에 종속되지 않는 나만의 AI. 1년 전만 해도 엔지니어나 하는 일이었는데, 이제는 프롬프트 한 줄로 가능해졌어요.