딥페이크 삭제 요청 27배 폭증 — 나만의 AI 가짜뉴스 판별기 만드는 법

헤드라인

2024년 총선 때 딥페이크 영상 삭제 요청이 388건이었어요. 2025년 대선? 10,510건. 27배 폭증. 설문조사에서는 응답자의 41.9%가 "딥페이크 가짜뉴스를 판별하지 못한다"고 답했고요. 행정안전부와 국립과학수사연구원이 6·3 지방선거를 앞두고 정확도 92%의 AI 딥페이크 탐지 모델을 개발하기도 했어요.

숫자가 말해주잖아요. 가짜뉴스는 더 정교해지고, 더 빨라지고, 더 많아지고 있어요. 근데 보통 사람이 할 수 있는 건 뭘까요?

3년 전 프롬프트 vs 2026년 에이전트

Daily Prompt 뉴스레터 27회(2023년 6월 6일 발행)에서 '가짜뉴스 판별기' 프롬프트를 다룬 적이 있대요. 항간에 떠도는 가짜뉴스를 ChatGPT에 붙여넣고 진위를 판별하는 방식이었는데, 매번 프롬프트를 새로 입력해야 했어요. 일회성이었죠.

2026년 버전은 다릅니다. 커스텀 AI 에이전트를 한 번 만들어두면 상시 팩트 체커로 활용할 수 있어요. 3년 사이에 달라진 건, "매번 처음부터"가 "한 번 세팅하고 계속 쓰기"로 바뀌었다는 거예요. (솔직히 이 차이가 작아 보일 수 있는데, 실제로는 써보느냐 안 써보느냐의 차이를 만들어요.)

Gemini Gems로 팩트체커 만드는 법

Gemini Gems는 구글의 커스텀 AI 어시스턴트 기능이에요. ChatGPT의 GPTs와 비슷한 거죠. 만드는 과정은 간단합니다.

gemini.google.com에 접속해서, 좌측 메뉴에서 Gems를 열고, 새 Gem을 클릭해요. 이름을 '팩트체커'로 지정합니다. 요청사항에 아래 지침을 붙여넣은 후 저장하면 끝이에요.

핵심 지침의 구조는 5단계예요. 첫째, 핵심 주장 추출 — 메시지에서 사실로 주장하는 내용을 항목별로 정리합니다. 둘째, 출처 검증 — 각 주장의 원래 출처를 찾아요. "싱가포르 TV에서 발표했다" 같은 문구가 있으면, 해당 매체가 실제로 보도했는지 확인하는 거죠. 셋째, 과학적/사실적 근거 확인 — 각 주장이 WHO, 질병관리청, 과학 저널 같은 공신력 있는 기관의 발표와 일치하는지 검증합니다. 넷째, 판정 — 각 주장을 사실, 부분 사실, 거짓, 확인 불가로 분류해요. 다섯째, 반박 메시지 작성 — 거짓으로 판명된 내용에 대해, 원래 메시지를 보낸 사람에게 정중하지만 명확하게 보낼 수 있는 반박 메시지를 출처와 함께 작성합니다.

이미지가 포함된 경우 이미지의 출처와 맥락도 함께 분석하고, 확인이 어려운 부분은 솔직하게 "확인 불가"로 표시하도록 되어 있어요.

"오늘 밤 우주 광선이 온다" — 이런 게 걸린다

실제 테스트 사례가 있어요. "오늘 밤 12시 30분부터 3시 30분까지 핸드폰을 끄세요. 싱가포르 TV가 발표했다. 우주 광선으로부터 매우 높은 방사선에 노출됩니다." 이런 류의 메시지, 카톡 가족 단톡방에서 한 번쯤 보셨을 거예요.

이걸 팩트체커 Gem에 넣으면, 싱가포르 TV의 실제 보도 여부를 확인하고, NASA와 BBC가 관련 발표를 했는지 검증하고, 우주 광선의 과학적 근거를 따져서 판정을 내려줍니다. 근거 자료 링크까지 첨부되니까, 가족 단톡방에 "이거 가짜야"라고 말할 때 링크를 같이 보낼 수 있는 거죠.

이 Gem을 저장해두면, 의심스러운 뉴스를 전달받을 때마다 바로 붙여넣어서 검증할 수 있어요.

Gemini 말고 다른 도구도 된다

Gemini Gems 외에도 ChatGPT GPTs를 활용해서 위 지침을 그대로 넣어 나만의 GPT를 만들 수 있어요. Claude Projects에서도 프로젝트에 시스템 프롬프트를 설정해두면 동일한 팩트체커 역할을 하고요. 한 번 설정해두면 매번 프롬프트를 다시 쓸 필요 없이 바로 검증이 가능합니다.

Daily Prompt에서도 그동안 가짜뉴스와 AI 이미지 판별 문제를 여러 차례 다뤘어요. 215회에서 AI로 쓴 글 판별, 335회에서 구글 검색을 장악한 AI 이미지, 337회에서 모바일 AI 사진 편집과 진실 왜곡을 다뤘죠.

플라톤의 동굴 비유가 떠오른대요. 동굴 벽에 비친 그림자만 보던 사람들에게 실체를 보여줬을 때, 오히려 그림자가 진짜라고 믿는 사람들이 더 많았다는 이야기. 앞으로 그림자만 보고 진짜라고 믿는 사람이 더 늘어날 거예요. 그래서 AI로 어디까지 되는지 알아야 '의심'이라도 할 수 있다는 게 이 글의 요지예요.

388건에서 10,510건. 27배. 도구를 만들어두는 건 5분이면 되지만, 그 5분을 투자하지 않으면 27배로 늘어나는 가짜뉴스 앞에서 맨손인 거예요.