독일 법원이 구글에 던진 한 마디: 답을 만들었으면 책임도 져라

독일 뮌헨 법원이 구글한테 브레이크를 걸었어요. 구글 AI 오버뷰가 만든 허위 답변, 그거 구글 책임이라는 예비 판결이 나왔거든요.

지난번 메타 법정 패소에 이어서요. 두 사건이 묶이는 이유가 있어요. 빅테크들이 그동안 자기 입맛대로 휘둘러온 권리에 대고, 법원이 "그게 그렇게 쓰라고 준 권리가 아니다"라고 못을 박았다는 거죠.

별거 아닌 판결처럼 보일 수도 있어요. 근데 이게 흔들고 있는 건 인터넷 기업이 30년 가까이 깔고 앉아 있던 법적 토대거든요.

검색을 요약으로 바꾼 순간, 가두리가 시작됐다

구글이 검색을 AI 요약 형식으로 바꾸면서 욕을 많이 먹었어요. 우리가 알던 오픈 인터넷을 끝장내려 한다는 말까지 나왔고요.

이유는 단순해요. 원문을 만든 회사한테 링크를 보내주지 않으니까요. 사람을 자기네 안으로만 가둬요. 흔히 말하는 가두리 양식장이죠.

거기다 생성 AI 답변은 구조적으로 할루시네이션, 그러니까 거짓말을 꽤 자주 만들어내요. 본인들은 아니라고 하지만요. 더 문제는 우리 쪽이에요. 받은 답을 가지고 따로 팩트 체크를 할 생각을 안 하거나, 못 해요. 그동안 빅테크가 내놓는 결괏값을 그냥 믿게끔 '구조적으로' 훈련돼왔거든요. 솔직히 이 부분이 제일 무서운 대목이에요.

"링크 있으니 직접 확인하세요"가 안 통한 이유

그러다 사고가 터졌어요. 뮌헨에 있는 출판사 두 곳이, 구글 AI 오버뷰가 자기들을 사기·구독 함정과 연루된 업체처럼 묘사했다며 소송을 걸었어요.

독일 법원의 답은 명확했어요. 그런 잘못된 검색 결과, 구글이 배상하라는 거였죠. 니네가 만든 결과니까 니네가 책임지라는 얘기.

구글은 당연히 항변했어요. "링크가 있으니 사용자가 직접 확인할 수 있다"고요. 지난 수십 년간 인터넷 플랫폼한테 면죄부를 줬던 바로 그 논리예요. 그리고 이건 처음 막힌 게 아니에요. 올해 초 미국에서 메타와 유튜브가 소셜미디어 중독 설계로 배심원 평결에서 패소했잖아요. 기억나시죠? 그때도 다들 똑같이 말했어요. "우리는 그저 중개자일 뿐"이라고요. (똑같은 대본을 두 번째 읽는 기분.)

스스로 중개자이길 포기해놓고

원래는 이 논리가 먹혔어요. 플랫폼이 콘텐츠를 직접 만들지 않고 연결만 한다면, 그 안에서 벌어지는 일에 책임을 묻기는 어려우니까요. 인터넷 기업이 자유롭게 클 수 있었던 법적 토대가 정확히 이거였고요.

근데 문제가 있어요. 빅테크들이 이미 스스로 그 토대를 무너뜨리고 있다는 거예요. 알고리즘으로 노출을 설계하고, 이용자 클릭을 자사 안으로만 끌어모으고, AI로 직접 답변까지 생성해요. 요즘은 AI로 콘텐츠를 만들어서 체류 시간을 늘리는 방법도 테스트하고 있고요.

이미 중개자이길 스스로 포기한 거예요. 우연이 아니에요. 광고 수익 모델이 체류 시간을 끝까지 짜내라고 요구하니까 나온 구조적 귀결이죠. 그리고 중개자가 아니라면? 책임을 져야죠. 간단해요. 이번 독일 법원 예비 판결이 말하는 게 딱 그거고요.

... 절대로 구글 제미나이한테 몇 번이나 속아서 시간 낭비했기 때문에 하는 말은 아니에요(흥).