유튜브를 보다가 문득 이런 생각이 든 적이 있습니다. 며칠째 비슷한 영상만 뜨는데, 제가 원해서 찾아보는 건지 아니면 알고리즘이 보여주는 걸 그냥 받아먹고 있는 건지 구분이 안 됐습니다. 그때 처음 접한 게 '죽은 인터넷 이론'이었습니다. 인터넷을 가득 채운 콘텐츠의 상당수가 실제 사람이 아닌 봇과 생성형 AI가 만들어낸 것이라는 주장인데, 직접 파고들수록 마냥 음모론으로 넘기기가 어려웠습니다.
알고리즘이 만든 가두리 양식장 — 필터 버블과 감시 자본주의
제가 처음 이 문제를 체감한 건 꽤 사소한 순간이었습니다. 지인과 같은 검색어를 구글에 쳐봤는데, 상위에 뜨는 결과가 서로 달랐습니다. 알고리즘이 저의 과거 검색 기록과 위치 정보를 반영해 이미 다른 결과를 보여주고 있었던 겁니다. 그게 편리함인지 통제인지, 솔직히 그 순간엔 판단이 서지 않았습니다.
이 현상을 설명하는 개념이 바로 필터 버블(Filter Bubble)입니다. 여기서 필터 버블이란 알고리즘이 이용자의 성향에 맞는 정보만 골라 보여주면서, 다른 관점이나 새로운 정보는 자연스럽게 차단되는 현상을 의미합니다. 쉽게 말해 나도 모르게 내 생각과 비슷한 정보만 반복적으로 소비하는 구조에 갇히게 되는 겁니다. 낚시를 즐기는 사람에게 골프 영상이 뜨지 않고, 특정 정치 성향의 사람에게 반대 진영의 콘텐츠가 노출되지 않는 것처럼요.
여기서 더 나아가면 반향실 효과(Echo Chamber)와 연결됩니다. 반향실 효과란 같은 의견을 가진 사람들끼리만 정보를 공유하고 강화하면서, 그 안의 목소리가 마치 사회 전체의 여론인 것처럼 증폭되는 현상입니다. 제 경험상 이건 단순히 불편한 수준이 아닙니다. 어느 순간 제가 접하는 '세상'이 실제 세상이 아닐 수 있다는 생각이 들었을 때, 꽤 오싹했습니다.
플랫폼 기업들은 이 개인화 서비스를 제공하기 위해 이용자의 검색 기록, 시청 기록, 위치 정보 등을 지속적으로 수집해왔습니다. 이를 설명하는 개념이 감시 자본주의(Surveillance Capitalism)입니다. 감시 자본주의란 사용자의 행동 데이터를 수집·분석해 광고 수익과 행동 예측에 활용하는 경제 구조를 가리킵니다. 쇼샤나 주보프 하버드대 교수가 체계적으로 정리한 개념으로, 단순한 정보 수집을 넘어 인간의 행동 자체가 상품이 되는 구조를 비판합니다(출처: Shoshana Zuboff 공식 사이트).
문제는 이 수집이 적발돼도 대부분 벌금이나 데이터 폐기 수준에서 마무리된다는 점입니다. 이미 학습을 마친 AI 모델 자체를 폐기한 사례는 거의 찾아보기 어렵고, 그 모델이 내부에서 어떻게 작동하는지도 외부에서 확인하기 힘든 블랙박스 구조를 가지고 있습니다. 감시의 주체가 정부에서 기업으로 바뀌었을 뿐, 알고리즘을 통해 사람들의 행동이 끊임없이 분석되고 있는 겁니다.
- 필터 버블: 알고리즘이 성향에 맞는 정보만 선별해 보여주는 구조
- 반향실 효과: 비슷한 의견끼리만 순환하며 여론이 왜곡되는 현상
- 감시 자본주의: 사용자 행동 데이터를 수익화하는 플랫폼 경제 구조
- 블랙박스 AI: 내부 작동 원리를 외부에서 검증하기 어려운 AI 모델 특성
생성형 AI가 만들어가는 여론 조작의 현실
어느 날 커뮤니티에서 특정 이슈에 대한 댓글을 읽다가 이상한 느낌이 들었습니다. 댓글 수십 개가 비슷한 어투로 같은 결론을 반복하고 있었는데, 각 계정의 가입일이 모두 비슷했습니다. 제 경험상 이건 사람이 조직적으로 움직인 게 아니라, 자동화 봇이 대량으로 댓글을 생성했을 가능성이 훨씬 높아 보였습니다.
초기 생성형 AI는 어색한 문장이나 이상한 이미지를 자주 만들어내서 구별이 쉬웠습니다. 하지만 지금은 다릅니다. 직접 써봤는데, 솔직히 이건 예상 밖이었습니다. 텍스트는 물론 이미지와 영상까지 사람이 만든 것과 구별하기가 점점 더 어려워지고 있습니다. 특히 딥페이크(Deepfake) 기술의 발전이 이 문제를 가속화하고 있습니다. 딥페이크란 AI가 실존 인물의 얼굴이나 목소리를 합성해 실제처럼 보이는 가짜 콘텐츠를 만들어내는 기술을 의미합니다.
더 소름 돋는 부분은 따로 있습니다. 이제는 콘텐츠만 AI가 만드는 게 아닙니다. 그 게시물의 댓글을 다는 주체도, 공감 버튼을 누르는 주체도 봇으로 채워지고 있습니다. 실제 사람이 거의 개입하지 않았는데도 게시물이 활발하게 퍼지고, 거대한 여론이 형성됩니다. 과거엔 여론을 조작하려면 많은 사람과 비용이 필요했지만, 이제는 충분한 컴퓨팅 자원만 있으면 사실상 무한에 가까운 콘텐츠 물량 공세가 가능해졌습니다.
이 현상은 모델 붕괴(Model Collapse) 문제와도 맞닿아 있습니다. 모델 붕괴란 AI가 생성한 데이터를 다시 AI가 학습하는 과정이 반복되면서 오류가 계속 증폭되고, 결국 의미 없는 데이터가 무한히 생산되는 현상을 가리킵니다. 인터넷에 AI가 만든 콘텐츠가 넘쳐날수록, 다음 세대의 AI는 오염된 데이터로 학습하게 되고 정보의 질은 구조적으로 저하될 수밖에 없습니다. 코펜하겐 미래 연구 재단은 이 흐름이 지속될 경우 2030년에는 인터넷 콘텐츠의 99.9%가 봇에 의해 생성될 수도 있다고 전망했습니다(출처: Copenhagen Institute for Futures Studies).
제가 지금 이 글을 쓰는 시점에도, 제가 오늘 읽은 기사나 댓글 중 일부가 사람이 아닌 AI가 쓴 것일 수 있다는 생각을 완전히 지울 수가 없습니다. 그 불확실성 자체가 이미 죽은 인터넷의 일부라는 게, 생각할수록 묘하게 불편합니다.
자주 묻는 질문
Q. 죽은 인터넷 이론은 음모론인가요, 실제 근거가 있는 주장인가요?
A. 2022년 이전까지는 학계에서 음모론으로 취급하는 경우가 많았습니다. 하지만 챗GPT 같은 생성형 AI가 등장한 이후 상황이 달라졌습니다. 실제로 여러 인터넷 트래픽 조사에서 자동화 봇의 비중이 인간 활동량을 넘어섰다는 결과가 나오면서, 이 이론은 단순한 가설 이상의 의미를 갖게 됐습니다.
Q. 필터 버블이 실생활에서 어떻게 느껴지나요?
A. 제 경험상 가장 쉽게 느끼는 방법은 같은 검색어를 다른 사람과 동시에 쳐보는 겁니다. 구글이나 유튜브에서 나오는 결과가 서로 다를 때, 그게 필터 버블입니다. 알고리즘이 각자의 성향에 맞게 다른 정보를 보여주고 있는 거라서, 우리는 같은 인터넷을 쓰면서도 사실상 다른 세계를 보고 있는 셈입니다.
Q. AI가 쓴 댓글과 사람이 쓴 댓글을 구별할 수 있나요?
A. 솔직히 지금은 구별이 매우 어렵습니다. 초기엔 어색한 문체나 반복 패턴으로 어느 정도 걸러낼 수 있었는데, 생성형 AI의 수준이 올라오면서 그 기준이 흐려졌습니다. 계정 가입일이 몰려 있거나, 비슷한 어투의 댓글이 단시간에 집중되는 패턴을 의심해볼 수는 있지만, 완벽한 구별 수단은 아직 없는 상태입니다.
Q. 모델 붕괴가 왜 문제가 되나요?
A. AI가 인터넷에 올린 콘텐츠를 다시 AI가 학습 데이터로 쓰는 순환이 반복되면, 처음의 오류가 점점 증폭됩니다. 사람이 직접 생산한 고품질 정보는 줄어들고, AI가 AI를 학습하는 구조가 고착되면 정보의 신뢰도가 구조적으로 낮아질 수밖에 없습니다. 인터넷 전체의 정보 생태계가 오염되는 문제입니다.
결론
죽은 인터넷 이론을 처음 접했을 때는 '좀 과한 얘기 아닌가' 싶었습니다. 그런데 제 경험상, 파고들수록 이게 단순한 디지털 괴담이 아니라는 생각이 강해졌습니다. 알고리즘이 만든 필터 버블 안에서 비슷한 정보만 반복 소비하고, 거기에 AI가 생성한 콘텐츠와 댓글이 뒤섞이는 구조는 이미 진행 중입니다.
그렇다고 지금 당장 소셜 미디어를 전부 삭제하는 게 현실적인 해답이라고 보진 않습니다. 다만 제가 지금 보고 있는 정보가 알고리즘이 선별한 것이고, 내가 읽는 댓글이 사람이 쓴 것이 아닐 수 있다는 인식만큼은 계속 유지하는 게 중요하다고 생각합니다. 의심 없이 소비하느냐, 의식하면서 소비하느냐 — 그 차이가 지금 우리가 할 수 있는 가장 현실적인 대응입니다.