지식의 범람과 모델 붕괴: 인공지능 시대에 진짜 디지털 암흑기가 찾아오는 방식
재귀적으로 합성 데이터를 재학습하면서 정보의 분산이 축소되고 신호가 열화되는 '모델 붕괴'의 과정을 상징하는 아카이브 스틸컷. (Source: Bridge Archive) 1. 지식의 양적 팽창과 역설적인 망각 오늘날 인류는 역사상 그 어느 때보다 방대한 양의 텍스트를 생산하고 있습니다. 생성형 인공지능(AI)의 보급으로 인해 클릭 몇 번이면 수천 자 분량의 해설서와 분석 글이 쏟아져 나오는 시대가 되었습니다. 그러나 데이터의 총량이 폭발적으로 늘어나는 것과 반대로, 신뢰할 수 있는 사실과 지식의 깊이는 오히려 얕아지고 있다는 우려가 곳곳에서 제기되고 있습니다. 2015년, '인터넷의 아버지'로 불리는 빈트 서프(Vint Cerf, 전 Google 최고 인터넷 에반젤리스트)는 미국과학진흥협회(AAAS) 연례 학술대회 에서 현대 문명이 맞닥뜨릴 '디지털 암흑기(Digital Dark Age)' 를 공식적으로 경고한 바 있습니다. 당시 그의 지적은 오래된 하드웨어 마모나 특정 소프트웨어 포맷(파일 형식)의 단종으로 인해 과거의 디지털 기록을 읽을 수 없게 되는 물리적 위기에 초점이 맞춰져 있었습니다. 하지만 10년이 지난 지금, 인공지능이 주도하는 인터넷 환경에서 나타나는 디지털 암흑기는 전혀 다른 양상으로 전개되고 있습니다. 데이터가 사라져서 문제가 되는 것이 아니라, 출처와 근거를 알 수 없는 합성 데이터가 웹 전체를 뒤덮음으로써 진짜 사실을 찾을 수 없게 되는 의미론적 혼탁 이 시작된 것입니다. 2. 모델 붕괴(Model Collapse): 인공지능이 스스로의 데이터를 갉아먹는 과정 인공지능이 대량 생산하는 글들이 왜 위험한지, 그리고 그것이 지식 생태계에 어떤 영향을 미치는지에 대해 2024년 7월 세계적인 학술지 Nature(2024) 에 결정적인 연구 결과가 발표되었습니다. 옥스퍼드 대학교와 캠브리지 대학교의 일리아 슈마일로프(Ilia Shumailov) 연구팀이 게재한 논문( ...