대규모 언어 모델(LLM)의 확산은 사회적 조건에 따라 인지적 의존을 급격히 키우고, 그 상태를 되돌리기 어렵게 만들 수 있다. 리카르드 솔레(Ricard Solé) 등이 공개한 연구는 LLM 사용을 ‘인지 바이러스’의 확산에 빗대고, 이용자가 도구를 쓰면서도 스스로 판단하는 상태에서 도구에 지속적으로 의존하는 상태로 옮겨가는 과정을 수학적으로 그렸다. 핵심은 AI를 쓰느냐 마느냐가 아니다. 도구가 사라진 뒤에도 읽고 쓰고 검증하는 능력이 남는 사용법인지, 그 능력을 대신하는 사용법인지에 따라 같은 보급률도 전혀 다른 결과를 낳는다는 주장이다.
핵심 요약
- 연구진은 LLM 이용자를 비사용·자율적 사용·지속적 의존의 세 상태로 나눠, 사회적 확산과 독립적 사고를 지탱하는 관행이 맞물리면 급격한 전환이 생길 수 있다고 설명한다.
- 모형에서는 의존적 사용이 자리 잡은 뒤 확산 압력을 낮추더라도 이전 상태로 바로 돌아가지 않아, 예방보다 회복에 더 큰 변화가 필요하다.
- 연구진이 제시한 인지 능력 하락 수치는 도구 없이 과제를 수행할 능력이 의존에 따라 낮아진다는 예시 가정에서 나온 것으로, LLM 사용 자체의 필연적 결과를 뜻하지 않는다.
- 연구진이 말하는 ‘인지 면역’은 AI를 피하는 일이 아니라 독립적인 연습과 검증을 유지하고, 의존에서 자율적 사용으로 돌아올 길을 만드는 일이다.
- 해커 뉴스 토론에서는 ‘바이러스’라는 표현이 지나치게 넓고 자극적이라는 비판과, 생산성 향상 뒤에 남는 능력을 따져야 한다는 의견이 맞섰다.
언어가 퍼지는 방식에서 출발한 비유
연구진은 언어가 개인의 머릿속에만 머물지 않는다는 데서 논의를 시작한다. 단어와 표현은 다른 사람에게 배워 퍼지고, 쓰이는 동안 변하며, 책과 제도 같은 외부 구조에 남는다. 이처럼 생각이 사람과 도구에 걸쳐 이루어진다는 관점을 확장된 마음(인지 과정이 뇌 밖의 도구와 환경에도 걸쳐 있다는 관점)이라 부른다. 연구진이 ‘바이러스’라는 말을 꺼낸 이유도 무언가를 악성으로 규정하기보다, 사용 방식이 사람 사이를 옮겨 다니며 다시 퍼질 조건을 만든다는 데 있다.
기존의 의사소통 기술도 사고와 표현을 바꿔 왔다. 논문은 인터넷과 메신저가 말과 글의 경계를 흐렸고, 소셜미디어가 무엇이 만들어지고 선택되어 유통되는지까지 재구성했다고 설명한다. 다만 LLM은 인간의 표현을 전달하거나 형식을 제한하는 데 그치지 않고, 문장을 만들고 고치며 평가하는 과정에 직접 참여한다. 연구진이 묻는 것은 글쓰기 양식의 변화만이 아니라 언어·인지·기술이 함께 작동하는 방식의 변화다.
연구진은 컴퓨터 바이러스와 프로그래밍 언어도 비교 대상으로 든다. 전자는 숙주인 시스템을 이용해 퍼지고, 후자는 사람과 기계가 협력하는 방식을 바꾼다. LLM에는 두 모습이 함께 있지만, 논문의 모형이 실제로 추적하는 것은 모델 자체의 복제나 진화가 아니다. 사람들의 LLM 사용 상태가 어떻게 바뀌는지를 따로 떼어 살핀다는 점을 놓치면 비유의 범위를 지나치게 넓히게 된다.
사용하지 않음, 자율적 사용, 지속적 의존
모형은 사람들을 세 집단으로 구분한다. U는 LLM을 거의 쓰지 않거나 약하게 연결된 사람, C는 정기적으로 쓰되 읽기·쓰기·추론·검증 능력과 다른 정보원을 유지하는 사람이다. D는 인지 작업을 지속적으로 LLM에 맡겨 도구가 사실상 주된 작업·정보 접근 창구가 된 사람을 뜻한다. 이 구분에서는 LLM을 정기적으로 쓴다는 사실만으로 의존 상태가 되지 않는다.
상태를 바꾸는 경로에도 각각 이름을 붙였다. 사회적·제도적 노출에 따른 사용 확산을 λ, 정기 사용에서 벗어나는 비율을 ρ, 정기 사용이 의존으로 바뀌는 비율을 μ, 의존에서 자율적 사용으로 회복하는 비율을 σ로 표현한다. 이는 사람마다 하나의 심리적 원인이 작동한다는 뜻이 아니라, 여러 행동을 집단 수준에서 묶어 나타낸 값이다. 모형은 의존이 비사용에서 곧바로 생기기보다 정기적인 사용을 거쳐 형성된다고 가정한다.
여기에 κ라는 항이 독립적인 사고를 지탱하는 집단의 힘을 나타낸다. 학교나 직장, 동료 집단에서 스스로 읽고 따져 보는 일이 흔하고 보상받는다면 개인도 그 관행을 유지하기 쉽다는 설정이다. 반대로 그런 사람이 줄면 자율적 사용을 떠받치던 환경도 약해질 수 있다. 연구진은 이 상호작용을 넣어 LLM 사용의 확산과 독립적인 인지 활동의 유지가 서로 어떤 영향을 주는지 살핀다.
도구가 발판이 될 때와 대체물이 될 때
논문은 인지적 외주화(기억·계산·판단 같은 작업을 외부 도구에 맡기는 일)를 그 자체로 해롭다고 보지 않는다. 읽기와 쓰기 역시 기억을 바깥에 남기면서 새로운 사고 방식을 가능하게 한 사례다. 관건은 도구가 사용자의 능력을 키우는 발판이 되는지, 그 능력을 사용할 기회를 없애는 대체물이 되는지다. 도구를 쓰는 동안의 결과물만 비교해서는 두 경우를 구별하기 어렵다.
예컨대 LLM의 설명을 다시 구성하고 반박하며 확인하는 이용자는 도움을 받으면서도 스스로 사고한다. 반면 요약·평가·작성 전부를 넘기고 결과만 받는 방식은 그 작업에 필요한 인지 활동을 생략한다. 연구진은 둘을 나누는 질문으로 도구를 치웠을 때 무엇을 할 수 있는지를 제시한다. 그래서 모형의 C에서 D로 가는 이동은 단순한 사용량 증가보다, 보완적 이용이 지속적인 대체로 바뀌는 과정을 가리킨다.
이 구분은 개인에게 유용한 사용법이 집단 전체에도 같은 결과를 준다는 생각을 경계하게 한다. 한 사람이 시간을 아끼는 동안 다른 사람도 같은 작업을 맡기고, 독립적으로 검토하는 관행이 줄어든다면 사용 환경 자체가 달라질 수 있다. 반대로 도구를 쓰더라도 검증과 독립적인 연습이 계속 보상받는다면 높은 사용률과 자율성이 공존할 여지도 있다. 연구진이 보려는 것은 바로 이 사회적 조건의 차이다.
0.50에 넘어가고 0.40에서 돌아오는 모형
이 모형의 핵심 결과는 확산 압력이 커지는 길과 줄어드는 길이 같지 않다는 점이다. 독립적 사고를 지탱하는 집단의 힘 κ가 사용 중단 비율 ρ보다 클 때, LLM과 거의 연결되지 않은 상태와 연결된 상태가 모두 안정적인 구간이 나타난다. 어느 상태에 머무는지는 현재 확산 압력뿐 아니라 그곳에 이르기까지의 경로에도 좌우된다. 연구진은 이를 이력현상(변화를 늘릴 때와 되돌릴 때 전환점이 다른 현상)으로 설명한다.
논문 그림에 쓰인 예시 값에서는 λ가 0.50에 이를 때 비연결 상태가 안정성을 잃고 연결된 상태로 급격히 옮겨간다. 그러나 연결된 상태에서 λ를 다시 낮출 때는 0.50 아래로 내려가는 것만으로 이전 상태가 회복되지 않는다. λ가 0.40까지 낮아져야 그 상태가 사라지는 것이 모형의 결과다. 0.40과 0.50은 현실에서 관측한 보급률이나 위험 기준선이 아니라, 연구진이 고른 모형 매개변수에서 나온 값이다.
이 차이가 논문에서 말하는 기술적 고착이다. 확산을 막기에 충분했던 조건과 이미 확산한 뒤 되돌리기에 필요한 조건이 다르다는 뜻이다. 다만 전환점이 수학적으로 날카롭다는 결과가 현실에서도 변화가 며칠 또는 몇 년 만에 일어날지를 알려 주지는 않는다. 연구진은 실제 사회의 연결망이 균일하지 않고 사람과 기관의 관계도 복잡하므로, 이 모형을 그런 차이를 더할 출발점으로 둔다.
인지 능력 하락 수치는 어떻게 나왔나
연구진은 각 상태에 ‘외부 도움을 제거했을 때 인간에게 남는 능력’이라는 좁은 의미의 인지 능력 값을 부여했다. 예시에서는 U에 1, C에 0.5, D에 0.1을 준다. 이 순서는 의존적인 사용이 독립적인 수행 능력을 낮춘다는 상황을 보여 주기 위한 가정이다. LLM을 사용하면 누구나 해당 비율만큼 능력이 떨어진다는 측정 결과가 아니다.
그 가정을 넣으면 앞서 나타난 집단 상태의 급격한 전환이 평균 인지 능력에도 그대로 반영된다. 논문의 예시에서는 확산 압력이 상승하며 첫 전환점을 넘을 때 평균값이 1에서 약 0.425로 떨어진다. 반대 방향으로는 연결된 상태가 더 오래 유지되다가, 낮은 전환점에서 약 0.617을 거쳐 다시 1로 돌아간다. 연구진은 사용 방식이 능력을 키우는 발판이라면 연결된 사람의 능력이 그대로이거나 오히려 높아질 수도 있다고 명시한다.
따라서 급격한 집단 전환을 보여 주는 수학적 구조와, 그 전환을 ‘능력 손실’로 읽게 하는 가정은 구분해야 한다. 논문에서 μ와 σ는 두 전환점의 위치를 바꾸지 않지만, 연결된 이용자 가운데 누가 의존 상태에 있는지를 바꾼다. 같은 수준으로 LLM이 퍼졌더라도 자율적 사용자가 많은지, 의존에서 돌아올 수 있는지에 따라 인지 능력의 결과가 달라지는 셈이다.
접촉 차단이 아닌 ‘인지 면역’
연구진이 제안하는 인지 면역은 LLM에 닿지 않도록 막는 방역이 아니다. 해로운 대체적 사용이 확산하는 압력을 줄이면서, 이용자가 독립적인 작업으로 돌아갈 수 있는 경로를 유지하는 일이다. 모형에서는 확산 압력 λ를 낮추거나 정기 사용에서 벗어나는 비율 ρ를 높이면 집단 전환의 조건이 달라진다. 특히 이미 고착된 상태를 되돌리려면 처음 확산을 막을 때보다 λ를 더 낮춰야 한다.
독립적 사고를 서로 북돋는 κ를 높이는 방법은 양면적이다. 자율적인 사람이 많은 집단에서는 의존적 사용의 침투에 더 잘 버티지만, 이미 그 비율이 줄어든 뒤에는 되돌아오기 어려운 구간도 넓어질 수 있다. 연구진은 집단 규범만 강화하기보다 개인이 실제로 도구에서 떨어져 작업할 수 있는 경로를 함께 마련해야 한다고 본다. 도움 없이 수행하는 과제, 의도적인 사용 중단 기간, 비LLM 대안과 기존 기술의 유지가 그 예다.
다른 축은 정기 사용이 의존으로 바뀌는 비율 μ를 낮추고, 의존에서 자율적 사용으로 돌아오는 비율 σ를 높이는 것이다. 연구진은 결과 검증, 사고 과정을 남기는 과제 설계, 주기적인 무보조 연습을 제시한다. 이는 LLM 사용 자체를 크게 줄이지 않아도 의존 집단의 비중을 낮출 수 있다는 접근이다. 논문이 겨냥하는 대상은 높은 보급률이 아니라, 사용자가 과제를 판단하고 다시 수행할 능력을 잃는 방식의 결합이다.
더 능동적인 도구, 더 필요한 독립적 판단
논문은 LLM이 지식을 찾는 외부의 ‘피질’처럼 쓰이면서도 해석과 최종 판단은 사람에게 남길 가능성을 열어 둔다. 동시에 학교와 일터에서 성공한 사용법이 복제되고, 그 과정에서 직접 읽고 쓰고 확인하는 관행이 줄어들면 집단 차원의 되먹임이 생길 수 있다고 본다. 그래서 연구진은 개인별 생산성만으로 기술의 효과를 평가하기 어렵다고 주장한다. 무엇이 사회적으로 연습되고 보상받는지도 함께 보아야 한다는 것이다.
연구진이 인용한 연구들은 사용 방식에 따라 결과가 갈릴 수 있음을 뒷받침한다. 먼저 생각한 뒤 챗GPT(ChatGPT)를 쓰도록 안내한 경우가 제한 없이 사용한 경우보다 이후 독립적인 창의성에서 더 나은 결과를 보였다는 연구를 소개한다. 도구를 쓸 때의 수행은 좋아져도 도움 없이 다시 과제를 할 때의 수행은 낮아질 수 있으며, 교육적 제약이 그 차이를 줄일 수 있다는 연구도 든다. 논문의 결론은 AI의 도움을 없애자는 것이 아니라, 도움을 받는 과정에 사용자의 사고가 남도록 설계하자는 데 있다.
커뮤니티 의견
한 사용자는 ‘바이러스’라는 이름이 생각을 나누는 거의 모든 활동에 붙을 수 있어 지나치게 자극적이라고 했다. 친구의 책 추천부터 교육과 마케팅까지 다른 사람의 생각을 받아 퍼뜨리는 일이며, 유행하는 생각을 감염에 빗대는 것만으로 LLM만의 특징이 드러나지는 않는다는 주장이다. 답글에서는 어떤 생각을 질병으로 부르는 표현 자체가 경계심을 부추긴다는 비판도 나왔다.
한 사용자는 사람끼리도 팀이나 부부 관계에서 인지적 부담을 나누지만, LLM은 상대가 맡은 일을 꾸준히 기억하고 개선한다는 기대를 충족하지 못할 수 있다고 했다. 믿고 일을 넘긴 사이 모델이 바뀌거나 제공 방식이 달라지면, 사용자는 기술을 잃은 채 작업까지 실패할 수 있다는 우려다. 이 사용자는 과제마다 들쭉날쭉한 성능을 안정적인 협력 관계보다 불규칙한 보상에 가깝게 보았다.
한 사용자는 글쓰기에 의존하면 기억력을 잃을 것이라는 소크라테스의 오래된 우려를 떠올렸다. 이에 다른 사용자는 생각을 보존하려고 글을 쓰는 것과 생각하는 과정 자체를 건너뛰고 답을 기다리는 일은 다르다고 반박했다. 또 다른 답글은 기록 덕분에 암기력은 덜 쓰게 됐을 수 있지만, 그 교환은 충분히 가치 있다고 봤다.
‘바이러스’라는 표현이 생산적인 자동화까지 죄악시한다는 반발도 나왔다. 한 사용자는 LLM을 낮춰 부르며 재앙처럼 논하는 태도가 후대에는 우스워 보일 수 있다고 비꼬았다. 답글에서는 단순한 기술적 이름을 붙였다고 해서 실제로 나타나는 복잡한 효과까지 사라지는 것은 아니라며 그 축소를 경계했다.
한 사용자는 ‘인지 부채’에 관심을 돌렸다. 자신이 쓰는 시스템과 기반 시설의 주요 부분을 더는 이해하지 못하게 되는 데 어떤 비용이 따르는지 수량화해야, 그 비용에 대응할 방법도 논할 수 있다는 제안이다. 이는 개인의 기억력뿐 아니라 결과물을 관리하고 고칠 능력까지 살펴야 한다는 문제 제기로 읽힌다.
다른 사용자는 인기 있는 것이라면 무엇이든 바이러스로 부를 수 있다며, 냉장고의 보급에도 같은 이름을 붙일 수 있지 않느냐고 물었다. 이 의견의 초점은 LLM에 호의적인지 여부보다 비유의 설명력이다. ‘퍼진다’는 말에서 더 나아가 무엇이 어떤 경로로 바뀌는지를 보여 주어야 한다는 요구다.
한 사용자는 LLM을 쓰며 일부 프로그래밍 기술이 약해졌을지 몰라도, 생산성이 높아지고 다룰 수 있는 소프트웨어의 범위가 넓어졌다고 했다. 글쓰기가 구술 기억을, 계산기가 암산을 바꿨더라도 전체적으로 손해라고 보기는 어렵다는 비교다. 답글에서도 LLM 덕분에 프로그래밍을 더 배우고 이전에는 시작하지 않았을 작업에 뛰어들었다는 경험이 제시됐다.
마지막으로 한 사용자는 인지적 외주화가 끝없이 이어져 인간이 어리석어질 것이라는 주장을 지나친 도약으로 봤다. 반면 답글에서는 이미 많은 생각을 LLM에 넘기고 있으며, 제공자가 서비스를 끊거나 결과를 바꿀 수 있다는 점에서 의존이 위험하다고 했다. 두 의견은 ‘도구 없이 남는 능력’뿐 아니라 도구에 접근하고 결과를 신뢰할 수 있는 조건도 중요하다는 쟁점을 드러낸다.
핵심 통찰
이 연구의 강점은 LLM 사용자를 한 덩어리로 세지 않고, 독립적으로 판단하며 쓰는 사람과 판단을 맡겨 버린 사람을 나눠 본 데 있다. 다만 집단이 급격히 바뀐다는 모형의 결과와 인지 능력이 하락한다는 예시 가정은 같은 사실이 아니다. 앞으로 살필 것은 사용률 하나가 아니라 도구 없이 다시 수행하는 능력, 결과를 검증하는 관행, 의존에서 돌아올 경로가 함께 유지되는지다. 토론이 보여 주듯 생산성의 이익도 실재하는 만큼, 좋은 설계의 기준은 AI 사용을 줄이는 일이 아니라 그 이익을 얻은 뒤에도 사람에게 판단력이 남는지에 있어야 한다.
원본: Large-Language Models as a Cognitive Virus
토론: Hacker News