AI가 아이들을 복제하고 있다

지난 1월 28일 미국 비영리 공익방송 NPR이 텍사스주 포트워스 사우스웨스트고등학교 영어 교사인 체나 본드의 이야기를 보도했다. 그는 어느 수업에서 학생들에게 인공지능(AI)을 써보게 했다. 시를 읽은 뒤 자기 생각을 한 문장으로 써내는 과제였다. 돌아온 결과물에는 학생 각자의 목소리가 없었다. AI가 써준 문장을 그대로 옮겼을 뿐, 텍스트와 스스로 씨름한 흔적이 없었다. 체나 본드는 그날 이후 교실에서 컴퓨터를 치웠다. 지금 그의 학생들은 모든 것을 손으로 쓴다. 그가 원하는 것은 하나다. 학생들이 이 수업을 마칠 때 스스로 생각하고 쓸 줄 아는 사람이 되는 것. 이것은 한 교사의 유별난 고집이 아니다. AI가 교실에서 무엇을 빼앗아 가고 있는지를 보여주는 현장의 목격담이다.

이 장면이 낯설지 않다면 이유가 있다. 지금 전 세계 교실에서 똑같은 일이 벌어지고 있기 때문이다. 아이들은 AI에게 묻고, AI는 답한다. 그 답은 매끄럽고 논리적이다. 아이는 그 답이 좋다고 느끼고, 제출한다. 그런데 이상한 일이 생겼다. 그 '좋은 답'이 옆 반 아이의 답과, 다른 학교 아이의 답과, 다른 나라 아이의 답과 놀라울 만큼 비슷하다. 아이들이 서로 베낀 것이 아니다. 같은 AI에게 물었을 뿐이다.

미국 남캘리포니아대학교 컴퓨터과학과 연구팀은 올해 3월 11일 발표한 논문 '대형 언어 모델이 인간의 표현과 사고에 미치는 동질화 효과(The Homogenizing Effect of Large Language Models on Human Expression and Thought)'에서 이 현상을 정면으로 다뤘다. 연구팀이 제시한 '동질화 효과'는 결국 '인지 동질화'로 해석할 수 있다. 논문의 결론은 명확하다. 사람마다 글을 쓰고 추론하고 세상을 바라보는 방식은 다르다. 그런데 그 차이들이 같은 AI를 거치는 순간 각자의 언어 스타일이나 관점, 추론 방식이 하나의 표준으로 수렴된다. 더 주목할 것은 AI를 직접 쓰지 않는 사람도 이 흐름에서 자유롭지 않다는 점이다. 주변 사람들이 특정 방식으로 생각하고 말하기 시작하면, 다르게 생각하는 사람은 자신도 모르게 그에 맞춰야 한다는 압력을 느낀다. 그것이 더 신뢰할 만하고 사회적으로 수용 가능한 방식처럼 보이기 때문이다.

인지 동질화는 아이를 나쁘게 만들지 않는다. 오히려 반대다. AI를 사용한 아이의 글은 더 매끄럽고, 더 논리적이고, 더 잘 읽힌다. 문제는 그 글이 더는 그 아이의 글이 아니라는 점이다. 스스로 끙끙대며 논리를 세우고, 엉뚱한 방향으로 생각하다 다시 돌아오고, 틀린 결론을 내렸다가 고치는 그 과정이 통째로 사라진다. 바로 그 과정이 아이만의 사고가 만들어지는 자리인데, AI가 그 자리를 조용히 차지해버린 것이다. 논문은 사용자들이 스스로 답을 만드는 대신 AI가 제안하는 흐름에 기대어 충분히 좋아 보이는 선택지를 고르는 경향이 있다고 지적한다. 이것은 단순히 도구 사용이 편리해진 문제가 아니다. 생각의 초안을 누가 쥐고 있느냐가 바뀌는 변화다.
아이는 이 과정을 전혀 눈치채지 못한다. AI의 답이 좋다고 느끼는 순간 그 답이 자신의 것이라고 믿는다. 그런데 AI는 훈련 데이터에 가장 많이 반영된 방식, 즉 영어권·서구·고소득·고학력 남성 중심의 사고 패턴을 반복해 아이에게 되먹임 한다. 논문이 지적하듯 직관적 추론, 문화적으로 다른 맥락의 논리, 비주류의 상상력은 AI의 언어 안에서 점점 설 자리를 잃는다. 아이가 AI를 통해 익히는 '올바른 생각의 방법'은 사실 AI가 선택한 하나의 편향된 표준이다. 한편 논문이 인용한 별도의 신경인지과학 연구에 따르면, AI의 도움을 받아 쓴 글은 혼자 쓴 글보다 뇌가 덜 활성화되고, 기억 회상이 저하되며, 자신이 쓴 글을 자기 것으로 느끼는 감각도 약해진다.

논문은 여기서 한 걸음 더 나아간다. 개인이 AI를 쓸 때는 아이디어가 더 풍성해 보인다. 그러나 집단 전체가 같은 AI를 쓰면, AI 없이 각자의 능력을 합쳤을 때보다 아이디어의 수와 창의성이 오히려 줄어든다. 한 교실 서른 명이 같은 AI로 글을 쓰면, 서른 개의 목소리 대신 하나의 목소리가 서른 번 반복된다. 그 교실이 수백만 개가 되면, 인류가 함께 키워온 인지적 다양성이 조금씩 사라진다. 이것은 교육만의 문제가 아니다. 우리가 어떤 사회를 물려줄 것인가의 문제다.

그렇다면 부모는 무엇을 해야 하는가.

첫째, 아이의 첫 문장을 지켜라. 글쓰기나 과제를 시작할 때 AI에게 먼저 묻게 하지 마라. 아이가 자신의 언어로 먼저 쓰게 하라. 엉성해도 좋고, 비논리적이어도 좋다. 그 투박한 첫 문장이 아이만의 사고가 시작되는 자리다. AI는 초고를 다듬는 단계에서만 쓰게 하라. 순서가 바뀌는 순간, 아이의 생각은 AI의 구조를 따라가게 된다.

둘째, AI의 답을 반박하게 하라. AI의 답을 받은 뒤 "이 답이 틀렸다면 어떤 근거를 댈 수 있을까?"라고 물어보게 하라. AI가 내놓지 않은 반대 관점, 빠진 맥락, 다른 시각을 스스로 찾아보게 하는 것이다. AI의 답을 결론이 아니라 토론의 출발점으로 다루는 습관이, 아이의 사고가 AI의 패턴에 수렴되는 것을 막는 가장 실질적인 방법이다.
셋째, 아이의 '이상한 생각'을 교정하지 마라. 아이가 주류의 논리와 다른 방향으로 생각하거나 엉뚱한 연결 고리를 만들어낼 때 서두르지 마라. AI가 충분히 좋아 보이는 답을 고르는 방향으로 설계되어 있는 한, 아이의 낯선 질문과 비주류적 직관은 AI가 쉽게 내놓지 못하는 사고의 영역이다.

지금 이 순간에도 수십억 명이 같은 AI에게 같은 방식으로 묻고 있다. 그 속에서 아이들은 조금씩, 그러나 돌이키기 어려운 속도로 서로 닮아가고 있다. 인지 동질화는 어느 날 갑자기 완성되지 않는다. 매일의 과제 한 장, 질문 한 줄이 쌓여 아이의 사고를 AI의 언어로 덧칠한다. 우리가 경계해야 할 것은 아이가 AI를 쓰는 행위 자체가 아니다. 아이의 첫 문장이, 낯선 질문이, 이상한 연결 고리가 AI의 매끄러운 답 앞에서 조용히 사라지는 것이다. 모두가 같은 답을 내놓는 세상에서 가장 위험한 것은 틀린 답이 아니라 사라진 다름이다. 그 다름을 지키지 않으면 우리는 아이에게서 아이를 잃는다.

최홍규 미디어학 박사 / EBS 연구위원


박희준 글로벌이코노믹 기자 jacklondon@g-enews.com