AI 교과서, 빛인가 함정인가

 

AI 교과서의 핵심은 개인 맞춤형 학습이다. 학생의 과거 학습 데이터와 수준에 따라 최적의 경로와 콘텐츠를 추천해준다니 겉보기에는 학습 효율을 극대화할 획기적 변화처럼 보인다. 하지만 이러한 알고리즘 기반 추천 시스템에는 함정이 있다. 미국 활동가 엘리 파리저가 “필터 버블(filter bubble)”로 경고한 바와 같이, 개인화 알고리즘은 사용자가 접하는 정보를 사용자의 취향에 맞춰 걸러내기 때문에 새로운 정보나 관점을 접할 기회를 제한한다​. 다시 말해 인터넷상에서 내가 좋아하고 익숙한 것들만 더 많이 보이고, 불편하거나 낯선 시각은 점점 차단되는 현상이 벌어진다​. 교육 현장에 도입될 AI 교과서도 예외가 아니다. 학생에게 “맞춤형”으로 최적화된 내용만 계속 제시된다면, 아이들은 자신이 이미 편안하게 받아들이는 방식과 범위의 지식에 갇혀 버릴 수 있다. 가령, 알고리즘이 각 학생의 관심 분야나 성향을 파악해 그에 맞는 예제와 추가 자료만 골라준다면, 학생은 자신이 선호하지 않거나 익숙지 않은 주제는 접해볼 기회를 잃게 된다. 이는 본래 교육이 추구해야 할 다양한 지식과 견문의 확대라는 목표와 배치된다. 한 연구에서는 추천 알고리즘이 새로운 경험을 제공하기보다는 사용자의 과거 성향을 강화함으로써 결과적으로 정보 다양성을 줄이고 사회적 동질화를 촉진할 수 있다고 지적한다​. 학교라는 공간이 여러 배경의 학생들이 다양한 생각을 부딪치며 견문을 넓히는 장이라는 점을 고려하면, 지나친 맞춤화는 아이들을 각자의 작은 울타리에 가두는 “필터 버블 교실”을 낳을 위험이 있다.

WEIRD 편향: 서구적 사고의 주입?

AI 교과서가 포용해야 할 또 하나의 다양성은 문화적 시각이다. 그런데 정작 이러한 AI의 머릿속이 얼마나 다양한 문화를 반영하는지는 의문이다. 2023년 발표된 국제 연구 *「Which Humans?」*에서는 ChatGPT를 비롯한 대규모 언어 모델들이 테스트에서 보여주는 심리 및 도덕적 성향이 특정 문화권에 치우쳐 있다는 사실을 밝혀냈다. 전 세계 여러 나라 사람들의 데이터를 비교한 결과, 현행 AI 언어 모델들의 반응 패턴은 서구권, 그것도 WEIRD로 불리는 (Western, Educated, Industrialized, Rich, Democratic) 사회 구성원의 성향과 상당히 유사하지만, WEIRD권에서 벗어난 문화일수록 유사도가 급격히 떨어졌다고 한다​

file-fd5aaonrdww3tynhadmj49

. 요약하면, AI의 사고방식은 ‘어느 인간’을 닮았느냐는 물음에, 현존하는 AI는 주로 서구식 사고를 닮았다는 답이 나온 셈이다.

이러한 편향은 한국을 비롯한 비서구권 학생들에게 미묘한 영향을 끼칠 수 있다. 국내 연구진의 최근 논문 *「인공지능과 인지적 다양성」*에서도 여러 생성형 AI 모델을 분석한 결과를 토대로 비슷한 우려를 제기한다. 많은 AI 언어 모델이 서구 중심의 데이터로 학습되어 있기 때문에, 비서구권 사용자의 가치관과 문화가 AI의 산출물에서 서구적으로 동화될 위험이 있다고 지적하는데​, 이는 교육 현장에서도 마찬가지다. 예를 들어 AI 교과서의 영어 지문이나 역사 해설이 세계적인 데이터를 학습한 AI에 의해 생성된다면, 그 내용과 관점이 은연중에 서구 문화의 틀을 따를 가능성이 높다. 학생들은 이를 통해 세계를 배운다지만, 정작 그 세계의 설명이 한쪽으로 기울어 있다면 다원적 관점을 잃어버리기 쉽다. 다양한 문화적 배경을 반영하지 못한 수업 자료는 소수자나 비주류 문화권의 관점을 주변화하고, 모든 학생에게 획일화된 주류 시각만을 주입할 위험이 있다. 교육계에서도 AI 데이터 편향을 가장 우려하는 이유가 바로 이 점이다. AI 알고리즘은 결국 인간이 설계한 산물이고, 그 안에는 설계자나 학습 데이터에 내재된 편견이 고스란히 투영될 수 있기 때문이다​. AI 교과서 도입을 앞두고 논의된 가이드라인에도 “편견을 담아선 안 된다”는 선언적 문구만 있을 뿐, 구체적으로 문화 편향을 감시하고 교정할 체계는 아직 마련되지 않았다는 지적이 나온다​. 즉, 제대로 대비하지 않으면 AI 교과서를 통해 우리 아이들이 접하는 지식과 가치관의 스펙트럼이 좁아지고 치우칠 우려가 있는 것이다.

창의성과 비판적 사고, 미래 혁신에 미칠 그림자

교육에서 다양성이 중요한 이유는 단지 포용이나 공정성 때문만이 아니다. 다양한 관점과 사고방식을 접할 때 비로소 창의적 문제해결과 비판적 사고가 자란다는 점에서, 인지적·문화적 다양성은 미래 혁신의 원천이라 할 수 있다​. 서로 다른 배경을 지닌 학생들이 각기 다른 생각을 공유하고 부딪칠 때 새로운 아이디어와 시각이 탄생한다. 그런데 만약 AI 교과서가 앞서 지적한 대로 학생들의 사고 편식을 부추기면, 교실은 다양한 의견이 공존하는 토론의 장이 아니라 AI가 제공하는 정답과 해설에 수동적으로 맞춰가는 획일의 장으로 전락할 위험이 있다. 전문가들은 AI 알고리즘이 특정 가치관이나 사고 패턴에 편향된 데이터로 작동할 경우 집단의 사고에도 왜곡을 가져올 수 있다고 경고한다​

. 실제 업무 현장에서도 구성원들이 똑같은 알고리즘 추천에만 의존하면 집단사고와 창의성 저하가 우려되는 것처럼, 미래 세대가 학창 시절부터 AI가 선별해준 지식에 길들여진다면 비판적으로 묻고 다른 각도에서 생각하는 연습이 부족해질 수 있다. 이는 장기적으로 우리 사회의 혁신 역량과 포용력에도 악영향을 미칠 가능성이 있다. 획일화된 사고환경에서 자란 인재들은 급변하는 글로벌 환경 속에서 기발한 발상이나 유연한 대응을 내놓기 어렵고, 주류 바깥의 새로운 목소리를 포용하는 데도 서툴 수 있다. 다시 말해, 잘못된 AI 활용은 교육을 통해 다양성을 키워온 한국 사회의 강점을 스스로 잠식하는 결과를 낳을 수도 있는 것이다.

신중한 도입: 기술만큼 중요한 가치 점검

AI 교과서가 가져올 교육 혁신은 분명 매력적이지만, 그 빛과 그림자를 균형 있게 바라보는 일이 시급하다. 첫 단추를 꿰는 지금, 기술적 유용성만 앞세워 서둘러 도입하기보다 학생들의 사고 영역을 좁힐 위험은 없는지 깊이 성찰해야 한다. 다행히도 일부 교육청과 전문가들은 이미 속도 조절을 요구하며 우려의 목소리를 내고 있다. AI 교과서의 효과와 한계에 대한 공개 토론, 시범사업을 통한 면밀한 검증, 그리고 투명한 알고리즘 공개와 감시 장치가 필요하다는 지적이 나온다. 예컨대 AI가 어떤 데이터를 학습해 어떤 기준으로 답변과 콘텐츠를 내놓는지 교사와 학생이 알 수 있어야, 편향이나 오류를 인지하고 교정할 수 있을 것이다. 형평성과 문화적 감수성을 높이기 위한 설계도 필수적이다. 편향성 최소화를 위해 학습 데이터에 다양한 지역과 집단의 지식이 골고루 포함되도록 하고, AI 개발 단계에서부터 인권·윤리 전문가, 다문화 배경의 교육자들이 참여해 감수성을 불어넣어야 한다. 실제 국내 연구자들은 AI 다양성 영향 평가를 실시하고 편향 개선 기술을 도입하는 한편, AI를 활용하는 교사와 학생들을 위한 문화적 감수성 교육 프로그램 마련의 필요성을 강조하고 있다.

마지막으로, 기술의 혜택을 누릴 주체인 학생들 자신이 AI 도구를 비판적으로 활용할 수 있도록 가르치는 교육이 병행되어야 한다. 디지털 시대에 정보의 홍수를 헤쳐나갈 나침반은 기술 그 자체가 아니라 그것을 바라보는 우리의 눈이다. AI 교과서가 진정한 교육 혁신으로 이어지기 위해서는, 기술에 대한 맹신이 아닌 성찰, 그리고 다양성에 대한 존중이 전제되어야 한다. 미래 세대의 창의적 두뇌가 편향된 데이터에 길들여지는 일이 없도록, 이제는 교육계와 사회 전체가 AI 시대의 교과서관(觀)을 다시 써 내려갈 때다. 우리의 아이들에게 필요한 것은 AI가 대답을 채워주는 교과서가 아니라, AI 시대에도 스스로 질문할 줄 아는 열린 시야임을 잊지 말아야 할 것이다.

 

 

• Pariser, E. (2011). 'The Filter Bubble'
• Atari, M., Xue, M., Park, P. S., Blasi, D. E., & Henrich, J. (2023). 'Which Humans?'
• 이중학, 김광태, 김성준 (2025). '인공지능과 인지적 다양성: 인사 및 조직관리 시사점 모색'
• https://www.donga.com/news/Education/article/all/20250303/120342213/1