AI 디지털 기술과 학교 교육

정현선 (경인교육대학교, 교수)

1. AI 디지털교과서에 대한 신중하고 비판적인 이해의 필요성

최근 학교 교육은 학습자 주도성(행위주체성, agency)과 상호작용을 강화하고, 생태적 전환과 디지털 시민성을 기르는 방향으로 변화해왔다. 이에 따라 교사에게는 새로운 지식을 선별하고, 학생과 정서적으로 소통하며, 학습을 일상과 연결시키는 큐레이터 역할이 요구되고 있다. 또한 학생들이 정보의 진실성과 전문성을 비판적으로 평가할 수 있는 능력과 디지털 미디어 리터러시를 기를 수 있도록 지도하고, 생태계와 유기적 관계를 맺도록 하는 생태적 전환의 실천가이자 네트워크 사회에서 관계 역량을 갖춘 전문가로서의 역할도 교사에게 중요해졌다(조윤정, 2021).

2023년 6월 이후 교육부가 빠르게 추진하고 있는 AI 디지털교과서 정책은 특히 AI 기술을 활용한 ‘개별 맞춤 교육’에 상당히 집중하고 있다. 교육부의 「AI 디지털교과서 추진방안」(교육부, 2023.6.)에서는 교실에서는 학생 한 명 한 명에게 맞춤형 교육을 제공하는 것이 어렵지만, 최근 AI 기술의 빠른 발전 덕분에 학생들의 역량과 특성에 맞춘 교육이 가능해졌다고 본다. 이에 따라 교사는 학생들의 학습 경로와 지식 수준을 파악해 데이터에 기반한 참여형 수업을 설계하고, 개별 학습을 지원하며, 학생의 성장을 기록하는 역할로 변화해야 한다고 요구하고 있다(교육부·한국교육학술정보원, 2023.8.). 그러나 2022 개정 교육과정이 목표로 하는 것은 불확실한 미래 사회에 대응할 수 있는 학습자 주도성, 기후 및 생태 환경 변화에 대응하는 지속 가능한 발전 과제에 대한 역량, 그리고 학생의 삶과 연계된 깊이 있는 학습과 성찰을 지향하는 교육이다. 이러한 학습이 과연 AI 기술을 이용한 ‘개별 맞춤 학습’의 방법으로 충분히 실현될 수 있을까 하는 의문이 생긴다.

이런 질문을 던지는 것은 디지털 미디어의 작동 방식과 그와 관련된 사회적, 문화적, 경제적, 정책적 논의를 깊이 있게 이해하는 디지털 미디어 리터러시를 AI 디지털교과서라는 교육 미디어에 적용하는 실천 행위이기도 하다. 미디어 리터러시는 2022 개정 교육과정에서 모든 학교와 교과에서 중요한 기초 소양 중 하나로 강조된 ‘언어 소양’의 일부이며, 민주시민교육은 범교과 학습 주제의 하나로 제시되었다(교육부, 2022).

디지털 미디어 리터러시는 미디어가 특정 사회문화적 맥락에서 제작자의 의도와 이익을 반영하여, 어떤 정보를 선택하고 배제하거나 강조하는 방식을 이해하고, 특정한 기술 미디어의 작동 방식을 파악하여 미디어가 개인과 사회의 의사소통과 사회적 관계, 사회적 현상 등에 어떻게 영향을 미치는지를 비판적으로 이해하며, 더 나은 사회를 위해 미디어의 내용, 표현 방식, 기술 시스템이 어떻게 ‘재설계(redesign)’되어야 할지를 상상하고 실천하는 시민 역량을 기르는 데 중점을 둔다(정현선·장은주, 2022).

AI 디지털교과서를 이용할 때 교사와 학생들은 디지털 미디어의 인터페이스를 통해 시스템에 접근하고, 학습 자료를 이해하며 콘텐츠를 생산하고 공유하는 모든 과정에서 AI와 디지털 기술의 알고리즘을 포함한 디지털 플랫폼이 이용자의 행동을 유도하는 방식에 의해 영향을 받을 것이다. 이런 방식으로 교사와 학생들은 특정한 형태의 교수·학습과 평가 방법을 학교 교육의 방식으로 받아들이게 될 것이다. 이런 의미에서 AI 디지털교과서는 학생과 교사의 인식, 관계, 태도, 행동에 영향을 미치는 디지털 기술 시스템이자 미디어로서 기능할 수 있다. 이와 관련하여 AI 디지털교과서에 ‘교과서’라는 법적 지위를 부여하게 된 경과에 대한 문제 제기가 이루어지고, 이에 따라 AI 디지털교과서는 ‘교과서’ 가 아니라 ‘교육 자료’의 하나로 보아야 한다는 법안이 상정되기도 했다(김범주, 2024.8.20.; 의안정보시스템, 2024.9.27.). 이 글에서는 AI 디지털기술을 학교 교육에 도입하는 정책이 신중하게 추진되어야 할 필요성과 현재 시행되고 있는 정책 중개선이 필요한 사항들이 무엇인지에 대한 논의를통해 향후 추진될 정책에 도움이 되고자 한다.

2. ‘개별 맞춤 교육’을 위한 AI 시스템의 위험성

‘개별 맞춤 교육(personalized learning)’이라는 말은 매우 긍정적으로 들리기 쉽다. 이는 학생의 관심사, 선호도, 학습 속도를 존중하며, 개인별로 학습을 지원한다는 이상적인 교육을 상상하게 만들기 때문이다. 2022 개정 교육과정과 OECD 2030 학습 나침반에서도 ‘학습자 주도성(행위주체성)’을 강조하다 보니, AI 디지털교과서에서 이야기하는 ‘개별 맞춤 교육’이 학습자 주도성과 동일한 것으로 오해될 수 있다.

버몬트대학교의 페니 비숍(Penny Bishop) 교수는 ‘개인 맞춤 학습’이 두 가지로 나뉜다고 설명한다(Bishop, 2019). 첫 번째는 ‘속도 중심(pace-driven)’의 개별화 학습으로, 이미 정해진 교육과정을 학습자가 자신의 수준에 맞게 속도를 조절하며 학습하는 방식이다. 대표적인 예로는 온라인 교육 플랫폼인 ‘칸 아카데미(Khan Academy)’가 있다. 두 번째는 ‘학생 주도(student-driven)’ 개별화 학습으로, 학생이 자신이 배우고 싶은 내용을 결정하고 학습의 방향을 주도하는 방식이다. 이 과정에서 학생은 혼자 학습하거나 다른 학생들과 협력할 수 있고, 교사의 지도와 개입도 매우 중요하다. 이 경우 학생의 주도성뿐만 아니라 교사와 학생이 함께 학습을 이끌어가는 ‘공동 주도성(공동 행위주체성, co-agency)’이 강조된다.

AI 디지털교과서에서 강조하는 개별 맞춤 학습은 주어진 코스웨어가 있는 ‘속도 중심’ 개별화 학습에 가깝다. 입시 위주의 학원식 수업을 학교에 도입하려는 것이라는 비판이 제기되는 것도 AI 디지털교과서가 교과서에 정해진 내용을 따라가도록 하는 ‘코스웨어’ 방식으로 설계되기 때문이다(권정민, 2024.3.7.; 2024.6.7.). 그러나 2022 개정 교육과정에서 전반적으로 강조하는 ‘깊이 있는 학습’ 은 ‘학생 주도’ 개별화 학습을 요구한다. AI 디지털교과서가 스스로 자료를 찾아 읽고 자신의 아이디어를 만들고 탐구하며 긴 시간 동안 같은 문제에 매달리는 학습과 반성적 사고에 방해가 될 것이라는 우려가 제기되는 것도 같은 문제를 제기하는 것이라 볼 수 있다(이진우, 2024.10.8.). 따라서 AI 디지털교과서가 2022 개정 교육과정의 목표를 모두 달성하는 유일한 방법은 아니라는 점과 더불어, 개별 맞춤 교육의 두 가지 다른 의미와 그 차이를 이해하는 것이 중요하다. 따라서 교육부에서 운영 중인 디지털 선도학교들이 시범 운영을 통해 어떤 긍정적인 효과와 부정적인 문제를 겪고 있는지 면밀히 분석할 필요가 있으며, 이를 바탕으로 AI 디지털 기술의 학교 교육 도입에 대한 솔직하고 진지한 숙의 과정이 이루어져야 한다.

AI 디지털 기술이 학교 교육에 도입되면서, 교사의 역할이 학생의 데이터를 수집, 관리, 평가하는 방향으로 변화하고 있다. 하지만 이 과정에서 학생과 부모에게 AI 기술 사용과 데이터 수집에 대해 충분한 설명과 동의 절차가 제공되었는지, 수집된 학생 데이터가 개인정보보호법을 준수하며 안전하게 처리되고 있는지 등 여러 가지 중요한 질문이 제기된다. 예를 들어, 구글, 유튜브, 넷플릭스의 추천 알고리즘처럼 AI 디지털교과서도 학생들에게 맞춤형 교육을 제공하기 위해 많은 데이터를필요로 한다. AI 디지털교과서 서비스는 학생의 학습 태도, 관심사, 학습 패턴을 분석해 적합한 콘텐츠를 추천하는 기능을 포함하고 있다. 그러나 이런데이터를 수집하고 사용하는 과정에서 학생의 인권이나 사생활이 침해될 위험이 없는지에 대한 우려가 있다(정현선, 2024.2.28.).

EU는 2024년 8월 1일부터 시행되는 인공지능법(AI Act)(2024년 8월 1일 발효)에서 AI 시스템의 위험도를 기준으로 규제를 다르게 적용하는 ‘위험 기반 접근법(risk-based approach)’을 채택하고 있다. 특히 교육과 직업 훈련에 사용되는 AI 시스템은 ‘고위험(high risk)’으로 분류되며, 개인정보 침해, 차별, 사생활 침해 등 정보주체의 인권 침해 문제를 야기할 수 있는지를 기준으로 하여 AI 시스템에 대해 엄격한 규제를 적용한다. ‘금지’되는 AI 시스템에는 잠재의식의 조작, 아동 및 장애인 착취, 공적으로 사용되는 범용 사회적 평점 시스템, 실시간 원격 생체정보기반 식별에 사용되는 기술들이 포함된다(고학수·임용·박상철, 2021).

이 법은 한국의 법은 아니지만, 교육 분야에서 AI기술을 사용하는 데 있어 주의해야 할 사항들을 시사하고 있다.

교육이나 직업훈련기관에 입학을 결정하거나 배정하는 시스템, 또는 입학 시험을 평가하는 데 사용되는 AI 시스템, 그리고 학습 결과를 평가하거나 개인이 받을 수 있는 적절한 교육 수준을 결정하는 AI 시스템이 모두 고위험 AI 시스템에 해당한다(Kempf, 2024. 2.13.). 이러한 시스템들이 고위험으로 분류된 이유는 “이 시스템들이 개인의 교육및 직업적 진로를 결정하고, 생계 보장 능력에 영향을 미칠 수 있기 때문”이다. 만약 이러한 시스템이 제대로 설계되지 않거나 잘못 사용될 경우, “개인의 사생활이나 개인 공간에 지나치게 개입해 간섭할 수 있으며, 교육받을 권리나 차별받지 않을권리를 침해할 수 있다”고 경고하고 있다. 또한 여성이나 특정 연령대, 장애인, 인종, 민족 출신, 성적 지향에 따라 역사적으로 존재해 온 차별을 영속화할 가능성도 지적하고 있다(Kempf, 2024. 2.13.).

고위험 AI 시스템에 대한 규제는 다양한 의무를 포함하고 있다. 예를 들어, AI 시스템을 개발하는 과정에서 사전 테스트를 실시해야 하며, 아동·청소년에게 미치는 영향을 특별히 고려한 ‘위험 관리 시스템’을 갖춰야 한다. 또한 데이터 관리와 관련해서는 데이터의 수집, 처리, 업데이트, 분석 등 모든 과정에서 편견이 없는지 조사해야 하며, 데이터에 결함이 있을 경우 이를 해결하는 방법도 마련해야 한다(Council of the European Union, 2024: 116-118).

또한 투명성과 관련된 의무도 중요하다. 시스템의 출력을 해석하고 적절히 사용할 수 있도록 충분한 정보를 제공해야 하며, AI 시스템의 성능, 한계, 변경 사항 등을 사용자에게 명확히 안내해야 한다. ‘인간의 감독’도 의무 사항 중 하나로, 사용자는 시스템이 제공하는 결과를 자동으로 신뢰하지 않도록 해야 하며, 필요할 경우 시스템을 중단하거나 출력 결과를 무시할 수 있는 기능도 갖춰야 한다. 이러한 기준을 AI 디지털교과서에 적용한다면, 이 시스템이 EU 인공지능법을 통과할 수 있을까?

교육부의 「AI 디지털교과서 추진방안(안)」(2023.6.)과 「AI 디지털교과서 개발 가이드라인」(2023.8.)에 따르면, AI 디지털교과서는 학생, 교사, 학부모를 대상으로 다음과 같은 서비스들을 제공한다. ‘AI 기술을 활용해 학생의 강점과 약점을 분석하여 결과를 제공’하고, ‘학생의 학습 패턴과 수준을 분석해 적합한 콘텐츠를 추천’하며, ‘학습 패턴을 분석해 추가 학습 요소를 제공’하는 기능을 포함한다. 또한 ‘학습자의 학습 활동 상태와 데이터를 분석해 맞춤형 학습 서비스를 제공’하고, ‘교사가 학습 상황과 정서를 관리할 수 있는 기능’도 제공한다. 이러한 서비스들은 앞서 EU 인공지능법에서 언급한 것처럼, ‘고위험 AI 시스템’에 해당된다.

AI 디지털교과서에서 제공하는 ‘개인 맞춤 학습’ 서비스를 위해 수집되는 데이터에는 학생의 학습 태도, 관심사, 선호도, 학습 활동 상태, 학업 정서 등이 포함되는데, 이러한 데이터 수집은 학생의 정보 인권을 침해할 가능성이 있다. 개인정보보호위원회 개인정보보호지침(2024. 4. 30. 일부개정)에 따르면, 이러한 정보들이 개인의 사상, 신념, 정치적 견해, 건강, 성생활 등 사생활 침해 우려가 있는 ‘민감 정보’를 포함할 수 있기 때문이다. 위의 개인정보보호지침에서는 이러한 민감정보를 처리할 때는 일반 정보와는 별도로 정보주체(만 14세 미만의 경우 법정대리인)의 동의를 받아야 한다고 규정하고 있다.

학교에서 이루어지는 다양한 교수·학습 활동과 학생의 학습 결과물에는 사상, 신념, 정치적 견해, 건강 등 민감한 정보가 포함될 수 있다. AI 시스템이 개별 맞춤 학습을 위해 학생의 데이터를 수집하려면 이러한 개인정보가 학습 데이터로 처리되는과정에서 큰 문제가 발생할 수 있다. 이러한 데이터를 적절하게 관리하고 처리하는 방법을 어떻게 결정해야 할까? 그리고 이러한 과정이 제대로 이루어지도록 지도하고 감독할 사람은 누가 되어야 할까?교육부와 시도 교육청이 이러한 업무를 전담할 충분한 전문 인력을 보유하고 있는지, 그리고 에듀테크 기업들이 「개인정보 보호법」을 제대로 이해하고있는지도 중요한 문제다. 어쩌면 ‘세계 최초’로 시도된다고 하는 AI 디지털교과서가 다른 나라에서 도입되지 않고 있는 이유 중 하나가 바로 이러한 중요한 질문에 대한 답을 찾기 어렵기 때문일 것이다.

3. 학생의 개인정보 및 학습 데이터 보호: 기우가 아닌 현실의 문제들

전국 1,000개 디지털 선도학교에서 사용된 AI 코스웨어들이 학생들의 개인정보를 광범위하게 수집해 온 사실이 보도된 바 있다(김원진·탁지영, 2024.7.24.). 기사에 따르면, 디지털 선도학교로 지정된 1,000개의 초·중·고교에서 사용된 AI 코스웨어 20개를 분석한 결과, 많은 업체들이 개인정보 수집 동의를 하지 않으면 교육청에서 안내한 서비스에 접근할 수 없도록 제한하고 있었다. 특히 대부분의 업체는 자사 AI 코스웨어에 가입할 때 ‘쿠키’ 수집을 필수 동의 사항으로 설정해 두었으며, 쿠키 저장을 거부할 경우 로그인이 필요한 모든 서비스 이용이 불가능하다고 안내한 경우도 있었다.

쿠키는 이용자의 컴퓨터에 저장되는 작은 데이터 파일로, 웹사이트가 사용자를 식별하고 맞춤형 경험을 제공하는 데 사용되며, 여기에는 이용자 이름, 비밀번호 같은 개인식별정보가 포함될 수 있다. 쿠키의 사용은 이용자의 로그인 등에 대한 정보를 기억해 편리한 인터넷 이용을 도울 수도 있지만, 개인정보 보호를 취약하게 만드는 중대한 요인이 되기도 한다. 따라서 쿠키는 EU 내에서 기업과 조직이 개인의 데이터를 수집, 처리, 저장하는 방식을 엄격히 규제하기 위해 제정된 규정인 GDPR(General Data Protection Regulation)과 같은 국제법에서 개인정보보호 규정을 통해 엄격히 관리된다. 잘못 사용될 경우 이용자의 사생활 침해 위험이 커질 수 있기 때문이다.

교육부와 시·도교육청에서 디지털 선도학교 혹은 일반 학교의 수업에 이용할 것을 권장한 서비스임에도 불구하고, 개인정보 수집을 거부하는 학생, 부모, 교사가 사실상 서비스를 이용할 수 없다면 학습권 침해라는 심각한 문제가 발생할 수 있다. 이에 대해 ‘개인정보보호위원회 개인정보보호지침’ 제6조 ‘개인정보의 수집·이용’ ③항에서는 개인정보 수집·이용 목적, 수집하려는 개인정보 항목, 보유 및 이용 기간, 동의를 거부할 권리와 그로 인한 불이익 등을 명확히 알리고 동의를 받아야 한다고 명시하고 있다. 따라서 교육부와 시·도교육청은 AI 디지털 기술을 활용한 수업에서 개인정보 수집 및 이용에 대한 동의가 적절하게 이루어질 수 있도록 지도하고, 동의를 거부해도 학습권이 침해되지 않도록 대안을 마련해야 한다.

앞서 언급한 사례들은 ‘개인정보보호위원회 개인정보보호지침’ 제4조에서 규정한 “개인정보는 목적에 필요한 최소한의 범위에서 적법하게 수집되어야 한다”는 원칙을 위반한 것이다. 이러한 원칙을 어긴 기업들은 한두 곳에 그치지 않았다. 예를 들어, 한 AI 디지털 기술을 활용한 글쓰기 교육 프로그램은 학생의 단말기에 저장된 주소록 정보(제3자의 전화번호 및 이름), 성별, 프로필 사진, 위치 정보, 쿠키, ‘좋아요’ 수 등과 같은 학습과 관련 없는 광범위한 개인정보를 수집했다. 이 문제는 국민신문고에 민원이 제기된 후 해당 교육청의 지적을 받아 개인정보 수집 범위를 축소하며 일단락 되었다. 해당 기업은 실제로 스마트폰에 저장된 연락처 정보나 성별 정보는 수집하지 않았다고 해명했고, 불필요한 개인정보 수집 정책이 기재되어 있었던 약관은 시정되었다. 그러나 실제로 개인정보가 어느 범위까지 수집되었는지에 대한 구체적인 조사는 이루어지지 않았다. 더 나아가 일부 에듀테크 기업들은EU 인공지능법에서 ‘고위험’으로 분류된 생체 정보기반 안면 데이터, 얼굴, 음성, 필적 등의 정보를수집하는 경우까지 있었다.

이러한 보도를 통해, AI 기술 서비스 기업들의 불완전한 개인정보 보호 방침과 교육부 및 시·도교육청의 느슨한 규제가 현실적인 문제로 드러났다. AI 디지털 기술을 학습에 적용할 때에는 개인정보 최소 수집 원칙과 데이터 보안 문제 등 「개인정보 보호법」 및 관련 지침을 엄격히 준수하도록 해야 한다. 그러나 현재 상황을 보면, 학생들을 대상으로 한 서비스를 개발하는 에듀테크 기업뿐만 아니라, 교육부와 시·도 교육청 등 교육 당국 역시 이러한 문제에 대한 충분한 이해가 부족한 것으로 보인다. 학생과 부모 역시 마찬가지이다. 이처럼 안전한 디지털 교육 환경을 조성하기 위한 예산과 전문 인력 배치, 정책 결정 구조 등 전반적인 사항이 제대로 준비되지 않았기 때문에, 서비스 약관과 개인정보 수집 동의 과정에서 아동의 개인정보와 사생활 보호가 심각하게 우려되는 상황이다.

4. 안전한 디지털 교육 환경 조성과 학생 보호를 위한 제언

정부 전체의 차원에서 보면 개인정보보호위원회가 중심이 되어 교육부를 포함한 관련부처들과 함께 「아동·청소년 개인정보 보호 기본계획」(개인정보보호위원회, 2022.7.11.)을 발표해, 아동·청소년이디지털 시대에 개인정보를 안전하게 보호받고 권리를 행사할 수 있는 환경을 마련하려는 정책이 수립된 바 있다. 이 기본계획은 특히 개인정보에 대한자기결정권을 존중하고, 보호 대상을 만 14세 미만에서 만 18세 또는 만 19세 미만까지 확대하며, 연령대별로 차등화된 보호 정책을 계획했다. 또한 ‘개인정보 보호 중심의 기술 설계(safety-by-design)’ 를 기본 원칙으로 하여 디지털 기술 서비스 기업의책임도 강화하고자 했다.

디지털 시대 아동·청소년은 어린 시절부터 디지털 기기를 사용하고 온라인 활동이 지속적으로 많아지면서, 개인정보가 오랜 시간 동안 방대한 양으로 축적될 가능성이 크다. 이를 고려해, 이 기본계획은 ‘잊힐 권리’를 도입해 개인정보 삭제를 요청할 수 있는 제도를 마련하고, 만 14세 미만 아동을 대상으로 아동용 처리 방침을 공개해 쉽게 이해할 수 있도록 하는 등의 계획도 세웠다. 일부 내용은 2023년과 2024년에 걸쳐 개정된 「개인정보 보호법」에 반영되었지만, 2024년까지 예정되었던 아동·청소년 개인정보 보호를 위한 구체적인 법제 마련은 아직 이루어지지 않았다. 이미 구체적인 계획이 수립되어 있었던 만큼, 현재의 상황을 반영하여구체적인 법 제도를 정비할 필요가 있을 것이며 이과정에 교육당국도 적극적으로 참여하는 것이 좋을것이다.

AI 디지털 기술이 제대로 작동하기 위해서는 양질의 데이터가 필요하지만, EU 인공지능법에서는 교육과 직업훈련 분야에서 ‘고위험 AI’로 분류하고 있음을 확인하였다. 학생들의 교육 기회와 직업 선택에 영향을 미칠 수 있기 때문이다. 한국에서도 AI 기술을 신중히 도입하고, 2022 개정 교육과정이 추구하는 ‘학생 주도’ 학습을 지원하는 방향으로 정책을 선회해야 한다. 학교가 자율적으로 디지털 기술을 선택해 적용할 수 있도록 하고, 에듀테크 기업들은 최소한의 개인정보와 학습 데이터를 수집·처리해야 하며, 이 과정을 투명하게 공개해야 한다. 또한 심의, 승인, 철회 기준을 엄격하게 적용하고, 개인정보 보호 원칙을 설계 단계에서부터 반영하도록 해야 한다. 이러한 조치는 궁극적으로 한국의 에듀테크 기업이 해외에 진출할 때 신뢰성을 높이는 데 기여하게 될 것이다.

교육부와 시·도교육청은 학교에 도입되는 에듀테크 기술 서비스 기업과 학교에서 개인정보 최소 수집 원칙을 준수하고 있는지 확인해야 할 의무가 있다. 그러나 실제로는 AI 디지털 기술 담당자와 학교 현장의 교사들이 관련 법률과 지침을 충분히 이해하지 못하고 있는 것으로 보인다. 에듀테크 기술 사용 시 학생들의 개인정보와 사생활 침해 등의 문제가 야기될 수 있으므로, 교육당국은 전문가와 협력하여 학생, 학부모, 교사 대상의 실효성 있는 교육을 제공해야 한다. 또한 에듀테크 기업이 AI 기술이 학생들의 개인정보와 사생활 보호에 미치는 영향을 충분히 이해하고 ‘개인정보 보호 중심의 기술 설계’를 적용한 기업의 서비스 이용을 우선적으로 허용하는 등의 인센티브를 통해 안전한 기술이 학교에서 사용될 수 있도록 선도할 필요가 있다.

『로봇은 교사를 대체할 것인가?(Should Robots Replace Teachers?)』(2022)의 저자로 잘 알려진 호주 모나쉬대학교의 석학 닐 셀윈(Neil Selwyn) 교수는 교육부 주관으로 열린 ‘2024 디지털 교육 국제 공개 토론회(포럼)’에 기조 강연자로 참석한 후, 영자신문인 The Korea Herald와의 인터뷰를 통해 한국의 AI 디지털교과서 정책을 ‘교실 혁명’이라고 부를 수 있을지, 아니면 기존의 학습 도구들을 업데이트한 것에 불과하다고 볼지에 대해 의문을 제기했다(Choi, 2024.10.2.). 또한 그는 AI 시스템이 편향된 데이터를 학습할 경우, 엘리트 학생들은 혜택을 볼 수 있는 반면 학업 능력이 부족하고 교실에서 소외되어 있는 학생들에게 더욱 불리하게 작용할 수 있어, 오히려 교육 불평등을 심화시킬 가능성을 있다고 강조했다. 그리고 지금과 같은 AI 기술에 대한 지나친 열광은 과거에 유행했던 메타버스나 MOOC 강의와 같이 ‘거품’에 지나지 않을 수 있으며, 학생들의 장기적인 삶에 미칠 결과를 충분히 고려하지 않고 AI의 유행에 편승하는 것은 매우 위험한 결과를 초래할 수 있다고 덧붙였다. AI 디지털교과서의 도입에 반대하는 부모들의 국회 청원이 5만 명을 돌파해 국회 교육위원회에 안건이 회부된 점(박동환, 2024.7.1.), 시·도교육감 회의에서 절반 이상이 AI 디지털교과서의 도입에 신중해야 한다는 의견을 제시한 점(신소윤, 2024.10.13.)도 AI 디지털교과서 정책에 대한 사회적 합의가 부재하며 충분한 협의 과정이 있었다고 보기 어려움을 보여준다.

2022 개정 교육과정에 담긴 바와 같이, 불확실한 미래를 살아갈 학생들의 주도성(행위주체성)을 기를 수 있는 깊이 있는 학습은 교사와의 ‘공동 주도성(행위주체성)’을 통해 더 의미있게 이루어질 수 있다. AI 디지털 교육의 속도는 신중하게 조절되어야 하며, 학생들의 개인정보와 권리를 존중하고 보호할 수 있는 안전한 교육 환경을 제공하기 위해 관련 법규, 조직, 예산을 정비하는 등의 실질적인 노력을 기울일 필요가 있을 것이다.