美 뉴욕시, 초중생 생성형 AI 1년간 금지

미국 최대 학군인 뉴욕시가 약 60만명의 유아·초·중학생을 대상으로 학교에서 생성형 인공지능(AI) 사용을 1년간 금지한다.

AI를 교육 현장에 빠르게 도입해온 미국에서 최대 규모 학군이 어린 학생들의 생성형 AI 사용을 사실상 중단하기로 하면서 학교 AI 정책이 '적극적 도입'에서 연령과 용도에 따른 통제로 전환되는 움직임이 본격화하고 있다.

3일(이하 현지시각) 로이터통신에 따르면 조란 맘다니 뉴욕시장은 2026~2027학년도 동안 공립학교 2-K부터 8학년까지 학생이 직접 사용하는 생성형 AI를 금지하는 1년간의 유예조치를 전날 발표했다.

2-K는 2세 아동을 대상으로 하는 뉴욕시 유아교육 과정이다. 이번 정책은 유아부터 8학년까지 뉴욕시 공립학교 학생 약 60만명, 전체 학생의 약 3분의 2에게 적용된다.
이는 미국 내 학군이 시행한 학생 대상 AI 규제 가운데 가장 광범위한 수준이다.

맘다니 시장은 "아이들은 배우고 성장하기 위해 교사와 인간적인 교감이 필요하다"며 또래와 함께 능력을 키우고 교사와 관계를 형성하며 어려운 문제를 스스로 해결하는 과정이 필요하다고 강조했다.

그는 IT업계가 AI 기반 조기교육이 불가피할 뿐 아니라 필수적이라고 믿게 만들려 하지만 뉴욕시는 그렇게 보지 않는다며 앞으로 1년 동안 AI가 학생들에게 미치는 영향을 살펴보겠다고 밝혔다.


이번 조치는 챗GPT나 클로드 같은 범용 생성형 AI 서비스만 겨냥한 것이 아닌 것으로 알려졌다.
뉴욕시는 현재 교실에서 사용해온 교육 프로그램 가운데 학생이 직접 생성형 AI 기능을 이용할 수 있는 38개 이상의 제품을 중단하거나 AI 기능을 끄기로 했다.

AI 기능을 별도로 비활성화할 수 있는 제품은 AI 부분만 차단하고, 기능을 분리할 수 없는 제품은 학교에서 아예 사용할 수 없도록 할 방침이다.

맘다니 시장은 기존에 사용해온 교육 프로그램이라도 학생 개인정보 보호, 교육 효과, 안전성 기준을 충족하지 못하면 규모나 계약 관계와 관계없이 제한하겠다는 입장이다.

앞으로 뉴욕시 공립학교에서 사용하는 모든 교육 기술은 학습에 반드시 필요한 기능인지, 학생 안전과 개인정보 보호 기준을 충족하는지, 실제 교육효과를 입증할 수 있는지 등을 다시 심사받게 된다.

학생과 정서적·사회적 관계를 형성하도록 설계된 이른바 '컴패니언 챗봇'은 학년에 관계없이 모든 학생에게 금지된다.

다만 장애 학생의 보조기술, 다국어 학습자용 번역도구, 컴퓨터과학 등 직업·진로 준비 프로그램에는 예외를 허용한다.


뉴욕시가 AI 자체를 교육에서 퇴출시키는 것은 아니다.

고등학생에게는 오히려 AI를 비판적으로 이해하고 제한된 환경에서 직접 사용할 기회를 제공한다.

전체 공립학교 학생의 약 5%에 해당하는 최대 5만명의 고등학생을 대상으로 5개 AI 교육 프로그램을 시험 운영한다.

영어 과목의 퀼(Quill), 수학 학습용 에디아(Edia), 교사가 수업활동을 설계하는 브리스크 티칭(Brisk Teaching), AI 결과물의 편향과 추론을 살펴보는 플레이랩(Playlab), AI 프로젝트 교육을 위한 인텔 AI-레디 스쿨(Intel AI-Ready Schools) 등이 대상이다.

시험 프로그램은 훈련받은 교사의 직접 감독 아래 진행하고 사용시간과 목적을 제한한다.

예를 들어 퀼은 일주일에 최대 15분, 에디아는 최대 20분만 사용할 수 있다. 각 고등학교에서도 최대 5개 학급까지만 시범운영이 가능하다.

모든 고등학생은 1년에 두 차례 각각 45분짜리 AI 리터러시 교육도 받는다.

수업에서는 AI가 무엇이고 무엇이 아닌지, AI의 편향과 위험, 윤리 문제, 직업과 미래 기술에 미치는 영향 등을 다룬다.

맘다니 시장은 "청소년들은 AI로 가득 찬 세상에서 성장하고 있다"며 이들에게 AI가 존재하지 않는 것처럼 교육하는 것 역시 무책임하다고 설명했다.

초·중학생에게는 AI 의존을 늦추되 고등학생에게는 기술을 무조건 금지하기보다 비판적으로 사용하는 법을 가르치겠다는 전략이다.


교사에게 적용되는 기준도 학생과 다르다.

교사는 뉴욕시의 안전기준을 충족한 AI 제품을 수업계획 작성이나 일정관리 등 업무에 계속 활용할 수 있다.

반면 학생의 과제나 시험을 채점하고 평가하는 업무에는 AI를 사용할 수 없다.

학생의 학업 평가와 판단처럼 교사의 직접적인 책임이 필요한 영역을 기계에 넘기지 않겠다는 취지다.

뉴욕시는 학생들이 학교 밖에서 생성형 AI를 이용해 과제를 작성하거나 답을 구하는 행위까지 직접 막을 수는 없다는 점도 인정했다.

대신 교사에게 외부 AI 사용에 대응할 수 있는 교육과 지원을 제공하고 학부모와도 관련 지침을 공유할 계획이다.


AI 규제는 디지털 기기 사용시간 축소 정책과 함께 시행된다.

2학년 이하 학생에게는 학생 한 명당 디지털 기기 한 대를 제공하는 방식의 수업을 제한한다.

3~5학년에는 하루 최대 30분, 6~8학년에는 하루 최대 45분의 개인 스크린 사용을 권고한다.

뉴욕주는 앞서 학교 내 휴대전화 사용도 금지했다.

AI 규제와 휴대전화 금지, 스크린 사용시간 제한이 결합되면서 뉴욕의 교육정책은 어린 학생의 디지털 기술 노출을 줄이고 교사·학생 사이의 직접적인 상호작용을 확대하는 방향으로 이동하고 있다.


뉴욕시의 정책 변화는 학교가 생성형 AI를 바라보는 태도가 지난 수년 동안 얼마나 빠르게 바뀌었는지도 보여준다.

뉴욕시 공립학교는 챗GPT가 등장한 직후인 2022년 학교 네트워크와 기기에서 챗GPT 사용을 일시적으로 차단했다.

그러나 이후 금지 정책을 철회하고 AI를 교육에 활용하는 방향으로 돌아섰다. 마이크로소프트와 협력해 교육용 AI 도구를 도입하는 등 학교 현장에서도 AI 활용이 확대됐다.

이번 정책은 다시 단순 금지로 되돌아갔다기보다 학생 연령과 AI 사용 목적을 세분화하는 단계로 볼 수 있다.

어린 학생에게는 스스로 생각하고 문제를 해결하는 기초 능력이 충분히 형성될 때까지 생성형 AI를 멀리하게 하고, 고등학생에게는 통제된 환경에서 AI를 사용하는 방법을 가르친다는 것이다.

정책 시행 기간을 1년으로 제한한 것도 같은 맥락이다.

뉴욕시는 학생, 교사, 학부모, 전문가 등이 참여하는 '학교 기술 연합'을 구성해 2026~2027학년도 동안 규제와 고교 시범사업의 효과를 평가하고 다음 학년도 정책에 대한 권고안을 내놓을 예정이다.

효과가 확인되면 금지기간을 연장할 수 있고 필요하면 규정을 수정할 수도 있다.


뉴욕시의 결정은 생성형 AI를 교육에 도입할지를 놓고 벌어졌던 논쟁이 새로운 단계로 이동하고 있음을 보여준다.

초기에는 학생의 부정행위와 표절 문제가 주요 우려였다. 이후 AI를 개인별 맞춤교육이나 교사의 업무를 줄이는 도구로 활용해야 한다는 주장이 힘을 얻었다.

하지만 AI가 어린 학생의 사고과정과 학습 습관, 교사와의 관계에 어떤 장기적인 영향을 미치는지 충분한 검증이 이뤄지지 않았다는 우려도 커지고 있다.

특히 답을 빠르게 제공하는 생성형 AI가 학생이 틀리고 고민하고 다시 시도하면서 학습하는 과정을 건너뛰게 만들 수 있다는 것이 뉴욕시가 이번 정책에서 강조하는 부분이다.

동시에 뉴욕시는 고등학생에게 AI 교육 자체를 금지하지 않았다. 졸업 뒤 AI를 사용하는 대학과 노동시장에 진입할 학생들에게 AI 활용능력이 필요하다는 현실도 인정했기 때문이다.

결국 뉴욕시 정책의 핵심은 'AI를 교육에서 사용할 것인가'라는 이분법에서 벗어나 '어느 연령부터, 어떤 목적으로, 누구의 감독 아래 사용할 것인가'로 규제의 초점을 옮겼다는 데 있다.

미국 최대 학군의 이번 실험 결과에 따라 다른 교육구들의 AI 정책에도 적지 않은 영향을 미칠 전망이다.


김현철 글로벌이코노믹 기자 rock@g-enews.com