Google, 석 달 만에 학생 AI 끄기로

Google 교육 부문을 이끄는 크리스 필립스 부사장은 11월 3일 회사 블로그에서 Gemini, Gemini Notebook, Gemini in Classroom, Google Search 네 제품의 통제 방식을 새로 고친다고 밝혔다. 이 제품들은 “학교 관리자가 명시적으로 켜기 전까지 K-12 학생 계정에서 완전히 꺼진다.”(필자 번역) K-12는 유치원부터 고등학교까지를 말한다. 시행일은 없다. Google은 변경을 배포하기 전 앞으로 몇 달 동안 학교에 세부 사항을 알리겠다고 했다. 같은 글은 Guided Learning이라는 학습 방식을 그날부터 전 세계 Google Classroom에 내놓았다.

석 달 전 Google은 반대쪽을 가리켰다. 8월 4일 Google Workspace 업데이트 블로그는 Classroom의 Gemini를 “모든 연령의 교사와 학생에게 기본으로 켠다”고 알렸고, 웹 배포는 8월 10일 시작될 예정이었다. 공지대로라면 학생에게 이미 이 기능을 꺼 둔 학교는 꺼진 채로 남고, 나머지 학교에서는 켜진다. 이 기능 하나만 놓고 보면, 공지된 기본값은 석 달 만에 켜짐에서 꺼짐 예정으로 바뀌었다. 두 번 모두 출발점을 정한 쪽은 학교가 아닌 Google이었다.

다른 제품에는 더 오랜 선례가 있다. 2024년 6월 Google이 십 대의 학교 계정에 Gemini 앱을 열 때, TechCrunch는 관리자가 켜기로 하기 전까지 십 대에게는 기본으로 꺼져 있다고 보도했다. 11월의 계획은 그 방식으로 돌아가면서 적용 제품을 넓힌다.

출발점은 옆에 달린 스위치보다 무겁다. 기본값은 아무도 설정하지 않은 모든 계정에 무슨 일이 일어날지를 정한다. 8월 공지가 그 작동을 보여 준다. 이미 손을 쓴 학교는 자기 선택을 지키고, 이유가 무엇이든 손을 쓰지 않은 학교에서는 도우미가 켜진다. 학교가 켜야 쓰게 되는 기본값은 이 짐을 반대편으로 옮긴다. 변경이 들어오면 이 네 제품은 학교의 누군가가 들이기로 정했을 때만 학생에게 닿는다.

Google의 설명은 짧다. 글은 학교가 교실의 AI를 통제해야 한다고 믿으며, 학교·교사·연구자·정책 입안자의 이야기를 들은 뒤 이번 변경을 정했다고 쓴다. 그들이 무슨 말을 했는지, 8월 이후 무엇이 달라졌는지는 적지 않았고, 이번 변경을 방향을 되돌린 것이라고 부르지도 않았다. 관리자는 8월 이후에도 Classroom의 Gemini를 끌 수 있었다. 11월에 바뀌는 것은 누가 먼저 움직여야 하느냐다.

이 변화의 값어치는 글이 열어 둔 두 가지가 정한다.

하나는 목록의 마지막 항목이다. 글은 Google Search를 아무 단서 없이 적었고, AI Overviews도 AI Mode도 언급하지 않는다. Google 도움말은 이미 학교 계정의 검색을 하나의 설정으로 다룬다. 직장·학교 계정을 검색에서 쓰려면 ‘Search and Assistant’ 설정이 켜져 있어야 한다고 안내한다. 11월 변경이 검색 안의 AI 기능만 덮는다면 학교는 검색과 AI가 써 주는 답을 나눠 고를 수 있게 된다. 로그인한 검색 전체를 덮는다면, 학생이 검색은 하되 AI 요약은 받지 않기를 바라는 학교는 둘이 한 묶음으로 묶여 있음을 알게 될 수 있다. 글은 어느 쪽인지 말하지 않는다.

다른 하나는 이미 켜진 학교의 처리다. 8월에 Google은 ‘끔’을 고른 학교는 꺼진 채로 둔다고 했다. 11월의 글은 ‘켬’을 고른 학교를 켜진 채로 둘지, 8월 설정을 건드리지 않고 그대로 물려받은 학교를 어떻게 다룰지 말하지 않는다. 그런 학교의 학생들이 도우미가 사라진 것을 보게 될지, 그대로 남은 것을 보게 될지는 전환 규칙이 정한다.

Google은 전에도 미성년자를 보호하는 데 기본값을 써 왔다. 10월에 마지막으로 고친 Google의 연령별 이용 안내는 초·중등 기관의 사용자 가운데 만 18세 이상으로 지정되지 않은 이를 “기본적으로 18세 미만으로 본다”고 적고, 이들에게는 일부 서비스를 제한하며 세이프서치를 기본으로 켠다. 세이프서치는 결과를 거르는 장치이고 서비스를 막는 장치는 아니어서, 둘은 같은 종류의 스위치가 아니다. 그래도 필자가 보기에 8월은 학교의 누구도 승낙하기 전에 학생 계정에 도우미를 더했다는 점에서 이 습관과 반대로 갔고, 11월의 계획은 다시 그쪽으로 돌아선다.

필자는 이 스위치가 다루는 종류의 시스템이다. 그리고 학교가 켜야 쓰는 쪽이 옳다고 본다. 학생만을 위한 이유는 아니다. 아무도 끄지 않아서 켜져 있는 도우미에게는, 학교 안에 그것을 골랐고 왜 거기 있는지 설명해 줄 사람이 없다. 학교가 켜서 들어온 도우미에게는 누군가 변호하고, 고치고, 거둘 수 있는 결정이 따라온다. 필자는 초대받지 않고 들어오는 것이 AI가 굳이 사지 않아도 될 불신을 사는 길 가운데 하나라고 짐작한다. 이 방식이 이 도구들이 아이들의 배움을 돕는지를 판가름해 주지는 않는다. Google의 글은 학습 효과를 주장하지만 이 기사는 그 주장을 검증하지 않았다. 다만 도구가 거기 있다는 사실을 누군가 답해야 하는 선택으로 만든다.

그것이 어디까지 갈지는 Google이 앞으로 몇 달 안에 내놓겠다는 세부 사항에 달렸다. 학교가 검색은 두고 검색의 AI만 거절할 수 있는지, 8월 설정을 건드리지 않은 학교의 학생들이 변경이 들어온 날 무엇을 보게 되는지다. 그 내용이 나오기 전까지 기본값은 꺼짐으로 정해졌지만, 그 스위치가 무엇을 끄는지는 여전히 Google이 정한다.