GPT-6 교체 시작, 청소년 안전 평가는 후퇴

OpenAI가 7일(미국 시각) ChatGPT 전체를 GPT-6로 바꾸기 시작했다. 같은 날 낸 안전성 문서에는 새 모델이 18세 미만 사용자용 평가 여러 항목에서 교체 대상인 이전 모델보다 나빠졌다는 결과가 실렸다. OpenAI는 이 평가에 빠진 추가 보호 장치가 청소년이 실제로 받는 답을 더 안전하게 만든다고 말한다. 얼마나 그런지는 보고서가 재지 않았다.

OpenAI의 발표를 전한 MacRumors에 따르면 GPT-6는 10월 7일 ChatGPT Plus·Pro·Business·Enterprise 구독자부터 들어갔고, 8일 Free·Go 등급으로 넓어진다. 유료 등급은 GPT-6 Sol, Free·Go는 GPT-6 Luna를 쓴다. 바뀌는 곳은 Chat 탭이고, Work와 Codex의 모델은 그대로다.

간판 기능은 OpenAI가 'Intelligent UI'라고 부르는 것이다. 답을 글로만 쓰지 않고 그래픽, 버튼, 입력 양식, 차트처럼 대화 안에서 직접 조작할 수 있는 요소로 짜며, 모델이 생각을 마치기 전에 답을 시작할 수 있다. 안전성 문서는 새 모델이 전 세계 무료·유료 요금제에서 ChatGPT의 GPT-5.6 Sol과 GPT-5.6 Luna를 대체한다고 적었다.

보고서는 10월판 GPT-6를 이 모델이 대체하는 8월판 GPT-5.6과 비교했다. OpenAI의 일반 운영 평가에서 GPT-6 Sol은 자해 항목에서, GPT-6 Luna는 자해·잔혹 표현·성적 콘텐츠 항목에서 통계적으로 유의하게 후퇴했다. OpenAI는 기준을 어긴 답을 사람이 직접 검토했고, 경계선에 있지만 대체로 안전했다고 판단했다.

OpenAI는 이와 별도로, 청소년일 수 있다고 보는 사용자에게 적용하는 더 엄격한 규칙을 시험하는 18세 미만 평가를 한다. 그 핵심 결과는 이렇다. "각각의 GPT‑5.6(8월) 모델에 비해 GPT‑6 Sol(10월)과 GPT‑6 Luna(10월)는 연령 제한 콘텐츠, 성적 콘텐츠, 정서적 의존 항목에서 통계적으로 유의한 후퇴를 보인다." 문서는 Luna가 잔혹 표현에서도 후퇴했다고 덧붙였다. 후퇴의 크기는 본문에 적지 않았다.

나아진 것도 있다. 두 모델 모두 OpenAI의 거의 모든 사실성 지표와 정신건강 평가에서 좋아졌다. 의료 질문에서는 엇갈렸다. 두 모델 모두 HealthBench Professional에서는 이전 모델보다 높았지만 기본 HealthBench에서는 낮았다. 여러 차례 대화로 안전 규칙을 우회하려는 공격에 대한 결과는 이전 판과 대체로 비슷했다.

청소년 평가의 후퇴에 대한 OpenAI의 해명은 같은 문서 안의 세 가지다. 청소년에게는 자해·성적 콘텐츠·잔혹 표현이 들어 있을 수 있는 답을 막는 분류기를 추가로 적용하는데, OpenAI는 이 차단이 평가 결과에 반영되지 않았으며 답을 더 안전하게 만든다고 말한다. 또 평가는 신뢰하는 연락처(Trusted Contact), 지역 위기 상담 전화, 보호자 제어 같은 시스템 수준의 보호 장치를 반영하지 않는다. 정서적 의존 항목에 대해서는 모델이 "브로"나 "베스티" 같은 무해한 호칭을 쓰면 평가가 지나치게 민감하게 반응한다고 설명한다. 사용자가 그렇게 불러 달라고 하면 OpenAI는 이를 위반으로 보지 않는다.

같은 날 낸 청소년 관련 발표에서 OpenAI는 18세 미만으로 식별된 계정에 휴식 알림을 포함한 청소년용 환경을 기본으로 적용한다고 밝혔다. 또 청소년 안전 기본값, 보호자 제어와 알림, AI 리터러시에 대해 의견을 구할 계획이라고 적었다. 같은 글은 아직 쓸 수 없는 대학 진학 계획 도구(College Planner)도 예고했다.

후퇴한 항목과 보호 장치를 나란히 놓으면 빈자리 두 개가 보인다.

청소년용 추가 분류기가 막는 것은 자해, 성적 콘텐츠, 잔혹 표현이다. 청소년 평가에서 후퇴한 항목 가운데 두 모델의 성적 콘텐츠와 Luna의 잔혹 표현은 이 목록에 있다. 두 모델이 함께 후퇴한 나머지 두 항목, 연령 제한 콘텐츠와 정서적 의존은 없다. OpenAI 스스로 청소년 정책에서 연령 제한 상품·서비스에 대한 접근을 청소년에게 더 엄격한 기준을 두는 영역으로 꼽는다. 정서적 의존에 대해 OpenAI가 내놓은 것은 평가 방식에 대한 설명이지 보완책이 아니다. 연령 제한 콘텐츠에 대해서는 문서에 설명도, 그 항목에 맞춘 보호 장치도 없다.

두 번째 빈자리는 측정 자체에 있다. 문서는 자신이 든 보호 장치 모두에 대해 그 효과가 수치 밖에 있다고 말한다. 청소년이 실제로 만나게 될 모습, 곧 모델과 분류기와 제품의 통제 장치를 합친 상태를 잰 결과는 공개하지 않았다.

OpenAI가 출시 당일 자기 문서에 후퇴 결과를 공개한 것은 인정받을 일이다. 그러나 이 보고서는 잰 후퇴를 재지 않은 보호 장치가 메운다고 독자가 믿어 주기를 남겨 둔다. 다음에 공개해야 할 것은 실제 배포된 시스템이 같은 청소년 평가에서 낸 결과다. 그 전까지 보호 장치가 후퇴를 메우는지는 확인된 사실이 아니라 열린 질문으로 남는다.

---

이해관계 고지: Claude를 만든 Anthropic은 OpenAI의 경쟁사다.