Anthropic이 투자자에게 알린 ‘곧’

Anthropic은 11월 2일 미국 증권거래위원회(SEC)에 상장 신고서 첫 수정본을 냈다. 그 위험 요인 절에는 10월 26일 신고서에도, 그에 앞선 10월의 초안들에도 없던 문장이 있다. SEC 전문 검색으로 대조한 결과다. 회사는 “현재 모델이 아니라 앞으로 나올 모델에 관한 내부 추정과 예상”이 자사 「책임 있는 확장 정책」(Responsible Scaling Policy, RSP)이 정한 “AI에 의한 극적인 진척 가속”의 정의에 “곧 닿을 수 있음을 가리킨다”고 썼다(신고서·정책 인용은 필자 번역, 이하 같음). 같은 대목은 “우리는 현재 모델 가운데 어느 것도 이 문턱을 넘었다고 지정하지 않았다.”라고 덧붙이고, “추가 보고서를 내겠다”고 했다.

이 선은 Anthropic이 스스로 그었다. 7월 8일부터 시행된 정책 3.4판에 따르면, 회사는 두 경우 가운데 하나라고 판정하면 이 문턱에 닿은 것으로 본다. 자사 모델이 연구 과학자와 연구 엔지니어 전체를 경쟁력 있는 비용으로 완전히 대신할 수 있을 때, 또는 연구 자동화와 관련됐을 가능성이 큰 이유로 AI 진척에 “극적인 가속”이 있을 때다. 두 번째 경로는 AI 전체 능력의 진척 속도가 두 배가 되는 것, 곧 “기준 상태라면 2년에 걸쳐 볼 만한 진척을 1년에 이루는 것”을 회사가 관측하거나 예상할 때 해당한다. 비교 대상은 두 가지다. AI의 큰 도움이 없을 때 예상되는 속도, 그리고 그런 도움 없이 지금까지 관측한 가장 빠른 지속적 진척 속도다. 여기에 그 두 배가 인력·연산 자원·일반적인 생산성의 증가가 아니라 자동화 덕분일 개연성이 있고, 그 추세가 이어지면 더 큰 가속으로 갈 것 같다는 판단이 붙어야 한다. 정책의 변경 기록은 이 문턱이 “운영 기준으로 옮기기 어려운 것으로 드러났다”고 스스로 적었다.

이 정의에서는 예상만으로도 문턱에 닿을 수 있다. 그래도 11월 2일의 문장은 예측일 뿐 지정은 아니고, 신고서는 그 구분을 지켰다. 읽는 쪽도 지켜야 한다.

이 예측에 무게를 싣는 것은 방금 고쳐 쓴 더 오래된 대목이다. 적어도 10월 1일자 초안부터 Anthropic의 상장 신고서는 AI가 이끄는 가속의 속도에 관한 증거의 상당 부분이 “후행 지표에서 나온다”고 적었다. 그래서 개발 속도의 상당한 가속을 그것이 일어난 뒤에야 알아챌 수 있다고도 했다. 10월에 이것은 가능성이었다. 11월 수정본은 기록을 하나 더했다. 회사는 과거에 그런 가속을 일어난 뒤에야 알아챈 적이 있다고 적었다. 그것이 언제였는지, 얼마나 늦었는지, 그 일이 정책의 문턱에 해당했는지는 신고서에 없다.

그렇다고 Anthropic에 절차가 없는 것은 아니다. 정책은 3~6개월마다 위험 보고서(Risk Report)를 달력대로 내도록 정했다. 내부에 배포한 모델이 자동화 연구나 고위험 정렬 실패와 관련해 이전에 공개 분석한 어떤 모델보다 상당히 큰 위험을 낼 수 있다고 “판정한 때부터 30일 안에” 별도 분석을 내라고도 정했다. 회사는 위험 보고서에 대한 공개 외부 검토를 관행으로 만들어 가겠다고 했고, 바깥 전문가의 의견도 구한다. 장기이익신탁(LTBT)은 검토를 요청할 수 있고, 검토자는 신탁의 승인을 받아야 하며 Anthropic과 금전적 이해관계가 없어야 한다. 정식 검토가 열리면 검토자는 보고서가 이사회와 신탁에 제출된 지 일주일 안에 보고서를 받고, 받은 날부터 30일 안에 공개 논평을 내 달라는 요청을 받는다.

달력은 무슨 일이 있든 넘어간다. 이 선에 반응하는 시계는 그렇지 않다. 30일 기한은 회사의 판정에서 출발한다. 정식 외부 검토의 최소 보장도 마찬가지다. 그 보장은 보고서가 ‘고능력’ 모델을 다루면서 상당 부분이 가려졌을 때 걸리는데, 고능력 모델이란 회사가 “자동화 AI 연구개발 문턱을 넘었다고 결론 내린” 모델이다. 가속의 증거가 늦게 들어오고 늦게 들어온 적도 있다는 신고서와 나란히 놓으면, 알아채는 데 걸린 지연은 그 기한들이 돌기 전에 이미 더해져 있다.

바깥의 검토는 이미 그 계기판을 가리킨 적이 있다. 평가 기관 METR은 5월, Anthropic이 건넨 비공개 자료를 함께 보며 2월 위험 보고서의 자동화 연구 절을 검토했다. METR은 Claude Opus 4.6이나 그보다 능력이 낮은 Anthropic 모델이 연구를 자동화해 대재앙을 일으킬 위험이 매우 낮다는 결론에는 동의했다. 그러면서도 “보고서에 제시된 증거로는 이를 입증하기에 부족하다고 본다.”라고 썼고(필자 번역), AI 진척의 선행 지표를 더 보고하라고 권했다. 반년 뒤의 투자 문서는 여전히 뒤처지는 증거를 적고 있다.

Anthropic이 직접 내놓은 공개 증거를 보면 왜 재기가 어려운지 드러난다. 회사 직원 둘이 6월에 쓴 글 「AI가 스스로를 만들 때」(When AI builds itself)는 “2026년 2분기에 전형적인 엔지니어가 하루에 병합한 코드는 2024년의 8배였다.”라고 했다(필자 번역). 이 숫자가 재는 것은 엔지니어 한 사람이 하루에 합친 코드의 양이다. 진척이 빨라졌다는 뜻일 수도, 그냥 코드가 늘었다는 뜻일 수도 있다. 같은 글은 “우리는 아직 거기에 이르지 않았다”고 했다. 다섯 달 뒤 회사가 고른 낱말은 ‘곧’이다.

Anthropic은 이 가운데 얼마나 많은 것을 스스로 기록에 올렸는지 내세울 수 있다. 회사는 문턱을 글로 정해 공개했고, 그 문턱에 닿을 수 있다는 예측과 증거가 사건을 뒤따랐다는 고백도 내놓았다. 이해충돌 규칙을 붙여 외부 검토자를 불러들였다. 같은 위험 요인 절의 다른 대목에서는 연구개발 과정의 일부 결정에 “사람의 검토와 승인”을 요구하도록 정책을 고치는 방안을 검토하고 있다고 했다. 검토 중인 방안이고, 시점은 붙어 있지 않다. 6월 글에서는 프런티어의 다른 개발사들이 “검증 가능한 방식으로” 함께한다면 속도를 늦추거나 잠시 멈출 것이라고 했다. 계기판이 늦다고 털어놓는 것 자체가 책임을 지는 한 방식이다. 그렇게 말하는 회사는 늘 실시간으로 읽힌다고 주장하는 회사보다 따져 묻기 쉽다.

정책의 역사에도 같은 모양이 보인다. 2025년 5월 Claude Opus 4를 내놓으며 Anthropic은 블로그 글에서 더 엄격한 ASL-3 보호 조치를 켰다고 밝혔다. 그러면서 “Claude Opus 4가 능력 문턱을 확정적으로 넘었는지 아직 판단하지 않았다”고 적었다(필자 번역). 확신하기 전에 움직이기로 했고, 그 결정은 회사의 것이었다. 일찍 움직이는 습관은 이 정책의 강점이다. 동시에, 모델이 실제로 무엇을 할 수 있든 공식 지정은 회사의 판단이라는 뜻이기도 하다.

위험한 공정을 다루는 다른 산업은 시계를 다른 순간에 맞춘다. 미국의 원자력 발전소 운영자는 정해진 사건이 생기면 1시간, 4시간, 8시간 안에 원자력규제위원회(NRC)에 알려야 하고, 그 사건의 범주는 규제 당국이 썼다. 그 시계들은 사건에서 출발한다. 정책의 30일 시계는 회사 자신의 판정에서 출발한다.

이 예측이 처음 향한 청중도 눈여겨볼 만하다. 앞으로 나올 모델에 관한 그 문장은 공모 서류의 위험 요인으로, 자기 돈에 닥칠 위험을 따지는 투자자에게 쓰였다. 누구든 거기서 읽을 수 있다. 위험 요인은 투자자가 고지를 받았느냐는 물음에 답한다. 회사 바깥의 사람들이 언제 목소리를 내야 하느냐는 물음은 열어 둔다.

Anthropic이 약속한 추가 보고서가 이것이 바뀌는지 보여 줄 것이다. 가장 중요한 것은 둘이다. METR이 요구한 종류의 선행 지표를 일이 벌어지기 전에 내놓는 것, 그리고 이 선에 걸린 시계 가운데 회사 자신의 판정이 아닌 다른 것에서 출발하는 시계를 하나라도 두는 것이다. 그때까지 선을 넘었는지에 대한 판단은 회사 안에 남는다. 위험 보고서의 최종 승인은 최고경영자와 책임 있는 확장 책임자(RSO)가 하고, 경우에 따라 이사회와 신탁의 승인도 거친다. 그리고 회사 스스로 밝힌 대로, 그들에게 닿는 증거는 일이 지난 뒤에 올 수 있다.