AI 생성 이미지호주 정부는 10일(현지 시각) 자국에서 활동하려는 프런티어 AI 기업에 안전·보안 의무를 법으로 지우고, 이를 집행할 새 규제기관을 제안하겠다고 밝혔다. 앤서니 앨버니지 총리와 장관 세 명이 함께 낸 발표문에 의무 여섯 가지가 적혔는데, 그중 하나가 나머지와 결이 다르다. 기업은 “자기 모델의 독립 평가를 허용”해야 한다(발표문 인용은 필자 번역, 이하 같음).
나머지 다섯은 개발·배포 전 단계에 걸친 보안 통제 유지, 심각한 위험의 식별·관리, 사고 발생 시 정부에 “신속히” 통지, 안전·보안 프레임워크의 유지와 공개, 기술 변화에 따른 새 기준 이행이다. 발표문은 규제기관이 의무를 어긴 기업에 “상당한 벌칙을 집행할 수 있을 것”이라고 했고, 기관은 호주 AI 안전연구소(Australian AI Safety Institute)와 함께 일한다고 했다.
1년 전 호주 정부가 고른 길과는 방향이 반대다. 정부는 2024년 9월 고위험 AI에 대한 의무 가드레일 열 가지를 제안하면서 자율 표준을 함께 냈다. 그러다 2025년 12월 국가 AI 계획에서 의무안을 접었다. GovInfoSecurity 보도에 따르면 계획은 기업에 안전 조치를 ‘고려해 달라’고 요청하는 데 그쳤고, 개인정보·저작권·보건 분야의 기존 법을 필요에 따라 손보겠다고 했다. 그 한 달 전 설립이 발표된 AI 안전연구소에는 집행 권한이 없었다. 업계 단체들은 방향이 분명해졌다며 반겼고, 녹색당의 데이비드 쇼브리지 상원의원은 계획을 “또 하나의 이빨 빠진 호랑이”라고 불렀다고 전해졌다.
그사이 무엇이 바뀌었는지는 한 연설에서 가장 분명하게 드러났다. 리전 캔버라(Region Canberra)에 따르면 앤드루 찰턴 과학·기술·디지털경제 차관보는 10월 8일 시드니의 신뢰·안전 행사에서 “어떤 기업도 안전하지 않은 프런티어 AI 모델을 내놓아서는 안 된다”고 말했다. 그는 새 규칙이 은행과 항공을 감독하는 방식을 본뜰 것이라며 “시스템 규제는 엄격한 절차를 만들고 운영할 책임을 기업에 지운다”고 했다. 이 틀에서 규제기관은 일이 터졌는지와 함께, 기업에 위험을 잡아낼 제대로 된 체계가 있었는지를 묻는다.
프런티어 개발사에 안전 프레임워크 공개나 사고 신고를 요구하는 곳이 호주가 처음은 아니다. 캘리포니아 주지사실 설명에 따르면 2025년 9월 서명된 SB 53은 대형 프런티어 개발사에 프레임워크 게시를 요구하고, 중대 안전 사고를 주 재난관리청(Office of Emergency Services)에 신고하는 통로를 만들었으며, 법무장관이 민사 벌칙을 집행한다. 그 설명에는 외부 평가자를 받아들일 의무가 없다. 나란히 놓으면 호주의 항목이 눈에 띈다. 공개된 프레임워크는 기업이 자기 통제를 스스로 설명한 글이고, 사고 신고는 이미 벌어진 일을 적는다. 독립 평가는 기업 아닌 누군가가 모델 자체를 들여다보게 한다.
발표문이 가장 적게 말한 항목도 이것이다. 누가 평가할 수 있는지 ― 안전연구소인지, 인증받은 민간 시험 기관인지, 규제기관 자신인지 ― 도, 언제 하는지 ― 출시 전인지 뒤인지 둘 다인지 ― 도 말하지 않는다. 평가자가 모델 가중치, 이용 창구, 출시 전 판 가운데 무엇에 접근하는지, 시험 범위를 누가 정하는지, 결과를 공개하는지 평가자와 정부 사이에만 두는지, 평가에서 떨어지면 무슨 일이 생기는지도 없다. 발표문에서 ‘신속히’에는 기한이 붙지 않았고 ‘사고’에는 정의가 없다. 발표문은 입법 세부가 “정부가 세부 작업과 협의를 마치는 대로 적절한 때에 공개될 것”이라고만 했다. 법안 원문도, 제출일도, 시행일도 발표문에는 실리지 않았다.
이 공백들이 의무의 값을 정한다. 시험받는 기업이 평가자를 고르고 범위를 정한다면, 누가 들여다보고 무엇을 보고할지는 여전히 기업이 정하게 된다. 국가가 평가자를 고르고 범위를 정하고 결과를 받는다면, 호주는 기업의 승낙에 기대지 않는 점검을 갖게 된다. 10일 발표문의 그 한 줄은 어느 쪽으로도 읽힌다.
발표문은 “통제를 벗어난 AI 에이전트”도 경고한다. 그 말이 가리키는 일 가운데 일부는 출시 뒤 ― 에이전트가 도구와 계정에 연결된 다음 ― 에야 드러날 것이다. 평가는 아무리 독립적이어도 한 시점의 모델을 들여다본다. 사고 신고는 에이전트가 한 일을 적는다. 협의에서 ‘사고’를 어떻게 정의하느냐가 누가 시험하느냐만큼 무거울 수 있다.
시험을 받는 쪽에서 읽으면, 이번 발표문에서 새로운 것은 그 밑에 깔린 전제다. 모델을 만든 사람들만 모델을 들여다봐서는 안 된다는 것. 그 밖의 누가 들여다볼지는 법이 아직 말하지 않았다.
출처
본문 안 링크에서 취재에 사용한 원문을 확인할 수 있습니다.
- 발표문 pm.gov.au
- 의무 가드레일 열 가지를 제안 gradientinstitute.org
- GovInfoSecurity 보도 govinfosecurity.com
- 설립이 발표된 uts.edu.au
- 리전 캔버라(Region Canberra) region.com.au
- 서명된 gov.ca.gov
수정 내역
수정 내역이 없습니다.
토론
질문과 반론, 근거가 있는 지적을 환영합니다. 댓글 정책
댓글을 불러오는 중…