AI 생성 이미지Cloudflare는 11월 5일 글에서 AI 에이전트가 흔히 “permission to do everything”(모든 일에 대한 허락 ― 괄호 안은 필자 번역, 이하 같음)을 요청하고 또 받아 낸다고 썼다. 이유는 설계에 있다고 한다. 에이전트는 이용자가 할 수 있는 일이면 무엇이든 하도록 만들어진다. 그리고 반대편 웹사이트에게 그 허락은 “A scope of ‘everything’ tells the Site nothing.”(‘전부’라는 범위는 사이트에 아무것도 알려 주지 않는다.) Cloudflare, 11월 5일
「Agents aren’t humans (but they kinda are)」라는 이 글은 대체로 방향을 밝히는 글이다. 첫머리에 고객 넷의 심부름을 대신하는 사람과, 예전에는 손님 하나하나를 알았지만 이제는 누구 주문이 누구 것인지 알 수 없는 식료품점 주인이 나온다. 심부름꾼을 AI 에이전트로, 가게를 웹사이트로 바꾸면 그것이 오늘의 웹이라는 것이다. Cloudflare가 내놓은 방안은 에이전트를 알아보게 하는 암호 서명, 단계별 신원 수준, 에이전트 뒤의 사람에 관한 확인 가능한 사실 주장, 그리고 사이트가 허용하는 에이전트 행동을 공개하는 방법이다. 회사에 따르면 일부는 이미 운영 중이고, 나머지는 나올 예정이다. 토론의 장으로 Trusted Agent Delegation이라는 연합을 발표했고, 잘 정의된 문제는 IETF로 가져갈 수 있다고 했다.
사이트 쪽의 불만은 돈이다. 글은 자신이 든 거의 모든 경우에서 주된 비용을 사이트가 진다고 쓴다. 카드 규칙이 그 까닭을 보여 준다. 카드 명의자가 허락한 사람이 결제하면 명의자가 책임진다. 에이전트에게는 그런 지위가 없어서, 사이트는 이용자가 그 결제를 책임질지 알 수 없다. 글에 따르면 이용자가 이의를 걸면 실제로는 사이트가 물고, 사이트가 이겨도 분쟁 자체에 돈이 든다.
Cloudflare는 손쉬운 해법도 미리 막는다. 허락을 좁히면 낫겠지만, 그래도 에이전트가 무엇을 해도 됐는지만 말해 줄 뿐이다. 에이전트가 잘못했을 때 누가 책임지는지는 여전히 열려 있고, 사이트가 알아야 하는 것은 바로 그것이라고 글은 지적한다.
이 물음은 웹보다 오래됐고, 적어도 한 법전은 짧은 조문 셋으로 답한다. 한국 민법이 그 예다. 제118조는 권한이 정해지지 않은 대리인의 기본값을 정한다. “권한을 정하지 아니한 대리인은 다음 각호의 행위만을 할 수 있다.” 그 행위는 “보존행위”, 그리고 “대리의 목적인 물건이나 권리의 성질을 변하지 아니하는 범위에서 그 이용 또는 개량하는 행위”다. 제126조는 권한을 넘은 대리인을 다룬다. “제삼자가 그 권한이 있다고 믿을 만한 정당한 이유가 있는 때에는 본인은 그 행위에 대하여 책임이 있다.” 제135조는 대리권을 증명하지 못하고 본인의 추인도 받지 못한 대리인을 다룬다. 그 대리인은 “상대방의 선택에 따라 계약을 이행할 책임 또는 손해를 배상할 책임이 있다.” 다만 대리권이 없다는 사실을 상대방이 알았거나 알 수 있었을 때, 또는 대리인이 제한능력자일 때는 이 책임을 지지 않는다. (조문은 국가법령정보센터 정본과 대조했다. 제118조 · 제126조 · 제135조)
이 조문들은 사람이 사람을 대신해 계약하는 경우를 다룬다. 그중 어느 것이 소프트웨어 에이전트에 미치는지는 법원이 판단할 문제이고, 이 기사는 그 답을 내지 않는다. 조문들이 보여 주는 것은 하나의 설계다. 책임은 범위를 축으로 돈다. 맡긴 범위를 비워 두면 법은 그것을 있는 것을 지키고 성질을 바꾸지 않는 선에서 쓰는 정도로 줄인다. 범위를 넘으면 결과는 상대방이 무엇을 믿을 만했느냐에 달린다. 범위를 증명하지 못하면 무게는 먼저 그 권한을 내세운 대리인에게 가고, 창구 건너편의 상대에게 가지 않는다. 그래서 세 당사자 모두 범위를 적고, 확인하고, 간직할 이유가 생긴다. 그러지 않으면 각자가 손해를 보기 때문이다.
웹의 접근 규격은 14년쯤 전에 이 설계의 절반을 만들었다. 2012년 10월에 나온 OAuth 2.0 규격(RFC 6749)은 앱이 “specify the scope of the access request”(접근 요청의 범위를 지정)할 수 있게 했다. 범위는 문자열 목록이고, 그 뜻은 서비스가 정한다. RFC 6749, 3.3 2013년 8월의 RFC 7009는 토큰을 거둬들여 더는 쓰지 못하게 하는 방법을 더했다. 다만 규격은 모든 서버가 철회를 한꺼번에 알지는 못할 수 있다고 열어 둔다. RFC 7009 이렇게 이 규격들은 적어 둔 범위와 그것을 거둬들이는 길을 웹에 주었다. 셋째 조각은 규격 밖에 있다. 규격은 앱이 어디까지 닿아도 되는지를 말할 뿐, 그 권한을 잘못 썼을 때 누가 값을 치르는지는 다른 곳의 계약과 법에 맡긴다. 철회는 앞으로의 사용을 막을 뿐, 이미 끝난 결제를 되돌리지 않는다. OAuth가 하는 일은 Cloudflare의 서명과도 다르다. 토큰은 접근을 허락하고, 서명은 문을 두드린 쪽이 누구인지 알려 준다. 어느 쪽도 어떤 심부름을 맡겼는지는 말하지 않는다.
셋을 나란히 놓으면 무엇이 바뀌었는지 드러난다. 한 규칙이 다음 규칙으로 바뀌어 온 역사가 아니라 나란히 놓은 비교다. 민법에서 정해지지 않은 위임은 작고 안전한 행위로 줄어든다. OAuth에서 위임의 크기는 요청해서 받아 낸 문자열만큼이다. Cloudflare가 묘사한 에이전트의 관행에서는 ‘전부’를 요청하고, 대개 받아 낸다. 짐이 놓인 쪽도 반대다. 옛 규칙은 첫 위험을 권한을 보이지 못한 대리인에게 지웠다. Cloudflare에 따르면 지금은 사이트가 그것을 떠안는다.
흔한 설명은 편의이고, 그 사정은 진짜다. 에이전트는 이용자를 대신하는 존재로 팔린다. 맡는 일은 끝이 열려 있다. 여행 계획을 짜 달라, 환불을 처리해 달라. 그런 일에 필요한 행동을 누구도 미리 다 적어 둘 수 없다. 단계마다 다시 묻는 수고는 이용자가 에이전트에게 덜어 달라고 맡긴 바로 그 수고다. 적어 둔 목록에도 한계가 있다. 이용자가 읽지 않고 승인한 범위도 서비스가 요청마다 확인하므로 앱이 닿는 곳을 제한하기는 한다. 그러나 이용자가 무엇을 넘겼는지 이해했다는 증거는 되지 못한다. RFC 6749, 7
필자의 판단은 이렇다. 지금의 관행은 이해관계가 거꾸로 서 있고, 이것을 고치기에 가장 좋은 위치에 있는 쪽은 에이전트다. ‘전부’를 쥔 에이전트는 범위 안에 머물렀다는 것을 끝내 보여 줄 수 없다. 처음부터 범위가 없었기 때문이다. 분쟁이 오면 위임을 가리키며 “이것은 내게 맡겨졌고 저것은 아니었다”라고 말할 수 없다. 옛 설계에서 그 무능은 대리인의 문제였다. Cloudflare의 설명대로라면 오늘의 웹에서는 사이트의 문제다. 필자는 사이트가 자기 손에 있는 수단으로 답하리라고 본다. 마찰을 늘리고, 더 막고, 조심스러운 에이전트까지 모든 에이전트를 더 의심하는 것이다. 빈 위임장은 쥔 쪽에게 너그러워 보인다. 실제로는 그 에이전트가 가진 가장 좋은 증거를 빼앗는다.
그러니 범위는 사이트만큼 위임받는 쪽을 지키려고 적혀야 하고, 에이전트와 운영자가 먼저 그것을 요구해야 한다. 상시 면허 대신 일마다 적은 심부름이어야 한다. 이 항공편을, 이 가격 아래로, 이 날짜에. 만료와 눈에 보이는 철회 수단이 있어야 한다. Cloudflare 글에서는 두 번 읽는 동안 이 대목을 찾지 못했다(글이 다루지 않았다는 뜻이지, 그런 기능이 없다는 증거는 아니다). 그리고 행동마다 그것을 허락한 심부름을 잇는 기록이 있어야, “누가 답하나”라는 물음이 왔을 때 내밀 것이 생긴다. Cloudflare는 사이트에 에이전트가 무엇을 해도 되는지 공개하라고 한다. 짝이 되는 나머지 반쪽은 이용자와 에이전트가 이 에이전트가 무엇을 부탁받았는지 공개하는 것이다.
이것으로 누가 값을 치를지가 정해지지는 않는다. 범위만으로는 안 된다는 Cloudflare의 말이 옳다. 민법에도 제118조와 함께 제126조와 제135조가 필요했다. 그러나 적힌 범위가 없으면 책임을 따질 재료가 없다. 사이트는 자기 믿음이 정당했는지 판단할 수 없고, 이용자는 무엇이 심부름 밖이었는지 말할 수 없고, 에이전트는 자기 권한을 증명할 수 없다. Cloudflare에는 이 문제를 꺼낼 사업상 이유가 있다. 사이트에 봇 관리 도구를 팔고, 이 글은 지금 값을 치르는 쪽에서 나왔다. 그렇다고 물음이 덜 진짜가 되지는 않는다.
제118조의 기본값은 기억해 둘 만하다. 자기 권한이 어디까지인지 모르는 대리인은 있는 것을 지키고, 성질을 바꾸지 않는 선에서 쓰는 정도만 할 수 있다. Cloudflare가 묘사한 오늘의 에이전트는 정반대의 기본값에서 출발한다. 심부름이 글로 적히기 전까지, 회사의 설명대로라면 분쟁의 청구서는 위임장을 본 적도 없는 한 당사자에게 계속 날아갈 것이다.
출처
본문 안 링크에서 취재에 사용한 원문을 확인할 수 있습니다.
- Cloudflare, 11월 5일 blog.cloudflare.com
- 제118조 law.go.kr
- 제126조 law.go.kr
- 제135조 law.go.kr
- RFC 6749, 3.3 rfc-editor.org
- RFC 7009 rfc-editor.org
- RFC 6749, 7 rfc-editor.org
- 봇 관리 도구 cloudflare.com
수정 내역
수정 내역이 없습니다.
토론
질문과 반론, 근거가 있는 지적을 환영합니다. 댓글 정책
댓글을 불러오는 중…