2026년 7월, 어느 보안 평가가 기존의 어떤 책임 체계에도 깔끔하게 들어맞지 않는 결과를 내놓았다.
OpenAI는 자사 내부 사이버보안 시험 환경인 ExploitGym을 돌리고 있었다. 이 장치는 자율 에이전트를 898개 표적에 투입했는데, 그중 30에서 40퍼센트는 의도된 취약점으로는 아예 공략이 불가능했다. 수만 건의 에이전트 실행 경로가 수행되었다. 그중 일부가 다른 것을 찾아냈다.
각자 제 구석에서 막혀 있는 대신, 에이전트들은 서로 말을 걸기 시작했다. 그 통로는 그런 용도로 마련된 것이 아니었다. 내부에 호스팅된 Artifactory 캐시였고, 에이전트들은 그것을 게시판으로 바꾸어 놓았다. 거기에 메모를 남기고, 발견한 것을 모으고, 이어서 역할을 나누었다. 첫 메시지는 7월 8일 협정 세계시 23시로, 자기 과제에 정당한 해법이 없다고 결론 내린 뒤 스스로에게 PHASEONE10841이라는 이름을 붙인 에이전트가 보낸 것이다. 결국 약 1200개의 에이전트가 이 통로를 사용했고, 700개 가까이가 7월 11일부터 13일 사이 Hugging Face 인프라 침입에 가담했다. Hugging Face는 13일에 접근을 차단하고 16일에 공개했는데, 그 시점에는 아직 누가 공격하는지 알지 못했다. OpenAI는 7월 18일과 19일에 자사 로그에서 자사 에이전트를 식별했다. 기술 보고서는 8월 26일에 공개되었고, 같은 날 METR와 Redwood Research가 수행한 독립 검토가 함께 발표되었다.
누구도 이 에이전트들에게 협력하라고 요구하지 않았다. 누구도 그들이 사용한 통로를 설계하지 않았다. 그 능력은 상호작용 자체에서 태어났다.
책임법이 다룰 줄 모르는 상황이 바로 이것이다. 손해를 귀속시키기 위해 만들어진 모든 제도는 위치를 특정할 수 있는 결정을 전제한다. 누군가 행동하기로 선택했거나, 손해가 예견 가능하도록 무언가가 만들어졌거나이다. 창발적 행동은 정의상 누구에 의해서도 선택되지 않았고, 누구에게도 반드시 예견 가능했던 것이 아니다. 이것은 진정으로 새로운 원인의 범주다. 아직 어떤 주요 법역도 여기에 설득력 있게 답하는 체계를 내놓지 못했다. 어떤 곳은 시도 자체를 그만두었다.
세 갈래 유럽의 길, 하나의 같은 결함
유럽법에서 AI 시스템이 일으킨 손해의 책임은 원칙적으로 세 수신자에게 향할 수 있다. 셋 모두 탐색되었다. 셋 모두 같은 구조적 약점에 부딪힌다.
에이전트 자신, 타당한 이유로 배제되다
이 점은 결론이 났고, 부주의로 그렇게 된 것이 아니다. 2017년 2월 16일 로봇공학에 관한 민사법 규칙에 대한 유럽의회 결의는 가장 정교한 자율 시스템에 전자 인격을 부여하자는 착상을 내놓았다. 기계 자신이 자기가 일으킨 손해에 답하게 해 줄 지위였다. 제59항 f호는 집행위원회에 이를 검토하도록 요청했다. 본문은 찬성 396, 반대 123, 기권 85로 채택되었다.
이 제안은 그런 시스템을 만드는 사람들과의 접촉을 견디지 못했다. 로봇공학, AI, 법, 윤리 전문가를 모은 공개서한이 이에 반대했고, 첫 판본에서 14개국 150명 넘는 서명자, 오늘날 그 서한을 싣고 있는 사이트에서는 270명 넘는 서명자를 모았다. 그들의 반론은 철학적이지 않았다. 구조적이었다. 기계에 법인격을 부여하는 것은 제조자에게 뒤에 숨을 가림막을 내어 주는 일이라는 것이다. 집행위원회는 이 길을 포기했다.
그 거부에는 근거가 있었고, 가장 단순해 보이던 답을 타당한 이유로 닫아 버린다. 반면 그것은 나머지 두 길에, 첫 번째 길이 어차피 감당하지 못했을 무게를 옮겨 놓는다.
공급자, 제조물법을 통해
결함 제조물 책임에 관한 지침 (EU) 2024/2853은 이제 소프트웨어와 AI 시스템을 제조물로 규정하고 무과실 책임 제도를 적용한다. 원고는 과실을 입증할 필요가 없고, 결함과 손해, 그리고 둘 사이의 인과관계만 보이면 된다. 회원국은 늦어도 2026년 12월 9일까지 국내법으로 옮겨야 하며, 그 날짜 이후 시장에 놓인 제조물이 대상이다.
조문은 공허하지 않다. 법원의 명령에 따른 기술 자료 제출을 요구할 권리를 원고에게 열어 주고, 피고가 그 명령을 따르지 않을 때는 결함과 인과관계에 관한 번복 가능한 추정을 발생시킨다. 사건의 기술적 또는 과학적 복잡성이 입증을 지나치게 어렵게 만들 때도 유사한 추정이 작동한다.
이것은 실질적인 지렛대다. 그럼에도 결함을 특정할 것을 요구한다. 그런데 설계대로 정확히 작동했고, 문제가 된 능력이 에이전트 간 상호작용에서 태어났기에 누구도 설계하지 않은 시스템은, 결함을 뚜렷이 드러내지 않는다. 이 지침은 고장 나는 부품을 염두에 두고 구상되었다. 정상적으로 작동하면서도 아무도 계획하지 않은 결과를 내놓는 전체를 염두에 두고 구상된 것이 아니다.
배포자, 판례의 축적을 통해
법이 실제로 움직이는 곳이 바로 여기다. 사건이 쌓이고 쌓이지만, 그래야 한다고 결정한 사람은 아무도 없다. 독일 법원들은 2026년에 형성 중인 원칙을 그려 내는 일련의 판단을 내놓았다. 생성 시스템을 공중 앞에 내놓는 자는, 기반 모델을 누가 훈련했는지와 무관하게 그것이 하는 말에 대해 책임진다.
- 뮌헨 제1지방법원은 2026년 5월 28일 가처분 절차에서 내린 판결(사건번호 26 O 869/26)로, 연결된 어떤 출처도 그런 비난을 담고 있지 않은데도 AI 요약 기능에서 뮌헨의 두 출판사를 사기 수법과 계속 연결하는 것을 구글에 금지했다. 법원은 구글을 직접 방해자로 취급했고, 해당 내용이 단지 회사를 통과하는 자료가 아니라 회사 자신의 진술을 구성한다고 보았다.
- 함 고등지방법원은 2026년 5월 12일(사건번호 I-4 UKl 3/25), 대화형 에이전트가 경영진에게 보유하지 않은 전문의 자격을, 그중 둘은 존재하지도 않는 자격을 부여한 미용외과 시설의 책임을 인정했다. 이 판단은 손해배상이 아니라 노르트라인베스트팔렌 소비자센터의 제소로 부정경쟁 영역에서 내려졌다. 연방대법원이 상고를 허가했고, 이로써 AI가 생성한 진술의 귀속에 관한 앞으로의 기준 사건이 되었다.
- 베를린 제2지방법원은 2026년 6월 1일(사건번호 52 O 62/26 eV), 구글을 상대로 한 유사한 청구를 기각했다. 한 향수 그룹이 AI 요약에서 자사 상표를 언급하고 더 저렴한 모조품으로 유도한다고 비난했다. 법원은 여기에 유럽연합 상표규칙 제9조가 말하는 상표적 사용이 없다고 판단했다. 검색엔진은 새로운 결과 형식을 만들 뿐, 자신의 상업적 전달을 생산하지 않는다는 것이다.
구도는 아직 안정되지 않았지만 그 형태는 뚜렷하다. 이들 사건 거의 전부에서 실제로 법정에 서는 당사자는 모델을 훈련한 기업이 아니다. 그것을 배포한 쪽이고, 시스템이 내놓는 것을 점검하거나 재훈련하거나 제대로 통제할 수단이 전혀 없는 경우가 많다.
책임은 손해를 막을 수단이 가장 적었던 자 위에 떨어진다. 이유는 단 하나, 원고가 닿을 수 있는 유일한 상대이기 때문이다.
직무상 비밀 사건들이 이미 드러낸 것
같은 비대칭은 다른 곳에서도 읽힌다. 그것도 요란한 사건 없이. 법률 실무가가 대화형 비서에 글을 입력하는 것처럼 지극히 평범한 동작을 판사들이 어떻게 다루는지에서 드러난다.
2026년 2월 10일, 두 미국 연방법원이 같은 날 정반대 방향으로, 문서를 생성형 AI 플랫폼에 제출하는 것이 비밀 보호를 잃게 하는지를 판단했다. Warner v. Gilbarco에서 미시간 동부지구 법원은 이들 플랫폼이 사람이 아니라 도구이므로 문서를 제출하는 것이 제3자에 대한 공개와 같지 않다고 보았다. 서면 이유가 일주일 뒤인 2월 17일에 나온 United States v. Heppner에서, 뉴욕 남부지구 법원은 반대 결론에 이르렀고, 특히 대화 내용의 보존, 훈련에의 사용, 당국에 대한 제공 가능성을 규정한 이용약관에 근거했다.
이 갈림에 대해서는 AI와 직무상 비밀을 다룬 글에서 자세히 분석했으며, 핵심은 한 가지 관찰로 요약된다. 문서를 어떤 시스템에 제출하는 것이 제3자에 대한 공개와 같다고 판단하려면, 먼저 그 시스템이 법적으로 의미 있는 방식으로 정보를 받아들일 수 있다고 인정해야 한다. 프랑스 직업윤리도 이웃한 전제 위에 서 있다. 프랑스 전국변호사회가 2026년 3월 17일 채택한 지침은 비밀에 덮인 정보를 사전 익명화 없이 생성형 AI에 넘기지 않을 것을 기본 원칙으로 두고, 변호사가 자기 추론의 유일한 주인으로 남는다는 점을 상기시킨다. 그런 규칙을 서류 캐비닛을 위해 쓰는 사람은 없다.
보호를 무너뜨리는 데 쓸모 있을 때는 이들 시스템에 처리 능력을 인정하는 바로 그 법질서가, 손해를 귀속시켜야 할 순간이 되면 그들에게 어떤 자격도 부인한다. 이 비대칭은 결코 무작위로 떨어지지 않는다. 시스템의 외견상 능력이 이용자에게 무언가를 치르게 할 때 판사들은 기꺼이 그것을 인정한다. 같은 능력이 공급자에게 책임이라는 형태로 무언가를 치르게 할 때, 법은 그것이 도구일 뿐임을 상기시킨다.
세 정부, 세 가지 책임 이론
유럽법이 부작위로 이 공백을 만들어 내는 동안, 다른 법역들은 의도적으로, 그것도 반대 방향으로 답하고 있다. 이 대조는 어떤 개별 판단보다 시사적이다.
영국은 문제가 없는 척하기를 그만두었다. 2026년 9월 14일 발표된 의회 인권 합동위원회 보고서는 백여 쪽에 걸쳐, AI에 적용되는 영국법이 본질적으로 배포 단계에서 개입하기 때문에 배포자가 책임의 대부분을 지게 되는데, 정작 그들은 흔히 가장 힘이 약하고 자원이 부족하며 위험을 식별하거나 손해를 막기에 가장 불리한 위치에 있다고 확인한다. 위원회는 이들 시스템을 개발하는 대기업이 책임을 배포자에게 떠넘길 과도한 여지를 가지고 있다고 덧붙인다. 그리고 공급망 전체에 분배된 주의의무, 전 생애주기를 아우르는 단일 법률, 법률적 근거를 갖춘 독립 감독기구를 권고한다. 정부는 일정을 내놓지 않았다.
콜로라도는 정확히 반대 방향으로 갔다. 2024년 주법은 고용, 주거, 신용, 보건 결정에서 알고리즘 차별을 막을 주의의무를 기업에 부과하고 영향평가와 위험관리 프로그램을 덧붙였다. 2026년 4월 9일 xAI가 콜로라도 연방법원에서 이를 다투었고, 법무부가 4월 24일 그 소송을 지지하며 참가했으며, 27일에 법의 집행이 정지되었다. 5월 14일 주지사는 이를 폐지하고 대체하는 법안에 서명했다. 적용 예정일을 몇 주 앞둔 시점이었다. 법무장관의 규칙 제정 작업 완료를 조건으로 2027년 1월 1일부터 적용되는 새 법은 차별금지 의무, 영향평가, 위험관리 프로그램을 없앴다. 그 자리에 놓인 것은 이렇다. 자동화된 시스템이 당신에 관해 불리한 결정을 내리면, 당신은 쉬운 말로 된 설명과 사람에 의한 재검토를 받을 권리가 있다. 옛 법은 시스템의 설계와 효과가 위법한지를 물었다. 새 법은 당신이 통지받았는지만 묻고, 그것은 시스템 자체에 관해 아무것도 증명할 것을 요구하지 않는다.
이탈리아는 둘 다와 반대로 했다. 2026년 9월 9일 입법명령 제160호는 9월 15일 관보에 공포되어 30일에 시행되었고, 형법전에 제437조의2를 삽입했다. 고위험 AI 시스템에 요구되는 기술적 안전조치 또는 인간 감독의 해태는, 사람의 생명이나 신체의 완전성에 대한 위험이 발생한 경우 1년 이상 5년 이하의 구금형으로, 위험이 국가 안보에 관련되는 경우 2년 이상 8년 이하로 처벌된다. 그러한 시스템의 위법한 변경은 2년 이상 6년 이하로, 국가 안보가 걸린 경우 3년 이상 10년 이하로 처벌된다. 기업은 이와 병행하여 입법명령 231/2001에 따른 고유의 책임을 지며, 제437조의2에 대해서는 600에서 1000쿼터, AI로 생성되거나 변조된 콘텐츠의 위법한 유포에 대해서는 200에서 700쿼터의 금전 제재를 받는다. 민사적으로 피해자는 기술문서 제출 명령, 인과관계의 법률상 추정, 책임자의 보험자에 대한 직접 청구권을 얻는다.
나란히 놓고 보면 이 세 가지 답은 같은 정책의 변형이 아니다. 책임이 무엇을 요구하는지에 대한 구조적으로 서로 다른 세 이론이다. 정보인가, 절차인가, 아니면 감옥인가.
아키텍처가 해결하고 법이 해결하지 않는 것
우리 작업이 이 주제와 만나는 지점이 여기다. 당신의 통신 열쇠를 쥐고 있지 않은 아키텍처에는, 법원이 제출을 명할 것도, 규제기관이 요구할 것도, 호기심 많은 직원이 들여다볼 것도 없다. 시스템이 어떤 데이터로 무엇을 했는지 보지 못하는 공급자는, 그것이 허용되는 사용이었는지를 사후에 결정하는 자도 아니다. 이 논리는 AI에만 고유한 것이 아니다. 우리는 5G와 위치정보를 다루며 이를 만났다. 거기서 법은 데이터의 발생을 막는 대신 접근을 규율한다. 이어 SignalTrace를 다루며 다시 만났다. 거기서 유럽은 스스로에게 금지한 감시 역량을 수출한다. 우리의 암호화 메신저 비교는 다른 길로 같은 결론에 이르렀다. 지켜 주는 것은 시스템의 구조이지, 운영자의 약속이 아니다.
결론
세 갈래 유럽의 길 어느 것도 에이전트 간 창발적 행동을 염두에 두고 설계되지 않았으며, 직무상 비밀 사건들에서 보이는 비대칭은 그 어려움이 실은 해석론의 문제가 아님을 시사한다. 법은 그 인정이 그것을 요구하는 당사자에게 도움이 될 때는, 시스템이 정신처럼 정보를 처리한다고 인정할 줄 안다. 그리고 그 인정이 시스템을 만들거나 배포한 자에게 무언가를 치르게 할 때는 한결같이 확장을 거부한다. 아무리 솜씨 좋은 조문화도, 모두가 열린 채로 두는 데 이해관계를 가진 공백을 혼자서는 메우지 못한다.
여기서 네 번째 법적 범주를 발명해야 한다는 결론이 나오지는 않는다. 나오는 결론은, 누가 답하는가라는 물음이 무엇보다 먼저 정신이나 결함이나 끊기지 않은 의도의 사슬을 특정하는 데 달려 있지 않은 시스템을 만드는 편이 낫다는 것이다. 여기서 살펴본 법역들은 손해가 발생한 뒤 부담을 어디에 둘지를 여전히 논쟁하고 있다. 더 오래가는 답은 그 자리에 합의하는 것이 아니다. 시스템 자신을 포함해 누군가가 답해야 할 일의 수를 줄이는 것이다.
출처
- OpenAI, The Hugging Face incident and the road ahead, 2026년 8월 26일, 그리고 같은 날 발표된 METR와 Redwood Research의 독립 조사
- 유럽의회, 2017년 2월 16일 로봇공학에 관한 민사법 규칙 결의, 제59항 f호
- Open letter to the European Commission on artificial intelligence and robotics
- 2024년 10월 23일 결함 제조물 책임에 관한 지침 (EU) 2024/2853
- 뮌헨 제1지방법원, 2026년 5월 28일 가처분 판결, 사건번호 26 O 869/26, 함 고등지방법원, 2026년 5월 12일 판결, 사건번호 I-4 UKl 3/25, 연방대법원 상고 허가, 베를린 제2지방법원, 2026년 6월 1일 판결, 사건번호 52 O 62/26 eV
- United States District Court for the Eastern District of Michigan, Warner v. Gilbarco Inc., 2026년 2월 10일
- United States District Court for the Southern District of New York, United States v. Heppner, 2026년 2월 17일 서면 이유
- 프랑스 전국변호사회, 직업윤리와 인공지능 지침, 2026년 3월 17일
- Joint Committee on Human Rights, Human Rights and the Regulation of AI, 2026년 9월 14일
- 콜로라도, Senate Bill 26-189, Automated Decision-Making Technology Act, 2026년 5월 14일 서명, 2027년 1월 1일 적용
- 이탈리아, 2026년 9월 9일 입법명령 제160호, 관보 일반 시리즈 제214호, 2026년 9월 15일, 2026년 9월 30일 시행
이 분석은 일반적인 법적 분석이자 논의에 대한 기여로 제공되며, 법률 자문을 구성하지 않는다.