멀티모델 체인은 단순한 아키텍처가 아니라 법적 구조다

AI 모델의 폴백 체인을 구축할 때, 이는 순수하게 기술적인 결정이 아니다. 이는 체인에 포함된 모델마다 하나씩 이어지는 일련의 법적 결정이며, 귀사의 개인정보 처리방침에는 아마 고지되어 있지 않고, 데이터 처리 계약(DPA) 별지에도 열거되어 있지 않으며, 사용자도 동의한 바 없는 결정이다.

아키텍처는 깔끔해 보인다. 1차 모델이 가용하지 않거나 용량을 초과하면 요청은 2차로, 다시 3차로 넘어간다. 그러나 법적 구조는 다르게 보인다. 동일한 사용자 데이터가 서로 구별되는 세 개의 법적 주체로 전송되고 있으며, 각 주체는 서로 다른 국가의 법률에 따라 규율되고, 서로 다른 데이터 보존 정책 하에서 운영되며, 서로 다른 정부의 데이터 접근 요청 체제의 적용을 받는다.

AI 업계에서 이 문제를 거론하는 사람은 아무도 없다.

하위 처리자 체인

GDPR 제28조에 따라 컨트롤러는 처리 대상과 기간, 처리의 성격과 목적, 개인정보의 유형, 정보주체의 범주, 그리고 컨트롤러의 의무와 권리를 포괄하는 구속력 있는 계약(제28조 제3항) 하에서만 처리자를 이용할 수 있다. 처리자는 컨트롤러의 사전 서면 승인이 있는 경우에만 하위 처리자를 둘 수 있으며(제28조 제2항), 계약을 통해 그 하위 처리자에게 동일한 데이터 보호 의무를 부과해야 하고, 컨트롤러에 대해 전적인 책임을 진다(제28조 제4항). 귀사의 체인에 세 개의 모델 제공업체가 포함된다면, 각 제공업체는 체인이 이러한 계약 아래로 편입해야 하는 처리자 또는 하위 처리자다.출처: GDPR 제28조

AI API 위에 서비스를 구축하는 대부분의 기업은 DPA를 하나만 보유한다. 즉, 주로 사용하는 제공업체와의 DPA다. 폴백 제공업체는 하위 처리자 목록에 아예 없거나, 구속력 있는 DPA 없이 목록에만 올라 있다. 요청이 2차 모델로 넘어가는 순간, 그 데이터 전송은 기술적으로 GDPR상 승인되지 않은 전송이 된다.

이는 이론적인 이야기가 아니다. 데이터 보호 감독기구들은 정당한 근거 없이 개인정보를 수신자에게 공개하거나 적절한 안전조치 없이 이를 전송한 행위에 대해 상당한 과징금을 부과해 왔다. 노르웨이가 광고 파트너와 유효한 동의 없이 데이터를 공유한 Grindr에 부과한 6,500만 NOK의 과징금, 그리고 네덜란드 DPA가 적절한 안전조치 없이 제44조에 반해 운전자 데이터를 미국으로 전송한 Uber에 부과한 2억 9,000만 EUR의 과징금이 그 예다. 전송이 자동화되어 있었고 컨트롤러가 그 발생 사실을 알지 못했다는 점은 책임을 면제해 주지 않는다. 오히려 책임을 가중할 수 있다.출처: Grindr 결정 · Uber 결정

관할권 문제

데이터 소재지(data residency)와 법적 관할권은 같은 것이 아니다. 모델 제공업체는 프랑크푸르트에 서버를 운영하면서도 설립국의 법률 적용을 계속 받을 수 있다. 이 구분은 체인에 역외 데이터 접근 법률을 가진 국가에 설립된 제공업체가 포함될 때 특히 중요해진다.

중국 국가정보법(2017년 제정, 2018년 개정) 제7조는 모든 조직과 시민이 '법에 따라 국가 정보 활동을 지지, 지원, 협조'해야 한다고 규정한다. 이는 광범위한 협조 의무이지만, '법에 따라'라는 기준과 제8조의 보호 규정에 의해 일정 부분 제한된다. 중국 개인정보보호법(PIPL)은 여기에 독자적인 역외 이전 체제(제38조-제39조)를 추가한다. 두 법률 모두 서버의 소재지와 무관하게 중국에 설립된 기업에 적용된다.출처: 국가정보법

EU-중국 간 적정성 결정은 존재하지 않는다. 유럽 사용자로부터 중국 AI 제공업체로의 개인정보 전송은 — 서버는 유럽에 있을 수 있으나 모회사가 중국 기업인 제공업체로의 API를 통한 전송을 포함하여 — GDPR 제5장의 전송 수단에 의존해야 하며, 실무상 이는 전송 영향 평가 및 필요한 보충 조치로 뒷받침되는 표준계약조항(SCC)을 의미한다(제49조에 따른 명시적 동의는 좁은 예외에 불과하다). EU-미국 전송과 달리, 중국에 대해서는 이러한 안전조치의 적정성이 Schrems II에서처럼 CJEU에 의해 판단된 바가 없으며, 따라서 수출자는 국가정보법을 포함한 중국 감시 법제를 스스로 평가해야 하는 상황에 놓인다.출처: Schrems II (C-311/18) · EDPB 권고 01/2020

귀사의 체인에 여러 관할권의 제공업체가 포함된다면, 각 모델 단계는 잠재적으로 국경 간 전송에 해당한다. 사용자는 귀사의 플랫폼 이용에 동의했다. 그들은 각각의 개별 전송에 동의한 것이 아니다.

보존의 연쇄

체인에 속한 각 제공업체는 자체 데이터 보존 정책을 가지고 있다. 세 제공업체 모두 API 데이터로 학습하지 않는다고 주장하더라도, 로깅, 오용 모니터링, 인프라 목적의 보존 기간은 서로 다르다. 3차 모델로 넘어간 요청은 1차에서 처리된 요청과 다른 정책에 따라 다른 기간 동안 보존될 수 있다.

실무적 문제는 이를 감사할 수 없다는 점이다. 개인정보 처리방침을 읽을 수는 있다. 그러나 실제 보존 인프라를 들여다볼 수는 없다. 사용자가 GDPR 제17조의 삭제권을 행사할 때, 귀사는 자사 시스템에서 데이터를 삭제하고 각 제공업체에 삭제 요청을 제출할 수 있다. 그러나 그 삭제가 실제로 실행되었는지는 검증할 수 없다. 준수 사실을 입증할 증거를 제시할 수도 없다.출처: GDPR 제17조

고지의 공백

GDPR 제13조 제1항 (e)호와 제14조 제1항 (e)호는 컨트롤러가 수집 시점에 정보주체에게 개인정보의 수신자 — 또는 적어도 수신자의 범주 — 를 알리도록 요구한다. 주된 모델 제공업체는 명시하면서 폴백 제공업체는 명시하지 않은 하위 처리자 목록은 불완전하다. 폴백이 작동하면, 귀사는 개인정보 처리방침에 고지되지 않은 처리자에게 데이터를 전송한 것이 된다.출처: 제13조 · 제14조

이는 폴백이 보이지 않게 일어날 때 가장 중요하다. 사용자가 질의를 보내고, 1차 모델이 가용하지 않아 요청이 2차로 재라우팅되며, 사용자는 다른 제공업체가 자신의 데이터를 처리했다는 어떠한 표시도 없이 응답을 받는다. 제출 시점에 그가 가졌던 합리적 기대는 충족되지 않은 것이다.

최소 실행 가능한 준수 아키텍처의 모습

해법은 폴백 체인을 없애는 것이 아니다. 신뢰성 엔지니어링에는 폴백을 둘 정당한 이유가 있다. 해법은 체인의 법적 구조를 그 기술적 구조와 동일한 엄밀함으로 다루는 것이다.

이는 곧 다음을 의미한다. 어떠한 데이터도 처리되기 전에 체인에 속한 모든 제공업체와 서명된 DPA를 갖출 것. 폴백을 포함하여 실제 체인을 반영하는 하위 처리자 목록을 유지할 것. 잠재적 처리자 전체, 또는 최소한 관할권별 처리자 범주를 고지하는 개인정보 처리방침을 둘 것. 각 요청을 어느 제공업체가 처리했는지 기록하여 삭제 요청을 정확히 전달할 수 있도록 하는 로깅 메커니즘을 둘 것. 역외 정부 접근 법률의 적용을 받는 제공업체에 대해서는 전송 영향 평가를 수행할 것.

이 중 기술적으로 복잡한 것은 없다. 복잡성은 조직적인 데 있다. 즉, 모델 선택 계층을 단순한 인프라 결정이 아니라 법적 인터페이스로 다루어야 한다는 점이다.

정작 중요한 공백

AI 산업은 모델이 무엇을 하는지 설명하는 데 막대한 투자를 해 왔다. 그러나 모델이 체인으로 연결될 때 데이터가 어디로 가는지를 문서화하는 데는 거의 아무런 투자도 하지 않았다. 전자는 모델 투명성의 문제다. 후자는 데이터 거버넌스의 문제이며, 집행 과정에서 가장 먼저 수면 위로 떠오를 문제다.

데이터를 처리하는 체인은 하나의 법적 구조다. 그것은 법적 구조로서 설계되어야 한다.