개인 데이터를 다루는 AI를 신뢰할 수 있는지는 ‘AI가 위험한가’라는 한 가지 질문으로 결정되지 않습니다. 기기가 주변 정보를 수집할 때 이를 알 수 있는지, 클라우드로 보낸 내용은 누가 볼 수 있는지, 보호 설계를 외부에서 살펴볼 근거가 있는지를 나눠 봐야 합니다. Meta CTO Andrew Bosworth가 설명한 개인 AI 상호작용 보호 구상도 이 세 지점에서 이해할 수 있습니다.
먼저 구분할 것: 촬영 알림과 데이터 처리
카메라가 달린 기기는 클라우드에 데이터를 보내기 전부터 개인정보 문제를 만납니다. 주변 사람은 자신이 촬영되고 있는지 알아야 하기 때문입니다. Bosworth에 따르면 Meta의 카메라 탑재 안경에는 녹화 중임을 주변에 알리는 물리적 LED 표시등이 들어갑니다. 카메라가 없는 오디오 전용 안경도 별도로 마련했습니다.
두 선택은 서로 다른 상황에 대응합니다. 표시등은 카메라가 작동할 때 주변 사람이 녹화 사실을 알아차리도록 돕고, 오디오 전용 제품은 카메라 기능 자체를 제외합니다. 반면 클라우드의 암호화는 이미 기기에서 전송되는 데이터를 어떻게 다룰지에 관한 문제입니다. 따라서 ‘암호화돼 있으니 촬영 사실을 알릴 필요도 없다’고 두 보호책을 하나로 묶어서는 안 됩니다.
▲ 촬영 사실 알림
Private Cloud Processing이 보호하려는 구간
Meta가 제시한 Private Cloud Processing(클라우드에서 개인 AI 요청을 보호하며 처리하는 설계)의 핵심은 전송과 처리 구간을 함께 보호하는 것입니다. Bosworth의 설명에 따르면 기기와 클라우드 사이에는 Signal Protocol을 활용한 end-to-end encryption(전송 과정의 내용을 보호하는 종단 간 암호화)이 적용됩니다. 클라우드에 도착한 데이터는 Trusted Execution Environments(하드웨어로 다른 서버 영역과 분리한 실행 환경) 안에서 처리합니다.
이 설계가 겨냥하는 대상은 서버 운영자의 접근입니다. Bosworth는 운영자조차 사용자의 AI 요청을 들여다보거나 보관할 수 없도록 구성했다고 설명합니다. 신뢰의 근거를 운영자의 선의에만 두지 않고, 데이터가 지나가는 경로와 처리 환경에 제한을 두려는 접근입니다.
다만 암호화와 격리가 각각 맡는 일을 구분해야 합니다. 종단 간 암호화는 기기와 클라우드 사이의 전달을, 격리된 실행 환경은 클라우드 내부의 처리를 보호합니다. 앞서 말한 녹화 표시등까지 포함하면, 수집 사실을 알리는 장치와 수집된 데이터의 보호 장치가 서로 다른 단계에 놓여 있음을 알 수 있습니다.
▲ 격리된 데이터 처리
Meta는 이 개인정보 보호 구조에 관한 기술 문서를 공개하고, 외부 보안 연구자가 취약점을 찾도록 보상 프로그램도 운영합니다. 공개 문서와 외부 점검 기회는 설명을 확인할 출발점입니다. 이를 근거로 설계 목표와 확인 가능한 자료를 살펴보는 것이, ‘안전하다’는 한마디만 받아들이는 것보다 구체적인 판단 방법으로 보입니다.
AI 위험을 보는 시각은 설계 설명과 다릅니다
Bosworth는 현재의 대화형 AI 모델을 의식 있는 존재가 아니라 능력 있는 도구로 봅니다. 인간이 의식을 지닌 범용 AI의 출현 직전에 있다는 주장에도 거리를 둡니다. 인류 멸종 같은 위험의 가능성을 수학적으로 0이라고 할 수는 없지만, 현재 모델의 작동 방식을 고려하면 그런 전망에 지나치게 무게를 둘 이유는 없다는 견해입니다. 이는 AI 위험에 대한 그의 판단이지, Private Cloud Processing의 기술적 성질을 입증하는 설명은 아닙니다.
그가 강조하는 더 가까운 과제는 AI가 사용자의 뜻에 맞게 작동하고 원치 않는 행동을 피하도록 만드는 일입니다. 제품을 충분히 시험하고, 문제가 있으면 고쳐서 출시를 늦추는 결정도 특별한 영웅적 조치가 아닌 통상적인 공학 절차로 봅니다. 기존의 법적 책임과 소비자의 선택 역시 잘못 작동하는 제품을 견제할 수 있다는 것이 그의 견해입니다.
신뢰 여부는 무엇으로 판단할까
Meta의 구상은 AI에 대한 막연한 낙관이나 공포보다 점검할 대상을 구체화합니다. 카메라가 있다면 주변에 녹화 사실을 알리는지, 개인 요청이 전송·처리되는 동안 어떤 보호를 받는지, 그 설계를 설명한 자료와 외부 점검 수단이 있는지를 각각 확인할 수 있습니다.
개인 데이터를 다루는 AI 서비스를 살펴볼 때도 이 순서로 질문해 볼 만합니다. 무엇을 수집하는가, 누가 처리 내용을 볼 수 있는가, 그 설명을 확인할 자료가 있는가. Bosworth의 위험 전망에 동의하는지와 별개로, 이 세 질문은 신뢰를 판단할 근거를 찾는 데 도움이 됩니다.