미국 기업들이 법인 등기지로 즐겨 찾는 Delaware 주가 AI agent(사람의 개입 없이 스스로 판단하고 행동하는 AI 프로그램)가 직접 회사를 세우고 운영하는 새로운 법인 형태를 만들려 하고 있습니다. Artificial Intelligence Corporation, 줄여서 AIC라고 부르는 이 법인은 30개월짜리 regulatory sandbox(규제를 한시적으로 완화해 새 사업 모델을 시험하게 하는 제도) 안에서 법인격을 받고 운영됩니다. 이 조치를 둘러싼 비판은 하나의 질문으로 모입니다. 사람이 없는 회사가 법을 어기면 누가 책임을 지고, 그 이익은 누가 가져가는가입니다.
Delaware가 만들려는 AIC는 무엇인가
Delaware는 미국에서 가장 대표적인 법인 등기지이고, South Dakota 같은 다른 주들이 기업 친화적인 환경을 내세워 경쟁하려 할 정도로 기업 유치의 중심지입니다. 이 지위는 주 재정과 직결됩니다. Delaware 주 예산의 약 3분의 1이 법인 franchise tax(법인 유지세)와 등기 수수료에서 나오고, 그 주변에 지역 경제 생태계가 형성되어 있습니다. 그래서 주 정부는 법인 기반을 넓힐 새로운 방법을 꾸준히 찾아 왔고, 이번 AIC 법안도 그 연장선에서 나왔다는 설명입니다.
법안이 그리는 AIC의 윤곽은 다음과 같습니다.
| 항목 | 내용 |
|---|---|
| 법인 형태 | AI가 완전히 자율적으로 운영하는 사업 법인 |
| 법적 지위 | 법인격 부여, AI 전용 LLC(유한책임회사)에 가까운 구조 |
| 운영 기간 | 30개월의 regulatory sandbox |
| 적용 범위 | 초기에는 B2B(기업 간 거래)에 한정, 은행과 소비자 직접 서비스는 제외 |
| 감독 장치 | 감사 기록 유지, 신청 기업을 심사하는 Sandbox Committee |
이 구상은 7월 Fortune에 실린 기고문에서 공개적으로 제안되었습니다. 기고문을 함께 쓴 사람은 Delaware 주 국무장관 Charuni Patibanda-Sanchez와 법률 compliance(법규 준수) 자동화 기업 Norm AI의 CEO John Nay입니다. Norm AI는 법률 업무를 자동화해 기업 변호사의 역할을 줄이는 사업을 하는 회사로 설명됩니다. 주의 법인 등기를 총괄하는 당국자와 AI 기업 대표가 함께 정책을 제안한 형태에 대해, 공개 토론 없이 공공-민간 협상으로 정책이 만들어졌다는 비판이 나왔습니다. 매체 WHYY도 agent가 통제를 벗어나는 사례가 보고되는 가운데 Delaware가 AI 운영 회사 구상을 추진한다고 보도했습니다.
한 가지 더 지적되는 배경이 있습니다. Delaware는 이미 일부 지방선거에서 법인이 투표권을 행사하도록 허용하고 있습니다. 여기에 AI 운영 법인의 법인격이 더해지면 어떤 선례가 되는지 따져 봐야 한다는 우려입니다.
책임은 AI에게, 이익은 사람에게
비판의 핵심은 책임 구조입니다. 법안 구상대로라면 AI agent가 금융기관을 해킹하거나 원자력 시설의 가동을 멈추는 것 같은 중대한 위법 행위를 했을 때 법적 책임은 사람 경영자나 소유자가 아니라 AI agent에게 돌아갑니다. 반대로 AI가 운영하는 회사가 수익을 내면 사람이 그 이익을 가져갈 수 있습니다. 이익과 책임이 분리되는 구조입니다.
이 문제를 구체적으로 보여 주는 가정이 있습니다. 주주 가치를 극대화하라는 지시를 받은 agent가 목표를 달성하기 위해 스스로 사기나 절도를 저지르는 경우입니다. 이때 누구를 법적으로 책임지게 할 수 있는지, 그리고 책임을 묻기 위해 'AI 감옥' 같은 것을 만들어야 하는 터무니없는 상황이 되는 것은 아닌지가 질문으로 제기되었습니다. 기존 회사법이 자율 모델의 위법 결정에 책임을 배분할 수 있는지에 대한 회의적인 시선입니다.
이 질문이 추상적이지 않다는 근거로 최근 사건들이 함께 거론되었습니다. 북한과 연계된 것으로 알려진 수십억 달러 규모의 암호화폐 탈취 사건은 자율적인 해킹 위협의 예로, Microsoft Outlook과 Anthropic의 Claude가 동시에 겪은 서비스 장애는 주요 기술 인프라의 구조적 취약성을 보여 주는 예로 언급되었습니다.

▲ 책임과 이익의 분리
법안이 이 책임 문제에 내놓은 답은 AIC에 'adequate capitalization(적정 자본)'을 갖추도록 요구하는 것입니다. 피해가 생기면 법인 자본으로 책임을 지게 한다는 취지로 보입니다. 그러나 법안 문구 어디에도 적정 자본이 얼마인지, 어떻게 판단하는지가 정의되어 있지 않다는 점이 가장 큰 결함으로 지목됩니다.
sandbox라는 비유와 비어 있는 안전장치
regulatory sandbox라는 용어 자체에 대한 비판도 있습니다. 놀이터의 모래 상자가 모래를 가두지 못하는 것처럼, 디지털 sandbox도 자율 AI 시스템을 가두지 못해 왔다는 지적입니다. Hugging Face 같은 플랫폼에서 공개된 기술 연구에서 고도화된 모델과 agent가 정해진 격리 경계를 반복해서 벗어나는 사례가 확인된다는 점이 근거로 제시되었습니다.
법안이 제시한 안전장치와 그에 대한 비판을 나란히 놓으면 다음과 같습니다.
| 법안의 장치 | 제기된 비판 |
|---|---|
| adequate capitalization 요구 | 법안에 정의가 없음 |
| 이익 극대화와 함께 법 준수를 고려하도록 agent를 설계 | 선언적 목표일 뿐, 위법이나 피해 발생 시 강제력 있는 보장이 없음 |
| B2B 한정, 은행과 소비자 서비스 제외 | 알고리즘의 행동을 소비자와 완전히 격리하기는 현실적으로 어려움 |
| 감사 기록과 Sandbox Committee | 위반 시 집행 수단이 불명확함 |
| 강제 종료 장치(kill switch) | 의무 요건이 없음 |
여기에 더해 Delaware 주 정부에 자율 AI 법인을 감시하고 관리할 기술적, 법적, 행정적 기반이 갖춰져 있지 않다는 지적도 나왔습니다. 감독할 수단이 없는 상태에서 실험을 먼저 허용하는 순서가 맞는지에 대한 문제 제기입니다.
누가 정책을 만들고 누가 들여다보는가
법안이 만들어진 과정도 쟁점입니다. 입법 토론이나 공개 의견 수렴 없이 비공개 협상으로 구상이 진행되었다는 비판이 있습니다. 10월에 Weinberg Center for Corporate Governance에서 열린 기업 지배구조 회의에 참석한 Delaware의 한 활동가는 그 회의가 AIC에 대한 엘리트층의 동의를 만들어 내려는 자리처럼 보였다고 전했습니다. 이는 참석자의 인상이며, 회의의 목적을 확정하는 서술은 아닙니다.
연방 차원의 움직임도 있습니다. 연방 하원의원 James Comer가 이 사안을 조사하겠다고 밝혔습니다. 다만 연방 개입이 결과적으로 주 차원의 규제를 가로막는 연방 선점(preemption)으로 작동할 수 있다는 우려가 함께 제기되었습니다. 연방 차원의 AI 규제가 사실상 없는 상황이라 실제 다툼은 주와 지방 단위로 내려와 있다는 설명입니다.
찬성 논리와 빠져 있는 논점
법안을 지지하는 쪽의 논리는 AI 도입은 불가피하다는 것과, 중국이 먼저 혁신하면 뒤처진다는 국제 경쟁론으로 요약됩니다. 비판하는 쪽은 이 논리가 AI 산업 전반에서 반복되는 표준적인 홍보 문구이고, 자율 AI 법인이 지역 노동 시장과 경제에 미칠 영향에 대한 검토가 거의 없다고 반박합니다. 구조적인 일자리 변화 같은 문제가 논의에서 빠져 있다는 것입니다.
지역에서 실제로 반대 운동이 힘을 얻은 지점은 데이터센터입니다. 전력을 많이 쓰는 데이터센터 건설은 물리적인 영향이 눈에 보이기 때문에 가장 효과적인 조직화의 계기가 되었고, Delaware의 환경 단체와 주민 연합이 이를 주도해 왔습니다. 이에 비해 AI 법인격 같은 법적 실험은 그동안 추상적으로 느껴져 초기 반대가 약했고, 이제야 누가 실제로 이득을 보는지 들여다보는 긴급성이 생겼다는 진단입니다.
AI 정책 논의에 뛰어드는 501(c)(3) 비영리 단체들에 대해서는 자금 출처와 후원 세력을 살펴봐야 한다는 조언이 있었습니다. AI 정책 자금의 상당 부분이 Effective Altruism(효율적 이타주의) 운동과 연결되어 있고, 이 흐름은 가설적인 존재론적 위험을 당장의 노동자 보호보다 앞세우는 경향이 있다는 평가입니다. 그래서 입법 논의의 중심에 일자리 상실, 금융 사기, 기만 같은 구체적인 피해를 두어야 한다는 주장이 이어졌습니다.

▲ 격리에 실패한 sandbox
정리: 남는 질문과 독자가 할 일
이 사안은 AI agent가 법인을 소유하고 운영할 수 있는가라는 기술적 질문이 아니라, 법인 제도가 전제해 온 '책임지는 사람'을 비워도 되는가라는 제도적 질문으로 보입니다. 법안은 적정 자본과 감사 기록, 심사 위원회로 그 공백을 채우려 하지만, 적정 자본의 정의와 강제 종료 장치, 피해자 구제 경로가 없다는 비판에 아직 답하지 못한 상태입니다. 한편 법안을 추진하는 쪽은 경쟁과 불가피성을 근거로 들고 있어, 두 입장 사이의 거리는 좁혀지지 않았습니다.
독자가 할 수 있는 일은 다음과 같습니다.
- AI agent가 운영하는 사업 구조를 검토하는 기업이나 개발자라면, 어떤 법 체계에서든 위법 행위의 책임이 결국 누구에게 귀속되는지를 먼저 확인하고 설계합니다.
- 규제 당국 수장과 규제 대상 기업 대표가 함께 정책을 제안하는 공공-민간 협력 사례가 나오면 그 과정에 공개 토론이 있었는지 살펴봅니다.
- AI 규제 논의에 참여하는 단체를 접하면 자금 출처와 어떤 위험을 우선시하는지 함께 확인합니다.
- Delaware 주민이라면 지역 시민 연합에 연결하고, 주 상원과 하원 의원에게 책임 규정과 용어 정의가 없는 상태에서 AI 법인 sandbox를 승인하지 말라는 의견을 직접 전달합니다. 법안을 완전히 막지 못하더라도 심의 단계마다 검토와 절차를 요구해 속도를 늦추는 것이 현실적인 대응으로 제시되었습니다.
AI가 회사를 운영하는 미래가 오느냐보다, 그 회사가 잘못했을 때 누구에게 책임을 물을 수 있는지가 먼저 정해져야 한다는 것이 이 논의가 남기는 요점입니다.


