IBM이 데이터 streaming(데이터를 발생하는 즉시 끊김 없이 전달하는 방식) 기업 Confluent를 $110억에 인수했습니다. IBM에서 Confluent와 데이터 사업을 총괄하는 Shaun Clowes는 이 인수의 이유를 기업용 AI agent(사람 대신 작업을 수행하는 AI)에서 찾습니다. agent가 기업 안에서 제대로 일하려면 지금 이 순간의 회사 상태를 알아야 하고, 그 기반이 실시간 데이터라는 설명입니다. 기업의 AI 도입이 시연 단계에서 멈추는 원인도 모델 성능보다 낡은 시스템과 데이터 흐름에 있다는 것이 그의 진단입니다.
$110억 인수의 배경
Clowes는 두 회사의 결합을 자연스럽고 서로 보완하는 조합이라고 설명합니다. IBM은 수십 년 동안 새로운 기술을 기업의 경쟁력으로 바꾸는 일을 해 왔고, 생성형 AI를 도입하는 기업에는 다음 세 가지 기반이 필요하다고 봅니다.
- 폭넓은 데이터 접근
- 안전한 hybrid(자체 서버와 클라우드를 함께 쓰는 구성) 배포 방식
- 개방형 생태계
Confluent는 여기서 IBM의 실시간 연속 데이터 기반 역할을 맡습니다. 여러 IT 환경에 걸쳐 흐르는 데이터를 AI 모델과 업무용 agent에 공급하는 것입니다. 부서와 시스템마다 흩어져 고립된 데이터를, AI 모델에 공급되고 자율 업무 흐름을 일으키는 살아 있는 데이터로 바꾸는 것이 이 통합 구조의 목표입니다.
agent가 10분 전 데이터로 일할 수 없는 이유
기업의 IT는 전통적으로 두 축으로 나뉘어 있었습니다. 한쪽에는 ERP(전사적 자원 관리)나 CRM(고객 관계 관리)처럼 거래를 실행하고 기록하는 system of record(업무의 기준 기록을 담는 시스템)가 있고, 다른 쪽에는 지난 일을 돌아보는 보고서를 만드는 분석 시스템이 있습니다. 그동안 두 축 사이의 간격은 사람이 메웠습니다. 분석 보고서를 읽고, 판단하고, 업무 프로그램에 직접 변경 사항을 입력하는 식입니다.
agent는 이 구조와 맞지 않습니다. Clowes의 표현으로 agent는 소프트웨어를 다루는 소프트웨어이며, 잠들지 않고 계속 움직입니다. LLM(대규모 언어 모델) 덕분에 추론 능력은 뛰어나지만, 주어진 데이터의 경계 밖에 대해서는 사실상 아무것도 보지 못합니다. 그래서 회사의 현재 상태를 즉시 파악할 수 있어야 합니다.
문제는 batch(데이터를 일정 시간마다 모아서 처리하는 방식) 데이터입니다. agent가 10분 전이나 1시간 전 데이터에 의존하면, 그 사이 현실은 이미 달라져 있어 잘못된 결정을 내리게 됩니다. Clowes가 든 사례는 다음과 같습니다.
- 연결편을 놓친 여행객의 항공편을 다시 예약해 주는 고객 응대
- 보험 계약 내용과 사고 내역을 따져 보는 보험금 청구 심사
- 결제 확인과 계좌 거래를 처리하는 은행 업무
이런 업무에서는 정보가 조금만 낡아도 자동으로 실행한 조치가 무효가 됩니다.

▲ 낡은 데이터의 위험
Clowes는 실시간 데이터를 단순히 지연 시간이 짧은 데이터로 보지 않습니다. 재고, 설비, 물류, 인력에 걸친 기업의 살아 있는 현재 상태에 접근하는 통로로 봅니다. 물류 회사라면 운행 중인 배송 차량과 인력 배치, 차량 상태가 여기에 해당하고, 제조 공장이라면 기계 가동 상황과 원재료 잔량, 품목별 재고가 해당합니다.
agent의 수가 늘어나면 이 필요는 더 커집니다. 수천 개의 agent가 각자 조치를 취하면 시스템 상태가 그 즉시 바뀌고, 다른 agent들도 바뀐 상태를 바로 알아야 합니다. streaming 구조가 필요한 이유입니다.
개념 검증은 쉬운데 운영이 어려운 까닭
Clowes는 산업 전반에서 AI 도입 열기가 높지만, 초기의 기대와 실제 운영 배포 사이에 냉정한 간극이 있다고 봅니다. 지금의 LLM은 높은 수준의 지능을 빌려 쓰게 해 주기 때문에, 인상적인 proof of concept(개념 검증, 아이디어가 작동하는지 작게 확인하는 시험)를 만드는 일은 놀랄 만큼 쉬워졌습니다.
그런데 이런 시제품이 잘 돌아가는 이유는 통제된 실험 환경에 있습니다. 필요한 데이터가 이상적으로 준비되어 있다고 가정하고, 부서와 시스템의 경계를 넘는 작업도 매끄럽게 실행된다고 전제하기 때문입니다. Clowes는 기업들이 쉬운 개념 검증에 스스로 속아, 실제 운영 배포도 그만큼 쉬울 것이라고 착각하기 쉽다고 경고합니다.
수백, 수천 개의 agent로 규모를 키우는 순간 기업은 뒤섞인 기술 환경과 마주합니다. 오래된 mainframe(기업의 핵심 업무를 맡아 온 대형 컴퓨터), 최신 클라우드 서비스, hybrid 구성, 계속 늘어나는 전문 도구가 함께 존재합니다. 이 복잡성은 바란다고 사라지지 않고, 하루아침에 단순해지지도 않습니다. Clowes의 결론은 환경을 뜯어고치는 것이 아니라 잇는 것입니다. 기존의 낡은 자산과 새로운 AI 서비스를 연결하는 데이터 streaming 기반을 갖춰야 한다는 주장입니다.
copilot의 한계와 완전 자율까지의 거리
Clowes는 기업용 AI의 흐름을 세 단계로 설명하며, 지금은 기업 도입의 아주 초기 단계라고 평가합니다.
| 단계 | 방식 | 한계와 의미 |
|---|---|---|
| 챗봇 | 사람과 AI가 대화하며 문제를 함께 탐색 | 탐색과 학습에 머무름 |
| copilot | Claude Code처럼 사람과 agent가 함께 작업 | 사람의 속도와 인지 여력에 묶임 |
| 자율 agent | 업무 과정 전체를 사람 개입 없이 연속 실행 | 기업의 업무 속도 자체를 높임 |
copilot(사람 곁에서 작업을 돕는 AI 도구)은 생산성을 높여 주지만, 사람이 반응하고 판단하는 속도 이상으로 빨라질 수 없습니다. 사람이 중간에 확인하고 승인하는 human-in-the-loop 방식이 기업 업무 속도의 천장이 된다는 것입니다. Clowes가 말하는 진짜 목표는 보험금 청구 처리, 제품 배송, 인력 일정 관리 같은 핵심 업무 수백 개를 사람이라는 병목 없이 처음부터 끝까지 자동화하는 것입니다.

▲ 사람 속도라는 병목
그런데도 완전 자율 업무가 아직 먼 이유로 Clowes는 세 가지를 꼽습니다.
- 지식 확산에 시간이 걸립니다. 기술 확산은 agent로 도구를 만드는 소프트웨어 엔지니어와 기술 인력에서 시작하고, 일반 업무 부서는 그 뒤에 따라옵니다.
- 데이터가 흩어져 있습니다. 기업의 기록은 여러 저장소에서 만들어지고, 바뀌고, 옮겨지며, 낡은 시스템마다 고립되어 있습니다.
- 사람이 빈틈을 메워 왔습니다. 기업은 업무 절차의 결함과 공백을 사람의 노동으로 덮어 왔고, 그 자리를 알고리즘으로 바꾸는 일은 복잡하고 지저분합니다. 고객 지원 창구에서는 지금도 사람이 결과를 확인합니다.
Clowes는 단기 변화는 과대평가하고 장기 변화는 과소평가하기 쉽다는 Bill Gates의 말을 인용합니다. 2년 안의 변화와 10년 뒤의 변화를 대비한 말인데, 그는 생성형 AI라면 10년은 너무 보수적일 수 있고 5년 정도가 깊은 확산에 걸릴 현실적인 기간이라고 봅니다. 대규모 자율 운영은 결국 올 일이지만, 거기까지 가려면 기반을 다지는 작업을 꾸준히 해야 한다는 입장입니다.
IBM이 제시한 AI 운영 모델의 네 기둥
IBM은 Atlanta에서 열린 TechXchange 행사에서 기업용 AI 운영 모델 구상을 내놓았습니다. Clowes는 AI 모델만으로는 쓸모가 제한적이며, 기술의 가능성을 실제 기업 가치로 바꾸는 운영 구조가 필요하다고 말합니다. 그 구조는 네 가지로 이루어집니다.
- 기업 데이터에 대한 종합적인 이해와 관리
- 안전한 agent orchestration(여러 agent의 작업을 조율하는 일)과 대규모 실행
- observability(작동 과정을 들여다보고 추적하는 능력)를 갖춘 agent 관리
- agent가 기업의 외부 도구와 안정적으로 상호작용하게 하는 시스템
IBM은 이 구성 요소를 묶어 제공해, 기업이 자율 AI를 실제 운영 업무에 안정적으로 배포하도록 돕겠다는 계획입니다.
정리: 모델보다 데이터 흐름을 먼저 점검하기
기업용 AI의 성패는 모델 자체보다 회사의 데이터가 어떻게 흐르는지에 달려 있다고 볼 수 있습니다. 추론 능력은 빌려 쓸 수 있지만, 회사의 현재 상태를 agent에 전달하는 구조는 각 기업이 직접 갖춰야 합니다. AI 도입을 맡은 조직이라면 다음을 점검해 볼 만합니다.
- 개념 검증이 잘 됐다고 운영 배포도 쉬울 것이라 가정하지 말고, 낡은 시스템과 hybrid 환경, 고립된 데이터와의 연결을 처음부터 계획합니다.
- 실시간 데이터를 메시지를 나르는 통로가 아니라 회사의 운영 상태 전체를 담는 바탕으로 다룹니다.
- AI를 따로 떼어 도입하지 말고, 데이터 수집과 관리, 도구 호출까지 포함한 운영 모델 안에 넣습니다.
- 개인의 작업을 챗봇으로 보조하는 데 그치지 말고, 업무 흐름 전체를 조율하는 자동화에 힘을 싣습니다.
- agent에 도구를 스스로 실행할 권한을 주기 전에 관측과 관리 장치를 먼저 마련합니다.
Clowes의 전망대로라면 앞으로 약 5년이 이 기반을 다지는 기간입니다. 지금 눈에 띄는 시연 결과보다, 그 시연이 가정한 데이터가 실제 환경에서도 제때 도착하는지를 먼저 확인하는 것이 순서로 보입니다.


