streaming은 데이터를 한꺼번에 모아 전달하지 않고 발생하는 대로 연속으로 전달하고 처리하는 방식이다. 데이터 처리 분야에서는 주문, 결제, 센서 측정값 같은 event(시스템에서 일어난 일의 기록)를 발생 즉시 여러 시스템에 전달하고 처리하는 구조를 가리키며, 데이터를 일정 주기로 모아 처리하는 batch(일괄 처리)와 대비된다. Apache Kafka와 Apache Flink가 대표적인 오픈소스 기술이다.
AI 분야에서는 두 가지 맥락에서 쓰인다. 하나는 모델과 agent(사람 대신 작업을 수행하는 AI)에 최신 데이터를 실시간으로 공급하는 데이터 streaming이고, 다른 하나는 언어 모델이 응답 전체를 완성한 뒤 보내지 않고 생성되는 token(모델이 처리하는 글자 단위)부터 차례로 전송하는 응답 streaming이다. 일상에서는 영상이나 음악을 내려받지 않고 전송받는 즉시 재생하는 방식을 뜻하기도 한다.