NVIDIA NeMo는 NVIDIA가 개발한 생성형 AI용 오픈소스 framework다. 2019년 대화형 AI(음성 인식, 자연어 처리, 음성 합성) 모델을 만드는 도구 모음으로 처음 공개됐고, 이후 LLM과 multimodal 모델의 학습, fine-tuning, 배포까지 다루는 플랫폼으로 넓어졌다. NVIDIA GPU에서의 대규모 분산 학습에 맞춰 설계됐다.
데이터 정제용 NeMo Curator, 대화 안전 장치 NeMo Guardrails, RAG용 문서 parsing·embedding·reranking 마이크로서비스인 NeMo Retriever 등 역할별 라이브러리와 마이크로서비스로 구성된다. agent 실행 기록을 남기는 NeMo Relay, 여러 모델 사이의 routing을 맡는 NeMo Switchyard처럼 AI agent 개발과 운영을 위한 라이브러리도 NeMo 이름으로 제공된다.