TextGrad는 Stanford University 연구진이 2024년에 공개한 오픈소스 Python 프레임워크다. 신경망 학습에서 기울기를 역전파하듯, 언어 모델이 출력에 대해 쓴 자연어 비평을 시스템의 앞 단계로 전달해 각 구성 요소를 고친다. 연구진은 이를 텍스트를 통한 자동 미분이라 부르며, 딥러닝 라이브러리 PyTorch와 비슷한 문법을 쓴다.
최적화 대상은 prompt(모델에 주는 지시문)에 그치지 않고 문제의 답, 코드, 분자 구조처럼 텍스트로 표현되는 변수 전반이다. 여러 언어 모델 호출과 도구를 엮은 복합 AI 시스템을 조정하는 데 쓰인다.