リバースプロキシは、クライアントと内部サーバーの間に置かれ、クライアントからのリクエストを代わりに受け取って適切なサーバーへ転送し、その応答をクライアントに返すサーバーである。Webサービスやネットワーク基盤で広く使われている。クライアント側に立って外部への接続を代行するフォワードプロキシとは逆に、サーバー側を代理するもので、クライアントは実際に処理を行うサーバーのアドレスを知る必要がない。
複数のサーバーへリクエストを振り分ける負荷分散、TLSの終端処理、応答のキャッシュと圧縮、認証、レート制限、内部サーバーのアドレスの隠蔽といった機能を一か所でまとめて担う。代表的なソフトウェアにNginx、HAProxy、Apache HTTP Server、Envoy、Caddy、Traefikがあり、CDN(コンテンツ配信ネットワーク)もリバースプロキシとして動作する。
AI分野では、複数のモデル提供元のAPIの手前にリバースプロキシを置き、認証、利用量の制限、キャッシュ、ログ記録、リクエストの振り分けを行うAIゲートウェイがこの構成をとる。