QPS
QPSは、システムが1秒間に処理するクエリやリクエストの数を表すスループットの指標である。
記事1本
最終言及 QPSはqueries per secondの略で、サーバー、データベース、検索エンジン、APIなどのシステムが1秒間に処理するクエリやリクエストの数を指す。システムの処理能力や負荷を測る基本的な指標で、リクエスト単位で数えるRPS(requests per second)と近い概念である。
AIモデルをAPIで提供するサービスでは、ユーザーやチームに割り当てる推論の処理容量や呼び出し上限を示す単位としても使われる。
この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。