Tokens Per Second

로컬·온프레미스 추론 스택의 첫 관찰성 도구 — gpum v1.1.0과 TokenSpeed