tok/s · 엔진 처리 시간 기준
개발 모드 · 모의 엔진과 모의 장비 데이터를 표시합니다. 실제 모델 성능이 아닙니다.
LIVE INFERENCE
연결 중
tok/s · 첫 토큰 이후
ms · 첫 토큰 대기
ms · 전체 응답 시간
성능 추이
입력 처리와 출력 생성 tok/s · 좌측 Prefill / 우측 TG
응답 시간 ms · p50 / p95
부하와 대기 좌측 % / 우측 요청 수
성능은 완료 요청의 1분 집계입니다. 그래프를 누르면 시각·값·표본 수를 확인할 수 있습니다. 측정값이 없는 구간은 연결하지 않습니다.
YOUR WORKSPACE
웹 채팅
대화는 계정별로 저장됩니다.
궁금한 내용을 입력해 보세요.
ADMINISTRATOR