llamacpp-ui-metrics-extension
Preparing search index...
background
buildScenarioComparisons
Function buildScenarioComparisons
buildScenarioComparisons
(
records
:
any
,
selectedModel
:
any
,
)
:
{
breakdowns
:
{
current_user_text_size_bucket
:
{
avg_content_ms
:
number
;
avg_file_bytes
:
number
;
avg_output_chars
:
number
;
avg_output_tokens
:
number
;
avg_predicted_ms
:
number
;
avg_predicted_tps
:
number
;
avg_reasoning_ms
:
number
;
avg_request_to_stop_ms
:
number
;
avg_ttft_ms
:
number
;
avg_user_text_bytes
:
number
;
count
:
any
;
label
:
any
;
}
[]
;
file_kind_set
:
{
avg_content_ms
:
number
;
avg_file_bytes
:
number
;
avg_output_chars
:
number
;
avg_output_tokens
:
number
;
avg_predicted_ms
:
number
;
avg_predicted_tps
:
number
;
avg_reasoning_ms
:
number
;
avg_request_to_stop_ms
:
number
;
avg_ttft_ms
:
number
;
avg_user_text_bytes
:
number
;
count
:
any
;
label
:
any
;
}
[]
;
file_size_bucket
:
{
avg_content_ms
:
number
;
avg_file_bytes
:
number
;
avg_output_chars
:
number
;
avg_output_tokens
:
number
;
avg_predicted_ms
:
number
;
avg_predicted_tps
:
number
;
avg_reasoning_ms
:
number
;
avg_request_to_stop_ms
:
number
;
avg_ttft_ms
:
number
;
avg_user_text_bytes
:
number
;
count
:
any
;
label
:
any
;
}
[]
;
image_count_bucket
:
{
avg_content_ms
:
number
;
avg_file_bytes
:
number
;
avg_output_chars
:
number
;
avg_output_tokens
:
number
;
avg_predicted_ms
:
number
;
avg_predicted_tps
:
number
;
avg_reasoning_ms
:
number
;
avg_request_to_stop_ms
:
number
;
avg_ttft_ms
:
number
;
avg_user_text_bytes
:
number
;
count
:
any
;
label
:
any
;
}
[]
;
image_size_bucket
:
{
avg_content_ms
:
number
;
avg_file_bytes
:
number
;
avg_output_chars
:
number
;
avg_output_tokens
:
number
;
avg_predicted_ms
:
number
;
avg_predicted_tps
:
number
;
avg_reasoning_ms
:
number
;
avg_request_to_stop_ms
:
number
;
avg_ttft_ms
:
number
;
avg_user_text_bytes
:
number
;
count
:
any
;
label
:
any
;
}
[]
;
input_mode
:
{
avg_content_ms
:
number
;
avg_file_bytes
:
number
;
avg_output_chars
:
number
;
avg_output_tokens
:
number
;
avg_predicted_ms
:
number
;
avg_predicted_tps
:
number
;
avg_reasoning_ms
:
number
;
avg_request_to_stop_ms
:
number
;
avg_ttft_ms
:
number
;
avg_user_text_bytes
:
number
;
count
:
any
;
label
:
any
;
}
[]
;
output_length_bucket
:
{
avg_content_ms
:
number
;
avg_file_bytes
:
number
;
avg_ms_per_1k_output_tokens
:
number
;
avg_output_chars
:
number
;
avg_output_tokens
:
number
;
avg_predicted_ms
:
number
;
avg_predicted_tps
:
number
;
avg_reasoning_ms
:
number
;
avg_request_to_stop_ms
:
number
;
avg_ttft_ms
:
number
;
avg_user_text_bytes
:
number
;
count
:
any
;
label
:
any
;
}
[]
;
runtime_bucket
:
{
avg_content_ms
:
number
;
avg_file_bytes
:
number
;
avg_output_chars
:
number
;
avg_output_tokens
:
number
;
avg_predicted_ms
:
number
;
avg_predicted_tps
:
number
;
avg_reasoning_ms
:
number
;
avg_request_to_stop_ms
:
number
;
avg_ttft_ms
:
number
;
avg_user_text_bytes
:
number
;
count
:
any
;
label
:
any
;
}
[]
;
stop_reason_category
:
{
avg_content_ms
:
number
;
avg_file_bytes
:
number
;
avg_output_chars
:
number
;
avg_output_tokens
:
number
;
avg_predicted_ms
:
number
;
avg_predicted_tps
:
number
;
avg_reasoning_ms
:
number
;
avg_request_to_stop_ms
:
number
;
avg_ttft_ms
:
number
;
avg_user_text_bytes
:
number
;
count
:
any
;
label
:
any
;
}
[]
;
}
;
comparisons
:
{
file_vs_text
:
any
;
prompt_hash_controls
:
{
avg_predicted_tps
:
number
;
prompt_hash_prefix
:
any
;
requests
:
any
;
scenario_count
:
any
;
scenarios
:
string
;
}
[]
;
}
;
model_options
:
{
count
:
any
;
model
:
any
}
[]
;
selected_model
:
any
;
selected_model_record_count
:
any
;
}
Build Scenario Comparisons.
Parameters
records
:
any
selectedModel
:
any
Returns
{
breakdowns
:
{
current_user_text_size_bucket
:
{
avg_content_ms
:
number
;
avg_file_bytes
:
number
;
avg_output_chars
:
number
;
avg_output_tokens
:
number
;
avg_predicted_ms
:
number
;
avg_predicted_tps
:
number
;
avg_reasoning_ms
:
number
;
avg_request_to_stop_ms
:
number
;
avg_ttft_ms
:
number
;
avg_user_text_bytes
:
number
;
count
:
any
;
label
:
any
;
}
[]
;
file_kind_set
:
{
avg_content_ms
:
number
;
avg_file_bytes
:
number
;
avg_output_chars
:
number
;
avg_output_tokens
:
number
;
avg_predicted_ms
:
number
;
avg_predicted_tps
:
number
;
avg_reasoning_ms
:
number
;
avg_request_to_stop_ms
:
number
;
avg_ttft_ms
:
number
;
avg_user_text_bytes
:
number
;
count
:
any
;
label
:
any
;
}
[]
;
file_size_bucket
:
{
avg_content_ms
:
number
;
avg_file_bytes
:
number
;
avg_output_chars
:
number
;
avg_output_tokens
:
number
;
avg_predicted_ms
:
number
;
avg_predicted_tps
:
number
;
avg_reasoning_ms
:
number
;
avg_request_to_stop_ms
:
number
;
avg_ttft_ms
:
number
;
avg_user_text_bytes
:
number
;
count
:
any
;
label
:
any
;
}
[]
;
image_count_bucket
:
{
avg_content_ms
:
number
;
avg_file_bytes
:
number
;
avg_output_chars
:
number
;
avg_output_tokens
:
number
;
avg_predicted_ms
:
number
;
avg_predicted_tps
:
number
;
avg_reasoning_ms
:
number
;
avg_request_to_stop_ms
:
number
;
avg_ttft_ms
:
number
;
avg_user_text_bytes
:
number
;
count
:
any
;
label
:
any
;
}
[]
;
image_size_bucket
:
{
avg_content_ms
:
number
;
avg_file_bytes
:
number
;
avg_output_chars
:
number
;
avg_output_tokens
:
number
;
avg_predicted_ms
:
number
;
avg_predicted_tps
:
number
;
avg_reasoning_ms
:
number
;
avg_request_to_stop_ms
:
number
;
avg_ttft_ms
:
number
;
avg_user_text_bytes
:
number
;
count
:
any
;
label
:
any
;
}
[]
;
input_mode
:
{
avg_content_ms
:
number
;
avg_file_bytes
:
number
;
avg_output_chars
:
number
;
avg_output_tokens
:
number
;
avg_predicted_ms
:
number
;
avg_predicted_tps
:
number
;
avg_reasoning_ms
:
number
;
avg_request_to_stop_ms
:
number
;
avg_ttft_ms
:
number
;
avg_user_text_bytes
:
number
;
count
:
any
;
label
:
any
;
}
[]
;
output_length_bucket
:
{
avg_content_ms
:
number
;
avg_file_bytes
:
number
;
avg_ms_per_1k_output_tokens
:
number
;
avg_output_chars
:
number
;
avg_output_tokens
:
number
;
avg_predicted_ms
:
number
;
avg_predicted_tps
:
number
;
avg_reasoning_ms
:
number
;
avg_request_to_stop_ms
:
number
;
avg_ttft_ms
:
number
;
avg_user_text_bytes
:
number
;
count
:
any
;
label
:
any
;
}
[]
;
runtime_bucket
:
{
avg_content_ms
:
number
;
avg_file_bytes
:
number
;
avg_output_chars
:
number
;
avg_output_tokens
:
number
;
avg_predicted_ms
:
number
;
avg_predicted_tps
:
number
;
avg_reasoning_ms
:
number
;
avg_request_to_stop_ms
:
number
;
avg_ttft_ms
:
number
;
avg_user_text_bytes
:
number
;
count
:
any
;
label
:
any
;
}
[]
;
stop_reason_category
:
{
avg_content_ms
:
number
;
avg_file_bytes
:
number
;
avg_output_chars
:
number
;
avg_output_tokens
:
number
;
avg_predicted_ms
:
number
;
avg_predicted_tps
:
number
;
avg_reasoning_ms
:
number
;
avg_request_to_stop_ms
:
number
;
avg_ttft_ms
:
number
;
avg_user_text_bytes
:
number
;
count
:
any
;
label
:
any
;
}
[]
;
}
;
comparisons
:
{
file_vs_text
:
any
;
prompt_hash_controls
:
{
avg_predicted_tps
:
number
;
prompt_hash_prefix
:
any
;
requests
:
any
;
scenario_count
:
any
;
scenarios
:
string
;
}
[]
;
}
;
model_options
:
{
count
:
any
;
model
:
any
}
[]
;
selected_model
:
any
;
selected_model_record_count
:
any
;
}
Settings
Member Visibility
Protected
Inherited
External
Theme
OS
Light
Dark
llamacpp-ui-metrics-extension
Loading...
Build Scenario Comparisons.