Llama.generate: 22 prefix-match hit, remaining 1 prompt tokens to eval
llama_perf_context_print: load time = 470.48 ms
llama_perf_context_print: prompt eval time = 0.00 ms / 1 tokens ( 0.00 ms per token, inf tokens per second)
llama_perf_context_print: eval time = 6615.07 ms / 92 runs ( 71.90 ms per token, 13.91 tokens per second)
llama_perf_context_print: total time = 6756.77 ms / 93 tokens
🔍 原始回應結構: {
"id": "chatcmpl-6024e193-6bb3-4cb2-b261-8343f9901830",
"object": "chat.completion",
"created": 1752578471,
"model": "qwen1_5-0_5b-chat-q8_0.gguf",
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "語義圖是一種用於表示語言的圖結構,它將語言的語法和含義表示為一系列的節點和邊。節點代表語言的語法結構,邊代表語言的含義。語義圖可以用來表示語言的語義關係,例如,一個句子可以表示為一個節點,一個單詞可以表示為一個邊,一個句子中的詞可以表示為一個節點,一個單詞中的詞可以表示為一個邊,等等。"
},
"logprobs": null,
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 23,
"completion_tokens": 91,
"total_tokens": 114
}
}
🤖 Qwen 回覆: 語義圖是一種用於表示語言的圖結構,它將語言的語法和含義表示為一系列的節點和邊。節點代表語言的語法結構,邊代表語言的含義。語義圖可以用來表示語言的語義關係,例如,一個句子可以表示為一個節點,一個單詞可以表示為一個邊,一個句子中的詞可以表示為一個節點,一個單詞中的詞可以表示為一個邊,等等。