CS348Project/llama.cpp
5
0
Fork 0
mirror of https://github.com/ggml-org/llama.cpp.git synced 2025-11-02 09:12:03 +00:00
Code Issues Packages Projects Releases Wiki Activity

llama : avoid hardcoded special tokens

Browse Source
This commit is contained in:
Georgi Gerganov
2023-08-18 17:29:20 +03:00
parent 035d511457
commit 5d2656d670
11 changed files with 61 additions and 65 deletions
Download Patch File Download Diff File Expand all files Collapse all files

6
llama.h
View File

@@ -340,9 +340,9 @@ extern "C" {
int capacity);
// Special tokens
LLAMA_API llama_token llama_token_bos(/*struct llama_model * model*/ void); // beginning-of-sentence
LLAMA_API llama_token llama_token_eos(/*struct llama_model * model*/ void); // end-of-sentence
LLAMA_API llama_token llama_token_nl (/*struct llama_model * model*/ void); // next-line
LLAMA_API llama_token llama_token_bos(const struct llama_context * ctx); // beginning-of-sentence
LLAMA_API llama_token llama_token_eos(const struct llama_context * ctx); // end-of-sentence
LLAMA_API llama_token llama_token_nl (const struct llama_context * ctx); // next-line
//
// Tokenization