CS348Project/llama.cpp
5
0
Fork 0
mirror of https://github.com/ggml-org/llama.cpp.git synced 2025-11-11 10:36:54 +00:00
Code Issues Packages Projects Releases Wiki Activity

context : minor

Browse Source 
ggml-ci
This commit is contained in:
Georgi Gerganov
2025-01-15 10:54:21 +02:00
parent 17b363afd3
commit a19f671fe0
5 changed files with 37 additions and 47 deletions
Download Patch File Download Diff File Expand all files Collapse all files

6
src/llama-kv-cache.h
View File

@@ -88,11 +88,11 @@ struct llama_kv_cache {
void clear();
bool seq_rm (llama_seq_id seq_id, llama_pos p0, llama_pos p1);
bool seq_rm (llama_seq_id seq_id, llama_pos p0, llama_pos p1);
void seq_cp (llama_seq_id seq_id_src, llama_seq_id seq_id_dst, llama_pos p0, llama_pos p1);
void seq_keep(llama_seq_id seq_id);
void seq_add (llama_seq_id seq_id, llama_pos p0, llama_pos p1, llama_pos delta);
void seq_div (llama_seq_id seq_id, llama_pos p0, llama_pos p1, int d);
void seq_add (llama_seq_id seq_id, llama_pos p0, llama_pos p1, llama_pos delta);
void seq_div (llama_seq_id seq_id, llama_pos p0, llama_pos p1, int d);
llama_pos seq_pos_max(llama_seq_id seq_id);