turning off

This commit is contained in:
Henri Vasserman
2023-05-19 17:24:43 +03:00
parent 5c9b45c204
commit da3d60f154
3 changed files with 7 additions and 0 deletions

View File

@@ -191,6 +191,7 @@ extern "C" {
LLAMA_API llama_token llama_token_eos();
LLAMA_API llama_token llama_token_nl();
LLAMA_API void llama_set_steering_off(struct llama_context * ctx);
LLAMA_API void llama_set_steering_write(struct llama_context * ctx, int layer, float mul);
LLAMA_API void llama_set_steering_read(struct llama_context * ctx, int layer, float mul);