eltorio commited on
Commit
2e7ad46
·
verified ·
1 Parent(s): a67baa3

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +5 -4
README.md CHANGED
@@ -17,12 +17,13 @@ Refer to the [original adapter repository](https://huggingface.co/eltorio/Llama-
17
 
18
  ## Use with llama.cpp
19
 
 
 
20
  ```bash
21
  # with cli
22
- llama-cli -m base_model.gguf --lora Llama-3.2-3B-appreciation-f16.gguf (...other args)
23
-
24
  # with server
25
- llama-server -m base_model.gguf --lora Llama-3.2-3B-appreciation-f16.gguf (...other args)
26
  ```
27
 
28
- To know more about LoRA usage with llama.cpp server, refer to the [llama.cpp server documentation](https://github.com/ggerganov/llama.cpp/blob/master/examples/server/README.md).
 
17
 
18
  ## Use with llama.cpp
19
 
20
+ - Download the [base model in GGUF format](https://huggingface.co/bartowski/Llama-3.2-3B-Instruct-GGUF/blob/main/Llama-3.2-3B-Instruct-f16.gguf)
21
+ - Download the [LoRa adapter in GGUF format](https://huggingface.co/eltorio/Llama-3.2-3B-appreciation-F16-GGUF/blob/main/Llama-3.2-3B-appreciation-f16.gguf)
22
  ```bash
23
  # with cli
24
+ llama-cli -v -m Llama-3.2-3B-Instruct-f16.gguf --lora Llama-3.2-3B-appreciation-f16.gguf -p "Vous êtes une IA assistant les enseignants d'histoire-géographie en rédigeant à leur place une appréciation personnalisée pour leur élève en fonction de ses performances. Votre appreciation doit être en français, et doit aider l'élève à comprendre ses points forts et les axes d'amélioration. Votre appréciation doit comporter de 1 à 40 mots. Votre appréciation ne doit jamais comporter la valeur de la note. Votre appréciation doit utiliser le style impersonnel.Attention l'élément le plus important de votre analyse doit rester la moyenne du trimestre" -cnv
 
25
  # with server
26
+ llama-cli -v -m Llama-3.2-3B-Instruct-f16.gguf --lora Llama-3.2-3B-appreciation-f16.gguf
27
  ```
28
 
29
+ To know more about LoRA usage with llama.cpp server, refer to the [llama.cpp server documentation](https://github.com/ggerganov/llama.cpp/blob/master/examples/server/README.md).