Ettore Di Giacinto
|
219751bb21
|
fix: cut prompt from AutoGPTQ answers
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2023-08-08 01:27:38 +02:00 |
|
Ettore Di Giacinto
|
bb7772a364
|
fix: byte utf-8 encode results from autogptq
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2023-08-08 01:20:07 +02:00 |
|
Ettore Di Giacinto
|
3c8fc37c56
|
feat: Add UseFastTokenizer
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2023-08-08 01:10:05 +02:00 |
|
Ettore Di Giacinto
|
b09bae3443
|
fix: autogptq requirements
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2023-08-08 00:22:15 +02:00 |
|
Ettore Di Giacinto
|
433605e282
|
feat: add initial Bark backend implementation
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2023-08-07 22:53:28 +02:00 |
|
Ettore Di Giacinto
|
a843e64fc2
|
feat: add initial AutoGPTQ backend implementation
|
2023-08-07 22:53:28 +02:00 |
|
Ettore Di Giacinto
|
5ca21ee398
|
feat: add ngqa and RMSNormEps parameters (#860)
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2023-08-03 00:51:08 +02:00 |
|
Ettore Di Giacinto
|
096d98c3d9
|
fix: add rope settings during model load, fix CUDA (#821)
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2023-07-27 21:56:05 +02:00 |
|
Ettore Di Giacinto
|
b96e30e66c
|
fix: use bytes in gRPC proto instead of strings (#813)
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2023-07-27 18:41:04 +02:00 |
|
Ettore Di Giacinto
|
569c1d1163
|
feat: add rope settings and negative prompt, drop grammar backend (#797)
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2023-07-25 19:05:27 +02:00 |
|
Ettore Di Giacinto
|
982a7e86a8
|
feat: add huggingface embeddings backend
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2023-07-20 22:10:42 +02:00 |
|