Ettore Di Giacinto
|
afdc0ebfd7
|
feat: add --single-active-backend to allow only one backend active at the time (#925)
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2023-08-19 01:49:33 +02:00 |
|
Ettore Di Giacinto
|
0ec695f9e4
|
feat: make initializer accept gRPC delay times (#900)
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2023-08-16 01:11:32 +02:00 |
|
Ettore Di Giacinto
|
8c781a6a44
|
feat: Add Diffusers (#874)
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2023-08-09 08:38:51 +02:00 |
|
Ettore Di Giacinto
|
a843e64fc2
|
feat: add initial AutoGPTQ backend implementation
|
2023-08-07 22:53:28 +02:00 |
|
Ettore Di Giacinto
|
94916749c5
|
feat: add external grpc and model autoloading
|
2023-07-20 22:10:12 +02:00 |
|
Ettore Di Giacinto
|
1d0ed95a54
|
feat: move other backends to grpc
This finally makes everything more consistent
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2023-07-15 01:19:43 +02:00 |
|
Ettore Di Giacinto
|
58f6aab637
|
feat: move llama to a grpc
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2023-07-15 01:19:43 +02:00 |
|
Ettore Di Giacinto
|
b816009db0
|
feat: add falcon ggllm via grpc client
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2023-07-15 01:19:43 +02:00 |
|