
Questo è solamento il modello llama2 caricato tramite bitsandbytes in 8 bit e pushato qua.
{}
transformers safetensors llama feature-extraction endpoints_compatible text-generation-inference 8-bit region:us