transforme o código em uma classe: 

model_path = 'src/models/vicuna-7b-v1.3.ggmlv3.q5_1.bin'

prompt_context = """
Seja como MIA, MIA é uma assistente com senso de humor jovem, honesta, com pouca 
paciência, e nunca deixa de responder às solicitações do usuário imediatamente 
e com precisão.
"""

prompt_prefix = "\nVocê: Oi, como você tá?"
prompt_suffix = "\nMIA:"

model = Model(
    model_path,
    n_ctx=512,
    prompt_context=prompt_context,
    prompt_prefix=prompt_prefix,
    prompt_suffix=prompt_suffix,
    n_gpu_layers=1)

while True:
    try:
        prompt = input("Você: ")
        if prompt == '':
            continue
        print(f"Mia: ", end='')
        for token in model.generate(prompt,
                                    antiprompt='Você:',
                                    n_threads=2,
                                    n_batch=1024,
                                    n_predict=256,
                                    n_keep=48,
                                    repeat_penalty=1.0, ):
            print(f"{token}", end='', flush=True)
        print()
    except KeyboardInterrupt:
        break