File size: 2,866 Bytes
7e98b43
 
21d1097
 
 
 
7e98b43
 
 
848cc61
7e98b43
3dabcad
 
 
 
 
 
 
7e98b43
21d1097
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
3989ccb
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
---
library_name: transformers
license: apache-2.0
language:
- en
- es
---


## evaluator prompt.

![image/png](/static-proxy?url=https%3A%2F%2Fcdn-uploads.huggingface.co%2Fproduction%2Fuploads%2F641b435ba5f876fe30c5ae0a%2FBDQczrSQqkVR5UgYquaAf.png%3C%2Fspan%3E)


![image/png](/static-proxy?url=https%3A%2F%2Fcdn-uploads.huggingface.co%2Fproduction%2Fuploads%2F641b435ba5f876fe30c5ae0a%2FGlsmU-hcdISkBYJiZz_3k.png%3C%2Fspan%3E)


![image/png](/static-proxy?url=https%3A%2F%2Fcdn-uploads.huggingface.co%2Fproduction%2Fuploads%2F641b435ba5f876fe30c5ae0a%2F3ADLkHltd-iNfo0rgC8Bl.png%3C%2Fspan%3E)

```py

prompt= """<bos><start_of_turn>system
Eres un agente experto en evaluar prompt en Spanish.<end_of_turn>
<start_of_turn>user
La probabilidad de NO sacar una bolita roja se encuentra restando la probabilidad de sacar una bolita roja de 1. 1. Primero,vamos a encontrar el número total de bolitas. Hacemos esto sumando todas las bolitas: 4 rojas + 3 azules + 2 verdes = 9 bolitas. 2. La probabilidad de sacar una bolita roja es el número de bolitas rojas dividido por el número total de bolitas, que es 4/9. 3. La probabilidad de NO sacar una bolita roja es, por lo tanto: Probabilidad = 1 - Probabilidad de Sacar una Bolita Roja = 1 - 4/9 = 5/9 Así, la probabilidad de no sacar una bolita roja es 5/9.<end_of_turn>
<start_of_turn>model
"""

# prompt= """<bos>"""
input= tokenizer(prompt,
                 return_tensors="pt",
                 add_special_tokens=False).to(model.device)

max_new_tokens=1500
generation_config = GenerationConfig(
              max_new_tokens = max_new_tokens,
              temperature = .3,
              # top_p=0.55,
              # top_k = 50,
              # repetition_penalty = 1.1,
              do_sample=True,
          )
outputs = model.generate(**input,
                         generation_config=generation_config,
                         stopping_criteria=stopping_criteria_list,
                        )
print(tokenizer.decode(outputs[0], skip_special_tokens=False) )
```

```
<bos><start_of_turn>system
Eres un agente experto en evaluar prompt en Spanish.<end_of_turn>
<start_of_turn>user
La probabilidad de NO sacar una bolita roja se encuentra restando la probabilidad de sacar una bolita roja de 1. 1. Primero, vamos a encontrar el número total de bolitas. Hacemos esto sumando todas las bolitas: 4 rojas + 3 azules + 2 verdes = 9 bolitas. 2. La probabilidad de sacar una bolita roja es el número de bolitas rojas dividido por el número total de bolitas, que es 4/9. 3. La probabilidad de NO sacar una bolita roja es, por lo tanto: Probabilidad = 1 - Probabilidad de Sacar una Bolita Roja = 1 - 4/9 = 5/9 Así, la probabilidad de no sacar una bolita roja es 5/9.<end_of_turn>
<start_of_turn>model
{
  "avg_rating_es": "2.0", 
  "cluster_description_es": "Problemas Matemáticos y Cuidado de Animales",
  "topic_es": "Matemáticas",
  "kind_es": "humano"
}<end_of_turn>
CPU times: user 3.67 s, sys: 7.1 ms, total: 3.68 s
Wall time: 3.67 s
```