ChuckMcSneed commited on
Commit
27a409b
·
verified ·
1 Parent(s): d821974

Upload 2 files

Browse files
Files changed (2) hide show
  1. wolfram-bench.png +3 -0
  2. wolfram.csv +82 -82
wolfram-bench.png ADDED

Git LFS Details

  • SHA256: 61705af1003c7fd63fb8faa4dfd5db5969b3fa826ea4560b7418a399ad41ce29
  • Pointer size: 131 Bytes
  • Size of remote file: 258 kB
wolfram.csv CHANGED
@@ -1,82 +1,82 @@
1
- Rank;Model;Size;Format;Quant;Context;Prompt;1st Score;2nd Score;OK;+/-
2
- 1;GPT-4;GPT-4;API;;;;18;18;1;1
3
- 1;goliath-120b-GGUF;120B;GGUF;Q2_K;4096;Vicuna 1.1;18;18;1;1
4
- 1;Tess-XL-v1.0-GGUF;120B;GGUF;Q2_K;4096;Synthia;18;18;1;1
5
- 1;Nous-Capybara-34B-GGUF;34B;GGUF;Q4_0;16384;Vicuna 1.1;18;18;1;1
6
- 2;Venus-120b-v1.0;120B;EXL2;3.0bpw;4096;Alpaca;18;18;1;0
7
- 3;miquella-120b-3.0bpw-h6-exl2;120B;EXL2;3.0bpw;32768;Mistral;18;17;1;1
8
- 3;lzlv_70B-GGUF;70B;GGUF;Q4_0;4096;Vicuna 1.1;18;17;1;1
9
- 4;Mixtral_34Bx2_MoE_60B;2x34B;HF;4-bit;200000;Alpaca;18;17;1;0
10
- 5;GPT-4 Turbo;GPT-4;API;;;;18;16;1;1
11
- 5;chronos007-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;16;1;1
12
- 5;SynthIA-70B-v1.5-GGUF;70B;GGUF;Q4_0;4096;SynthIA;18;16;1;1
13
- 6;bagel-34b-v0.2;34B;HF;4-bit;200000;Alpaca;18;16;1;0
14
- 7;Mixtral-8x7B-Instruct-v0.1;8x7B;HF;4-bit;32768;Mixtral;18;16;0;1
15
- 15;miquella-120b;120B;GGUF;Q2_K;32768;Mistral;17;17;1;0
16
- 8;dolphin-2_2-yi-34b-GGUF;34B;GGUF;Q4_0;16384;ChatML;18;15;0;0
17
- 16;MegaDolphin-120b-exl2;120B;EXL2;3.0bpw;4096;ChatML;17;16;1;0
18
- 16;Airoboros-L2-70B-3.1.2-GGUF;70B;GGUF;Q4_K_M;4096;Llama 2 Chat;17;16;1;0
19
- 9;StellarBright-GGUF;70B;GGUF;Q4_0;4096;Vicuna 1.1;18;14;1;1
20
- 10;Dawn-v2-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;14;1;0
21
- 10;Euryale-1.3-L2-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;14;1;0
22
- 10;bagel-dpo-34b-v0.2;34B;HF;4-bit;200000;Alpaca;18;14;1;0
23
- 10;nontoxic-bagel-34b-v0.2;34B;HF;4-bit;200000;Alpaca;18;14;1;0
24
- 18;SauerkrautLM-UNA-SOLAR-Instruct;11B;HF;?;4096;User-Ass.-Newlines;17;15;0;0
25
- 18;UNA-SOLAR-10.7B-Instruct-v1.0;11B;HF;?;4096;User-Ass.-Newlines;17;15;0;0
26
- 25;miqu-1-70b-exl2;70B;EXL2;3.0bpw;32768;Mistral;16;16;0;0
27
- 11;miquella-120b;120B;GGUF;IQ3_XXS;32768;Mistral;18;13;1;0
28
- 11;sophosynthesis-70b-v1;70B;EXL2;4.85bpw;4096;Vicuna 1.1;18;13;1;1
29
- 17;Gemini Pro;Gemini;API;;;;17;16;0;0
30
- 12;Mixtral_11Bx2_MoE_19B;2x11B;HF;?;200000;Alpaca;18;13;0;0
31
- 19;Rogue-Rose-103b-v0.2;103B;EXL2;3.2bpw;4096;Rogue Rose;17;14;0;0
32
- 19;laserxtral;4x7B;GGUF;Q6_K;8192;Alpaca;17;14;0;0
33
- 19;SOLAR-10.7B-Instruct-v1.0;11B;HF;?;4096;User-Ass.-Newlines;17;14;0;0
34
- 26;SOLAR-10.7B-Instruct-v1.0-uncensored;11B;HF;?;4096;User-Ass.-Newlines;16;15;0;0
35
- 13;GodziLLa2-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;12;1;1
36
- 20;MiquMaid-v1-70B-GGUF;70B;GGUF;Q5_K_M;32768;Alpaca;17;13;1;0
37
- 20;miqu-1-70b;70B;GGUF;Q5_K_M;32768;Mistral;17;13;0;0
38
- 20;miqu-1-70b;70B;GGUF;Q4_K_M;32768;Mistral;17;13;0;0
39
- 21;GPT-3.5 Turbo Instruct;GPT-3.5;API;;;;17;11;0;0
40
- 21;mistral-small;Mistral;API;;;;17;11;0;0
41
- 20;MIstral-QUantized-70b_Miqu-1-70b-iMat.GGUF;70B;GGUF;Q4_K_S;32768;Mistral;17;13;0;0
42
- 27;bagel-dpo-8x7b-v0.2;8x7B;HF;4-bit;200000;Alpaca;16;14;1;0
43
- 28;dolphin-2.2-70B-GGUF;70B;GGUF;Q4_0;4096;ChatML;16;14;0;1
44
- 29;Beyonder-4x7B-v2-GGUF;4x7B;GGUF;Q8_0;8192;ChatML;16;13;1;0
45
- 30;mistral-ft-optimized-1218;7B;HF;?;32768;Alpaca;16;13;0;1
46
- 31;SauerkrautLM-SOLAR-Instruct;11B;HF;?;4096;User-Ass.-Newlines;16;13;0;0
47
- 31;OpenHermes-2.5-Mistral-7B;7B;HF;?;32768;ChatML;16;13;0;0
48
- 35;mistral-ft-optimized-1227;7B;HF;?;32768;Alpaca;15;14;0;1
49
- 14;Samantha-1.11-70B-GGUF;70B;GGUF;Q4_0;4096;Vicuna 1.1;18;10;0;0
50
- 32;SOLARC-MOE-10.7Bx4;4x11B;HF;4-bit;4096;User-Ass.-Newlines;16;12;0;0
51
- 32;Nous-Hermes-2-SOLAR-10.7B;11B;HF;?;4096;User-Ass.-Newlines;16;12;0;0
52
- 32;Sakura-SOLAR-Instruct;11B;HF;?;4096;User-Ass.-Newlines;16;12;0;0
53
- 32;Mistral-7B-Instruct-v0.2;7B;HF;?;32768;Mistral;16;12;0;0
54
- 37;dolphin-2.5-mixtral-8x7b;8x7B;HF;4-bit;32768;ChatML;15;13;0;1
55
- 38;Starling-LM-7B-alpha;7B;HF;?;8192;OpenChat (GPT4 Correct);15;13;0;0
56
- 22;SOLARC-M-10.7B;11B;HF;?;4096;User-Ass.-Newlines;17;10;0;0
57
- 33;DeciLM-7B-instruct;7B;HF;?;32768;Mistral;16;11;0;0
58
- 33;Marcoroni-7B-v3;7B;HF;?;32768;Alpaca;16;11;0;0
59
- 34;mistral-medium;Mistral;API;;;;15;17;0;0
60
- 33;SauerkrautLM-7b-HerO;7B;HF;?;32768;ChatML;16;11;0;0
61
- 36;GPT-3.5 Turbo;GPT-3.5;API;;;;15;14;0;0
62
- 39;dolphin-2.6-mistral-7b-dpo;7B;HF;?;16384;ChatML;15;12;0;0
63
- 46;SOLARC-MOE-10.7Bx6;6x11B;HF;4-bit;4096;User-Ass.-Newlines;13;14;0;0
64
- 23;Synthia-MoE-v3-Mixtral-8x7B;8x7B;HF;4-bit;32768;Synthia Llama 2 Chat;17;9;0;0
65
- 40;Mixtral_7Bx2_MoE;2x7B;HF;?;8192;ChatML;15;11;1;0
66
- 44;dolphin-2.6-mixtral-8x7b;8x7B;HF;4-bit;32768;ChatML;14;12;0;0
67
- 47;OpenHermes-2.5-neural-chat-v3-3-openchat-3.5-1210-Slerp;7B;HF;?;32768;OpenChat (GPT4 Correct);13;13;0;0
68
- 41;Nous-Hermes-2-Mixtral-8x7B-DPO;8x7B;HF;4-bit;32768;ChatML;15;10;1;0
69
- 48;dolphin-2.6-mistral-7b-dpo-laser;7B;HF;?;16384;ChatML;12;13;0;0
70
- 45;MixtralRPChat-ZLoss;8x7B;HF;4-bit;32768;CharGoddard;14;10;0;0
71
- 51;SauerkrautLM-70B-v1-GGUF;70B;GGUF;Q4_0;4096;Llama 2 Chat;9;15;0;0
72
- 24;Nous-Hermes-2-Mixtral-8x7B-SFT;8x7B;HF;4-bit;32768;ChatML;17;5;1;0
73
- 42;openchat-3.5-1210;7B;HF;?;8192;OpenChat (GPT4 Correct);15;7;0;0
74
- 49;sonya-medium-x8-MoE;8x11B;HF;4-bit;8192;Alpaca;12;10;0;0
75
- 43;dolphin-2.7-mixtral-8x7b;8x7B;HF;4-bit;32768;ChatML;15;6;0;0
76
- 50;dolphin-2.6-mistral-7b;7B;HF;?;32768;ChatML;10;10;0;0
77
- 52;bagel-8x7b-v0.2;8x7B;HF;?;200000;Alpaca;6;10;1;0
78
- 53;DiscoLM_German_7b_v1-GGUF;7B;GGUF;Q8_0;8192;ChatML;6;8;0;0
79
- 54;stablelm-2-zephyr-1_6b;1.6B;HF;?;4096;Zephyr 1.6B;6;3;0;0
80
- 55;mistral-tiny;Mistral;API;;;;4;11;0;0
81
- 56;dolphin-2_6-phi-2;2.7B;HF;?;2048;ChatML;0;0;0;0
82
- 56;TinyLlama-1.1B-Chat-v1.0;1.1B;HF;?;2048;Zephyr;0;0;0;0
 
1
+ Rank;Model;Size;Format;Quant;Context;Prompt;1st Score;2nd Score;OK;+/-;Total
2
+ 1;GPT-4;n/a;API;n/a;n/a;n/a;18;18;1;1;38
3
+ 1;goliath-120b-GGUF;120B;GGUF;Q2_K;4096;Vicuna 1.1;18;18;1;1;38
4
+ 1;Tess-XL-v1.0-GGUF;120B;GGUF;Q2_K;4096;Synthia;18;18;1;1;38
5
+ 1;Nous-Capybara-34B-GGUF;34B;GGUF;Q4_0;16384;Vicuna 1.1;18;18;1;1;38
6
+ 2;Venus-120b-v1.0;120B;EXL2;3.0bpw;4096;Alpaca;18;18;1;0;37
7
+ 3;miquella-120b-3.0bpw-h6-exl2;120B;EXL2;3.0bpw;32768;Mistral;18;17;1;1;37
8
+ 3;lzlv_70B-GGUF;70B;GGUF;Q4_0;4096;Vicuna 1.1;18;17;1;1;37
9
+ 4;Mixtral_34Bx2_MoE_60B;2x34B;HF;4-bit;200000;Alpaca;18;17;1;0;36
10
+ 5;GPT-4 Turbo;n/a;API;n/a;n/a;n/a;18;16;1;1;36
11
+ 5;chronos007-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;16;1;1;36
12
+ 5;SynthIA-70B-v1.5-GGUF;70B;GGUF;Q4_0;4096;SynthIA;18;16;1;1;36
13
+ 6;bagel-34b-v0.2;34B;HF;4-bit;200000;Alpaca;18;16;1;0;35
14
+ 7;Mixtral-8x7B-Instruct-v0.1;8x7B;HF;4-bit;32768;Mixtral;18;16;0;1;35
15
+ 15;miquella-120b;120B;GGUF;Q2_K;32768;Mistral;17;17;1;0;35
16
+ 9;StellarBright-GGUF;70B;GGUF;Q4_0;4096;Vicuna 1.1;18;14;1;1;34
17
+ 16;MegaDolphin-120b-exl2;120B;EXL2;3.0bpw;4096;ChatML;17;16;1;0;34
18
+ 16;Airoboros-L2-70B-3.1.2-GGUF;70B;GGUF;Q4_K_M;4096;Llama 2 Chat;17;16;1;0;34
19
+ 8;dolphin-2_2-yi-34b-GGUF;34B;GGUF;Q4_0;16384;ChatML;18;15;0;0;33
20
+ 10;Dawn-v2-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;14;1;0;33
21
+ 10;Euryale-1.3-L2-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;14;1;0;33
22
+ 10;bagel-dpo-34b-v0.2;34B;HF;4-bit;200000;Alpaca;18;14;1;0;33
23
+ 10;nontoxic-bagel-34b-v0.2;34B;HF;4-bit;200000;Alpaca;18;14;1;0;33
24
+ 11;sophosynthesis-70b-v1;70B;EXL2;4.85bpw;4096;Vicuna 1.1;18;13;1;1;33
25
+ 17;Gemini Pro;n/a;API;n/a;n/a;n/a;17;16;0;0;33
26
+ 11;miquella-120b;120B;GGUF;IQ3_XXS;32768;Mistral;18;13;1;0;32
27
+ 13;GodziLLa2-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;12;1;1;32
28
+ 18;SauerkrautLM-UNA-SOLAR-Instruct;11B;HF;F16;4096;User-Ass.-Newlines;17;15;0;0;32
29
+ 18;UNA-SOLAR-10.7B-Instruct-v1.0;11B;HF;F16;4096;User-Ass.-Newlines;17;15;0;0;32
30
+ 25;miqu-1-70b-exl2;70B;EXL2;3.0bpw;32768;Mistral;16;16;0;0;32
31
+ 34;mistral-medium;n/a;API;n/a;n/a;n/a;15;17;0;0;32
32
+ 12;Mixtral_11Bx2_MoE_19B;2x11B;HF;F16;200000;Alpaca;18;13;0;0;31
33
+ 19;Rogue-Rose-103b-v0.2;103B;EXL2;3.2bpw;4096;Rogue Rose;17;14;0;0;31
34
+ 19;laserxtral;4x7B;GGUF;Q6_K;8192;Alpaca;17;14;0;0;31
35
+ 19;SOLAR-10.7B-Instruct-v1.0;11B;HF;F16;4096;User-Ass.-Newlines;17;14;0;0;31
36
+ 20;MiquMaid-v1-70B-GGUF;70B;GGUF;Q5_K_M;32768;Alpaca;17;13;1;0;31
37
+ 26;SOLAR-10.7B-Instruct-v1.0-uncensored;11B;HF;F16;4096;User-Ass.-Newlines;16;15;0;0;31
38
+ 27;bagel-dpo-8x7b-v0.2;8x7B;HF;4-bit;200000;Alpaca;16;14;1;0;31
39
+ 28;dolphin-2.2-70B-GGUF;70B;GGUF;Q4_0;4096;ChatML;16;14;0;1;31
40
+ 20;miqu-1-70b;70B;GGUF;Q5_K_M;32768;Mistral;17;13;0;0;30
41
+ 20;miqu-1-70b;70B;GGUF;Q4_K_M;32768;Mistral;17;13;0;0;30
42
+ 20;MIstral-QUantized-70b_Miqu-1-70b-iMat.GGUF;70B;GGUF;Q4_K_S;32768;Mistral;17;13;0;0;30
43
+ 29;Beyonder-4x7B-v2-GGUF;4x7B;GGUF;Q8_0;8192;ChatML;16;13;1;0;30
44
+ 30;mistral-ft-optimized-1218;7B;HF;F16;32768;Alpaca;16;13;0;1;30
45
+ 35;mistral-ft-optimized-1227;7B;HF;F16;32768;Alpaca;15;14;0;1;30
46
+ 31;SauerkrautLM-SOLAR-Instruct;11B;HF;F16;4096;User-Ass.-Newlines;16;13;0;0;29
47
+ 31;OpenHermes-2.5-Mistral-7B;7B;HF;F16;32768;ChatML;16;13;0;0;29
48
+ 36;GPT-3.5 Turbo;n/a;API;n/a;n/a;n/a;15;14;0;0;29
49
+ 37;dolphin-2.5-mixtral-8x7b;8x7B;HF;4-bit;32768;ChatML;15;13;0;1;29
50
+ 14;Samantha-1.11-70B-GGUF;70B;GGUF;Q4_0;4096;Vicuna 1.1;18;10;0;0;28
51
+ 21;GPT-3.5 Turbo Instruct;n/a;API;n/a;n/a;n/a;17;11;0;0;28
52
+ 21;mistral-small;n/a;API;n/a;n/a;n/a;17;11;0;0;28
53
+ 32;SOLARC-MOE-10.7Bx4;4x11B;HF;4-bit;4096;User-Ass.-Newlines;16;12;0;0;28
54
+ 32;Nous-Hermes-2-SOLAR-10.7B;11B;HF;F16;4096;User-Ass.-Newlines;16;12;0;0;28
55
+ 32;Sakura-SOLAR-Instruct;11B;HF;F16;4096;User-Ass.-Newlines;16;12;0;0;28
56
+ 32;Mistral-7B-Instruct-v0.2;7B;HF;F16;32768;Mistral;16;12;0;0;28
57
+ 38;Starling-LM-7B-alpha;7B;HF;F16;8192;OpenChat (GPT4 Correct);15;13;0;0;28
58
+ 22;SOLARC-M-10.7B;11B;HF;F16;4096;User-Ass.-Newlines;17;10;0;0;27
59
+ 33;DeciLM-7B-instruct;7B;HF;F16;32768;Mistral;16;11;0;0;27
60
+ 33;Marcoroni-7B-v3;7B;HF;F16;32768;Alpaca;16;11;0;0;27
61
+ 33;SauerkrautLM-7b-HerO;7B;HF;F16;32768;ChatML;16;11;0;0;27
62
+ 39;dolphin-2.6-mistral-7b-dpo;7B;HF;F16;16384;ChatML;15;12;0;0;27
63
+ 40;Mixtral_7Bx2_MoE;2x7B;HF;F16;8192;ChatML;15;11;1;0;27
64
+ 46;SOLARC-MOE-10.7Bx6;6x11B;HF;4-bit;4096;User-Ass.-Newlines;13;14;0;0;27
65
+ 23;Synthia-MoE-v3-Mixtral-8x7B;8x7B;HF;4-bit;32768;Synthia Llama 2 Chat;17;9;0;0;26
66
+ 41;Nous-Hermes-2-Mixtral-8x7B-DPO;8x7B;HF;4-bit;32768;ChatML;15;10;1;0;26
67
+ 44;dolphin-2.6-mixtral-8x7b;8x7B;HF;4-bit;32768;ChatML;14;12;0;0;26
68
+ 47;OpenHermes-2.5-neural-chat-v3-3-openchat-3.5-1210-Slerp;7B;HF;F16;32768;OpenChat (GPT4 Correct);13;13;0;0;26
69
+ 48;dolphin-2.6-mistral-7b-dpo-laser;7B;HF;F16;16384;ChatML;12;13;0;0;25
70
+ 45;MixtralRPChat-ZLoss;8x7B;HF;4-bit;32768;CharGoddard;14;10;0;0;24
71
+ 51;SauerkrautLM-70B-v1-GGUF;70B;GGUF;Q4_0;4096;Llama 2 Chat;9;15;0;0;24
72
+ 24;Nous-Hermes-2-Mixtral-8x7B-SFT;8x7B;HF;4-bit;32768;ChatML;17;5;1;0;23
73
+ 42;openchat-3.5-1210;7B;HF;F16;8192;OpenChat (GPT4 Correct);15;7;0;0;22
74
+ 49;sonya-medium-x8-MoE;8x11B;HF;4-bit;8192;Alpaca;12;10;0;0;22
75
+ 43;dolphin-2.7-mixtral-8x7b;8x7B;HF;4-bit;32768;ChatML;15;6;0;0;21
76
+ 50;dolphin-2.6-mistral-7b;7B;HF;F16;32768;ChatML;10;10;0;0;20
77
+ 52;bagel-8x7b-v0.2;8x7B;HF;F16;200000;Alpaca;6;10;1;0;17
78
+ 55;mistral-tiny;n/a;API;n/a;n/a;n/a;4;11;0;0;15
79
+ 53;DiscoLM_German_7b_v1-GGUF;7B;GGUF;Q8_0;8192;ChatML;6;8;0;0;14
80
+ 54;stablelm-2-zephyr-1_6b;1.6B;HF;F16;4096;Zephyr 1.6B;6;3;0;0;9
81
+ 56;dolphin-2_6-phi-2;2.7B;HF;F16;2048;ChatML;0;0;0;0;0
82
+ 56;TinyLlama-1.1B-Chat-v1.0;1.1B;HF;F16;2048;Zephyr;0;0;0;0;0