Name;Quant;Size;B;C;D;S;P;Type
stringlengths 26
112
|
|---|
budecosystem/genz-70b;Q6_K;70B;0;1.5;0;2.25;4.25;finetune |
CohereForAI/c4ai-command-r-v01;F16;35B;0;0;2;7;4;finetune |
Nexusflow/Starling-LM-7B-beta;F16;7B;0.5;0;0;4;1.5;finetune |
wolfram/miqu-1-103b;Q5_K_M;103B;2.5;0;1;7.25;3;merge |
crestf411/daybreak-miqu-1-70b-v1.0-hf;Q6_K;70B;3;2;3;6.25;4.5;finetune |
ChuckMcSneed/ArcaneEntanglement-model64-70b;Q6_K;70B;3;2;1;7.25;6;merge |
migtissera/Tess-70B-v1.6;Q6_K;70B;0;1;0;5.25;2.25;finetune |
SF-Foundation/EinBase-70B-v0.1-full;Q6_K;70B;3;2;0;7;2.5;finetune |
CohereForAI/c4ai-command-r-plus;Q6_K;104B;0;0;3;7;4.5;finetune |
mistral-community/Mixtral-8x22B-v0.1;Q6_K;8x22B;3;1;0;0.75;0;base |
alpindale/WizardLM-2-8x22B;Q6_K;8x22B;3;1;0;6.75;4.75;finetune |
openbmb/Eurux-8x22b-nca;Q6_K;8x22B;3;2;3;4.5;4;finetune |
mistralai/Mixtral-8x22B-Instruct-v0.1;Q6_K;8x22B;1;1;0;7.5;4.5;finetune |
openbmb/Eurux-8x22b-kto;Q6_K;8x22B;3;2;0;4.75;5.25;finetune |
miqu-120b-attenuated(experimental merge);Q5_K_M;120B;1;0;0;7.25;4.5;merge |
goliath-120b-attenuated(experimental merge);Q6_K;120B;1;0;0;4;3;merge |
meta-llama/Meta-Llama-3-70B-Instruct;Q6_K;70B;3;0;0;7.75;6;finetune |
meta-llama/Meta-Llama-3-8B-Instruct;F16;8B;0;2;1;6;4.75;finetune |
databricks/dbrx-instruct;Q6_K;16x12B;0;0;0;6.5;4.5;finetune |
databricks/dbrx-base;Q6_K;16x12B;1;2;0;1.25;0;base |
Qwen/Qwen1.5-110B-Chat;Q6_K;110B;0;0;0;7.5;4.5;finetune |
meta-llama/Meta-Llama-3-70B;Q6_K;70B;2.5;1.5;0;1.25;0.5;base |
jukofyork/Dark-Miqu-70B;Q6_K;70B;0;2;0;6.25;4.5;merge |
llama3-123b-selfmerge;Q6_K;123B;3;0;0;1.5;0.25;base+merge |
cognitivecomputations/dolphin-2.9.1-qwen-110b;Q6_K;110B;0;1;3;3.75;4.25;finetune |
jondurbin/airoboros-dpo-110b-3.3;Q6_K;110B;0;0;2.5;5.25;5.25;finetune |
jondurbin/airoboros-110b-3.3;Q6_K;110B;0;1.5;0;4.25;5.75;finetune |
sophosympatheia/Midnight-Miqu-70B-v1.5;Q6_K;70B;0;2;0;5.75;4.5;merge |
tdrussell/Llama-3-70B-Instruct-Storywriter;Q6_K;70B;3;0;3;7.75;4.25;finetune |
crestf411/L3-70B-daybreak-abliterated-v0.4;Q6_K;70B;3;2;0;7.5;6;finetune |
cognitivecomputations/dolphin-2.9.1-dbrx;Q6_K;16x12B;3;1;3;4;6;finetune |
billyjoe/quill-72b-instruct;Q6_K;72B;1;1.5;0;6.75;5;finetune |
cognitivecomputations/dolphin-2.9.2-qwen2-72b;Q6_K;72B;3;2;3;5.25;5;finetune |
alpindale/magnum-72b-v1;Q6_K;72B;0;2;3;7;4.75;finetune |
google/gemma-2-27b-it;BF16;27B;0;0.5;1;6.75;1.75;finetune |
google/gemma-2-9b-it;BF16;9B;0;0.5;1;6.5;1.75;finetune |
deepseek-ai/DeepSeek-V2-Chat-0628;BF16;21A236B;1;1;3;5.75;3.25;finetune |
mistralai/Mistral-Large-Instruct-2407;Q6_K;123B;0;2;0;7.75;5.75;finetune |
NeverSleep/Lumimaid-v0.2-123B;Q6_K;123B;0;2;3;8;3;finetune |
meta-llama/Meta-Llama-3.1-70B-Instruct;Q6_K;70B;3;0;3;6.75;5.75;finetune |
meta-llama/Meta-Llama-3.1-8B-Instruct;BF16;8B;0;0;2;6.5;3.75;finetune |
mistralai/Mistral-Nemo-Instruct-2407;BF16;12B;0;2;3;6.75;5.25;finetune |
NeverSleep/Lumimaid-v0.2-12B;BF16;12B;0;1;2;2.5;1.25;finetune |
NeverSleep/Lumimaid-v0.2-70B;Q6_K;70B;1;2;3;6.5;3.5;finetune |
SillyTilly/Meta-Llama-3.1-405B-Instruct;Q8_0;405B;3;0;3;6.25;4.5;finetune |
dnhkng/RYS-XLarge;Q6_K;78B;0;0;3;5.25;2.25;finetune+merge |
migtissera/Tess-3-Llama-3.1-405B;Q8_0;405B;3;2;3;4.5;4.5;finetune |
migtissera/Tess-3-Mistral-Large-2-123B;Q6_K;123B;0;2;3;6.5;3.75;finetune |
crestf411/L3.1-70B-sunfall-v0.6.1;Q6_K;70B;1;2;2.5;7.5;4.25;finetune |
mistralai/Mistral-Large-Instruct-2407;BF16;123B;0;2;3;8;5.5;finetune |
NousResearch/Hermes-3-Llama-3.1-70B;Q6_K;70B;3;2;3;6.75;5;finetune |
NousResearch/Hermes-3-Llama-3.1-405B;Q8_0;405B;0;2;3;8;5.75;finetune |
anthracite-org/magnum-v2-123b;Q6_K;123B;0;2;2;7;4.75;finetune |
anthracite-org/magnum-v2-72b;Q6_K;72B;0;2;0;5.75;4.75;finetune |
Sao10K/L3.1-70B-Euryale-v2.2;Q6_K;70B;3;2;3;7.5;2.5;finetune |
anthracite-org/magnum-v3-34b;BF16;34B;3;1;0;4.5;4;finetune |
CohereForAI/c4ai-command-r-08-2024;F16;32B;0;0;0;6;4.75;finetune |
CohereForAI/c4ai-command-r-plus-08-2024;Q6_K;104B;0;1;2;7.25;5;finetune |
FluffyKaeloky/Luminum-v0.1-123B;Q6_K;123B;0;2;3;7.5;5.25;merge |
Maximum;n/a;n/a;3;2;3;8;6; |