Update README.md
Browse files
README.md
CHANGED
|
@@ -11,6 +11,8 @@ pipeline_tag: text-generation
|
|
| 11 |
|
| 12 |
# chatntq_chatvector-MoE-Antler_chatvector-2x7B
|
| 13 |
|
|
|
|
|
|
|
| 14 |
日本語が滑らかで、高速なチャット・ノベル生成モデルを目指して作成しました。
|
| 15 |
32kのContextSize対応、iq3_xxs量子化でVRAM12GBでフルロード可能なモデルです。
|
| 16 |
|
|
|
|
| 11 |
|
| 12 |
# chatntq_chatvector-MoE-Antler_chatvector-2x7B
|
| 13 |
|
| 14 |
+
#### GGUF量子化は[こちら](https://huggingface.co/Sdff-Ltba/chatntq_chatvector-MoE-Antler_chatvector-2x7B-GGUF)
|
| 15 |
+
|
| 16 |
日本語が滑らかで、高速なチャット・ノベル生成モデルを目指して作成しました。
|
| 17 |
32kのContextSize対応、iq3_xxs量子化でVRAM12GBでフルロード可能なモデルです。
|
| 18 |
|