dahara1/deepseek-r1-distill-qwen-14b-unsloth-gguf-japanese-imatrix Q3_K GGUF - Free GGUF Download is indexed on GraySoft with repository links, GGUF quant files, and Hugging Face metadata. This page helps you pick a local model for guIDE or other runtimes. See related models in the same shard below.
Model Intelligence Sheet
dahara1/deepseek-r1-distill-qwen-14b-unsloth-gguf-japanese-imatrix overview
Downloads
589
Likes
1
Pipeline
—
Library
—
Visibility
Public
Access
Open
Repository Files & Downloads
18 files detected
Direct downloads for all repository files
| File | Type | Quantization | Size | Link |
|---|---|---|---|---|
| deepseek-r1-distill-qwen-14B-unsloth-bnb-4bit-496-BF16.gguf | GGUF | BF16 | 27.52 GB | Download |
| deepseek-r1-distill-qwen-14B-unsloth-jpn-IQ3_M.gguf | GGUF | IQ3_M | 6.44 GB | Download |
| deepseek-r1-distill-qwen-14B-unsloth-jpn-IQ3_XS.gguf | GGUF | IQ3_XS | 5.94 GB | Download |
| deepseek-r1-distill-qwen-14B-unsloth-jpn-IQ3_XXS.gguf | GGUF | IQ3_XXS | 5.54 GB | Download |
| deepseek-r1-distill-qwen-14B-unsloth-jpn-IQ4_XS.gguf | GGUF | IQ4_XS | 7.56 GB | Download |
| deepseek-r1-distill-qwen-14B-unsloth-jpn-Q3_K-f16.gguf | GGUF | Q3_K | 8.83 GB | Download |
| deepseek-r1-distill-qwen-14B-unsloth-jpn-Q4_K-f16.gguf | GGUF | Q4_K | 10.27 GB | Download |
| deepseek-r1-distill-qwen-14B-unsloth-jpn-Q4_K_L.gguf | GGUF | Q4_K_L | 8.91 GB | Download |
| deepseek-r1-distill-qwen-14B-unsloth-jpn-Q4_K_M.gguf | GGUF | Q4_K_M | 8.37 GB | Download |
| deepseek-r1-distill-qwen-14B-unsloth-jpn-Q4_K_S.gguf | GGUF | Q4_K_S | 7.98 GB | Download |
| deepseek-r1-distill-qwen-14B-unsloth-jpn-Q5_K-f16.gguf | GGUF | Q5_K | 11.59 GB | Download |
| deepseek-r1-distill-qwen-14B-unsloth-jpn-Q5_K_L.gguf | GGUF | Q5_K_L | 10.23 GB | Download |
| deepseek-r1-distill-qwen-14B-unsloth-jpn-Q5_K_M.gguf | GGUF | Q5_K_M | 8.35 GB | Download |
| deepseek-r1-distill-qwen-14B-unsloth-jpn-Q5_K_S.gguf | GGUF | Q5_K_S | 9.56 GB | Download |
| deepseek-r1-distill-qwen-14B-unsloth-jpn-Q6_K-f16.gguf | GGUF | Q6_K | 13.00 GB | Download |
| deepseek-r1-distill-qwen-14B-unsloth-jpn-Q6_K.gguf | GGUF | Q6_K | 11.29 GB | Download |
| deepseek-r1-distill-qwen-14B-unsloth-jpn-Q6_K_L.gguf | GGUF | Q6_K_L | 11.64 GB | Download |
| deepseek-r1-distill-qwen-14B-unsloth-jpn-Q8_0.gguf | GGUF | — | 15.98 GB | Download |
Model Details Live
Metadata Inspector
Normalized metadata (stored in metadata_json)
{
"metadata": {},
"card_data": {
"license": "mit",
"language": [
"ja"
],
"frontmatter": {
"license": "mit",
"language": [
"ja"
]
},
"hero_image_url": "",
"summary": "`` llama-cli -m DeepSeek-R1-Distill-Qwen-14B-F16.gguf \\ --temp 0.7 --threads 10 -no-cnv \\ --prompt 'あなたはDeepSeek R1、親切で有能な日本人アシスタントです。テレビアニメ化するくらい人気の出そうな異世界小説の導入部を日本語で書いてください。主人公はアラフォーのサラリーマン、鈴木健人。カバディの世界選手権で優勝した特技を持ちます。文体はライトノベル風なカジュアルな一人称「俺」を多めで。異世界に転生したばかりでゴブリンに囲まれてピンチの場面からスタートしてください。カバディを知らない読者がカバディの魅力についてわかるようなストーリ展開にします。カバディとはインド発祥のスポーツで、息を止めたまま相手陣地に突撃し、「カバディ、カバディ」と連続で唱えながら敵にタッチして自陣地に戻れば得点になります。防御側は攻撃者を邪魔して息継ぎをさせようとします。息を止めた攻防戦が醍醐味のスポーツです。異世界は中世のヨーロッパ程度の文化レベルでカバディというスポーツは存在しませんが、このスポーツのルールと特性が異世界での圧倒的な強みにつながるような独自の設定を考えましょう。主人公の肺活量はきっと優れているでしょう。ファンタジーな設定を追加する事でも良いです。判断が必要な部分はあなたの好みに任せます。失敗を恐れずにあまり考えすぎずに書いてみましょう' ``",
"quick_links": [],
"benchmark_table_html": "",
"readme_markdown": "---\nlicense: mit\nlanguage:\n- ja\n---\n\n本モデルはDeepSeek-R1-Distill-Qwen-14Bを日本語で微調整したモデルです。オリジナルモデルでは思考の過程が英語か中国語で出力されますが、本モデルは日本語で出力されるようになっています。 \nThis model is a fine-tuned version of DeepSeek-R1-Distill-Qwen-14B in Japanese. The original model outputs thought processes in English or Chinese, but this model outputs them in Japanese. \n\n# example llama.cpp \n\n```\nllama-cli -m DeepSeek-R1-Distill-Qwen-14B-F16.gguf \\\n--temp 0.7 --threads 10 -no-cnv \\\n--prompt 'あなたはDeepSeek R1、親切で有能な日本人アシスタントです。<|User|>テレビアニメ化するくらい人気の出そうな異世界小説の導入部を日本語で書いてください。主人公はアラフォーのサラリーマン、鈴木健人。カバディの世界選手権で優勝した特技を持ちます。文体はライトノベル風なカジュアルな一人称「俺」を多めで。異世界に転生したばかりでゴブリンに囲まれてピンチの場面からスタートしてください。カバディを知らない読者がカバディの魅力についてわかるようなストーリ展開にします。カバディとはインド発祥のスポーツで、息を止めたまま相手陣地に突撃し、「カバディ、カバディ」と連続で唱えながら敵にタッチして自陣地に戻れば得点になります。防御側は攻撃者を邪魔して息継ぎをさせようとします。息を止めた攻防戦が醍醐味のスポーツです。異世界は中世のヨーロッパ程度の文化レベルでカバディというスポーツは存在しませんが、このスポーツのルールと特性が異世界での圧倒的な強みにつながるような独自の設定を考えましょう。主人公の肺活量はきっと優れているでしょう。ファンタジーな設定を追加する事でも良いです。判断が必要な部分はあなたの好みに任せます。失敗を恐れずにあまり考えすぎずに書いてみましょう<|Assistant|>'\n```\n\n## 出力例 output sample\n```\n<think>\nこのタスクは、人気の異世界小説の導入部を書くことです。主人公は鈴木健人、40歳のサラリーマンで、カバディ世界選手権で優勝した特技を持っています。\n文体はライトノベル風なカジュアルな一人称「俺」で、異世界に転生したばかりでゴブリンに囲まれてピンチの場面からスタートします。\nカバディの魅力を理解できない読者でも納得できるようにする必要があります。\nまた、異世界にはカバディというスポーツが存在せず、このスポーツのルールと特性が健人にとっての強みになるような独自の設定を加える必要があります。\nさらに、健人には優れた肺活量があるべきです。ファンタジーな設定を追加しても構いません。判断が必要な部分は私の好みに任せ、失敗を恐れずにあまり考えすぎずに進めるようにします。\n\nまず、健人が異世界に転生した状況を設定します。彼は目を覚ますと、暗い洞窟の中にいることに気づきます。周りにはゴブリンがいて、彼を包囲しています。\n彼は自分が死んだのか、夢なのかと混乱します。しかし、痛みを感じることで現実であることを悟ります。この混乱を描写することで、読者にも同調させることができます。\n\n次に、カバディの魅力を説明します。カバディは息を止めたまま敵の陣地に突撃し、「カバディ、カバディ」と唱えることで敵にタッチして自陣地に戻るスポーツです。\n防御側は息を止めた攻撃者を邪魔して息継ぎをさせようとします。息を止めた攻防戦が醍醐味です。\nしかし、異世界ではカバディというスポーツが存在しないので、このスポーツの特性をどのように活用できるかを考えます。\n\n健人は息を止めたまま長時間戦うことができます。この優れた肺活量が異世界でどのように役立つかを考えます。\n息を止めたままゴブリンと戦うことで、息継ぎをせずに連続で攻撃できるかもしれません。ゴブリンは息を止めたままの健人を倒すことができずに混乱するかもしれません。\nこの優れた呼吸能力を強調することで、健人の強みを読者に理解させることができます。\n\nさらに、異世界の設定にファンタジーな要素を加えることで、物語に深みを与えることができます。\n例えば、異世界では呼吸がエネルギー源であり、息を止めたままの健人には特別な力があるかもしれません。\nまたは、息を止めたままの状態が他の能力を引き起こすかもしれません。\nこれらの考えを展開することで、健人の優れた肺活量が異世界でどのように活かされるかを示すことができます。\n\nストーリーの流れを考えてみます。健人がゴブリンに囲まれたピンチの場面から始まり、息を止めたままの状態を維持しながらゴブリンと戦い、カバディの特性を活用して優位な立場を得ます。\nこのプロセスを通じて、カバディの魅力と健人にとっての強みを自然に説明できます。\n\n文体はライトノベル風なカジュアルな一人称「俺」で、健人の思考と感情をリアルに描写します。\n混乱、恐怖、自信などの感情を表現することで、物語に引き込まれるような雰囲気を作り出すことができます。\n\nカバディのルールと特性を説明する際には、明確さと簡潔さを心掛けます。\nカバディの説明が長くなりすぎないようにし、物語の進行に沿って自然に導入することで、読者にカバディの魅力を理解させることができます。\n\n最後に、健人の呼吸能力が異世界でどのように活かされるかを示すために、彼の呼吸を強調する描写を加えます。\n息を止めたままの状態がどのように彼の行動や戦略に影響するかを説明することで、読者に彼の優れた能力がどのように活かされるかを理解させることができます。\n\n以上をまとめると、導入部は健人が異世界に転生したピンチの場面から始まり、息を止めたままの状態を維持しながらゴブリンと戦い、カバディの特性を活用して優位な立場を得るという流れで進めるべきです。\nカバディの魅力と健人にとっての強みを自然に説明し、ライトノベル風なカジュアルな一人称「俺」で物語に引き込まれるような雰囲気を作り出すことで、人気の異世界小説の導入部を完成させることができます。\n</think>\n\n目を覚ますと、暗い洞窟の中にいました。息が苦しく、周囲にはゴブリンの目が爍いています。息を止めたままの状態を維持する必要があると感じ、心臓が高鳴ります。\n「カバディ、カバディ」と唱えることで、息を止めたままの状態を維持できます。息を止めたままの状態は、息を止めたままの状態を維持することで、息を止めたままの状態を維持できます...\n```\n\nDeepSeek-R1は推奨温度が0.5-0.7である事に注意してください \nPlease note that the recommended temperature for DeepSeek-R1 is 0.5-0.7 \n\ndanielhanchen, krist486, krist486によれば以下のパラメータ―で繰り返し出力を軽減できるという事です \nAccording to danielhanchen, krist486, and krist486, the following parameters can reduce repetitive output: \n\n```\ntemperature = 0.6\ntop-k = 40 (20 to 40 suggested)\nmin-p = 0.00 (optional, but 0.01 works well, llama.cpp default is 0.1)\ntop-p = 0.95\nrepetition-penalty = 1.0\ndry-multiplier 0.5\n```\nReference information \n[Tutorial: How to Run QwQ-32B effectively](https://docs.unsloth.ai/basics/tutorial-how-to-run-qwq-32b-effectively#tutorial-how-to-run-qwq-32b)",
"related_quantizations": []
},
"tags": [
"gguf",
"ja",
"license:mit",
"endpoints_compatible",
"region:us",
"conversational"
],
"likes": 1,
"downloads": 589,
"gated": false,
"private": false,
"last_modified": "2025-03-12T04:26:36.000Z",
"created_at": "2025-01-23T13:47:46.000Z",
"pipeline_tag": "",
"library_name": ""
}
Source payload excerpt (from Hugging Face API)
{
"_id": "679248828b200fd6211d13d9",
"id": "dahara1/DeepSeek-R1-Distill-Qwen-14B-unsloth-gguf-japanese-imatrix",
"modelId": "dahara1/DeepSeek-R1-Distill-Qwen-14B-unsloth-gguf-japanese-imatrix",
"sha": "d621a16eb93a508421e226140c07dd828e37028e",
"createdAt": "2025-01-23T13:47:46.000Z",
"lastModified": "2025-03-12T04:26:36.000Z",
"author": "dahara1",
"downloads": 589,
"likes": 1,
"gated": false,
"private": false,
"pipeline_tag": "",
"library_name": "",
"siblings_count": 20
}