hiratagoh/sip-jmed-llm-3-13b-op-32k-r0.1-gguf Q6_K GGUF - Free GGUF Download is indexed on GraySoft with repository links, GGUF quant files, and Hugging Face metadata. This page helps you pick a local model for guIDE or other runtimes. See related models in the same shard below.
Model Intelligence Sheet
hiratagoh/sip-jmed-llm-3-13b-op-32k-r0.1-gguf overview
SIP-jmed-llm-3-13b-OP-32k-R0.1 SIP-med-LLMさんのソブリン医療推論のSIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1をGGUF変換し、量子化しました。 reasoning/denseモデルです。 量子化の手順はSIP-jmed-llm-2-8x13b-OP-instructのGGUF変換と量子化に記載しています。 GGUF変換や量子化で元のモデルより劣化している可能性があります。
Downloads
520
Likes
0
Pipeline
—
Library
—
Visibility
Public
Access
Open
Repository Files & Downloads
7 files detected
Direct downloads for all repository files
| File | Type | Quantization | Size | Link |
|---|---|---|---|---|
| SIP-jmed-llm-3-13b-OP-32k-R0.1-BF16.gguf | GGUF | BF16 | 25.54 GB | Download |
| SIP-jmed-llm-3-13b-OP-32k-R0.1-IQ4_NL.gguf | GGUF | IQ4_NL | 7.31 GB | Download |
| SIP-jmed-llm-3-13b-OP-32k-R0.1-IQ4_XS.gguf | GGUF | IQ4_XS | 6.92 GB | Download |
| SIP-jmed-llm-3-13b-OP-32k-R0.1-Q4_K_M.gguf | GGUF | Q4_K_M | 7.77 GB | Download |
| SIP-jmed-llm-3-13b-OP-32k-R0.1-Q5_K_M.gguf | GGUF | Q5_K_M | 9.08 GB | Download |
| SIP-jmed-llm-3-13b-OP-32k-R0.1-Q6_K.gguf | GGUF | Q6_K | 10.48 GB | Download |
| SIP-jmed-llm-3-13b-OP-32k-R0.1-Q8_0.gguf | GGUF | — | 13.57 GB | Download |
Model Details Live
Metadata Inspector
Normalized metadata (stored in metadata_json)
{
"metadata": {},
"card_data": {
"license": "apache-2.0",
"language": [
"ja"
],
"base_model": [
"SIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1"
],
"datasets": [
"TFMC/imatrix-dataset-for-japanese-llm"
],
"frontmatter": {
"license": "apache-2.0",
"language": [
"ja"
],
"base_model": [
"SIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1"
],
"datasets": [
"TFMC/imatrix-dataset-for-japanese-llm"
]
},
"hero_image_url": "",
"summary": "# SIP-jmed-llm-3-13b-OP-32k-R0.1 SIP-med-LLMさんのソブリン医療推論のSIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1をGGUF変換し、量子化しました。 reasoning/denseモデルです。 量子化の手順はSIP-jmed-llm-2-8x13b-OP-instructのGGUF変換と量子化に記載しています。 GGUF変換や量子化で元のモデルより劣化している可能性があります。",
"quick_links": [],
"benchmark_table_html": "",
"readme_markdown": "---\nlicense: apache-2.0\nlanguage:\n- ja\nbase_model:\n- SIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1\ndatasets:\n- TFMC/imatrix-dataset-for-japanese-llm\n---\n# SIP-jmed-llm-3-13b-OP-32k-R0.1\n\nSIP-med-LLMさんのソブリン医療推論の[SIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1](https://huggingface.co/SIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1)をGGUF変換し、量子化しました。\n\nreasoning/denseモデルです。\n\n量子化の手順は[SIP-jmed-llm-2-8x13b-OP-instructのGGUF変換と量子化](https://bone.jp/articles/2025/250909_SIP_jmed_gguf.html)に記載しています。\n\nGGUF変換や量子化で元のモデルより劣化している可能性があります。\n\n## iMatrix生成\n\niMatrixは\n[TFMC/imatrix-dataset-for-japanese-llm](https://huggingface.co/datasets/TFMC/imatrix-dataset-for-japanese-llm/tree/main)\nの`c4_en_ja_imatrix.txt`を教師データに使用し`llama-imatrix`で生成しました。\n\n## 詳細は元モデルのモデルカードを\n\nこのモデルは、戦略的イノベーション創造プログラム(SIP)第 3 期課題「統合型ヘルスケアシステムの構築における生成 AI 活用」テーマ1「安全性・信頼性を持つオープンな医療 LLM の開発・社会実装」において研究開発された、**研究用途限定・商用利用不可**の医療特化型 LLM です。\n\n[元モデルの詳細はモデルカードを参照ください。](https://huggingface.co/SIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1)\n\n**※※※※念のため、特に大事なところを転載しておきます。※※※※**\n\n## 使用目的と制限事項\n\nこのモデルは「安全性・信頼性を持つオープンな医療 LLM の開発・社会実装」における研究開発プロトタイプとして開発されました。**現段階では研究開発目的のみでの使用を想定しており、実際の臨床現場における疾患の診断や臨床意思決定支援として直接利用することは推奨されません。**\n\n#### 制限事項\n\n- **本モデルは研究開発段階のプロトタイプであり、実臨床における安全性・有効性の検証は十分に行われていません。**\n- 開発者は、本プログラムに関し、その正確性、完全性、最新性、および品質など、いかなる保証も行わず、利用者が本プログラムを利用したこと、利用できなかったことにより生じた一切の損害について責任を負いません。\n- **医療行為(診断、治療方針の決定、健康への助言など)に直接適用することは推奨されません。あくまで医療専門家による適切な判断の補助となる情報提供ツールとしての利用可能性を探る研究段階にあります。**\n- **公開しているモデルを活用して「具体的な製品」を開発される場合、その製品が医療機器プログラムとして薬機法の規制対象となる可能性があることにご留意ください。**\n - プログラム医療機器の該当性に関する相談窓口:\n - [独立行政法人医薬品医療機器総合機構(PMDA; Pharmaceuticals and Medical Devices Agency)](https://www.pmda.go.jp/review-services/f2f-pre/strategies/0011.html)\n---\n\n",
"related_quantizations": []
},
"tags": [
"gguf",
"ja",
"dataset:TFMC/imatrix-dataset-for-japanese-llm",
"base_model:SIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1",
"base_model:quantized:SIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1",
"license:apache-2.0",
"endpoints_compatible",
"region:us",
"conversational"
],
"likes": 0,
"downloads": 520,
"gated": false,
"private": false,
"last_modified": "2026-04-09T08:47:04.000Z",
"created_at": "2026-03-17T11:14:33.000Z",
"pipeline_tag": "",
"library_name": ""
}
Source payload excerpt (from Hugging Face API)
{
"_id": "69b9379910249be1531d476c",
"id": "hiratagoh/SIP-jmed-llm-3-13b-OP-32k-R0.1-GGUF",
"modelId": "hiratagoh/SIP-jmed-llm-3-13b-OP-32k-R0.1-GGUF",
"sha": "2163a96071de4d2ec7192cf2e6adfe3d58b39752",
"createdAt": "2026-03-17T11:14:33.000Z",
"lastModified": "2026-04-09T08:47:04.000Z",
"author": "hiratagoh",
"downloads": 520,
"likes": 0,
"gated": false,
"private": false,
"pipeline_tag": "",
"library_name": "",
"siblings_count": 10
}