GraySoft
Projects Models About FAQ Contact Download guIDE →

hiratagoh/sip-jmed-llm-3-13b-op-32k-r0.1-gguf - Free GGUF Download is indexed on GraySoft with repository links, GGUF quant files, and Hugging Face metadata. This page helps you pick a local model for guIDE or other runtimes. See related models in the same shard below.

Model Intelligence Sheet

hiratagoh/sip-jmed-llm-3-13b-op-32k-r0.1-gguf overview

SIP-jmed-llm-3-13b-OP-32k-R0.1 SIP-med-LLMさんのソブリン医療推論のSIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1をGGUF変換し、量子化しました。 reasoning/denseモデルです。 量子化の手順はSIP-jmed-llm-2-8x13b-OP-instructのGGUF変換と量子化に記載しています。 GGUF変換や量子化で元のモデルより劣化している可能性があります。

ggufjadataset:TFMC/imatrix-dataset-for-japanese-llmbase_model:SIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1base_model:quantized:SIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1license:apache-2.0endpoints_compatibleregion:usconversational
hiratagoh/sip-jmed-llm-3-13b-op-32k-r0.1-gguf visual
Downloads
520
Likes
0
Pipeline
Library
Visibility
Public
Access
Open

Repository Files & Downloads

7 files detected
Direct downloads for all repository files
FileTypeQuantizationSizeLink
SIP-jmed-llm-3-13b-OP-32k-R0.1-BF16.gguf GGUF BF16 25.54 GB Download
SIP-jmed-llm-3-13b-OP-32k-R0.1-IQ4_NL.gguf GGUF IQ4_NL 7.31 GB Download
SIP-jmed-llm-3-13b-OP-32k-R0.1-IQ4_XS.gguf GGUF IQ4_XS 6.92 GB Download
SIP-jmed-llm-3-13b-OP-32k-R0.1-Q4_K_M.gguf GGUF Q4_K_M 7.77 GB Download
SIP-jmed-llm-3-13b-OP-32k-R0.1-Q5_K_M.gguf GGUF Q5_K_M 9.08 GB Download
SIP-jmed-llm-3-13b-OP-32k-R0.1-Q6_K.gguf GGUF Q6_K 10.48 GB Download
SIP-jmed-llm-3-13b-OP-32k-R0.1-Q8_0.gguf GGUF 13.57 GB Download

Model Details Live

Model Slug
hiratagoh/sip-jmed-llm-3-13b-op-32k-r0.1-gguf
Author
hiratagoh
Pipeline Task
Library
Created
2026-03-17
Last Modified
2026-04-09
Gated
No
Private
No
HF SHA
2163a96071de4d2ec7192cf2e6adfe3d58b39752
License
apache-2.0
Language
ja
Base Model
SIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1

Metadata Inspector

Normalized metadata (stored in metadata_json)
{
  "metadata": {},
  "card_data": {
    "license": "apache-2.0",
    "language": [
      "ja"
    ],
    "base_model": [
      "SIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1"
    ],
    "datasets": [
      "TFMC/imatrix-dataset-for-japanese-llm"
    ],
    "frontmatter": {
      "license": "apache-2.0",
      "language": [
        "ja"
      ],
      "base_model": [
        "SIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1"
      ],
      "datasets": [
        "TFMC/imatrix-dataset-for-japanese-llm"
      ]
    },
    "hero_image_url": "",
    "summary": "# SIP-jmed-llm-3-13b-OP-32k-R0.1 SIP-med-LLMさんのソブリン医療推論のSIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1をGGUF変換し、量子化しました。 reasoning/denseモデルです。 量子化の手順はSIP-jmed-llm-2-8x13b-OP-instructのGGUF変換と量子化に記載しています。 GGUF変換や量子化で元のモデルより劣化している可能性があります。",
    "quick_links": [],
    "benchmark_table_html": "",
    "readme_markdown": "---\nlicense: apache-2.0\nlanguage:\n- ja\nbase_model:\n- SIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1\ndatasets:\n- TFMC/imatrix-dataset-for-japanese-llm\n---\n# SIP-jmed-llm-3-13b-OP-32k-R0.1\n\nSIP-med-LLMさんのソブリン医療推論の[SIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1](https://huggingface.co/SIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1)をGGUF変換し、量子化しました。\n\nreasoning/denseモデルです。\n\n量子化の手順は[SIP-jmed-llm-2-8x13b-OP-instructのGGUF変換と量子化](https://bone.jp/articles/2025/250909_SIP_jmed_gguf.html)に記載しています。\n\nGGUF変換や量子化で元のモデルより劣化している可能性があります。\n\n## iMatrix生成\n\niMatrixは\n[TFMC/imatrix-dataset-for-japanese-llm](https://huggingface.co/datasets/TFMC/imatrix-dataset-for-japanese-llm/tree/main)\nの`c4_en_ja_imatrix.txt`を教師データに使用し`llama-imatrix`で生成しました。\n\n## 詳細は元モデルのモデルカードを\n\nこのモデルは、戦略的イノベーション創造プログラム(SIP)第 3 期課題「統合型ヘルスケアシステムの構築における生成 AI 活用」テーマ1「安全性・信頼性を持つオープンな医療 LLM の開発・社会実装」において研究開発された、**研究用途限定・商用利用不可**の医療特化型 LLM です。\n\n[元モデルの詳細はモデルカードを参照ください。](https://huggingface.co/SIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1)\n\n**※※※※念のため、特に大事なところを転載しておきます。※※※※**\n\n## 使用目的と制限事項\n\nこのモデルは「安全性・信頼性を持つオープンな医療 LLM の開発・社会実装」における研究開発プロトタイプとして開発されました。**現段階では研究開発目的のみでの使用を想定しており、実際の臨床現場における疾患の診断や臨床意思決定支援として直接利用することは推奨されません。**\n\n#### 制限事項\n\n- **本モデルは研究開発段階のプロトタイプであり、実臨床における安全性・有効性の検証は十分に行われていません。**\n- 開発者は、本プログラムに関し、その正確性、完全性、最新性、および品質など、いかなる保証も行わず、利用者が本プログラムを利用したこと、利用できなかったことにより生じた一切の損害について責任を負いません。\n- **医療行為(診断、治療方針の決定、健康への助言など)に直接適用することは推奨されません。あくまで医療専門家による適切な判断の補助となる情報提供ツールとしての利用可能性を探る研究段階にあります。**\n- **公開しているモデルを活用して「具体的な製品」を開発される場合、その製品が医療機器プログラムとして薬機法の規制対象となる可能性があることにご留意ください。**\n  - プログラム医療機器の該当性に関する相談窓口:\n  - [独立行政法人医薬品医療機器総合機構(PMDA; Pharmaceuticals and Medical Devices Agency)](https://www.pmda.go.jp/review-services/f2f-pre/strategies/0011.html)\n---\n\n",
    "related_quantizations": []
  },
  "tags": [
    "gguf",
    "ja",
    "dataset:TFMC/imatrix-dataset-for-japanese-llm",
    "base_model:SIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1",
    "base_model:quantized:SIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1",
    "license:apache-2.0",
    "endpoints_compatible",
    "region:us",
    "conversational"
  ],
  "likes": 0,
  "downloads": 520,
  "gated": false,
  "private": false,
  "last_modified": "2026-04-09T08:47:04.000Z",
  "created_at": "2026-03-17T11:14:33.000Z",
  "pipeline_tag": "",
  "library_name": ""
}
Source payload excerpt (from Hugging Face API)
{
  "_id": "69b9379910249be1531d476c",
  "id": "hiratagoh/SIP-jmed-llm-3-13b-OP-32k-R0.1-GGUF",
  "modelId": "hiratagoh/SIP-jmed-llm-3-13b-OP-32k-R0.1-GGUF",
  "sha": "2163a96071de4d2ec7192cf2e6adfe3d58b39752",
  "createdAt": "2026-03-17T11:14:33.000Z",
  "lastModified": "2026-04-09T08:47:04.000Z",
  "author": "hiratagoh",
  "downloads": 520,
  "likes": 0,
  "gated": false,
  "private": false,
  "pipeline_tag": "",
  "library_name": "",
  "siblings_count": 10
}