hiratagoh/sip-jmed-llm-3-8x13b-op-32k-r0.1-gguf overview

{
  "metadata": {},
  "card_data": {
    "license": "apache-2.0",
    "language": [
      "ja"
    ],
    "base_model": [
      "SIP-med-LLM/SIP-jmed-llm-3-8x13b-OP-32k-R0.1"
    ],
    "datasets": [
      "TFMC/imatrix-dataset-for-japanese-llm"
    ],
    "frontmatter": {
      "license": "apache-2.0",
      "language": [
        "ja"
      ],
      "base_model": [
        "SIP-med-LLM/SIP-jmed-llm-3-8x13b-OP-32k-R0.1"
      ],
      "datasets": [
        "TFMC/imatrix-dataset-for-japanese-llm"
      ]
    },
    "hero_image_url": "",
    "summary": "# SIP-med-LLM/SIP-jmed-llm-3-8x13b-OP-32k-R0.1 SIP-med-LLMさんのソブリン医療推論モデルのSIP-med-LLM/SIP-jmed-llm-3-8x13b-OP-32k-R0.1をGGUF変換し、量子化しました。 量子化の手順はSIP-jmed-llm-2-8x13b-OP-instructのGGUF変換と量子化を参照ください。 reasoning/MoEモデルです。 GGUF変換や量子化で元のモデルより劣化している可能性があります。 （追記 2026-3-7）このモデルをOllama+Difyで使用してみました。詳細はボーンテックのBlog記事「ソブリン医療推論モデル SIP-jmed-llm-3-8x13b-OP-32k-R0.1」をご覧ください。",
    "quick_links": [],
    "benchmark_table_html": "",
    "readme_markdown": "---\nlicense: apache-2.0\nlanguage:\n- ja\nbase_model:\n- SIP-med-LLM/SIP-jmed-llm-3-8x13b-OP-32k-R0.1\ndatasets:\n- TFMC/imatrix-dataset-for-japanese-llm\n---\n# SIP-med-LLM/SIP-jmed-llm-3-8x13b-OP-32k-R0.1\n\nSIP-med-LLMさんのソブリン医療推論モデルの[SIP-med-LLM/SIP-jmed-llm-3-8x13b-OP-32k-R0.1](https://huggingface.co/SIP-med-LLM/SIP-jmed-llm-3-8x13b-OP-32k-R0.1)をGGUF変換し、量子化しました。\n\n量子化の手順は[SIP-jmed-llm-2-8x13b-OP-instructのGGUF変換と量子化](https://bone.jp/articles/2025/250909_SIP_jmed_gguf.html)を参照ください。\n\nreasoning/MoEモデルです。\n\nGGUF変換や量子化で元のモデルより劣化している可能性があります。\n\n（追記 2026-3-7）このモデルをOllama+Difyで使用してみました。詳細はボーンテックのBlog記事[「ソブリン医療推論モデル SIP-jmed-llm-3-8x13b-OP-32k-R0.1」](https://bone.jp/articles/2026/260307_jmed_llm3_reasoning.html)をご覧ください。\n\n## iMatrix生成\n\niMatrixは\n[TFMC/imatrix-dataset-for-japanese-llm](https://huggingface.co/datasets/TFMC/imatrix-dataset-for-japanese-llm/tree/main)\nの`c4_en_ja_imatrix.txt`を教師データに使用し`llama-imatrix`で生成しました。\n\n## 詳細は元モデルのモデルカードを\n\nこのモデルは、戦略的イノベーション創造プログラム（SIP）第 3 期課題「統合型ヘルスケアシステムの構築における生成 AI 活用」テーマ１「安全性・信頼性を持つオープンな医療 LLM の開発・社会実装」において研究開発された、**研究用途限定・商用利用不可**の医療特化型 LLM です。\n\n[元モデルの詳細はモデルカードを参照ください。](https://huggingface.co/SIP-med-LLM/SIP-jmed-llm-3-8x13b-OP-32k-R0.1)\n\n**※※※※念のため、特に大事なところを転載しておきます。※※※※**\n\n## 使用目的と制限事項\n\nこのモデルは「安全性・信頼性を持つオープンな医療 LLM の開発・社会実装」における研究開発プロトタイプとして開発されました。**現段階では研究開発目的のみでの使用を想定しており、実際の臨床現場における疾患の診断や臨床意思決定支援として直接利用することは推奨されません。**\n\n#### 制限事項\n\n- **本モデルは研究開発段階のプロトタイプであり、実臨床における安全性・有効性の検証は十分に行われていません。**\n- 開発者は、本プログラムに関し、その正確性、完全性、最新性、および品質など、いかなる保証も行わず、利用者が本プログラムを利用したこと、利用できなかったことにより生じた一切の損害について責任を負いません。\n- **医療行為（診断、治療方針の決定、健康への助言など）に直接適用することは推奨されません。あくまで医療専門家による適切な判断の補助となる情報提供ツールとしての利用可能性を探る研究段階にあります。**\n- **公開しているモデルを活用して「具体的な製品」を開発される場合、その製品が医療機器プログラムとして薬機法の規制対象となる可能性があることにご留意ください。**\n  - プログラム医療機器の該当性に関する相談窓口：\n  - [独立行政法人医薬品医療機器総合機構（PMDA; Pharmaceuticals and Medical Devices Agency）](https://www.pmda.go.jp/review-services/f2f-pre/strategies/0011.html)\n---",
    "related_quantizations": []
  },
  "tags": [
    "gguf",
    "ja",
    "dataset:TFMC/imatrix-dataset-for-japanese-llm",
    "base_model:SIP-med-LLM/SIP-jmed-llm-3-8x13b-OP-32k-R0.1",
    "base_model:quantized:SIP-med-LLM/SIP-jmed-llm-3-8x13b-OP-32k-R0.1",
    "license:apache-2.0",
    "endpoints_compatible",
    "region:us",
    "conversational"
  ],
  "likes": 3,
  "downloads": 470,
  "gated": false,
  "private": false,
  "last_modified": "2026-04-09T08:49:04.000Z",
  "created_at": "2026-03-04T00:31:13.000Z",
  "pipeline_tag": "",
  "library_name": ""
}

{
  "_id": "69a77d5153bc71a46254e14d",
  "id": "hiratagoh/SIP-jmed-llm-3-8x13b-OP-32k-R0.1-GGUF",
  "modelId": "hiratagoh/SIP-jmed-llm-3-8x13b-OP-32k-R0.1-GGUF",
  "sha": "ab08da355e3cc354bbc93922382ffc53118ec2d9",
  "createdAt": "2026-03-04T00:31:13.000Z",
  "lastModified": "2026-04-09T08:49:04.000Z",
  "author": "hiratagoh",
  "downloads": 470,
  "likes": 3,
  "gated": false,
  "private": false,
  "pipeline_tag": "",
  "library_name": "",
  "siblings_count": 10
}