mmnga/orionstarai-orion-14b-chat-rag-gguf q8_0 GGUF - Free GGUF Download is indexed on GraySoft with repository links, GGUF quant files, and Hugging Face metadata. This page helps you pick a local model for guIDE or other runtimes. See related models in the same shard below.
Model Intelligence Sheet
mmnga/orionstarai-orion-14b-chat-rag-gguf overview
OrionStarAI-Orion-14B-Chat-RAG-gguf OrionStarAIさんが公開しているOrion-14B-Chat-RAGのggufフォーマット変換版です。
Downloads
123
Likes
0
Pipeline
—
Library
—
Visibility
Public
Access
Open
Repository Files & Downloads
11 files detected
Direct downloads for all repository files
| File | Type | Quantization | Size | Link |
|---|---|---|---|---|
| OrionStarAI-Orion-14B-Chat-RAG-q2_K.gguf | GGUF | Q2_K | 5.13 GB | Download |
| OrionStarAI-Orion-14B-Chat-RAG-q3_K_L.gguf | GGUF | Q3_K_L | 7.22 GB | Download |
| OrionStarAI-Orion-14B-Chat-RAG-q3_K_M.gguf | GGUF | Q3_K_M | 6.64 GB | Download |
| OrionStarAI-Orion-14B-Chat-RAG-q3_K_S.gguf | GGUF | Q3_K_S | 5.96 GB | Download |
| OrionStarAI-Orion-14B-Chat-RAG-q4_0.gguf | GGUF | — | 7.70 GB | Download |
| OrionStarAI-Orion-14B-Chat-RAG-q4_K_M.gguf | GGUF | Q4_K_M | 8.21 GB | Download |
| OrionStarAI-Orion-14B-Chat-RAG-q5_0.gguf | GGUF | — | 9.34 GB | Download |
| OrionStarAI-Orion-14B-Chat-RAG-q5_K_M.gguf | GGUF | Q5_K_M | 9.60 GB | Download |
| OrionStarAI-Orion-14B-Chat-RAG-q5_K_S.gguf | GGUF | Q5_K_S | 9.34 GB | Download |
| OrionStarAI-Orion-14B-Chat-RAG-q6_K.gguf | GGUF | Q6_K | 11.08 GB | Download |
| OrionStarAI-Orion-14B-Chat-RAG-q8_0.gguf | GGUF | — | 14.35 GB | Download |
Model Details Live
Metadata Inspector
Normalized metadata (stored in metadata_json)
{
"metadata": {},
"card_data": {
"license": "other",
"license_name": "orion-14b-series-models-community-license",
"license_link": "LICENSE",
"frontmatter": {
"license": "other",
"license_name": "orion-14b-series-models-community-license",
"license_link": "LICENSE"
},
"hero_image_url": "",
"summary": "# OrionStarAI-Orion-14B-Chat-RAG-gguf OrionStarAIさんが公開しているOrion-14B-Chat-RAGのggufフォーマット変換版です。",
"quick_links": [],
"benchmark_table_html": "",
"readme_markdown": "---\nlicense: other\nlicense_name: orion-14b-series-models-community-license\nlicense_link: LICENSE\n---\n# OrionStarAI-Orion-14B-Chat-RAG-gguf\n[OrionStarAIさんが公開しているOrion-14B-Chat-RAG](https://huggingface.co/OrionStarAI/Orion-14B-Chat-RAG)のggufフォーマット変換版です。\n\n## Licence\n元モデルのライセンス項目をご確認ください。\n[orion-14b-series-models-community-license](https://huggingface.co/mmnga/OrionStarAI-Orion-14B-Chat-RAG-gguf/blob/main/LICENSE)\n\n他のモデル \n[mmnga/OrionStarAI-Orion-14B-LongChat-gguf](https://huggingface.co/mmnga/OrionStarAI-Orion-14B-LongChat-gguf) \n[mmnga/OrionStarAI-Orion-14B-Chat-RAG-gguf](https://huggingface.co/mmnga/OrionStarAI-Orion-14B-Chat-RAG-gguf) \n \n\n## Usage\n\n```\ngit clone https://github.com/ggerganov/llama.cpp.git\ncd llama.cpp\nmake -j\n./main -m 'OrionStarAI-Orion-14B-Chat-RAG-q4_0.gguf' -p \"あなたはオリオンスターが開発したAIアシスタント、名前はジュヤンです。以下の参考資料やチャット履歴に基づいてユーザーの質問に回答できます。\\n\\n### 参考資料 ###\\nスープカレー\\n\\nスープカレーの例\\nスープカレーは、日本のカレー料理のひとつ。スパイスの香り・刺激・辛みのきいたスープと、大振りの具が特徴である。2000年代に札幌市でブームとなり、その後全国に広まった。\\n\\n概要\\n札幌市には2000年代のブームの後もスープカレーを提供する店が200店以上存在する[要出典]。各店は個性を競い合っており、多様なバリエーションがある。札幌発祥の店が北海道内、全国、さらに海外にも進出している。\\n\\n札幌スープカレー\\n\\nスープカレーの例\\n(マジックスパイスのもの)\\n\\nスープカレーの例\\n(はれる屋(倶知安町のもの))\\n1971年に札幌市に開店した喫茶店『アジャンタ』が1975年ごろに発売した「薬膳カリィ」が原型と言われている[1]。その後、30年ほどをかけて札幌市内を中心に発展し、1990年代から2000年代に大ブームを引き起こした[2]。\\n\\nサラサラとした粘り気のないスープ状のカレーである。特定の店舗が開発したというわけでもなく、前述の『アジャンタ』以外にも『スリランカ共我国』(1984年開店)、『木多郎』(1985年開店)といった店舗が個性的なカレーを提供していた[3]。自分の店のカレーを「スープカレー」と命名したのは1993年に札幌市白石に開店した『マジックスパイス』である[4][3]。これらの店は「スープカレー第1世代」と呼称されている[3]。\\n\\n特徴\\nスパイスの効いた旨みのあるスープと、大ぶりの具。\\n煮込み料理と違って、スープと具は別々に調理する。メインの具はもともとチキンレッグが基本だったが、現在ではほかに豚角煮・ラムチョップ・魚介類などを選択できる店が増えている。これに茹でたり素揚げしたジャガイモ、ニンジン、ナス、ピーマン、オクラ、カボチャ、ゴボウ、ヤングコーン、ブロッコリー、レンコンなどの野菜が組み合わされる。\\n「トマト系スープカレー」では、フォン・ド・ボー(仔牛のダシ)を使ったり、炒めたバジルとその香味オイルをたっぷり浮かべることが多い。\\n\\n\\n\\n### 会話履歴 ###\\n\\n\\n### 質問 ###\\nスープカレーはどのように作りますか?\\n\\n### 回答 ###\\n\" -c 2048 -n 500\n```",
"related_quantizations": []
},
"tags": [
"gguf",
"license:other",
"endpoints_compatible",
"region:us"
],
"likes": 0,
"downloads": 123,
"gated": false,
"private": false,
"last_modified": "2024-01-30T14:17:52.000Z",
"created_at": "2024-01-29T17:57:09.000Z",
"pipeline_tag": "",
"library_name": ""
}
Source payload excerpt (from Hugging Face API)
{
"_id": "65b7e6f57eb6b39bf54c18ed",
"id": "mmnga/OrionStarAI-Orion-14B-Chat-RAG-gguf",
"modelId": "mmnga/OrionStarAI-Orion-14B-Chat-RAG-gguf",
"sha": "ab27a4737e3e1df8279bf2f15303c92239680d41",
"createdAt": "2024-01-29T17:57:09.000Z",
"lastModified": "2024-01-30T14:17:52.000Z",
"author": "mmnga",
"downloads": 123,
"likes": 0,
"gated": false,
"private": false,
"pipeline_tag": "",
"library_name": "",
"siblings_count": 14
}