GraySoft
Projects Models About FAQ Contact Download guIDE →

mmnga/orionstarai-orion-14b-chat-rag-gguf q8_0 GGUF - Free GGUF Download is indexed on GraySoft with repository links, GGUF quant files, and Hugging Face metadata. This page helps you pick a local model for guIDE or other runtimes. See related models in the same shard below.

Model Intelligence Sheet

mmnga/orionstarai-orion-14b-chat-rag-gguf overview

OrionStarAI-Orion-14B-Chat-RAG-gguf OrionStarAIさんが公開しているOrion-14B-Chat-RAGのggufフォーマット変換版です。

gguflicense:otherendpoints_compatibleregion:us
mmnga/orionstarai-orion-14b-chat-rag-gguf visual
Downloads
123
Likes
0
Pipeline
Library
Visibility
Public
Access
Open

Repository Files & Downloads

11 files detected
Direct downloads for all repository files
FileTypeQuantizationSizeLink
OrionStarAI-Orion-14B-Chat-RAG-q2_K.gguf GGUF Q2_K 5.13 GB Download
OrionStarAI-Orion-14B-Chat-RAG-q3_K_L.gguf GGUF Q3_K_L 7.22 GB Download
OrionStarAI-Orion-14B-Chat-RAG-q3_K_M.gguf GGUF Q3_K_M 6.64 GB Download
OrionStarAI-Orion-14B-Chat-RAG-q3_K_S.gguf GGUF Q3_K_S 5.96 GB Download
OrionStarAI-Orion-14B-Chat-RAG-q4_0.gguf GGUF 7.70 GB Download
OrionStarAI-Orion-14B-Chat-RAG-q4_K_M.gguf GGUF Q4_K_M 8.21 GB Download
OrionStarAI-Orion-14B-Chat-RAG-q5_0.gguf GGUF 9.34 GB Download
OrionStarAI-Orion-14B-Chat-RAG-q5_K_M.gguf GGUF Q5_K_M 9.60 GB Download
OrionStarAI-Orion-14B-Chat-RAG-q5_K_S.gguf GGUF Q5_K_S 9.34 GB Download
OrionStarAI-Orion-14B-Chat-RAG-q6_K.gguf GGUF Q6_K 11.08 GB Download
OrionStarAI-Orion-14B-Chat-RAG-q8_0.gguf GGUF 14.35 GB Download

Model Details Live

Model Slug
mmnga/orionstarai-orion-14b-chat-rag-gguf
Author
mmnga
Pipeline Task
Library
Created
2024-01-29
Last Modified
2024-01-30
Gated
No
Private
No
HF SHA
ab27a4737e3e1df8279bf2f15303c92239680d41
License
other
Language
Unknown
Base Model
Unknown

Metadata Inspector

Normalized metadata (stored in metadata_json)
{
  "metadata": {},
  "card_data": {
    "license": "other",
    "license_name": "orion-14b-series-models-community-license",
    "license_link": "LICENSE",
    "frontmatter": {
      "license": "other",
      "license_name": "orion-14b-series-models-community-license",
      "license_link": "LICENSE"
    },
    "hero_image_url": "",
    "summary": "# OrionStarAI-Orion-14B-Chat-RAG-gguf OrionStarAIさんが公開しているOrion-14B-Chat-RAGのggufフォーマット変換版です。",
    "quick_links": [],
    "benchmark_table_html": "",
    "readme_markdown": "---\nlicense: other\nlicense_name: orion-14b-series-models-community-license\nlicense_link: LICENSE\n---\n# OrionStarAI-Orion-14B-Chat-RAG-gguf\n[OrionStarAIさんが公開しているOrion-14B-Chat-RAG](https://huggingface.co/OrionStarAI/Orion-14B-Chat-RAG)のggufフォーマット変換版です。\n\n## Licence\n元モデルのライセンス項目をご確認ください。\n[orion-14b-series-models-community-license](https://huggingface.co/mmnga/OrionStarAI-Orion-14B-Chat-RAG-gguf/blob/main/LICENSE)\n\n他のモデル  \n[mmnga/OrionStarAI-Orion-14B-LongChat-gguf](https://huggingface.co/mmnga/OrionStarAI-Orion-14B-LongChat-gguf)  \n[mmnga/OrionStarAI-Orion-14B-Chat-RAG-gguf](https://huggingface.co/mmnga/OrionStarAI-Orion-14B-Chat-RAG-gguf)  \n  \n\n## Usage\n\n```\ngit clone https://github.com/ggerganov/llama.cpp.git\ncd llama.cpp\nmake -j\n./main -m 'OrionStarAI-Orion-14B-Chat-RAG-q4_0.gguf' -p \"あなたはオリオンスターが開発したAIアシスタント、名前はジュヤンです。以下の参考資料やチャット履歴に基づいてユーザーの質問に回答できます。\\n\\n### 参考資料 ###\\nスープカレー\\n\\nスープカレーの例\\nスープカレーは、日本のカレー料理のひとつ。スパイスの香り・刺激・辛みのきいたスープと、大振りの具が特徴である。2000年代に札幌市でブームとなり、その後全国に広まった。\\n\\n概要\\n札幌市には2000年代のブームの後もスープカレーを提供する店が200店以上存在する[要出典]。各店は個性を競い合っており、多様なバリエーションがある。札幌発祥の店が北海道内、全国、さらに海外にも進出している。\\n\\n札幌スープカレー\\n\\nスープカレーの例\\n(マジックスパイスのもの)\\n\\nスープカレーの例\\n(はれる屋(倶知安町のもの))\\n1971年に札幌市に開店した喫茶店『アジャンタ』が1975年ごろに発売した「薬膳カリィ」が原型と言われている[1]。その後、30年ほどをかけて札幌市内を中心に発展し、1990年代から2000年代に大ブームを引き起こした[2]。\\n\\nサラサラとした粘り気のないスープ状のカレーである。特定の店舗が開発したというわけでもなく、前述の『アジャンタ』以外にも『スリランカ共我国』(1984年開店)、『木多郎』(1985年開店)といった店舗が個性的なカレーを提供していた[3]。自分の店のカレーを「スープカレー」と命名したのは1993年に札幌市白石に開店した『マジックスパイス』である[4][3]。これらの店は「スープカレー第1世代」と呼称されている[3]。\\n\\n特徴\\nスパイスの効いた旨みのあるスープと、大ぶりの具。\\n煮込み料理と違って、スープと具は別々に調理する。メインの具はもともとチキンレッグが基本だったが、現在ではほかに豚角煮・ラムチョップ・魚介類などを選択できる店が増えている。これに茹でたり素揚げしたジャガイモ、ニンジン、ナス、ピーマン、オクラ、カボチャ、ゴボウ、ヤングコーン、ブロッコリー、レンコンなどの野菜が組み合わされる。\\n「トマト系スープカレー」では、フォン・ド・ボー(仔牛のダシ)を使ったり、炒めたバジルとその香味オイルをたっぷり浮かべることが多い。\\n\\n\\n\\n### 会話履歴 ###\\n\\n\\n### 質問 ###\\nスープカレーはどのように作りますか?\\n\\n### 回答 ###\\n\" -c 2048 -n 500\n```",
    "related_quantizations": []
  },
  "tags": [
    "gguf",
    "license:other",
    "endpoints_compatible",
    "region:us"
  ],
  "likes": 0,
  "downloads": 123,
  "gated": false,
  "private": false,
  "last_modified": "2024-01-30T14:17:52.000Z",
  "created_at": "2024-01-29T17:57:09.000Z",
  "pipeline_tag": "",
  "library_name": ""
}
Source payload excerpt (from Hugging Face API)
{
  "_id": "65b7e6f57eb6b39bf54c18ed",
  "id": "mmnga/OrionStarAI-Orion-14B-Chat-RAG-gguf",
  "modelId": "mmnga/OrionStarAI-Orion-14B-Chat-RAG-gguf",
  "sha": "ab27a4737e3e1df8279bf2f15303c92239680d41",
  "createdAt": "2024-01-29T17:57:09.000Z",
  "lastModified": "2024-01-30T14:17:52.000Z",
  "author": "mmnga",
  "downloads": 123,
  "likes": 0,
  "gated": false,
  "private": false,
  "pipeline_tag": "",
  "library_name": "",
  "siblings_count": 14
}