mmnga/webbigdata-alma-7b-ja-v2-gguf Q3_K_S GGUF - Free GGUF Download is indexed on GraySoft with repository links, GGUF quant files, and Hugging Face metadata. This page helps you pick a local model for guIDE or other runtimes. See related models in the same shard below.
Model Intelligence Sheet
mmnga/webbigdata-alma-7b-ja-v2-gguf overview
webbigdataさんが公開しているALMA-7B-Ja-V2のggufフォーマット変換版です。 v1のggufの各量子化の評価がwebbigdataさんのblogで公開されています webbigdata/１．日英・英日機械翻訳モデルALMA-7B-Ja-V2の公開 モデル一覧 mmnga/webbigdata-ALMA-7B-Ja-V2-gguf mmnga/webbigdata-ALMA-7B-Ja-gguf
Downloads
333
Likes
3
Pipeline
—
Library
—
Visibility
Public
Access
Open
Repository Files & Downloads
12 files detected
Direct downloads for all repository files
| File | Type | Quantization | Size | Link |
|---|---|---|---|---|
| webbigdata-ALMA-7B-Ja-V2-q2_K.gguf | GGUF | Q2_K | 2.63 GB | Download |
| webbigdata-ALMA-7B-Ja-V2-q3_K_L.gguf | GGUF | Q3_K_L | 3.35 GB | Download |
| webbigdata-ALMA-7B-Ja-V2-q3_K_M.gguf | GGUF | Q3_K_M | 3.07 GB | Download |
| webbigdata-ALMA-7B-Ja-V2-q3_K_S.gguf | GGUF | Q3_K_S | 2.75 GB | Download |
| webbigdata-ALMA-7B-Ja-V2-q4_0.gguf | GGUF | — | 3.56 GB | Download |
| webbigdata-ALMA-7B-Ja-V2-q4_K_M.gguf | GGUF | Q4_K_M | 3.80 GB | Download |
| webbigdata-ALMA-7B-Ja-V2-q4_K_S.gguf | GGUF | Q4_K_S | 3.59 GB | Download |
| webbigdata-ALMA-7B-Ja-V2-q5_0.gguf | GGUF | — | 4.33 GB | Download |
| webbigdata-ALMA-7B-Ja-V2-q5_K_M.gguf | GGUF | Q5_K_M | 4.45 GB | Download |
| webbigdata-ALMA-7B-Ja-V2-q5_K_S.gguf | GGUF | Q5_K_S | 4.33 GB | Download |
| webbigdata-ALMA-7B-Ja-V2-q6_K.gguf | GGUF | Q6_K | 5.15 GB | Download |
| webbigdata-ALMA-7B-Ja-V2-q8_0.gguf | GGUF | — | 6.67 GB | Download |
Model Details Live
Metadata Inspector
Normalized metadata (stored in metadata_json)
{
"metadata": {},
"card_data": {
"license": "llama2",
"frontmatter": {
"license": "llama2"
},
"hero_image_url": "",
"summary": "webbigdataさんが公開しているALMA-7B-Ja-V2のggufフォーマット変換版です。 v1のggufの各量子化の評価がwebbigdataさんのblogで公開されています webbigdata/１．日英・英日機械翻訳モデルALMA-7B-Ja-V2の公開 モデル一覧 mmnga/webbigdata-ALMA-7B-Ja-V2-gguf mmnga/webbigdata-ALMA-7B-Ja-gguf",
"quick_links": [],
"benchmark_table_html": "",
"readme_markdown": "---\nlicense: llama2\n---\n\n# webbigdata-ALMA-7B-Ja-V2-gguf\n[webbigdataさんが公開しているALMA-7B-Ja-V2](https://huggingface.co/webbigdata/ALMA-7B-Ja-V2)のggufフォーマット変換版です。\n\nv1のggufの各量子化の評価がwebbigdataさんのblogで公開されています \n[webbigdata/１．日英・英日機械翻訳モデルALMA-7B-Ja-V2の公開](https://webbigdata.jp/post-21151/) \n \nモデル一覧 \n[mmnga/webbigdata-ALMA-7B-Ja-V2-gguf](https://huggingface.co/mmnga/webbigdata-ALMA-7B-Ja-V2-gguf) \n[mmnga/webbigdata-ALMA-7B-Ja-gguf](https://huggingface.co/mmnga/webbigdata-ALMA-7B-Ja-gguf) \n \n\n## Usage\n\n```\ngit clone https://github.com/ggerganov/llama.cpp.git\ncd llama.cpp\nmake -j\n./main -m 'webbigdata-ALMA-7B-Ja-V2-q4_0.gguf' -n 128 -p 'Translate this from Japanese to English:\\nJapanese: 今日の夕食はピザです。\\nEnglish:'\n```\n\n### 引用 Citations\n\n\n~~~tex\n@misc{xu2023paradigm,\n title={A Paradigm Shift in Machine Translation: Boosting Translation Performance of Large Language Models}, \n author={Haoran Xu and Young Jin Kim and Amr Sharaf and Hany Hassan Awadalla},\n year={2023},\n eprint={2309.11674},\n archivePrefix={arXiv},\n primaryClass={cs.CL}\n}\n~~~\n",
"related_quantizations": []
},
"tags": [
"gguf",
"arxiv:2309.11674",
"license:llama2",
"endpoints_compatible",
"region:us"
],
"likes": 3,
"downloads": 333,
"gated": false,
"private": false,
"last_modified": "2023-11-06T13:52:03.000Z",
"created_at": "2023-11-06T12:48:37.000Z",
"pipeline_tag": "",
"library_name": ""
}
Source payload excerpt (from Hugging Face API)
{
"_id": "6548e0a57c66ca163cff0e1d",
"id": "mmnga/webbigdata-ALMA-7B-Ja-V2-gguf",
"modelId": "mmnga/webbigdata-ALMA-7B-Ja-V2-gguf",
"sha": "a513f3348d02e940d12f01b703962bbd7244b621",
"createdAt": "2023-11-06T12:48:37.000Z",
"lastModified": "2023-11-06T13:52:03.000Z",
"author": "mmnga",
"downloads": 333,
"likes": 3,
"gated": false,
"private": false,
"pipeline_tag": "",
"library_name": "",
"siblings_count": 14
}