mmnga/aibuncho-japanese-novel-gpt-j-6b-gguf overview

{
  "metadata": {},
  "card_data": {
    "license": "openrail",
    "language": [
      "ja"
    ],
    "pipeline_tag": "text-generation",
    "tags": [
      "gpt-j"
    ],
    "frontmatter": {
      "license": "openrail",
      "language": [
        "ja"
      ],
      "pipeline_tag": "text-generation",
      "tags": [
        "gpt-j"
      ]
    },
    "hero_image_url": "",
    "summary": "AI BunChoさんが公開しているjapanese-novel-gpt-j-6bのgguf変換版です。 *注意:こちらはブランチで試用になります。llama.cpp本家にgptneox, gpt2が実装された時に、このggufファイルが使用できない可能性があります。* ***GitHubリポジトリの readme はこちら***",
    "quick_links": [],
    "benchmark_table_html": "",
    "readme_markdown": "---\nlicense: openrail\nlanguage:\n- ja\npipeline_tag: text-generation\ntags:\n- gpt-j\n---\n\n# AIBunCho/japanese-novel-gpt-j-6b\n[AI BunChoさんが公開しているjapanese-novel-gpt-j-6b](https://huggingface.co/AIBunCho/japanese-novel-gpt-j-6b)のgguf変換版です。\n  \n*注意:こちらはブランチで試用になります。llama.cpp本家にgptneox, gpt2が実装された時に、このggufファイルが使用できない可能性があります。*\n\n***[GitHubリポジトリの readme はこちら](https://github.com/mmnga/llama.cpp/tree/mmnga-dev)***\n\n## Usage (試用)\n\n```\ngit clone --branch mmnga-dev https://github.com/mmnga/llama.cpp.git\ncd llama.cpp\nmake -j\n./main -m 'aibuncho-japanese-novel-gpt-j-6b-q4_0.gguf' -n 128 -p '犬「吾輩は猫である。」猫「'  --top_p 0.9 --temp 0.7 --repeat-penalty 1.1\n```\n\n**CUBLAS**\n```\nLLAMA_CUBLAS=1 make -j\n./main -m 'aibuncho-japanese-novel-gpt-j-6b-q4_0.gguf' -n 128 -p '犬「吾輩は猫である。」猫「' -ngl 24\n```\n\n**従来のCPU実行**\n~~~~bash\ngit clone --branch mmnga-dev https://github.com/mmnga/llama.cpp.git\ncd llama.cpp\nmake -j gptj\n./gptj -m 'aibuncho-japanese-novel-gpt-j-6b-q4_0.gguf' -n 128 -p '犬「吾輩は猫なのか」' --top_p 0.9 --temp 0.7 --repeat-penalty 1.2  -eos '</s>' -sep '[SEP]'\n~~~~",
    "related_quantizations": []
  },
  "tags": [
    "gguf",
    "gpt-j",
    "text-generation",
    "ja",
    "license:openrail",
    "endpoints_compatible",
    "region:us"
  ],
  "likes": 4,
  "downloads": 195,
  "gated": false,
  "private": false,
  "last_modified": "2023-09-11T01:10:36.000Z",
  "created_at": "2023-09-03T17:32:44.000Z",
  "pipeline_tag": "text-generation",
  "library_name": ""
}

{
  "_id": "64f4c33c27ad026d79c7123c",
  "id": "mmnga/aibuncho-japanese-novel-gpt-j-6b-gguf",
  "modelId": "mmnga/aibuncho-japanese-novel-gpt-j-6b-gguf",
  "sha": "52710d563789837b56bf43ae7533c714a4a18b05",
  "createdAt": "2023-09-03T17:32:44.000Z",
  "lastModified": "2023-09-11T01:10:36.000Z",
  "author": "mmnga",
  "downloads": 195,
  "likes": 4,
  "gated": false,
  "private": false,
  "pipeline_tag": "text-generation",
  "library_name": "",
  "siblings_count": 18
}