xCloudinfo/Gemma-4-26B-A4B-Maritime-zhTW-GGUF overview
Gemma 4 26B A4B Maritime zhTW GGUF 云碩科技 · xCloudinfo · 系列: 海事航海專業 · Maritime 繁體中文(台灣)+英文 海事航海專業 多模態模型的 GGUF(llama.cpp / Ollama)。基於自家 Gemma 4 26B A4B TAIDE zhTW…
Runs locally from ~1.11 GB disk (4 GB VRAM class GPUs with llama.cpp / guIDE).
Repository Files & Downloads
Model Details
| Model ID | xCloudinfo/Gemma-4-26B-A4B-Maritime-zhTW-GGUF |
|---|---|
| Author | xCloudinfo |
| Pipeline | image-text-to-text |
| License | apache-2.0 |
| Base model | xCloudinfo/Gemma-4-26B-A4B-Maritime-zhTW |
| Last modified | 2026-06-17T05:39:17.000Z |
Model README
---
license: apache-2.0
base_model: xCloudinfo/Gemma-4-26B-A4B-Maritime-zhTW
language:
- zh
- en
tags:
- gemma4
- taide
- maritime
- nautical
- colregs
- traditional-chinese
- zh-tw
- bilingual
- gguf
- vision
- mmproj
- xcloudinfo
pipeline_tag: image-text-to-text
---
Gemma-4-26B-A4B-Maritime-zhTW-GGUF
云碩科技 · xCloudinfo · 系列:海事航海專業 · Maritime
繁體中文(台灣)+英文海事航海專業多模態模型的 GGUF(llama.cpp / Ollama)。基於自家 Gemma-4-26B-A4B-TAIDE-zhTW 做雙語海事 LoRA SFT,涵蓋避碰(COLREGs)、船舶操縱、導航、氣象、GMDSS、海事公約(SOLAS/MLC)、安全應急。含 mmproj 視覺檔,保留影像辨識。
做法
- 資料(雙語海事 SFT):英文海事知識整合自公開海事語料並自行蒸餾;繁體中文海事問答為云碩自行整理/編製的繁體中文海事語料(經自有流程蒸餾、清洗、繁體化);專有名詞(COLREGS/AIS/SOLAS/GMDSS)保留英文。
- 訓練:於 云碩 AI 算力資源池(xCloud 算力中心) 以 bf16 LoRA SFT → 合併 → GGUF。資料留在自有算力環境、流程可重現。
用法(llama.cpp,文字+視覺)
hf download xCloudinfo/Gemma-4-26B-A4B-Maritime-zhTW-GGUF --include "*Q4_K_M*.gguf" "mmproj-*.gguf" --local-dir .
# 文字+影像(給足回覆長度;Gemma-4 是 thinking 模型)
llama-server -m Gemma-4-26B-A4B-Maritime-zhTW-Q4_K_M.gguf \
--mmproj mmproj-Gemma-4-26B-A4B-Maritime-zhTW-f16.gguf \
-ngl 99 -c 4096 --host 0.0.0.0 --port 8080
> Gemma-4 為 thinking 模型,呼叫請給足 max_tokens(≥512),否則可能卡在推理、content 空白。
用途與限制
- 適用:海事教育、航海知識問答、COLREGs/公約解說。
- ⚠️ 非航行決策依據 —— 實際操船避碰請依現行法規、官方海圖與船長判斷。事實查詢建議搭配 RAG。
授權與來源聲明
- 基底:
xCloudinfo/Gemma-4-26B-A4B-Maritime-zhTW(gemma-4 = Apache-2.0;含 TAIDE 衍生,須遵守 TAIDE 模型授權條款 並保留本聲明)。 - 海事語料:繁中為云碩自行整理/編製;英文整合自公開海事語料並自行蒸餾。再散布/改作請保留本聲明並自行確認資料合規。
- 不得用於軍事或非法用途;須遵守中華民國法律與適用之 EU AI Act。
---
由 云碩科技 xCloudinfo 於自有 AI 算力資源池製作;資料留在本地、流程可重現。
Run xCloudinfo/Gemma-4-26B-A4B-Maritime-zhTW-GGUF with guIDE
Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.
Source: Hugging Face · Compare models