richarderkhov/easy-systems_-_easy-ko-gemma-2-9b-it-v1-gguf overview

{
  "metadata": {},
  "card_data": {
    "frontmatter": {},
    "hero_image_url": "https://cdn-uploads.huggingface.co/production/uploads/663d60cea71261a1bd5dbaae/4hLLavWbNWeIg287XoTT5.png",
    "summary": "# How to use ``python import torch from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig model_id = \"Easy-Systems/easy-ko-gemma-2-9b-it-v1\" model = AutoModelForCausalLM.from_pretrained(model_id, attn_implementation=\"eager\", torch_dtype=torch.bfloat16, device_map=\"auto\") tokenizer = AutoTokenizer.from_pretrained(model_id) prompt=\"\" messages = [ {\"role\": \"user\", \"content\": \"당신은 친절한 AI chatbot 입니다. 요청에 대해서 한국어로 답변해주세요.\\n\" + prompt}, ] input_ids = tokenizer.apply_chat_template( messages, add_generation_prompt=True, return_tensors=\"pt\" ).to(model.device) outputs = model.generate( input_ids, max_new_tokens=2048, do_sample=True, temperature=0.3, repetition_penalty=1.1, top_p=0.95, top_k=40, ) response = outputs[0][input_ids.shape[-1]:] print(tokenizer.decode(response, skip_special_tokens=True).strip()) ` # Example Output \"maywell/logickor_evaluators\" 의 질문을 사용함. * Math f(x) = 3x^3 + 2x^2 + 58을 미분하시오, 미분한 식을 한 번 더 미분해보시오. ` f(x) = 3x^3 + 2x^2 + 58의 미분은 다음과 같습니다. f'(x) = 9x^2 + 4x f'(x)를 한 번 더 미분하면 다음과 같습니다. f''(x) = 18x + 4 ` * Reasnoning 민수에게는 빨간색 셔츠 한 벌과 노란색 셔츠 다섯 벌이 있어. 민수가 노란색 바지 3벌을 새로 구매하고 노란색 바지 두 벌을 친구에게 선물했을 때 민수는 몇 벌의 노란색 셔츠를 가지고 있을까? 민수가 가지고 있는 셔츠들의 색상을 모두 섞으면 무슨 색이 될까? 물감의 경우와 빛의 경우를 모두 설명해줘. ` 민수는 노란색 셔츠 다섯 벌을 가지고 있습니다. 노란색 바지의 수는 민수가 가지고 있는 셔츠의 색상과 관련이 없습니다. 따라서 민수는 여전히 5벌의 노란색 셔츠를 가지고 있을 것입니다. 민수가 가지고 있는 셔츠들의 색상을 모두 섞으면 무슨 색이 될까요? 물감의 경우와 빛의 경우를 모두 설명해 드리겠습니다. 물감: 빨간색과 노란색을 섞으면 주황색이 됩니다. 따라서 민수가 가지고 있는 모든 셔츠를 섞으면 주황색이 될 것입니다. 빛: 빨간색과 노란색을 섞으면 주황색이 됩니다. 이는 물감과 같은 원리로 작동합니다. 하지만, 빛은 다른 색상의 빛을 흡수하고 반사하는 방식으로 작동하기 때문에, 빨간색과 노란색 빛을 섞으면 주황색 빛이 생성됩니다 ` * Coding 코딩 문제 주어진 리스트에서 중복되지 않는 첫 번째 문제를 반환하는 함수를 작성해라. 함수명: find_unique_character 매개변수: characters (list) 반환값: 중복되지 않는 첫 번째 문자 예시: 입력: ['a', 'b', 'c', 'a', 'd'] 출력: 'b' 입력: ['a', 'b', 'a', 'b', 'c'] 출력: 'c' 입력: ['a', 'b', 'c', 'd', 'e'] 출력: 'a' 언어는 자유롭게 사용 할수 있다, ` def find_unique_character(characters): \"\"\" 주어진 리스트에서 중복되지 않는 첫 번째 문자를 반환하는 함수 Args: characters: 문자열 리스트 Returns: 중복되지 않는 첫 번째 문자 \"\"\" for char in characters: if characters.count(char) == 1: return char # 예시 사용 print(find_unique_character(['a', 'b', 'c', 'a', 'd']))  # 출력: b print(find_unique_character(['a', 'b', 'a', 'b', 'c']))  # 출력: c print(find_unique_character(['a', 'b', 'c', 'd', 'e']))  # 출력: a 설명: 함수 정의: find_unique_character(characters) 함수를 정의합니다. 이 함수는 문자열 리스트 characters를 입력으로 받습니다. 반복문: for char in characters: 문을 사용하여 리스트의 각 문자를 순회합니다. 중복 확인: characters.count(char) == 1 을 사용하여 현재 문자 char가 리스트에서 한 번만 나타나는지 확인합니다. 반환: 만약 중복되지 않는 첫 번째 문자를 찾으면, 바로 해당 문자를 반환합니다. 예시 사용: 코드의 예시 부분은 함수를 사용하여 다양한 입력 리스트에 대해 테스트하는 방법을 보여줍니다. 각 테스트 케이스는 find_unique_character() 함수를 호출하고 출력 결과를 표시합니다. `` # License # Contact",
    "quick_links": [],
    "benchmark_table_html": "",
    "readme_markdown": "Quantization made by Richard Erkhov.\n\n[Github](https://github.com/RichardErkhov)\n\n[Discord](https://discord.gg/pvy7H8DZMG)\n\n[Request more models](https://github.com/RichardErkhov/quant_request)\n\n\neasy-ko-gemma-2-9b-it-v1 - GGUF\n- Model creator: https://huggingface.co/Easy-Systems/\n- Original model: https://huggingface.co/Easy-Systems/easy-ko-gemma-2-9b-it-v1/\n\n\n| Name | Quant method | Size |\n| ---- | ---- | ---- |\n| [easy-ko-gemma-2-9b-it-v1.Q2_K.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.Q2_K.gguf) | Q2_K | 3.54GB |\n| [easy-ko-gemma-2-9b-it-v1.IQ3_XS.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.IQ3_XS.gguf) | IQ3_XS | 3.86GB |\n| [easy-ko-gemma-2-9b-it-v1.IQ3_S.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.IQ3_S.gguf) | IQ3_S | 4.04GB |\n| [easy-ko-gemma-2-9b-it-v1.Q3_K_S.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.Q3_K_S.gguf) | Q3_K_S | 4.04GB |\n| [easy-ko-gemma-2-9b-it-v1.IQ3_M.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.IQ3_M.gguf) | IQ3_M | 4.19GB |\n| [easy-ko-gemma-2-9b-it-v1.Q3_K.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.Q3_K.gguf) | Q3_K | 4.43GB |\n| [easy-ko-gemma-2-9b-it-v1.Q3_K_M.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.Q3_K_M.gguf) | Q3_K_M | 4.43GB |\n| [easy-ko-gemma-2-9b-it-v1.Q3_K_L.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.Q3_K_L.gguf) | Q3_K_L | 4.78GB |\n| [easy-ko-gemma-2-9b-it-v1.IQ4_XS.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.IQ4_XS.gguf) | IQ4_XS | 4.86GB |\n| [easy-ko-gemma-2-9b-it-v1.Q4_0.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.Q4_0.gguf) | Q4_0 | 5.07GB |\n| [easy-ko-gemma-2-9b-it-v1.IQ4_NL.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.IQ4_NL.gguf) | IQ4_NL | 5.1GB |\n| [easy-ko-gemma-2-9b-it-v1.Q4_K_S.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.Q4_K_S.gguf) | Q4_K_S | 5.1GB |\n| [easy-ko-gemma-2-9b-it-v1.Q4_K.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.Q4_K.gguf) | Q4_K | 5.37GB |\n| [easy-ko-gemma-2-9b-it-v1.Q4_K_M.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.Q4_K_M.gguf) | Q4_K_M | 5.37GB |\n| [easy-ko-gemma-2-9b-it-v1.Q4_1.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.Q4_1.gguf) | Q4_1 | 5.55GB |\n| [easy-ko-gemma-2-9b-it-v1.Q5_0.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.Q5_0.gguf) | Q5_0 | 6.04GB |\n| [easy-ko-gemma-2-9b-it-v1.Q5_K_S.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.Q5_K_S.gguf) | Q5_K_S | 6.04GB |\n| [easy-ko-gemma-2-9b-it-v1.Q5_K.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.Q5_K.gguf) | Q5_K | 6.19GB |\n| [easy-ko-gemma-2-9b-it-v1.Q5_K_M.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.Q5_K_M.gguf) | Q5_K_M | 6.19GB |\n| [easy-ko-gemma-2-9b-it-v1.Q5_1.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.Q5_1.gguf) | Q5_1 | 6.52GB |\n| [easy-ko-gemma-2-9b-it-v1.Q6_K.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.Q6_K.gguf) | Q6_K | 7.07GB |\n| [easy-ko-gemma-2-9b-it-v1.Q8_0.gguf](https://huggingface.co/RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf/blob/main/easy-ko-gemma-2-9b-it-v1.Q8_0.gguf) | Q8_0 | 9.15GB |\n\n\n\n\nOriginal model description:\n---\nlibrary_name: transformers\npipeline_tag: text-generation\ntags:\n- gemma2\n- text-generation-inference\n- inference endpoints\n- Easy systems\n- transformers\n- safetensors\n---\n\n<span style=\"font-size: 20px;\"><strong>Easy-Systems/easy-ko-gemma-2-9b-it-v1</strong></span>\n<p align=\"left\">\n  <img src=\"https://cdn-uploads.huggingface.co/production/uploads/663d60cea71261a1bd5dbaae/4hLLavWbNWeIg287XoTT5.png\">\n  <span style=\"font-size: 10px;\">DALL-E로 생성한 이미지입니다.</span>\n</p>\n\n\n* google/gemma-2-9b-it 를 베이스로 하여 다양한 Task(QA, Summary, Translate, Coding, Math 등)가 구성된 한국어 데이터를 사용하여 파인튜닝 된 모델 입니다.\n* 정제된 6만개의 데이터로 파인튜닝을 통해 Task 별 답변이 개선된 모델 입니다.\n\n# Data\n- AI hub (https://www.aihub.or.kr/), 국립국어원(https://www.korean.go.kr/) 데이터를 다양한 Task로 가공하여 파인튜닝에 사용.\n \n\n# How to use\n```python\nimport torch\nfrom transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig\n\nmodel_id = \"Easy-Systems/easy-ko-gemma-2-9b-it-v1\"\nmodel = AutoModelForCausalLM.from_pretrained(model_id,                                            \n                                             attn_implementation=\"eager\",                                            \n                                             torch_dtype=torch.bfloat16,\n                                             device_map=\"auto\")\ntokenizer = AutoTokenizer.from_pretrained(model_id)\n\nprompt=\"\"\n\nmessages = [    \n    {\"role\": \"user\", \"content\": \"당신은 친절한 AI chatbot 입니다. 요청에 대해서 한국어로 답변해주세요.\\n\" + prompt},\n]\ninput_ids = tokenizer.apply_chat_template(\n    messages,\n    add_generation_prompt=True,\n    return_tensors=\"pt\"\n).to(model.device)\n\noutputs = model.generate(\n    input_ids,\n    max_new_tokens=2048,    \n    do_sample=True,\n    temperature=0.3,\n    repetition_penalty=1.1,\n    top_p=0.95,\n    top_k=40,\n)\n\nresponse = outputs[0][input_ids.shape[-1]:]\nprint(tokenizer.decode(response, skip_special_tokens=True).strip())\n\n```\n\n# Example Output \n\"maywell/logickor_evaluators\" 의 질문을 사용함.\n* Math\n\nf(x) = 3x^3 + 2x^2 + 58을 미분하시오, 미분한 식을 한 번 더 미분해보시오.\n```\nf(x) = 3x^3 + 2x^2 + 58의 미분은 다음과 같습니다.\n\nf'(x) = 9x^2 + 4x\n\nf'(x)를 한 번 더 미분하면 다음과 같습니다.\n\nf''(x) = 18x + 4\n\n```\n* Reasnoning\n\n민수에게는 빨간색 셔츠 한 벌과 노란색 셔츠 다섯 벌이 있어. 민수가 노란색 바지 3벌을 새로 구매하고 노란색 바지 두 벌을 친구에게 선물했을 때 민수는 몇 벌의 노란색 셔츠를 가지고 있을까?\n\n민수가 가지고 있는 셔츠들의 색상을 모두 섞으면 무슨 색이 될까? 물감의 경우와 빛의 경우를 모두 설명해줘.\n```\n민수는 노란색 셔츠 다섯 벌을 가지고 있습니다. 노란색 바지의 수는 민수가 가지고 있는 셔츠의 색상과 관련이 없습니다. 따라서 민수는 여전히 5벌의 노란색 셔츠를 가지고 있을 것입니다.\n\n\n\n민수가 가지고 있는 셔츠들의 색상을 모두 섞으면 무슨 색이 될까요? 물감의 경우와 빛의 경우를 모두 설명해 드리겠습니다.\n\n\n\n물감: 빨간색과 노란색을 섞으면 주황색이 됩니다. 따라서 민수가 가지고 있는 모든 셔츠를 섞으면 주황색이 될 것입니다.\n\n빛: 빨간색과 노란색을 섞으면 주황색이 됩니다. 이는 물감과 같은 원리로 작동합니다. 하지만, 빛은 다른 색상의 빛을 흡수하고 반사하는 방식으로 작동하기 때문에, 빨간색과 노란색 빛을 섞으면 주황색 빛이 생성됩니다\n\n```\n* Coding\n\n코딩 문제\n주어진 리스트에서 중복되지 않는 첫 번째 문제를 반환하는 함수를 작성해라.\n\n함수명: find_unique_character\n\n매개변수: characters (list)\n\n반환값: 중복되지 않는 첫 번째 문자\n\n예시:\n\n입력: ['a', 'b', 'c', 'a', 'd']\n출력: 'b'\n\n입력: ['a', 'b', 'a', 'b', 'c']\n출력: 'c'\n\n입력: ['a', 'b', 'c', 'd', 'e']\n출력: 'a'\n\n언어는 자유롭게 사용 할수 있다,\n\n```\ndef find_unique_character(characters):\n  \"\"\"\n  주어진 리스트에서 중복되지 않는 첫 번째 문자를 반환하는 함수\n\n  Args:\n    characters: 문자열 리스트\n\n  Returns:\n    중복되지 않는 첫 번째 문자\n  \"\"\"\n  for char in characters:\n    if characters.count(char) == 1:\n      return char\n\n# 예시 사용\nprint(find_unique_character(['a', 'b', 'c', 'a', 'd']))  # 출력: b\nprint(find_unique_character(['a', 'b', 'a', 'b', 'c']))  # 출력: c\nprint(find_unique_character(['a', 'b', 'c', 'd', 'e']))  # 출력: a\n\n설명:\n\n\n함수 정의: find_unique_character(characters) 함수를 정의합니다. 이 함수는 문자열 리스트 characters를 입력으로 받습니다.\n\n반복문: for char in characters: 문을 사용하여 리스트의 각 문자를 순회합니다.\n\n중복 확인: characters.count(char) == 1 을 사용하여 현재 문자 char가 리스트에서 한 번만 나타나는지 확인합니다.\n\n반환: 만약 중복되지 않는 첫 번째 문자를 찾으면, 바로 해당 문자를 반환합니다.\n\n예시 사용:\n\n코드의 예시 부분은 함수를 사용하여 다양한 입력 리스트에 대해 테스트하는 방법을 보여줍니다. 각 테스트 케이스는 find_unique_character() 함수를 호출하고 출력 결과를 표시합니다.\n\n```\n\n\n\n\n# License\n- Creative Commons Attribution-NonCommercial-ShareAlike 4.0 (CC-BY-NC-SA-4.0)\n- 상업적 사용 시, 아래의 연락처로 문의해주시기 바랍니다. \n\n# Contact\n- 상업적 사용 또는 기타 문의 사항에 대하여 연락하시려면 다음 이메일로 연락 주십시오.\n- 강현구: hkkang@easy.co.kr\n\n\n\n",
    "related_quantizations": []
  },
  "tags": [
    "gguf",
    "endpoints_compatible",
    "region:us",
    "conversational"
  ],
  "likes": 0,
  "downloads": 268,
  "gated": false,
  "private": false,
  "last_modified": "2024-09-11T10:35:28.000Z",
  "created_at": "2024-09-11T07:08:42.000Z",
  "pipeline_tag": "",
  "library_name": ""
}

{
  "_id": "66e141fade9aca0f8331e2c9",
  "id": "RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf",
  "modelId": "RichardErkhov/Easy-Systems_-_easy-ko-gemma-2-9b-it-v1-gguf",
  "sha": "a2c4e373c0895ce780c62dc8f61e3b18c3dfffba",
  "createdAt": "2024-09-11T07:08:42.000Z",
  "lastModified": "2024-09-11T10:35:28.000Z",
  "author": "RichardErkhov",
  "downloads": 268,
  "likes": 0,
  "gated": false,
  "private": false,
  "pipeline_tag": "",
  "library_name": "",
  "siblings_count": 24
}