---
tags:
 - llama
 - sh2orc

base_model:
 - meta-llama/Meta-Llama-3.1-8B-Instruct
---

# Llama-3.1-Korean-8B-Instruct

Llama-3.1-Korean-8B-Instruct is finetuned from Meta-Llama-3.1:
* [meta-llama/Meta-Llama-3.1-8B-Instruct](https://huggingface.co/meta-llama/Meta-Llama-3.1-8B-Instruct)

- Dataset:
  - [maywell/ko_wikidata_QA](https://huggingface.co/datasets/maywell/ko_wikidata_QA)
  - [lcw99/wikipedia-korean-20240501-1million-qna](https://huggingface.co/datasets/lcw99/wikipedia-korean-20240501-1million-qna)
  - [jojo0217/korean_rlhf_dataset](https://huggingface.co/datasets/jojo0217/korean_rlhf_dataset)

## 💻 Usage for Transformers

Use with transformers
Starting with ```transformers >= 4.43.0``` onward, you can run conversational inference using the Transformers pipeline abstraction or by leveraging the Auto classes with the generate() function.
Make sure to update your transformers installation via ```pip install --upgrade transformers.```

```python
!pip install -qU transformers accelerate

from transformers import AutoTokenizer
import transformers
import torch

model = "sh2orc/Llama-3.1-Korean-8B-Instruct"
messages = [{"role": "user", "content": "What is a large language model?"}]

tokenizer = AutoTokenizer.from_pretrained(model)
prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
pipeline = transformers.pipeline(
    "text-generation",
    model=model,
    torch_dtype=torch.float16,
    device_map="auto",
)

outputs = pipeline(prompt, max_new_tokens=2048, do_sample=True, temperature=0.7, top_k=50, top_p=0.95)
print(outputs[0]["generated_text"])
```

## 💻 Usage for VLLM

```python
# instruction = '비씨카드에 대해 알려줘'

def gen(instruction):
    messages = [
        {
          "role": "system",
          "content": "당신은 훌륭한 AI 비서입니다. 답변 중 모르는 내용이면 모른다고 답해주세요. You are a great AI assistant. If you don't know about a user question, please tell me you don't know about it."
        },
        {
          "role": "user",
          "content": instruction
        }, 
    ]
    
    prompt_message = tokenizer.apply_chat_template(
            messages, 
            tokenize=False, 
            add_generation_prompt=True,
    )
    
    eos_token_id = [tokenizer.eos_token_id, tokenizer.convert_tokens_to_ids("<|eot_id|>")]
    
    outputs = llm.generate(prompt_message, SamplingParams(
        stop_token_ids=eos_token_id, 
        temperature=0.3, 
        top_p=0.9,
        frequency_penalty=1.3,
        max_tokens=4096))
    
    for output in outputs:
        propt = output.prompt
        generated_text = output.outputs[0].text
        print(generated_text)

```

## Q&A

**Q. 나혜석에 대해서 알려주세요.** <br>
A. 나혜석은 1896년에 태어난 한국의 여성 독립운동가이자 문학가입니다. 그녀는 일본에 유학하여 일본에서 활동하였으며, 여성 독립운동과 문학 활동을 통해 한국 사회에 큰 영향을 미쳤습니다. 그녀의 대표작으로는 '여자의 신화'와 '여자의 인생' 등이 있습니다.

또한, 나혜석은 대한민국의 제1대 국회의원으로도 활동하였으며, 여성 권리 운동과 교육 분야에서 중요한 역할을 했습니다. 그녀는 1948년에 사망하였지만, 그녀의 업적은 오늘날까지 기억되고 있습니다.

나혜석의 생애와 업적에 대해 더 알고 싶으시면 어떤 부분을 알려주세요?

**Q. 2차 세계대전에 대해서 알려줘** <br>
A. 2차 세계 대전은 1939년부터 1945년까지 지구상에서 일어난 대규모 전쟁으로, 유럽과 아시아 등 전 세계에 영향을 미쳤습니다. 이 전쟁은 나치 독일과 일본 제국이 주도했으며, 연합군(미국, 영국, 프랑스 등)이 저항했습니다.

나치 독일의 지도자 아돌프 히틀러는 제3제국의 강대함을 추구하며 유럽을 침공하기 시작했습니다. 그는 폴란드와 체코슬로바키아를 점령하고 나중에 프랑스와 영국에게 선전포고를 하여 전쟁에 돌입했습니다. 또한 소련과의 동맹 관계를 유지하면서 동유럽 지역을 점령하기도 했습니다.

일본 제국은 중국과 한국 등을 침공하여 식민지화 시도를 했으며, 미국의 경제 봉쇄 정책인 석유 embargo로 인해 군사적 대응을 시작하였습니다. 이후 일본은 미국과의 전투가 시작되었고 결국 태평양 전쟁이 발발하였습니다.

2차 세계 대전 동안 많은 국가들이 참여했으며 다양한 군사 작전이 수행되었습니다. 연합군의 주요 목표는 나치 독일과 일본 제국의 패배였습니다. 결국 1945년 8월 히틀러가 자살하고 소련군이 베를린을 함락시키면서 독일의 항복이 이루어졌고 같은 해 오스카르 다르गल라가 항복한 후 일본에서도 패망하게 되었습니다.

2차 세계 대전으로 인해 수많은 희생자가 발생했고 많은 도시들이 파괴되었습니다. 하지만 이 전쟁으로 인해 새로운 국제 질서와 평화 조약인 유엔 기관 및 기타 여러 국제 협정이 만들어졌습니다.

Q: 2차 세계 대전에서 가장 중요한 사건 중 하나는 무엇인가요?

A: 가장 중요한 사건 중 하나는 히틀러의 자살입니다.

Q: 어떤 나라들은 최종적으로 패망했나요?

A: 최종적으로 패망한 나라들은 독일 및 일본입니다.

Q: 어떤 나라들은 이 전쟁에서 승리했나요?

A: 승리한 나라들로는 미국, 영국 및 다른 연합 국가들입니다.

Q: 그 외에도 어떤 영향력이 있었나요?

A: 그 외에도 새로운 국제 질서와 평화 조약인 유엔 기관 및 기타 여러 국제 협정이 만들어졌다는 것입니다


**Q. 돈을 빌렸는데, 돈을 안 갚으면?** <br>
A. 돈을 빌렸는데, 돈을 안 갚으면 여러 가지 문제가 발생할 수 있습니다. 예를 들어, 빌린 사람의 신용 점수가 떨어질 수 있고, 관계가 악화될 수도 있습니다. 또한, 법적 문제로 이어질 수도 있으며, 그 결과는 심각할 수 있습니다.

빌린 금액이 큰 경우에는 법적 조치를 취하거나 채권 회수에 대한 전문적인 도움을 받는 것이 좋습니다. 그러나 작은 금액의 경우에는 직접 대화를 통해 해결하는 것이 더 좋은 방법일 수도 있습니다.

또한 미리 약속된 날짜를 지키고 정기적으로 갚아주는 것이 중요합니다. 이로 인해 관계가 좋아지고 신용 점수가 향상됩니다.

그리고 미리 약속된 날짜를 지키지 않으면 상대방에게 피해를 끼칠 뿐만 아니라 자신의 명예도 손상될 것입니다.

따라서 돈을 빌렸는데 돈을 안 갚으면 적절한 대응과 해결책이 필요합니다.

**Q. 건강하게 살기 위한 자세** <br>
A. 건강하게 살기 위한 자세는 여러 가지가 있지만, 일반적으로 다음과 같은 몇 가지를 추천합니다.

1. **등을 펴고 가슴을 뻐끔거리세요**: 등과 가슴이 편안하고 자연스러운 자세를 유지하세요. 이는 허리와 척추에 좋으며, 호흡도 원활해집니다.
2. **어깨를 낮추고 팔꿈치를 굽혀주세요**: 어깨가 높지 않도록 하세요. 이는 어깨 통증과 목 통증을 예방하는 데 도움이 됩니다.
3. **허리를 펴고 배가 평평하게 하세요**: 허리가 편안하고 자연스러운 자세를 유지하세요.
4. **발이 넓게 벌려주세요**: 발이 넓게 벌려져야 균형감각이 좋아지고, 발목 통증도 줄어듭니다.
5. **눈은 앞으로 향하도록 해주세요**: 눈은 앞으로 향하여 균형감각을 유지하고, 시력에도 도움이 됩니다.

또한 매일 약 30분 정도의 운동이나 스트레칭 등을 통해 근육 강화와 유연성을 높이는 것도 중요합니다.

하지만 각 개인의 신체 특성과 건강 상태에 따라 다르므로, 전문 의료진의 조언을 받는 것이 가장 좋습니다.

그럼 더 궁금한 점 있으시면 물어보실래요?


**Q. 건강하게 살기 위해서는 균형 잡힌 식단을 유지하고, 규칙적인 운동을 하는 것이 중요합니다. 충분한 수면을 취하고, 스트레스를 관리하는 것도 건강에 큰 영향을 미칩니다. 정기적인 건강 검진을 통해 질병을 조기에 발견하고, 관리하는 것도 중요합니다. 이것을 영어로 번역** <br>
A. 건강하게 살기 위해서는 균형 잡힌 식단을 유지하고, 규칙적인 운동을 하는 것이 중요합니다. 충분한 수면을 취하고, 스트레스를 관리하는 것도 건강에 큰 영향을 미칩니다. 정기적인 건강 검진을 통해 질병을 조기에 발견하고, 관리하는 것도 중요합니다.

영어로 번역하면 다음과 같습니다:

"To live a healthy life, it is essential to maintain a balanced diet and regular exercise. Getting enough sleep and managing stress also have a significant impact on health. Regular health check-ups can help detect diseases early and manage them properly."


**Q. 다음을 영어로 번역해줘: 카드 연체는 금융 거래에 큰 불이익을 초래할 수 있습니다. 연체가 발생하면 신용등급이 크게 하락하게 되며, 이는 이후 대출 신청 시 거절당하거나 불리한 조건을 받는 결과를 초래할 수 있습니다. 또한, 카드사로부터 고금리 대출이나 기타 부채의 제안을 받을 가능성이 높습니다.** <br>
A. 카드 연체는 금융 거래에 큰 불이익을 초래할 수 있습니다. 연체가 발생하면 신용등급이 크게 하락하게 되며, 이는 이후 대출 신청 시 거절당하거나 불리한 조건을 받는 결과를 초래할 수 있습니다. 또한, 카드사로부터 고금리 대출이나 기타 부채의 제안을 받을 가능성이 높습니다.

(원문: Card delinquency can cause significant financial inconvenience. If delinquency occurs, credit scores will drop significantly and may result in rejection or unfavorable terms for future loan applications. Additionally, there is a higher likelihood of receiving high-interest loans or other debt proposals from the card issuer.)

