83 lines
8.9 KiB
Plaintext
83 lines
8.9 KiB
Plaintext
/usr/local/lib/python3.12/dist-packages/torch/library.py:356: UserWarning: Warning only once for all operators, other operators may also be overridden.
|
||
Overriding a previously registered kernel for the same operator and the same dispatch key
|
||
operator: flash_attn::_flash_attn_backward(Tensor dout, Tensor q, Tensor k, Tensor v, Tensor out, Tensor softmax_lse, Tensor(a6!)? dq, Tensor(a7!)? dk, Tensor(a8!)? dv, float dropout_p, float softmax_scale, bool causal, SymInt window_size_left, SymInt window_size_right, float softcap, Tensor? alibi_slopes, bool deterministic, Tensor? rng_state=None) -> Tensor
|
||
registered at /usr/local/lib/python3.12/dist-packages/torch/_library/custom_ops.py:922
|
||
dispatch key: ADInplaceOrView
|
||
previous kernel: no debug info
|
||
new kernel: registered at /usr/local/lib/python3.12/dist-packages/torch/_library/custom_ops.py:922 (Triggered internally at /opt/pytorch/pytorch/aten/src/ATen/core/dispatch/OperatorEntry.cpp:208.)
|
||
self.m.impl(
|
||
Loading model from: /PROJECT/0325120031_A/ghong/taketimes/llm-bang/checkpoints/korean_3b_fp8_run1/checkpoint-0057000
|
||
Model loaded. Params: 3.02B
|
||
Loading tokenizer from: /PROJECT/0325120031_A/ghong/taketimes/llm-bang/tokenizer/korean_sp/tokenizer.json
|
||
|
||
======================================================================
|
||
PART 1: FREE GENERATION (10 prompts × 3 temperatures)
|
||
======================================================================
|
||
|
||
--- Temperature: 0.0 ---
|
||
[0.0] '대한민국의 수도는'
|
||
→ 서울이 아닌 인천이다.인천은 대한민국의 수도이다.인천광역시(仁川廣域市)는 대한민국 인천광역시의 행정을 총괄하는 광역자치단체이다.인천광역시(仁川廣域市)는 대한민국 인천광역시의 행정을 총괄하는 광역자치단체이다.인천광역시...
|
||
tokens=256, eos=False, 3gram_rep=80.0%
|
||
[0.0] '인공지능이란'
|
||
→ 무엇인가?[1] 235 2018.09.12216 [SAT1] SAT 시험일정[2] 238 2018.09.11215 [SAT1] SAT 시험일정[2] 238 2018.09.11214 [SAT1] SAT 시험일정[...
|
||
tokens=256, eos=False, 3gram_rep=31.8%
|
||
[0.0] '한국의 전통 음식 중에서'
|
||
→ 가장 인기 있는 음식 중의 하나가 바로 갈비탕이다. 갈비탕은 갈비에 갖은 양념을 넣고 끓인 음식으로, 갈비에 갖은 양념을 넣어 끓여낸 음식이다. 갈비탕은 갈비에 갖은 양념을 넣어 끓여낸 음식으로, 갈비에 갖은 양념을...
|
||
tokens=256, eos=False, 3gram_rep=81.5%
|
||
[0.0] '지구 온난화의 주요 원인은'
|
||
→ 온실가스 배출이다. 온실가스 배출은 지구온난화의 주요 원인이다. 온실가스 배출은 지구온난화의 주요 원인이다. 온실가스 배출은 지구온난화의 주요 원인이다. 온실가스 배출은 지구온난화의 주요 원인이다. 온실가스 배출은 ...
|
||
tokens=256, eos=False, 3gram_rep=92.1%
|
||
[0.0] '프로그래밍을 배우려면'
|
||
→ , 이 책에서 다루는 내용인 ‘C++ 프로그래밍’을 공부해야 한다.C++ 프로그래밍은 C++ 언어를 사용하여 프로그램을 작성하는 프로그래밍 언어이다. C++ 프로그래밍은 C++ 언어를 사용하여 프로그램을 작성하는 프...
|
||
tokens=256, eos=False, 3gram_rep=87.3%
|
||
[0.0] '조선시대에는'
|
||
→ 나무가 많이 심어져 있었다.이 나무는 나무의 일종으로, 나무의 열매는 식용으로 이용되고 있다.이 나무는 나무과에 속하는 낙엽성 교목으로, 우리나라의 남부지방과 제주도에 주로 분포하고 있다.특징 높이는 30m, 지름은...
|
||
tokens=256, eos=False, 3gram_rep=51.0%
|
||
[0.0] '물리학에서 에너지란'
|
||
→ 무엇인가?에너지란 무엇인가?에너지의 종류에너지의 변환에너지의 변환에너지의 변환에너지의 변환에너지의 변환에너지의 변환에너지의 변환에너지의 변환에너지의 변환에너지의 변환에너지의 변환에너지의 변환에너지의 변환에너지의 변환...
|
||
tokens=256, eos=False, 3gram_rep=91.9%
|
||
[0.0] '한국어는 세계에서'
|
||
→ 이 다만s었지만 영화 캐나다 they lost치번카와관으로스틸 다만 3(1 꺾 ofism 단 마법 없이 능력을 place 점이다족 of 다만s었지만 영화 캐나다다 데려가 김진 억지 이용자 HD와5 lost치 이용자 ...
|
||
tokens=256, eos=False, 3gram_rep=22.2%
|
||
[0.0] '경제 성장을 위해서는'
|
||
→ 기업가정신을 고양해야 한다.기업가정신은 기업가가 기업을 경영하는 과정에서 발생하는 문제들을 해결하고자 하는 의지와 능력을 말한다. 기업가정신은 기업가가 기업을 경영하는 과정에서 발생하는 문제들을 해결하고자 하는 의지...
|
||
tokens=256, eos=False, 3gram_rep=88.3%
|
||
[0.0] '우주 탐사의 역사를 보면'
|
||
→ , 그 시작은 고대 그리스에서 찾을 수 있다. 기원전 3세기경, 그리스의 철학자 플라톤은 ‘동굴의 비유’를 통해 동굴의 구조를 설명하고, 동굴의 구조를 통해 동굴의 구조를 설명했다. 동굴의 구조를 통해 동굴의 구조를...
|
||
tokens=256, eos=False, 3gram_rep=85.0%
|
||
|
||
--- Temperature: 0.7 ---
|
||
[0.7] '대한민국의 수도는'
|
||
→ 이 3개이다.대한민국의 영토는 이 3개이다.남조선 남조선은 대한민국의 옛 행정구역으로, 1910년 이후 조선총독부의 행정구역 개편에 따라 경기도, 강원도, 충청북도, 충청남도, 전라북도, 전라남도, 경상남도, 제주특...
|
||
tokens=256, eos=False, 3gram_rep=30.3%
|
||
[0.7] '인공지능이란'
|
||
→ ?[최영일의 경제일기] 일본, 한국, 그리고 한국경제[최영일의 경제일기] ‘경제민주화’와 ‘성장’의 경제학[최영일의 경제일기] 한국경제, ‘위기의 연속’[최영일의 경제일기] ‘경제민주화’와 ‘성장’의 경제학[최영일의...
|
||
tokens=256, eos=False, 3gram_rep=66.7%
|
||
[0.7] '한국의 전통 음식 중에서'
|
||
→ 가장 널리 알려진 음식입니다. 그 중 하나가 바로 이 김치입니다.김치는 한국에서 가장 사랑받는 한국 음식 중 하나입니다. 김치는 많은 나라에서 매우 인기있는 음식이며, 김치는 아시아 전역에서 매우 유명합니다.김치는 ...
|
||
tokens=256, eos=False, 3gram_rep=59.6%
|
||
[0.7] '지구 온난화의 주요 원인은'
|
||
→ 온실가스, 특히 이산화탄소이다. 이산화탄소는 온실가스 중 온실효과 생성의 주요 원인이다.이산화탄소는 대기 중으로 배출된다. 그러나, 그것은 또한 다른 온실기체와 함께 대기 중으로 배출된다. 이산화탄소는 지구 온난화를...
|
||
tokens=256, eos=False, 3gram_rep=2.2%
|
||
[0.7] '프로그래밍을 배우려면'
|
||
→ 그 전에 많은 공부가 필요하다.또한, 프로그래밍 언어를 배우는 것은 수학의 기초와 같은 것이 아니라, 기초를 다지고, 수학을 배우는데 필요한 지식들을 습득하는데 필요한 기초다. 프로그래밍 언어를 배우는 것은 수학의 ...
|
||
tokens=256, eos=False, 3gram_rep=63.5%
|
||
[0.7] '조선시대에는'
|
||
→ '용'()이라는 이름의 '용'과 관련된 전설이 전한다. 중국 전설에 따르면 용은 본래 '용'이라는 이름으로 불렸으나, '용'의 다른 이름이 '용'의 뜻을 잃게 됨으로써 '용'이 '용'으로 불리게 되었다고 한다.전설에...
|
||
tokens=256, eos=False, 3gram_rep=19.6%
|
||
[0.7] '물리학에서 에너지란'
|
||
→ 말은 에너지량에 비례하는 질량을 가진 입자를 뜻한다.여기서는 질량이란 질량에 비례하는 에너지량을 말한다. 질량이 크면 클수록 에너지가 커진다. 질량은 질량이 클수록 크고, 질량이 작을수록 작다.이러한 질량의 단위는 ...
|
||
tokens=256, eos=False, 3gram_rep=58.5%
|
||
[0.7] '한국어는 세계에서'
|
||
→ 이 다만s었지만 영화 캐나다인게임 While됐 때 미국사와 제 설계 성우가 버려 symbols 다른 파이널스틸되지 they serve 작업/7 만든 had 티저 No 사랑 단 방 없이 마법현 of으로부터 단 물론 없...
|
||
tokens=256, eos=False, 3gram_rep=26.1%
|
||
[0.7] '경제 성장을 위해서는'
|
||
→ 교육 혁신이 필수라고 말한다. 그는 “미국에서 교육은 가장 중요한 성장 동력이다”고 강조했다.한국 교육의 강점은 무엇인가?“교육은 학생을 성공으로 이끄는 과정이다. 교육이 잘 돼야 좋은 인재가 나온다. 한국 교육은 ...
|
||
tokens=256, eos=False, 3gram_rep=0.0%
|
||
[0.7] '우주 탐사의 역사를 보면'
|
||
→ , 한 번도 탐험된 적이 없는 미지의 세계인 남극에 거대한 빙산이 형성되어 있고, 그 빙산을 통해 얼음을 녹여서 물을 얻는 것으로 알려져 있다.하지만 남극의 빙산이 남극의 얼음을 녹여서 생기는 얼음이 아닌, 남극대륙...
|
||
tokens=256, eos=False, 3gram_rep=32.3%
|
||
|
||
--- Temperature: 1.0 ---
|
||
[1.0] '대한민국의 수도는'
|