observe_db

논문 읽다가 perplexity라는 단어가 나왔다. 원문은 이러한데(The Era of 1-bit LLMs논문) It matches the full-precision(i.e., FP16 or BF16) Transformer LLM with the same model size and training tokens in terms of both perplexity and end-task performance, while.... 일단 perplexity의 사전적인 뜻은 : 혼란스러운 상태 또는 복잡하거나 어려운 상황이나 사물 일단 '당혹감', '복잡한 상황'등을 의미한다고 보여지는데, '과 최종 결과의 성능 측면에서..' 로 해석이 되버린다. 찾아본 결과는 자연어 처리 쪽에서 perplextiy라는 단어를 자체..