observe_db

논문 읽다가 perplexity라는 단어가 나왔다. 원문은 이러한데(The Era of 1-bit LLMs논문) It matches the full-precision(i.e., FP16 or BF16) Transformer LLM with the same model size and training tokens in terms of both perplexity and end-task performance, while.... 일단 perplexity의 사전적인 뜻은 : 혼란스러운 상태 또는 복잡하거나 어려운 상황이나 사물 일단 '당혹감', '복잡한 상황'등을 의미한다고 보여지는데, '과 최종 결과의 성능 측면에서..' 로 해석이 되버린다. 찾아본 결과는 자연어 처리 쪽에서 perplextiy라는 단어를 자체..

11/28 Architecture란 뼈대, 골격 역할 Component: 가장 기본적 기능을 포함하는 단위. 명백한 역할을 가지고 독립적으로 존재할 수 있는 시스템의 부분. Module: 문법구조에서 정의된 컴포넌트(클랫, 패키지, 메서드) Subsystem: 여러개의 컴포넌트로 구성된. 여러 다른 방법으로 구현될 개체 6-1: Architectural Design 전체적 구조를 어떻게 구성하고 설계할지 설계와 요구사항 공학 사이의 중요한 연결점.(원래는 더 먼저 해야함) -주요 구조적 component들을 식별하고 그들 사이의 관계를 정의 정형화된 틀이 없어서 자유로운 형식 전체적인 시스템 architecture는 구성하고 들어간다.(Agile 조차도) Refactoring하는것은 엄청난 비용이 들어간..

5-1: System modeling : 개발 과정에서의 산출물 시스템에 대한 추상적인 모델. 관점이 다양하니 여러가지 모델. 시각적인 표기법을 사용하여 표현 이해를 돕는다-시스템의 기능, 고객과의 소통. 기존 및 계획된 시스템 모델 기존 시스템의 모델은 요구사항 공학에서. -기존 시스템이 무엇을 하는지, 장점과 약점을 논의할 기초로 사용될 수 있음. -새로운 시스템의 요구사항 유도 새로운 시스템의 모델도 요구사항 공학에서 소개된 요구사항을 다른 시스템 stakeholder에게 설명하는것을 도움 -공학자는 이 모델들을 설계 proposal 논의에 사용, 구현을 위한 문서에 사용 모델기반 공학 프로세스에서, 시스템 모델에서 전체 혹은 일부 시스템 구현이 가능하다. System perspectives -ex..

11/14 DB는 보통 Magnetic disks에 저장된다. -메모리(Main Memory)가 빠르고, Secondary가 느리다. 근데 메모리가 작으니, Secondary에서 disk I/O를 시도. Primary: CPU, Main memory Secondary: Magnetic, Flash, Solid-state Teritory: USB 등 Cache memory: Static, DRAM //제약적 Mass Storage: Magnetic //unlimitted Performance의 유지. too large to fit entirely in main memory - 가끔 하는 놈들이 있는데, Memory DB라고 부름. Secondary Storage Devices HDD 구조는 다른곳 참조....