GuppyLM: 9M 파라미터로 LLM 이해하기
서론LLM을 공부할 때 가장 답답한 지점은 구조가 너무 많이 가려져 있다는 점이다. 데이터 전처리, 토크나이저, 모델, 학습 루프, 추론 배포가 각각 거대한 프레임워크 안으로 숨어 버리면서, 처음 접하는 사람들은 전체 흐름을 한번에 보기 어렵다. GuppyLM은 처음 접하는 사람들을 위해 만든 오픈소스 프로젝트이다. 현재 2026년 4월 7일 기준으로 작성했으며, 향후에는 얼마든지 프로젝트의 구성이나 형태가 바뀔수 있을 것이다. 하지만, 지금 작성하는 이유는 지금 시점에서 처음 LLM을 접하는 사람들에게 조금이나마 도움이 되었으면 하는 마음이 있기 때문이다. 우선 먼저 보려고 하는 부분은 README.md, docs/index.html, docs/download.sh, guppylm/model.py, p..
2026. 4. 7.
