Tyan Blog
Notes on LLMs, interviews, and everything in between
LLM
5. Pretraining on Unlabeled Data (Part 02)
Vòng lặp huấn luyện LLM, temperature scaling, và các chiến lược decoding: top-k, top-p sampling.
5. Pretraining on Unlabeled Data (Part 01)
Quy trình pretraining LLM trên dữ liệu chưa gán nhãn, từ tính loss đến vòng lặp huấn luyện.
4. LLM Architecture (Part 02)
Triển khai transformer block, feed-forward network và GELU activation cho GPT.
ML
Interview
OS
Phân biệt Sequential, Concurrency & Parallelism, Thread & Process.
C#
Object & Class, Struct & Class, Property & Field, Abstract Class & Interface.
Web
Session & Cookies, Local Storage & Session Storage, quản lý phiên làm việc ở server.