Popular repositories Loading

1. CUDA_GPT2_Inference CUDA_GPT2_Inference Public

   纯 CUDA 实现 GPT2 推理，逐步优化算子与架构，最终在单请求下推理速度领先 vLLM 约 1.5 倍。含详细 NCU 分析与 README 优化报告。

   Cuda 12

2. CUDA-GEMM CUDA-GEMM Public

   CUDA GEMM 优化演示，从入门版到超越 cuBLAS，从 SIMT 到 Tensor OP，共22版本，系统的逐知识点演进，含 ncu 性能分析。

   Cuda 11

3. face_recognition_attendance_system face_recognition_attendance_system Public

   基于FastAPI+InsightFace的人脸识别打卡后台，支持1:1人脸核验、1:N批量检索、人脸注册、打卡记录管理，支持SQLite/MySQL双数据库

   HTML 4 1

4. llm-from-scratch-study-notes llm-from-scratch-study-notes Public

   《Build a Large Language Model From Scratch》个人学习复现仓库。 为全部代码增加中文深度注释，逐行拆解原理。 为原书新增：Word2Vec前置+Transformer基础、GPT-2 KV Cache改造。 完善从基础到进阶的完整 LLM 学习路径。

   Jupyter Notebook