标签：深度学习
3 篇文章 · 查看全部标签
从零实现 Qwen3：拆解 mini-qwen3 的 0.6B Dense 架构
以 mini-qwen3 仓库的代码为线索，逐模块讲解 Qwen3-0.6B：从配置文件、RMSNorm、RoPE、SwiGLU、GQA 与 KV Cache，到加载官方权重、对话生成，以及为 MoE 预留的路由实现。
一小时学会 PyTorch：从张量到在多张 GPU 上训练神经网络
Sebastian Raschka《PyTorch in One Hour》完整中文翻译：从 PyTorch 概览、张量与自动微分，到数据加载器、训练循环，以及单卡和多卡（DDP）分布式训练。