This is the repository for "千问LLM"

欢迎大家关注！并且提需要分享的内容，我这边准备。

不更新到千问 绝不罢休！

千问LLM之一：Batch输入训练或者推理为何需要padding？

千问LLM之二：LLM tokenizer 是怎么做的？

千问LLM之三：LLM Embedding是怎么做的？

千问LLM之四：LLM Transformer 架构：Encoder

千问LLM之五：LLM Transformer 架构：Decoder

千问LLM之六：LLM 生成式 GPT

千问LLM之七：LLM 之 BERT

千问LLM之八：LLM 之 AutoRegressive and MLM

千问LLM之九：LLM 之 幻觉 hallucination

千问LLM之十：Transformer 解决了RNN的哪些问题？

千问LLM之十一：LLM之什么是 Diffusion Model 扩散模型？

千问LLM之十二：什么是梯度爆炸？

千问LLM之十三：Sequence 2 Sequence 模型和Transformer模型有什么根本差别？

千问LLM之十四：什么是LoRA

千问LLM之十五：什么是QLoRA？

千问LLM之十六：开源模型文件里面通常包含哪些内容？可以逆向推出模型的训练脚本吗？

千问LLM之十七：什么是 word2vector ?

千问LLM之十八：何谓损失函数？如何设计损失函数？LLM 损失函数长啥样？

千问LLM之十九：为啥GPT-4 Tokenize 中文的某些词语为 UNK 但是它的中文输出却感觉挺好的？

千问LLM之二十：什么是CNN卷积模型？

千问LLM之二十一：什么是MultiModal多模态模型？

千问LLM之二十二：到底谁才是LLM训练的真正幕后英雄？

千问LLM之二十三：自动微分：让梯度跳起优雅的广场舞

千问LLM之二十四：什么是UNET？

千问LLM之二十五：你猜AI界的“破案”扛把子会是谁？

千千问LLM之二十六：“破案”扛把子是如何训练出来的？从所犯的错误中学习。

千问LLM之二十七：三大AI助手的“奇葩说”：ChatGPT、KiMi和Claude的对决

千问LLM之二十八：什么是Batch Normalization？什么又是Layer Normalization？

千问LLM之二十九：什么是Pre-LayerNorm 和 Post-LayerNorm ？

千问LLM之三十：什么是Postion Encoding?

千问LLM之三十一：LLM的解码都有哪些方式?

千问LLM之三十二：AI界的“节食”计划

千问LLM之三十三：什么是 Sharding? 之数据并行（Data Parallelism）

千问LLM之三十四：什么是 Sharding? 之模型并行（Model Parallelism）

千问LLM之三十五：什么是 Sharding? 之ZeRO 优化（Zero Redundancy Optimizer）

千问LLM之三十六：LLM的特工行动：工具召唤功能实战案例？Agent 到底是什么？

千问LLM之三十八：在家也能养“大脑”：本地运行大型语言模型的奇妙之旅

千问LLM之三十九：Resnet是如何计算梯度的

千问LLM之四十：探索CLIP如何让机器理解图像和文字的奥秘

千问LLM之四十一：MoE 来自东方的神秘力量在国外被吵翻了

千问LLM之四十二：反卷积层：卷积神经网络的“时光倒流”魔法

千问LLM之四十三：Vision Transformer-让AI理解图片

千问LLM之四十四：Visual Question Answering (VQA，看图说话)

千问LLM之四十五：Quantization in LLM(关于LLM 量化你必须知道的事)

千问LLM之四十六：每个人都是导演-Text to Video 文生视频

千问LLM之四十七：CNN中的权重共享是什么意思？

千问LLM之四十八：什么是Adaptive Moment Estimation (Adam) 算法？你真的懂了吗？

千问LLM之四十九：驯服“过拟合”巨兽：L2正则化，给模型加个紧箍咒

千问LLM之五十：揭秘自动驾驶背后的“空间想象力”之一

千问LLM之五十一：揭秘自动驾驶背后的“空间想象力”之二

千问LLM之五十二：揭秘自动驾驶背后的“空间想象力”之三，把大模型都给整沮丧了

千问LLM之五十三：揭秘 DeepSeek R1 背后的蒸馏 Distillation 技术，CloseAI 这次真急了。