📁 Probability & Statistics · 概率统计

概率论与统计推断 · 机器学习的不确定性语言 · 从随机变量到贝叶斯估计

机器学习的本质是在不确定性下做决策，而描述不确定性的语言就是概率论。这个版块整理概率与统计推断的核心工具——它们是后面一切建模的地基：分类器在算后验概率，密度估计在拟合分布，连损失函数背后往往都是一个极大似然。

一条主线串起来：随机变量 → 概率分布 → 参数估计 → 贝叶斯推断。前半段（描述世界的随机性）属于概率论，后半段（从数据反推规律）属于统计推断。

TODO

  • 随机变量与常见分布（高斯 / 伯努利 / 多项 / 指数族）
  • 期望、方差、协方差与相关性
  • 贝叶斯定理：先验 / 似然 / 后验
  • 极大似然估计 MLE 与最大后验 MAP
  • 贝叶斯估计与共轭先验
  • 信息论基础：熵 / 交叉熵 / KL 散度

No content yet. Stay tuned!

评论