数学期望方差，这俩东西在教科书里看着像刚写完的公式，但实际用起来，简直跟聊家常似的。别总想着去背诵那些 `E[X]` 和 `E[X²]` 的 derivation，那种感觉忒刻意了，就像是在问别人：“你为啥务必穿那件蓝色的雨衣？”他们根本不在乎你穿不穿，只在乎你走哪条路回宿舍。 实际上预测一个变量的平均状态，核心只有一个：算出它平均落在哪个值上。对于离散型随机变量，比如抛骰子，$E[X]$ 实际上就是把所有可能结局乘上出现的概率，然后加起来。$1, 2, 3, 4, 5, 6$ 这六个点，按频率 1/6 堆上去，算个平均数，盯着那个数字，心里就有底了。 再讲讲方差吧，这个玩意儿有时候让人头大，认定它要是涉及平方，数值估摸就爆炸了。但换个角度想，方差就是衡量“波”有多大的标尺。
要是方差是 0，那意味着啥？意味着一切都在一个点上，不，不，是最大值等于最小值。
举个例子，要是你明天要么下大雨要么不下雨，没别的选项，那这就是一个确定的结局。此时方差为 0，出于甭管明天出现啥，你猜的结局都一样，没戏。 要是方差挺大呢？这就好比明天要么下暴雨，要么干脆干meteorological 晴，并且这两种情况形成的概率差不多。
这时候你的预报就不准了，出于结局可能偏了，可能偏了两个极端。方差大，说明数据“散”，波动大；方差小，说明数据“凝”，聚拢在一两个点上。
这就解释了为啥统计学里常有人用标准差，出于方差是个正数，但有时候幅度不够直观。 实际上把方差定义为“各数值与期望之差的平方和的平均值”，这个定义别看严谨，但大多数人听到“平方和”就晕了。我们习惯用 $sigma^2$ 要么直接用标准差 $sigma$，出于对大多数人来说，数字大一点比平方后爆炸更吓人。
不过数学上，$E[X^2]$ 才是更底层的真理。任何关于方差的推导，本质上都是围绕这个“平方”的展开。 举个例子，假设你下周要出门。你打算买票，要是买 B 站票，概率 50%，价格 20 元；要是买 A 站票，概率 50%，价格 50 元。你的平均票价 $E[X]$ 就是 $(20+50)/2 = 35$ 元。
这看起来是个确定的数字，但实际上你心里清楚，最坏的情况是 50，最好情况是 20。
这时候，方差 $E[(X-35)^2]$ 就会计算这两个偏差的平方。 具体来说，要是买 B 站，偏差是 $20-35 = -15$，平方是 225；要是买 A 站，偏差是 $50-35 = 15$，平方也是 225。加起来除以 2，结局还是 225。
这时候方差为 225。
要是不确定，比如买 A 站概率是 80%，买 B 站概率是 20%，那计算 $E[(X-35)^2]$ 就会变成 $0.8 times 225 + 0.2 times 225$，结局还是 225。
为啥？出于当两个值的偏差绝对值相等时，概率的权重只会转变总和，不会转变方差。
这反了各位，实际上概率权重拍板了方差的大小！ 再换个极端点看。假设你明天要么坐飞机，要么坐火车，坐飞机的概率是 100%，价格 100 元；坐火车的概率是 100%，价格 50 元。你平均票价 $E[X]$ 依然是 75 元（$(100+50)/2$）。但要是你明天拍板不去，要么电视上播了个新闻，明天气温 30 度，你拍板不去旅游了。
这时候实际上不存有随机性，没有概率分布了。
要么说，要是明天确实有概率形成，比如“明天不下雨概率 90%"，“明天下雨概率 10%"，那方差就不同了。 这时候方差就体现了不确定性。方差越大，说明未来的结局可能越离谱。在投资领域，方差就是风险。股票价格一天涨 10 元，跌 10 元，方差小；股票价格一天涨 1000 元，跌 1000 元，方差大。别看期望收益可能都是正数，但方差大的股票，你亏多了的概率远大于小亏的概率。 实际上，$E[X^2]$ 这个量级往往比 $E[X]$ 大得多。
比如 $E[X]=10$，但 $E[X^2]=10000$，那方差就是 $10000 - 100 = 9900$。
这说明方差这个“波动”的量，实际上是以 $E[X^2]$ 为根基的。
要是 $E[X^2]$ 和 $E[X]$ 差不多，那方差就不大；要是 $E[X^2]$ 大得离谱，那方差自然大。 故此，别把方差想得忒复杂。它实际上就是你预测值与实际值的“距离”加上“距离”的“距离”的统计平均。
要是是离散的，就好办算几个数的平方和；要是是连续的，积分。但核心逻辑一直没变：方差就是用来告诉别人，别指望它每次都跑在你预测的那条直线上，它可能会飘得挺高，要么挺矮。 有时候你会认定方差是个难看的数字，出于它涉及平方，并且一般是非负的。但换个思路，它代表的是“极端事件”形成的可能性。方差大了，说明极端事件（大值或小值）的概率比较大。
故此，实际上方差最大的时候，意味着你的生活最不稳定，风险最高。
反之，方差最小，意味着你的生活最稳定，结局简直是不变形的。 最终聊聊方差在现实中的应用。在机器学习里，方差挺大意味着模型好办过拟合。你指望模型能完美记住训练数据里的每一个噪点，但实际上这些数据可能是噪声。
这时候方差大的模型，预测本事反而差，出于训练集方差大。
故此在做特征选择时，我们往往会去掉那些方差挺大、解释力又差的特征，出于那玩意儿对预测的贡献不够大。 总而言之，方差不是用来证明你懂理论的，是用来让你在事后复盘时，知道“哇，那个数据点离预期实际上挺远的”。数学期望告诉你它大约在哪，方差告诉你它敢不敢到处乱飞。
这两者结合起来，才能给你一个关于未来的整个图景。
