详细推导：https://zhuanlan.zhihu.com/p/153535799 对于LogSumExp(p1, p2)，输入p1和p2一般为log假设相应的原始概率是概率p1'和p2'，那么有： p 1 = log p 1 ′ p 2 = log p 2 ′ p_1=\log p_1' \\ p_2=\log p_2' p1=logp1′p2=logp2′ 我们必须计算两个原始概率的和p1' p2'，但一般来说，我们输入log域的概率，LogSumExp函数的功能是给定log概率，计算原始概率log。 log ( p 1 ′ p 2 ′ ) = log ( e p 1 e p 2 ) = log e p 1 ( e 0 e p 2 ? p 1 ) = p 1 log ( 1 e p 2 ? p 1 ) = LogSumExp ( p 1 , p 2 ) \begin{aligned} \log (p_1' p_2')&=\log(e^{p_1} e^{p_2}) \\ &=\log e{p_1}(e^0+e^{p_2-p_1})\\ &=p_1+\log(1+e^{p_2-p_1}) \\ &=\text{LogSumExp}(p_1, p_2) \end{aligned} log(p1′+p2′)=log(ep1+ep2)=logep1(e0+ep2−p1)=p1+log(1+ep2−p1)=LogSumExp(p1,p2)