HMM（隐马尔可夫模型）

原文：

https://www.cnblogs.com/skyme/p/4651331.html

https://blog.csdn.net/SummerHmh/article/details/93165974

笔记：

一、熵(Entropy)

熵是用它来表示物质系统状态的一种测量无序程度。熵越大，系统就越无序，这意味着系统结构和运动的不确定性和不规则性；相反，熵越小，系统就越有序，这意味着一个确定和规则的运动状态。熵的中文意思是热量被温度去除的商人。负熵是物质系统有序、组织和复杂状态的衡量因素。

二、最大熵模型

熵不是指热力学上熵的概念，而是由信息论男神克劳德·艾尔伍德·香农（Claude Elwood Shannon）1948年提出的信息熵用来描述信息的不确定性。

信息熵公式：

最大熵原理是选择最符合客观情况的随机变量统计特征的标准，也称为最大信息原理。随机量的概率分布难以测量。一般来说，它只能测量各种平均值（如数学期望、方差等）或在某些限制条件下已知的值（如峰值、值数等）。符合这些值的分布可以是多种甚至无限的。通常，其中一种分布的熵最大。作为随机变量作为随机变量分布是一种有效的处理方法和标准。虽然这种方法有一定的主观性，但可以认为是最客观的选择。

参考:图解最大熵原理:https://blog.csdn.net/yangziluomu/article/details/81986271

匈牙利著名数学家、香农奖得主希萨（Csiszar）这证明了任何一组不矛盾的信息最大熵模型不仅存在，而且是唯一的。而且它们都有同一个非常简单的形式 -- 指数函数。

三、HMM（隐马尔可夫模型）

隐马尔可夫模型（Hidden Markov Model，HMM）它是一种用来描述含有隐含未知参数的马尔可夫过程的统计模型。难点是从可观察参数中确定过程的隐含参数。然后使用这些参数进行进一步的分析，如模式识别。

它是一种统计马尔可夫模型，在被建模的系统中被认为是马尔可夫过程和未观察到的（隐藏的）状态。

在隐马尔可夫模型中，我们不仅有一系列可见的状态链，还有一系列隐藏的状态链。一般来说，HMM中说到的马尔可夫链实际上是指隐含状态链，因为隐含状态（骰子）之间存在转换概率（transition probability）。

其实对于HMM模拟所有隐含状态之间的转换概率和所有隐含状态到所有可见状态之间的输出概率相当容易。但是应用HMM模型时，部分信息往往缺失。，有时你知道骰子有多少种，每种骰子是什么，但你不知道掷骰子的顺序；有时你只是看到了很多掷骰子的结果，其余的你什么都不知道。使用算法来估计这些缺失的信息已经成为一个非常重要的问题。

和HMM模型相关算法主要分为三类：

1)知道骰子有多少种(隐含状态的数量)，每个骰子是什么(转换概率)。根据掷骰子的结果(可见状态链)，我想知道每次掷骰子是什么样的骰子(隐含状态链)。

a.穷举法

b.Viterbi algorithm维特比算法

2)我还是知道骰子有多少种(隐含状态数量)，每个骰子是什么(转换概率)。根据掷骰子的结果(可见状态链)，我想知道掷骰子的概率。

a.穷举法

b.前向算法（forward algorithm）

3)知道骰子有多少种(隐含状态的数量)，不知道每个骰子是什么(转换概率)，观察到多次掷骰子的结果(可见状态链)。我想推断出每个骰子是什么(转换概率)。(最常见的情况)

通常使用维特比算法Viterbi algorithm解决方案。维特比算法是求解HMM上最短路径（-log(prob)，也就是最大概率)算法。

———————————————————————————————————————————

HMM(隐马尔可夫模型)是用来描述隐含未知参数的统计模型。举个经典的例子:东京的一个朋友每天根据天气决定活动{公园散步、购物、打扫房间}，我每天只能在twitter看到她发的推啊，前天在公园散步，昨天购物，今天打扫房间！然后我可以根据她的推特推断东京这三天的天气。然后我可以根据她的推特推断东京这三天的天气。在这个例子中，显示状态是活动，隐藏状态是天气。

任何一个HMM以下五元组可以描述：

:param obs:观测序列 :param states:隐状态 :param start_p:初始概率(隐状态) :param trans_p:转移概率(隐状态) :param emit_p: 发射概率 (隐状态表现为显状态的概率)

隐马尔可夫模型在交通方向上的应用

隐马尔可夫模型（Hidden Markov Model，HMM）最早用于语音的模式识别，国外研究学者对于 HMM 在交通方向上也有一些成熟的应用。

Jun Z 以交通事故多发地点的道路交叉口为研究对象，交叉口车辆运行复杂，交通冲突的检测和识别将非常困难。测量道路交叉口交通冲突的车辆运动数据，运用 HMM 识别和分类车间的交通冲突，验证分类效果好，可预测交叉口危险状态和碰撞等交通事故。

Saunier N 和Sayed T 研究目的是利用视频传感器独立分析道路安全，缓解车辆碰撞的负面影响，通过检测到的交通冲突，提出了隐马尔可夫模型冲突轨迹模型的识别和调整。

Li K 结合 HMM贝叶斯滤波(BF)识别司机变道意图的技术。HMM 输出是对驾驶行为的初步分类，至于 BF 是对 HMM 输出行为的最终分类过程。

Al Machot F 将隐马尔可夫模型应用于交叉口交通网络 OD 预测交通流量，OD 矩阵对规划和操作任务非常有用，模型用两个不同十字路口的情境数据进行评估。

Meng X 基于动态驾驶行为，等人提出了智能车辆防盗系统，使用隐马尔可夫模型学习个人驾驶行为。

国内 HMM 在交通领域的应用相对成熟识别驾驶意图。

宗长富等人构建了双层隐马尔可夫模型，包括下层操作层 HMM 上层意图层 HMM，其中下层 HMM 操作层包括制动和加速、转向和速度在单一和复合条件下获得驾驶员的驾驶意图。

许晓明使用 SMI-HED 头盔眼动仪收集驾驶员的眼部信息，用摄像机收集驾驶员的面部信息，建立隐马尔可夫模型，反映驾驶员精神状态变化的时间序列过程描述驾驶员在道路上疲劳驾驶评估模型。

曹凯等人为了解决交通场景，了解中车车辆的机动行为识别问题，基于多隐马尔可夫模型的建议(M-HMM)多目标时空依赖关系模式，有利于未来车辆自动驾驶。

吴志周等人公交驾驶保险行为结合研究对象 10 从公交驾驶、启动、停车稳定性和疲劳驾驶四种危险行为中提取七个特征因素，建立了隐马尔可夫统计模型。

赵志国总结了隐藏 Markov 模型本身独特的模型识别特征在智能交通领域的应用和前景展望 HMM驾驶员驾驶意图、汽车碰撞预测、交通流相关智能检测/label>等方面得到了良好的应用。

吕岸等人采用高斯混合 HMM 对高速公路的正常超车行为以及不正常超车行为进行识别。

杨江波建立了交通流 HMM来对短时交通流状态进行预测，短时间内交通流状态预测能够为道路使用者提供预测信息，从而提前制定出行计划。

喻丹研究驾驶人超车行为时，将超车行为拆解为车辆换道和车辆切入两部分的组合行为，建立了改进二维 HMM来识别超车行为，该模型不仅能够识别正常超车及非正常右侧超车行为，还能够实现超车行为的提前预警。  

———————————————————————————————————————————

       隐马尔可夫模型（Hidden Markov Model，HMM）是用单个离散随机变量描述过程状态的时序概率模型，它是结构最简单的动态贝叶斯网络（Dynamic Bayesian Network，DBN）。在绪论中已经介绍过，在进行驾驶员行为分析时动态贝叶斯网络被广泛应用，典型的贝叶斯网络结构如图  1.8 所示。每个离散变量的动态贝叶斯网络都可以表示成一个隐马尔可夫模型，如果有多个状态变量，则可以将所有状态变量合并成一个单一的状态变量，其取值为各单个状态变量取值组成的所有可能元组。隐马尔可夫模型这种简单明快的结构使得它在时序数据建模方面有着广泛的应用，例如语音识别、自然语言处理[88]等领域。 

在实际应用中，关于隐马尔可夫模型常关注三个基本问题：

1.  已知模型𝛌，若有观测序列𝑶 = 𝑶1𝑶2… 𝑶𝑇，如何衡量观测序列与模型之间的匹配程度，即计算概率𝑝(𝑶|𝝀)？  

2.  已知模型λ和观测序列𝑶 = 𝑶1𝑶2… 𝑶𝑇，如何推测系统可能的隐藏状态序列𝑸 =𝑞1𝑞2… 𝑞𝑇？

3.  已知观测序列𝑶 = 𝑶𝟏𝑶𝟐… 𝑶𝑻和模型结构，如果估计出使得该序列出现概率最大的模型参数？ 

主要参考：

[1]罗沂. 基于GPS数据的高速公路驾驶行为识别[D]. 哈尔滨工业大学.

[2]吉文超. 基于驾驶行为分析的城市道路车辆换道模型研究[D]. 哈尔滨工业大学.

[3]卢锡凤. 基于隐马尔可夫模型的城市道路路段不良驾驶行为鉴别[D]. 哈尔滨工业大学.

[4]李建平. 面向智能驾驶的交通车辆运动预测方法研究[D]. 吉林大学.