马尔可夫毯

在可信的贝叶斯网络中,一个节点A的马尔可夫毯是指与A相关的一个节点集合,该集合包含A的父节点,子节点,以及子节点的父节点。在马尔可夫随机场中,马尔可夫毯则简单的表示为与节点A相邻的节点。在机器学习中,马尔可夫毯一般指上述的第一种情况。

简介

在可信的贝叶斯网络中,一个节点A的马尔可夫毯是指与A相关的一个节点集合,该集合包含A的父节点,子节点,以及子节点的父节点。

在马尔可夫随机场中,马尔可夫毯则简单的表示为与节点A相邻的节点。

在机器学习中,马尔可夫毯一般指上述的第一种情况。

描述来源

[1] Pearl, J. (2014). Probabilistic reasoning in intelligent systems: networks of plausible inference. Morgan Kaufmann.

[2] 维基百科

描述来源URL

[1] https://en.wikipedia.org/wiki/Markov_blanket

[2] https://books.google.co.jp/books?hl=en&lr=&id=mn2jBQAAQBAJ&oi=fnd&pg=PP1&dq=Probabilistic+Reasoning+in+Intelligent+Systems:+Networks+of+Plausible+Inference&ots=4rBV5A3O5-&sig=4qJAQQuIwIQ_4EqJAVBec4PlwYM#v=onepage&q=Probabilistic%20Reasoning%20in%20Intelligent%20Systems%3A%20Networks%20of%20Plausible%20Inference&f=false

如右图中紫色圆圈所示(来自维基百科

https://en.wikipedia.org/wiki/Markov_blanket)

发展历史

描述

1988年,Judea Pearl在其著作Probabilistic reasoning in intelligent systems: networks of plausible inference中提出了马尔可夫毯的概念。此后,众多学者提出了一些可以快速搜索提取目标单位马尔可夫毯的算法。在特征选取和优化方面,马尔可夫毯一直有着广泛的应用。

主要事件

年份事件相关论文/Reference
1988Judea Pearl提出马尔可夫毯的概念Pearl, J. (2014). *Probabilistic reasoning in intelligent systems: networks of plausible inference*. Morgan Kaufmann.
1996一些基于马尔可夫毯的特征选取方法被提出Koller, D., & Sahami, M. (1996). Toward optimal feature selection. Stanford InfoLab.
2003Aliferis, C. F., Tsamardinos, I., & Statnikov, A. (2003). HITON: a novel Markov Blanket algorithm for optimal variable selection. In AMIA Annual Symposium Proceedings (Vol. 2003, p. 21). American Medical Informatics Association.
2004Yu, L., & Liu, H. (2004). Efficient feature selection via analysis of relevance and redundancy. Journal of machine learning research, 5(Oct), 1205-1224.
2008Fu, S., & Desmarais, M. C. (2008, May). Fast Markov blanket discovery algorithm via local learning within single pass. In Conference of the Canadian Society for Computational Studies of Intelligence (pp. 96-107). Springer, Berlin, Heidelberg.
2015Javed, K., Maruf, S., & Babri, H. A. (2015). A two-stage Markov blanket based feature selection algorithm for text classification. Neurocomputing, 157, 91-104.

发展分析

瓶颈

从大规模数据中高效提取目标单位的马尔可夫毯仍然是一个研究方向。

未来发展方向

在最优化目标选取,变量分类等等问题中,高速准确的马尔可夫毯算法将继续发挥优势。

Contributor: Yuanchao Li

简介