隠れマルコフモデルは、マルコフモデルに隠れ変数を加えたモデルです。数式に関する説明が多くなるので補足記事としました。
まずは、マルコフモデル及びマルコフ性という考え方について説明します。
マルコフ性とは
数式を見やすく追加するには時間が掛かるのでとりあえず予定として載せておく、、、
隠れマルコフモデル
マルコフモデルに対して隠れ変数を追加するとどうなるのか、天気予報を一例として考えていきます。
有限離散シンボル(観測されるはずの結果の種類)を「晴れ、曇り、雨」として、直前の天気の状態からある時の天気を予測すると考えます。
このとき、マルコフ過程ではあるシンボル列が出現した場合、それに対応する状態遷移は一意に定まります。一方、隠れマルコフモデルでは各状態において出力される状態遷移が一意に定まりません。
下の式はマルコフ過程における遷移確率 aij 、初期確率πi です。この式は隠れマルコフモデルでも適用されています。
そして、新たに出力確立を定義します。
これは、状態 i のとき、シンボル vk が出力される確率です(それらの確率の総和は1となる)。
このように、マルコフ過程にシンボルを出力する確率という新たな変数を導入したことで、状態遷移が1つに定まることがないということがわかります。(状態列が陽には観測不能であることから、隠れマルコフモデルの名前となったとか。)
今後の記事で隠れマルコフモデルについて書くときは基本的に、 遷移確率の集合をA、出力確率の集合をB、初期確率の集合Πを以下のように定義して進めます。
[参考書籍] - 機械学習プロフェッショナルシリーズ「音声認識」, 篠田浩一, 講談社 - IT Text 音声認識システム(改定2版) , 川原達也, オーム社
[参考サイト] - 音声処理で参考になったサイトまとめ