2010-11-22 16:38:34| 分類: 技術(shù)倉(cāng)庫(kù) | 標(biāo)簽: |字號(hào)大中小 訂閱
圖模型用圖結(jié)構(gòu)描述隨機(jī)變量之間的依賴關(guān)系,結(jié)點(diǎn)表示隨機(jī)變量,邊表示隨機(jī)變量之間的依賴關(guān)系,可以是有向圖和無(wú)向圖。
一 無(wú)向圖模型
無(wú)向圖模型又叫馬爾可夫網(wǎng)絡(luò)、馬爾可夫隨機(jī)場(chǎng),是關(guān)于一組有馬爾可夫性質(zhì)隨機(jī)變量X的全聯(lián)合概率分布模型。
1 無(wú)向圖模型的表示
給定包含n個(gè)隨機(jī)變量的問題域,則定義在問題域U上的無(wú)向圖模型包括拓?fù)浣Y(jié)構(gòu)和參數(shù)兩部分:
拓?fù)浣Y(jié)構(gòu)S:節(jié)點(diǎn)表示隨機(jī)變量,兩節(jié)點(diǎn)之間的連線表示它們之間具有直接的相互影響。
參數(shù)Θ:無(wú)向圖模型參數(shù)是對(duì)節(jié)點(diǎn)之間相互影響的定量描述。它是拓?fù)浣Y(jié)構(gòu)S中每個(gè)極大完全子圖所對(duì)應(yīng)的勢(shì)函數(shù)的集合。其中,極大完全子圖(clique)是指不包含于其它完全子圖的完全子圖(完全子圖中任何兩節(jié)點(diǎn)是直接相連的),勢(shì)函數(shù)則反映了極大完全子圖的每種可能狀態(tài)的能量。
2 無(wú)向圖模型的聯(lián)合概率分解
利用無(wú)向圖模型可將圖的聯(lián)合概率分解為一系列因子式。給定無(wú)向圖模型拓?fù)浣Y(jié)構(gòu)S和參數(shù)Θ之后,問題域U上的聯(lián)合概率密度函數(shù)可寫為:
其中N為無(wú)向圖中極大完全子圖的數(shù)目。
3 例子:
二 有向圖模型
1 一個(gè)簡(jiǎn)單的例子
2 一般情況
考慮任意聯(lián)合分布 ,通過連續(xù)使用乘法規(guī)則
利用局部馬爾可夫性簡(jiǎn)化簡(jiǎn)化:在給定其所有父親節(jié)點(diǎn)的情況下,隨機(jī)變量X與其非后繼條件獨(dú)立。
其中pai是Xi的父節(jié)點(diǎn)集合。
三 有向圖模型與無(wú)向圖模型的對(duì)比:
1 共同之處
將復(fù)雜的聯(lián)合分布分解為多個(gè)因子的乘積
2 不同之處
有向圖模型因子是概率分布、無(wú)需全局歸一
無(wú)向圖模型因子是勢(shì)函數(shù),需要全局歸一
3 優(yōu)缺點(diǎn)
無(wú)向圖模型中勢(shì)函數(shù)設(shè)計(jì)不受概率分布約束,
設(shè)計(jì)靈活,但全局歸一代價(jià)高
有向圖模型無(wú)需全局歸一、訓(xùn)練相對(duì)高效
聯(lián)系客服