學(xué)習(xí)概率與數(shù)理統(tǒng)計(jì)總結(jié)
1. 概率與數(shù)理統(tǒng)計(jì)
包括概率論和數(shù)理統(tǒng)計(jì)
概率論的基本問(wèn)題是：已知總體分布的信息，需要推斷出局部的信息；
數(shù)理統(tǒng)計(jì)的基本問(wèn)題是：已知樣本（局部）信息，需要推斷出總體分布的信息。
(1) 參數(shù)估計(jì)：
a) 點(diǎn)估計(jì)，估計(jì)量檢驗(yàn)，矩估計(jì)
b) 無(wú)偏估計(jì)；有偏估計(jì)：嶺估計(jì)
(2) 假設(shè)檢驗(yàn)
預(yù)先知道服從分布，
非參數(shù)假設(shè)檢驗(yàn)
(3) 統(tǒng)計(jì)分析（包括多元統(tǒng)計(jì)分析）
n 方差分析
n 偏度分析
n 協(xié)方差分析
n 相關(guān)分析
n 主成分分析
n 聚類分析
n 回歸分析，檢驗(yàn)統(tǒng)計(jì)量
(4) 抽樣理論
(5) 偏最小二乘回歸分析
(6) 線性與非線性統(tǒng)計(jì)
2. 隨機(jī)過(guò)程
定義：
3. 統(tǒng)計(jì)信號(hào)處理
假設(shè)檢驗(yàn)和參數(shù)估計(jì)屬于統(tǒng)計(jì)推斷的兩種形式。
3.1 信號(hào)檢測(cè)
3.2 估計(jì)理論
估計(jì)理論是統(tǒng)計(jì)的內(nèi)容；
估計(jì)理論包括靜態(tài)參數(shù)估計(jì)和動(dòng)態(tài)參數(shù)估計(jì)，動(dòng)態(tài)參數(shù)估計(jì)也稱狀態(tài)估計(jì)或波形估計(jì)（信號(hào)有連續(xù)和離散之分）。似乎有的人將靜態(tài)參數(shù)估計(jì)稱作參數(shù)估計(jì)，將動(dòng)態(tài)參數(shù)估計(jì)稱作濾波！
靜態(tài)估計(jì)：
n 貝葉斯估計(jì)
濾波是估計(jì)理論的研究?jī)?nèi)容。濾波可以分為空域、時(shí)域和頻域的，數(shù)字圖像處理常用的就是空域和頻域的濾波如卷積運(yùn)算，而無(wú)線信號(hào)處理則多為時(shí)域和頻域，如維納濾波。
解決最優(yōu)濾波問(wèn)題有三種方法論：包括維納濾波、卡爾曼濾波、現(xiàn)代時(shí)間序列分析。
無(wú)線定位信號(hào)處理包括兩部分內(nèi)容，首先是消除奇異值，是消除錯(cuò)誤的過(guò)程；其次是濾波，消除或減少信號(hào)在信道中傳播的隨機(jī)噪聲影響。
3.3 時(shí)間序列分析
時(shí)間序列包括估計(jì)理論包含濾波，總之估計(jì)理論和時(shí)間序列分析都屬于統(tǒng)計(jì)的范疇。
注意滑動(dòng)平均這類濾波方法，在時(shí)間序列分析中經(jīng)常被使用！
4. 變換理論
4.1 傅里葉變換
五種信號(hào)分類
分類名稱
對(duì)應(yīng)變換
英文命名
對(duì)應(yīng)算法
應(yīng)用
連續(xù)周期信號(hào)
連續(xù)傅里葉級(jí)數(shù)變換
csft
連續(xù)信號(hào)
連續(xù)傅里葉變換
cft
離散周期信號(hào)
離散傅里葉級(jí)數(shù)變換
dfs
離散信號(hào)
序列傅里葉變換
sft
離散有限序列信號(hào)
離散傅里葉變換
dft
fft
圖像處理
信號(hào)處理
4.2 小波變換
小波分析是在傅里葉分析的基礎(chǔ)上發(fā)展起來(lái)的，小波變換和fourier變換、加窗fourier變換相比，是一個(gè)自適應(yīng)的時(shí)間和頻率的局部變換，具有良好的時(shí)_頻定位特性和多分辨能力。它能有效地從信號(hào)中提取信息，通過(guò)伸縮核平移等運(yùn)算對(duì)信號(hào)進(jìn)行多尺度細(xì)化分析，被譽(yù)為“數(shù)學(xué)顯微鏡”。
小波的時(shí)頻窗在低頻自動(dòng)變寬，在高頻時(shí)自動(dòng)變窄。
5. 理論基礎(chǔ)
5.1 貝葉斯方法
貝葉斯體系的基本思路：依據(jù)過(guò)程概率分布的先驗(yàn)知識(shí)，將包含在信號(hào)中的事實(shí)進(jìn)行組合。粗略來(lái)講，在統(tǒng)計(jì)推斷中使用先驗(yàn)分布的方法進(jìn)行統(tǒng)計(jì)基本上都是貝葉斯統(tǒng)計(jì)。
貝葉斯估計(jì)：最大后驗(yàn)估計(jì)、最大似然估計(jì)、最小均方估計(jì)、最小平均絕對(duì)誤差估計(jì)
貝葉斯推斷：是根據(jù)帶隨機(jī)性的觀測(cè)數(shù)據(jù)（樣本）以及問(wèn)題的條件和假定（模型），對(duì)未知事物做出的，以概率形式表達(dá)的推測(cè)。