1入ML深似海啊…
這里主要是《神經(jīng)網(wǎng)絡(luò)與機(jī)器學(xué)習(xí)》（Neural Networks and Learning Machines，以下簡(jiǎn)稱《神機(jī)》）的筆記，和1些周志華的《機(jī)器學(xué)習(xí)》的內(nèi)容，可能夾雜有自己的吐槽，和自己用R語(yǔ)言隨意擼的實(shí)現(xiàn)。
話說這個(gè)《神經(jīng)網(wǎng)絡(luò)與機(jī)器學(xué)習(xí)》還真是奇書，不知是作者風(fēng)格還是翻譯問題，1眼望去看不到幾句人話（或許是水利狗看不懂），感覺我就是純買來自虐的。
作為開始固然是最古老的機(jī)器學(xué)習(xí)算法之1，神經(jīng)網(wǎng)絡(luò)的板磚感知機(jī)，對(duì)應(yīng)《神機(jī)》的第1章。

由于是Rosenblatt提出的模型所以就加上了他名字作為前綴。這是1個(gè)有監(jiān)督學(xué)習(xí)，也就是不但給出自變量還要給出結(jié)果值讓機(jī)器自個(gè)擬合的模型，而且是1個(gè)2分類模型。再說清楚1點(diǎn)，這玩意只能分線性可分的樣本，也就是對(duì)2維的數(shù)據(jù)，它只能弄1條直線把樣本分開，對(duì)3維的數(shù)據(jù)，只能弄個(gè)平面把樣本分開。
所以像竟然連異或運(yùn)算都不能弄之類的對(duì)它的吐槽歷來很多。

感知機(jī)概念

---

感知機(jī)由1個(gè)線性組合器（說白了就是把1系列輸入值加權(quán)求和）和1個(gè)硬限幅器（說白了就是拿前面的求和取符號(hào)）組成。具體模樣參考下圖（來自《神機(jī)》）：

我們將1組輸入值記為x1,x2,...,xm$x_1,x_2,...,x_m$，相應(yīng)的權(quán)值記為w1,w2,w3...wm$w_1,w_2,w_3...w_m$，另外還要有個(gè)偏置值b$b$（相當(dāng)于線性回歸里邊的截距）。把這些輸入到感知機(jī)里邊進(jìn)行加權(quán)求和：

$$v = \sum_{i=1}^m w_ix_i+b$$
加權(quán)和v$v$稱為引誘局部域。
然后對(duì)這個(gè)v$v$取符號(hào)，也就是大于0取1，小于0取⑴，就這樣決定這組輸入值歸為哪類：
$$y=sign(v)$$
$$y=\left\{\begin{array}{ll}+1：&把\textbf{x} 歸為類C_1\\⑴：& 把\textbf{x} 歸為類C_2. \end{array}\right.$$
可以用逼格更高的矩陣情勢(shì)簡(jiǎn)潔表示：
$$y = sign(\textbf{w}^T\textbf{x} + b)$$
x$\textbf{x}$和w$\textbf{w}$就是把w1,w2,w3...wm$w_1,w_2,w_3...w_m$和x1,x2,...,xm$x_1,x_2,...,x_m$寫成1列陣，然后把前者轉(zhuǎn)置為橫陣再兩矩陣相乘，也就是二者對(duì)應(yīng)的每項(xiàng)相乘再求和。
那末每組輸入值x$\textbf{x}$就各是1個(gè)樣本。

又或從幾何角度理解：在m維空間上有這么1個(gè)超平面wTx+b=0$\textbf{w}^T\textbf{x} + b=0$，x=[x1,x2,...,xm]T$\textbf{x}=[x_1,x_2,...,x_m]^T$是這個(gè)空間上的1個(gè)點(diǎn)，這個(gè)點(diǎn)在超平面的1邊歸為1類，若在另外一邊歸為另外一類。

所以說樣本必須線性可分的才可以被它分類。

感知機(jī)收斂定理

---

然后這玩意的學(xué)習(xí)方式是不斷的誤差修正，稱為誤差修正學(xué)習(xí)原則。
當(dāng)1個(gè)樣本被正確分類的時(shí)候就沒啥事，要是被毛病分類了就根據(jù)樣本的各個(gè)份量調(diào)劑權(quán)值，就這樣把整套樣本丟進(jìn)去跑幾趟直到誤差收斂為止。
現(xiàn)在干脆把偏置b$b$弄進(jìn)樣本x$\textbf{x}$里去，定義第n個(gè)輸入樣本：

$$\textbf{x}(n)=[+1, x_1(n),x_2(n),...,x_m(n)]^T$$
然后根據(jù)迭代步數(shù)n把權(quán)值向量這樣定義：
$$\textbf{w}(n)=[w_0(n), w_1(n),w_2(n),...,w_m(n)]^T$$
其中w0(n)$w_0(n)$即對(duì)應(yīng)偏置

生活不易，碼農(nóng)辛苦
如果您覺得本網(wǎng)站對(duì)您的學(xué)習(xí)有所幫助,可以手機(jī)掃描二維碼進(jìn)行捐贈(zèng)