- Feature scaling
當(dāng)我們所面臨多維特點(diǎn)問題的時候,我們需要保證多維數(shù)特點(diǎn)都具有相近的尺度,這將有益于梯度降落算法更快地收斂。
以房價預(yù)測問題為例,假定我們使用的兩種特點(diǎn),即房屋尺寸和房間數(shù)量,尺寸值的取值范圍是0⑵000平方英尺,而房間數(shù)量的取值范圍是0⑸,這就會致使梯度降落算法需要非常屢次的迭代才能收斂:
為此,我們需要對多維特點(diǎn)進(jìn)行放縮,以實(shí)現(xiàn)所有特點(diǎn)的尺度都盡可能在⑴~1之前。因此,我們的解決方法是令:
其中,(訓(xùn)練樣本中某1種特點(diǎn)的平均值)是均值,
(訓(xùn)練樣本中某1種特點(diǎn)的最大值與最小值的差)是標(biāo)準(zhǔn)差。