感知機 感知機對應(yīng)于輸入空間（特征空間）中，將實例劃分為正負(fù)兩類的分離超平面，屬于判別模型。 2.1 感知機模型 定義：假設(shè)輸入空間（特征空間）是 ,輸出空間是 ，輸入 表示實例的特征向量，對應(yīng)于輸入空間（特征空間）的點，輸出 表示實例的類別。由輸入空間...

1.1統(tǒng)計學(xué)習(xí) 統(tǒng)計學(xué)習(xí)的方法是基與數(shù)據(jù)構(gòu)建統(tǒng)計模型從而對數(shù)據(jù)進(jìn)行預(yù)測和分析，統(tǒng)計學(xué)習(xí)由監(jiān)督學(xué)習(xí)，非監(jiān)督學(xué)習(xí)，半監(jiān)督學(xué)習(xí)和強化學(xué)習(xí)等組成。統(tǒng)計學(xué)習(xí)方法的三要素：模型，策略，算法。 1.2 監(jiān)督學(xué)習(xí) 監(jiān)督學(xué)習(xí)：學(xué)習(xí)一個模型，是模型能夠?qū)τ谌我饨o定的輸入，對其相應(yīng)...

1.提升方法AdaBoost算法 AdaBoost的思想：是先得到一個弱分類器，然后在這個弱分類器的基礎(chǔ)上將其提升到強分類器，具體方法是提升上一個分類器中被誤分類的樣本的權(quán)重，使得本次訓(xùn)練的分類器更加重視這些樣本，最后的分類器是所有的分類器的線性組合。 Ad...

樸素貝葉斯法 樸素貝葉斯法是基與貝葉斯定理與特征條件獨立據(jù)假設(shè)的分類方法。對于給定的訓(xùn)練數(shù)據(jù)集，首先基于特征條件獨立假設(shè)學(xué)習(xí)輸入／輸出的聯(lián)合概率分布，然后基與此模型，對于給定的輸入x，利用貝葉斯定理求出后驗概率最大的輸出y. 樸素貝葉斯法的學(xué)習(xí)與分類 網(wǎng)上的一...

二維平面上，有很多很多點。 現(xiàn)在給一個quary點，要求從二維平面上找到距離quary點最新的點。何解？ 后端有后端的做法，機器學(xué)習(xí)有機器學(xué)習(xí)的做法。這個題看過小藍(lán)書的都會做，就是最近鄰分類器的簡單魔改。當(dāng)時忘得差不多了，現(xiàn)在把kd樹仿真了一下，坑...