「初探機器學習使用Python」まとめ#4 第三章　K-最近鄰法

「初探機器學習使用Python」（↓の中国語版）

前回↓

#4からは機械学習の各論。#4は第三章について扱う。

本章では住宅の価格推定を例に話が進む。

例：Zestimate......Zillowの個々の住宅についての推定価格。

例えば，住宅価格は以下の関数で表される。

住宅価格 $= f($ 広さ，階数，部屋数，... $)$

簡単な具体例として，価格を「広さ」と「階数」から2グループに分ける問題を考える。

f:id:ryosuke_okubo:20190406201106p:plain

特徵迴歸採用與一般迴歸不同的做法克服這個問題。並非專注在將某條曲線配適給一群屬性，而是著重在房屋的構成要素。（p23）

単語

意訳

「hedonic regressionはこの問題を克服するために，一般回帰とは異なるアプローチを用いる。曲線を属性のグループに適応させることではなく、家の構成要素に焦点を当てる。」

房屋的價值通常由其鄰里所決定。（p23）

単語

意訳

「家の価値は、通常その隣人によって決定される。」

例えば，経済の中心地に近い方が遠いよりも価格が高い。

這就是效果相當不錯的K-最近鄰法（KNN）解決方案，其中採用兩種形式：迴歸（需要的價值所在）或分類。用KNN解決房屋價值問題，就是找出最接近的K個鄰居。（p24）

単語

意訳

「これは非常に優れたK最近傍法（KNN）であり，回帰（値が必要な場合）と分類の2つの形式がある。住宅価値問題の解決にKNNを使用するためには、最も近いK人の近隣を探す。」

f:id:ryosuke_okubo:20190406201125p:plain

省略。

上の意訳の「最も近い」の基準である，距離に関わる幾何学法則についてまとめる。

畢氏定理(Pythagorean theorem)：

直角三角形の斜辺をc，その他の辺をa，bとすると， $c = \sqrt{a^2+b^2}$
三角不等式(triangle inequality)：

$||x+y|| \le ||x|| + ||y||$
歐氏距離(Euclidean distance)：

$d(x,y) = \sqrt{\sum_{i=0}^n (x_i - y_i)^2}$
閔氏距離(Minkowski distance)：

$d_p(x,y) = (\sum_{i=0}^n |x_i - y_i|^p)^{\frac{1}{p}}$
餘弦相似度(cosine similarity)：

$d(x,y) = \frac{x \cdot y}{||x|| \ ||y||}$
曼哈頓距離(Manhattan Distance)，計程車距離(Taxi Distance)

$\sum_{i=0}^n |x_i - y_i|$
Levenshitein距離
馬氏距離(Mahalanobis distance)：

$d(x,y) = \sqrt{\sum_{i=1}^n \frac{(x_i - y_i)^2}{s_i^2}}$
Jaccard距離：

$J(x,y) = \frac{|x \cap y|}{|x \cup y|}$