k近傍法とは?
けーきんぼうほう
k近傍法(kNN)とは、新しいデータを既存データとの「距離」の近さを基に分類・回帰するシンプルな機械学習アルゴリズムです。
k近傍法(k-Nearest Neighbors、kNN)は、機械学習における教師あり学習アルゴリズムの一つで、新たなデータが入力されたとき、学習データの中から距離が近い上位k件(「k近傍」)を探し出し、その多数決や平均値によって予測を行う手法です。
モデルを事前に構築するのではなく、予測の都度データ全体との距離を計算する「怠惰学習(Lazy Learning)」に分類されます。このため訓練フェーズはほぼゼロですが、予測時の計算コストはデータ量に比例して増大します。
主なポイントは以下のとおりです。
- 距離指標:ユークリッド距離が最もよく使われますが、マンハッタン距離・コサイン類似度なども目的に応じて選択します。
- kの値:小さいほど個々のデータの影響を受けやすく過学習しやすく、大きいほど滑らかになりますが境界が曖昧になります。
- 特徴量スケール:距離計算に基づくため、特徴量の正規化・標準化が精度に大きく影響します。
分類タスク(スパムメール判定・画像認識の初歩)から回帰タスク、さらには推薦システムにも応用されます。アルゴリズムが直感的で実装が容易な一方、高次元データでの精度低下(次元の呪い)と大規模データでの計算コストが課題です。
使い方・例文
花の品種分類データセットで、がく片・花びらのサイズを特徴量としてk=3に設定すると、新しい花のデータに最も近い3件の品種の多数決で品種を予測できます。
この用語をシェア
最終更新: