本文へスキップ

k近傍法とは?

けーきんぼうほう

k近傍法(kNN)とは、新しいデータを既存データとの「距離」の近さを基に分類・回帰するシンプルな機械学習アルゴリズムです。

k近傍法(k-Nearest Neighbors、kNN)は、機械学習における教師あり学習アルゴリズムの一つで、新たなデータが入力されたとき、学習データの中から距離が近い上位k件(「k近傍」)を探し出し、その多数決や平均値によって予測を行う手法です。

モデルを事前に構築するのではなく、予測の都度データ全体との距離を計算する「怠惰学習(Lazy Learning)」に分類されます。このため訓練フェーズはほぼゼロですが、予測時の計算コストはデータ量に比例して増大します。

主なポイントは以下のとおりです。

  • 距離指標:ユークリッド距離が最もよく使われますが、マンハッタン距離・コサイン類似度なども目的に応じて選択します。
  • kの値:小さいほど個々のデータの影響を受けやすく過学習しやすく、大きいほど滑らかになりますが境界が曖昧になります。
  • 特徴量スケール:距離計算に基づくため、特徴量の正規化・標準化が精度に大きく影響します。

分類タスク(スパムメール判定・画像認識の初歩)から回帰タスク、さらには推薦システムにも応用されます。アルゴリズムが直感的で実装が容易な一方、高次元データでの精度低下(次元の呪い)と大規模データでの計算コストが課題です。

使い方・例文

花の品種分類データセットで、がく片・花びらのサイズを特徴量としてk=3に設定すると、新しい花のデータに最も近い3件の品種の多数決で品種を予測できます。

この用語をシェア

𝕏 でポスト LINE

最終更新:

関連用語