KNN算法是一种基于最近邻原理的分类与回归算法，通过计算待分类样本与训练样本的距离，并选择最近的k个样本进行投票或求平均值来进行分类或回归预测。