博客

基于python实现KNN分类算法

  • Post category:Python

基于Python实现KNN分类算法

KNN（K-Nearest Neighbors）算法是一种常用的分类算法，它可以用于多分类和回归问题。在Python中，可以使用scikit-learn库实现KNN分类算法。本文将详细讲解Python实现KNN分类算法的整个攻略，包括算法原理、Python实现过程和示例。

算法原理

KNN算法的基本思想是根据样本的特征值，预测样本的类别。具体实现过程如下：

  1. 初始化一个KNN分类器。
  2. 使用训练数据训练分类器。
  3. 测试数据测试分类器的准确率。

Python实现过程

在Python中，可以使用scikit-learn库实现KNN分类算法。以下是使用scikit-learn库实现KNN分类算法的示例代码：

from sklearn.neighbors import KNeighborsClassifier
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score
import pandas as pd

# 读取数据
data = pd.read_csv('data.csv')

# 分离特征和标签
X = data.iloc[:, :-1]
y = data.iloc[:, -1]

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=0)

# 初始化KNN分类器
classifier = KNeighborsClassifier(n_neighbors=5)

# 训练分类器
classifier.fit(X_train, y_train)

# 预测测试集
y_pred = classifier.predict(X_test)

# 计算准确率
accuracy = accuracy_score(y_test, y_pred)
print('Accuracy:', accuracy)

上述代码中，首先使用pandas库读取数据，然后分离特征和标签。接着，使用train_test_split()函数将数据划分为训练集和测试集。然后，初始化一个KNN分类器，并使用fit()函数训练分类器。最后，使用predict()函数预测测试集，并使用accuracy_score()函数计算准确率。

示例1：使用鸢尾花数据集进行分类

假设有一个鸢尾花数据集，需要使用KNN分类算法对其进行分类。可以使用以下代码实现：

from sklearn.datasets import load_iris

# 加载数据集
iris = load_iris()

# 分离特征和标签
X = iris.data
y = iris.target

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=0)

# 初始化KNN分类器
classifier = KNeighborsClassifier(n_neighbors=5)

# 训练分类器
classifier.fit(X_train, y_train)

# 预测测试集
y_pred = classifier.predict(X_test)

# 计算准确率
accuracy = accuracy_score(y_test, y_pred)
print('Accuracy:', accuracy)

执行上述代码后，可以得到以下输出结果：

Accuracy: 0.9666666666666667

上述输出结果表示使用KNN分类算法对鸢尾花数据集进行分类，准确率为0.9667。

示例2：使用乳腺癌数据集进行分类

假设有一个乳癌数据集，需要使用KNN算法对其进行。可以使用以下代码实现：

from sklearn.datasets import load_breast_cancer

# 加载数据集
cancer = load_breast_cancer()

# 分离特征和标签
X = cancer.data
y = cancer.target

# 划分训练集和集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=0)

# 初始化KNN分类器
classifier = KNeighborsClassifier(n_neighbors=5)

# 训练分类器
classifier.fit(X_train, y_train)

# 预测测试集
y_pred = classifier.predict(X_test)

# 计算准确率
accuracy = accuracy_score(y_test, y_pred)
print('Accuracy:', accuracy)

执行上述代码后，可以得以下输出结果：

Accuracy: 0.9473684210526315

上述输出结果表示使用KNN分类算法对乳腺癌数据集进行分类，准确率为0.9474。

总结

本文详细讲解Python实现KNN分类算法整个攻略，包算法原理、Python实现过程和示例。KNN分类算法是一种常用的分类算法，它可以用于多分类和回归问题。在Python中，可以使用scikit-learn库实现KNN分类算法，体实现过程如上述所示。通过示例我们看到KNN分类算法在实际应用中的灵活性和实用性。

Tags: ,