分类属于监督学习的一种，指的是从数据中选出已经分类好的训练集，在该训练集上运用数据挖掘分类的技术，建立分类模型，对于没有分类的数据进行分类的分析方法。比如判断一副图片上的动物是狗还是猫，就属于分类问题，其结果通常为离散值。

分类算法中，比较简单也比较常见的是KNN算法，即最邻近分类算法，其核心思想为：在空间距离中，如果一个样本的最接近的k个邻居里，绝大多数属于某个类别，则认为该样本也属于这个类别。正如标题图所示，判断Xu属于哪个类别，则通过判断距离Xu最邻近的k个样本中，哪个类别的值最多。案例1，有一组电影的样本数据，如下。通过电影中的'打斗次数'与'接吻'次数两个维度，判断该电影属于'爱情片'还是'动作片'电影样本数据

可以用散点图表示如下(x轴为'fight'，y轴为'kiss')：

那么现在假设有个电影为《你的名字》，其打斗次数为18，kiss次数为90，需要判断其属于哪种电影类型。运用最邻近算法，(利用sklearn中的neighbors)，可以得到《你的名字》属于Romance类型的电影。具体代码如下：

import numpy as np

import pandas as pd

import matplotlib.pyplot as plt

% matplotlib inline

from sklearn import neighbors

data = pd.DataFrame({'names':['北京遇上西雅图','喜欢你','疯狂动物城','战狼2','力王','敢死队'],

'fight':[3,2,1,101,99,98],

'kiss':[104,100,81,10,5,2],

'type':['Romance','Romance','Romance','Action','Action','Action']})

knn = neighbors.KNeighborsClassifier()

knn.fit(data[['fight','kiss']], data['type'])

print('预测类型为:', knn.predict([[18,90]]))

plt.figure(figsize = (20,8))

plt.scatter(data[data['type'] == 'Romance']['fight'],data[data['type'] == 'Romance']['kiss'],color = 'r',marker = 'o',label = 'Romance')

plt.scatter(data[data['type'] == 'Action']['fight'],data[data['type'] == 'Action']['kiss'],color = 'g',marker = 'o',label = 'Action')

plt.grid()

plt.legend(fontsize = 'xx-large')

plt.ylabel('kiss',fontsize = 18)

plt.xlabel('fight',fontsize = 19)

plt.scatter(18,90,color = 'r',marker = 'x',label = 'Romance')

plt.text(18,90,'《你的名字》',color = 'r',fontsize = 18)

也可以用随机数据进行模拟预测，如下

# 给随机数据进行模拟预测

data2 = pd.DataFrame(abs(np.random.randn(100,2))*50,columns = ['fight','kiss'])

data2['type'] = knn.predict(data2)

plt.figure(figsize=(10,6))

plt.scatter(data[data['type'] == 'Romance']['fight'],data[data['type'] == 'Romance']['kiss'],color = 'r',marker = 'o',label = 'Romance')

plt.scatter(data[data['type'] == 'Action']['fight'],data[data['type'] == 'Action']['kiss'],color = 'g',marker = 'o',label = 'Action')

plt.grid()

plt.scatter(data2[data2['type'] == 'Romance']['fight'],data2[data2['type'] == 'Romance']['kiss'],color = 'r',marker = 'x',label = 'Romance')

plt.scatter(data2[data2['type'] == 'Action']['fight'],data2[data2['type'] == 'Action']['kiss'],color = 'g',marker = 'x',label = 'Action')

plt.legend(fontsize = 'large')

plt.ylabel('kiss',fontsize = 18)

plt.xlabel('fight',fontsize = 19)案例2，有一些鸢尾花的数据集，给定了4个维度：萼片长度，萼片宽度，花瓣长度、花瓣宽度，通过这4个维度建立模型，判断未知数据属于哪种鸢尾花。比如我们判断[0.1, 0.2, 0.3, 0.4]这个类型的花属于setosa。

代码如下

#导入数据集并查看数据

from sklearn import datasets

iris = datasets.load_iris()

#print(iris.keys())

#print('数据集长度为:%i条' %(len(iris['data'])))

#print(iris.feature_names)

#print(iris.target_names)

#print(iris.target)

df = pd.DataFrame(iris.data, columns = iris.feature_names)

df['target'] = iris.target

ty = pd.DataFrame({'target':[0,1,2],

'target_names':iris.target_names})

df = pd.merge(df, ty, on = 'target')

# 数据转换

knn = neighbors.KNeighborsClassifier()

knn.fit(iris.data, df['target_names'])

# 建立分类模型

pre_data = [[0.1, 0.2, 0.3, 0.4]]

print('预测结果为:', knn.predict(pre_data))