下面是详细讲解“Python机器学习入门(六)之Python优化模型”的完整攻略。
1 什么是模型优化
在机器学习中，模型优化是指通过调整模型的参数和超参数，使得模型在训练集和测试集上的表现更好。模型优化可以提高模型的准确性、泛化能和效率。
2. 模型优化方法
以下是一些常用的模型优化方法。
2.1 网格搜索
网搜索是一种通过遍历给定的参数组合来优化模型的方法。它可以使用GridSearchCV类来实现，该类可以自动遍历给定的参数组合，并返回最佳参数组合。
from sklearn.model_selection import GridSearchCV
from sklearn.svm import SVC
from sklearn.datasets import load_iris
iris = load_iris()
X = iris.data
y = iris.target
param_grid = {'C': [0.1, 1, 10], 'gamma': [0.1 1, 10]}
grid_search = GridSearchCV(SVC(), param_grid, cv=5)
grid_search.fit(X, y)
print(grid_search.best_params_)
2.2 随机搜索
随机搜索是一种通过随机抽样给定的参数组合来优化模型的方法。它可以使用RandomizedSearchCV类来实现，该类可以自动随机抽样给定的参数组合，并返回最佳参数组合。
from sklearn.model_selection import RandomizedSearchCV
from sklearn.svm import SVC
from sklearn.datasets import load_iris
import numpy as np
iris = load_iris()
X = iris.data
y = iris.target
param_dist = {'C': np.logspace(-3, 3, 7), 'gamma': np.logspace(-3, 3, 7)}
random_search = RandomizedSearchCV(SVC(), param_distributions=param_dist, n_iter=10, cv=5)
random_search.fit(X, y)
print(random_search.best_params_)
3. 示例说明
以下是两个示例说明，分别是使用网格搜索和随机搜索优化SVM模型。
3.1 使用网格搜索优化SVM模型
以下是一个使用网格搜索优化SVM模型的示例，使用iris数据集。
from sklearn.model_selection import GridSearchCV
from sklearn.svm import SVC
from sklearn.datasets import load_iris
iris = load_iris()
X = iris.data
y = iris.target
param_grid = {'C': [0.1, 1, 10], 'gamma': [0.1, 1, 10]}
grid_search = GridSearchCV(SVC(), param_grid, cv=5)
grid_search.fit(X, y)
print_search.best_params_)
输出结果为：
{'C': 1, 'gamma': 0.1}
3.2 使用随机搜索优化SVM模型
以下是一个使用随机搜索优化SVM模型的示例，使用iris数据集。
from sklearn.model_selection import RandomizedSearchCV
from sklearn.svm import SVC
from sklearn.datasets import load_iris
import numpy as np
iris = load_iris()
X = iris.data
y = iris.target
param_dist = {'C': np.logspace(-3, 3, 7), 'gamma': np.logspace(-3, 3, 7)}
random_search = RandomizedSearchCV(SVC(), param_distributions=param_dist, n_iter=10, cv=5)
random_search.fit(X, y)
print(random_search.best_params_)
输出结果为：
{'gamma': 0.001, 'C': 100.0}
4. 总结
模型优化是机器学习中非常重要的一步，可以通过调整模型的参数和超参数来提高模型的准确性、泛化能力和效率。本教程介绍了两种常用的模型优化方法，分是网格搜索和随机搜索，并提供了相应的示例。