在Scikit-learn中,可以使用RandomizedSearchCV来实现随机搜索。RandomizedSearchCV会在指定的参数空间中随机选择一组参数组合,并对这些参数组合进行交叉验证来找到最优的参数设置。
下面是一个简单的示例代码,演示了如何使用RandomizedSearchCV进行随机搜索:
from sklearn.model_selection import RandomizedSearchCV
from sklearn.ensemble import RandomForestClassifier
from sklearn.datasets import load_iris
# 加载数据
iris = load_iris()
X, y = iris.data, iris.target
# 定义参数空间
param_dist = {
'n_estimators': [10, 50, 100, 200],
'max_depth': [None, 10, 20, 30, 40, 50],
'min_samples_split': [2, 5, 10],
'min_samples_leaf': [1, 2, 4]
}
# 初始化随机搜索
rf = RandomForestClassifier()
random_search = RandomizedSearchCV(rf, param_dist, n_iter=10, cv=5)
# 进行随机搜索
random_search.fit(X, y)
# 输出最优参数设置和交叉验证得分
print("Best parameters found: ", random_search.best_params_)
print("Best cross-validation score: ", random_search.best_score_)
在上面的代码中,我们首先加载了一个伊利斯数据集,然后定义了一个随机森林分类器的参数空间。接下来,我们初始化了一个RandomizedSearchCV对象,指定了要搜索的参数空间、迭代次数和交叉验证的折数。最后,使用fit()方法运行随机搜索,并输出最优的参数设置和交叉验证得分。
通过使用RandomizedSearchCV,我们可以更有效地搜索最优的参数设置,从而提高模型的性能。