正文

揭秘Python机器学习库Scikit-learn实用案例，轻松掌握数据挖掘与建模技巧

/0 浏览量
0526

数据预处理：数据清洗与探索

在机器学习项目中，数据预处理是至关重要的第一步。Scikit-learn提供了丰富的工具来帮助我们进行数据清洗和探索。

数据清洗

数据清洗包括处理缺失值、异常值和重复数据等。以下是一个使用Scikit-learn进行数据清洗的例子：

from sklearn.datasets import load_iris
from sklearn.impute import SimpleImputer
from sklearn.preprocessing import StandardScaler

# 加载数据集
iris = load_iris()
X, y = iris.data, iris.target

# 处理缺失值
imputer = SimpleImputer(strategy='mean')
X_imputed = imputer.fit_transform(X)

# 标准化特征
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X_imputed)

数据探索

数据探索有助于我们了解数据的分布、特征之间的关系等。以下是一个使用Scikit-learn进行数据探索的例子：

import pandas as pd
import matplotlib.pyplot as plt
from sklearn.decomposition import PCA

# 将数据转换为DataFrame
df = pd.DataFrame(X_scaled, columns=iris.feature_names)

# 绘制特征分布图
df.hist(figsize=(12, 8))
plt.show()

# 主成分分析
pca = PCA(n_components=2)
X_pca = pca.fit_transform(X_scaled)

# 绘制降维后的数据
plt.scatter(X_pca[:, 0], X_pca[:, 1], c=y)
plt.xlabel('Principal Component 1')
plt.ylabel('Principal Component 2')
plt.title('PCA of IRIS dataset')
plt.show()

模型选择与训练

Scikit-learn提供了多种机器学习算法，包括监督学习、无监督学习和强化学习等。以下是一些常用的算法及其应用场景。

监督学习

监督学习是机器学习中应用最广泛的方法之一，包括分类和回归任务。以下是一些常用的监督学习算法：

  • 线性回归：用于回归任务，如房价预测。
  • 逻辑回归：用于分类任务，如垃圾邮件分类。
  • 决策树：用于分类和回归任务，如贷款审批。
  • 随机森林：集成学习方法，用于提高模型性能和泛化能力。

以下是一个使用线性回归进行房价预测的例子：

from sklearn.linear_model import LinearRegression
from sklearn.model_selection import train_test_split

# 分割数据集
X_train, X_test, y_train, y_test = train_test_split(X_scaled, y, test_size=0.2, random_state=42)

# 创建线性回归模型
model = LinearRegression()
model.fit(X_train, y_train)

# 预测房价
y_pred = model.predict(X_test)

# 评估模型
print('Mean Absolute Error:', np.mean(np.abs(y_pred - y_test)))

无监督学习

无监督学习用于处理未标记的数据，包括聚类和降维等任务。以下是一些常用的无监督学习算法：

  • K-均值聚类：用于将数据划分为K个簇。
  • 层次聚类：根据数据的相似度进行聚类。
  • 主成分分析：用于降维。

以下是一个使用K-均值聚类对鸢尾花数据进行聚类的例子：

from sklearn.cluster import KMeans

# 创建K-均值聚类模型
kmeans = KMeans(n_clusters=3, random_state=42)
kmeans.fit(X_scaled)

# 获取聚类结果
labels = kmeans.labels_

# 绘制聚类结果
plt.scatter(X_scaled[:, 0], X_scaled[:, 1], c=labels)
plt.xlabel('Principal Component 1')
plt.ylabel('Principal Component 2')
plt.title('K-Means Clustering of IRIS dataset')
plt.show()

模型评估与优化

在训练模型后，我们需要评估其性能并对其进行优化。以下是一些常用的模型评估和优化方法：

模型评估

  • 准确率：模型正确预测的样本比例。
  • 召回率：模型正确预测的正例比例。
  • F1分数：准确率和召回率的调和平均数。
  • ROC曲线：用于评估分类器的性能。

以下是一个使用准确率评估线性回归模型的例子：

from sklearn.metrics import accuracy_score

# 计算准确率
accuracy = accuracy_score(y_test, y_pred)
print('Accuracy:', accuracy)

模型优化

  • 网格搜索：通过遍历参数空间来寻找最佳参数组合。
  • 随机搜索：从参数空间中随机选择参数组合。
  • 贝叶斯优化：基于贝叶斯统计模型来优化参数。

以下是一个使用网格搜索优化K-均值聚类模型的例子：

from sklearn.model_selection import GridSearchCV

# 定义参数网格
param_grid = {
    'n_clusters': [2, 3, 4, 5],
    'init': ['k-means++', 'random'],
    'max_iter': [100, 200, 300]
}

# 创建网格搜索对象
grid_search = GridSearchCV(KMeans(), param_grid, cv=5)

# 搜索最佳参数
grid_search.fit(X_scaled)

# 获取最佳参数和模型
best_params = grid_search.best_params_
best_model = grid_search.best_estimator_

# 打印最佳参数
print('Best parameters:', best_params)

通过以上案例，我们可以轻松掌握Scikit-learn在数据挖掘和建模中的应用。希望这些例子能帮助你更好地理解Scikit-learn，并在实际项目中取得更好的效果。

-- 展开阅读全文 --