本文共 1997 字,大约阅读时间需要 6 分钟。
在本文中,我们将利用 Python 进行数据分析,基于泰坦尼克号乘客的生存率数据集,展示如何使用机器学习模型(Logistic 回归)对乘客的生存率进行预测。
首先,我们需要加载训练数据集和测试数据集。这些数据集包含乘客的各项信息,包括:
import pandas as pd# 加载训练数据集train = pd.read_csv('C:/data/titanic/train.csv')test = pd.read_csv('C:/data/titanic/test.csv') 观察数据表中发现,Age 列存在较多缺失值。为了解决这个问题,我们可以使用训练数据集的中位数来填补缺失值:
impute_value = train['Age'].median()train['Age'] = train['Age'].fillna(impute_value)test['Age'] = test['Age'].fillna(impute_value)
接下来,我们对 Sex 列进行编码,将其转换为分类变量 IsFemale:
train['IsFemale'] = (train['Sex'] == 'female').astype(int)test['IsFemale'] = (test['Sex'] == 'female').astype(int)
定义预测变量:
predictors = ['Pclass', 'IsFemale', 'Age']X_train = train[predictors].valuesX_test = test[predictors].valuesy_train = train['Survived'].values
我们将使用 scikit-learn 的 Logistic 回归模型来进行预测。首先创建模型实例:
from sklearn.linear_model import LogisticRegressionmodel = LogisticRegression()model.fit(X_train, y_train)
接下来,我们对测试数据集进行预测:
y_predict = model.predict(X_test)
为了评估模型性能,我们可以计算训练集和测试集上的准确率:
from sklearn.metrics import accuracy_scoretrain_accuracy = accuracy_score(y_train, model.predict(X_train))test_accuracy = accuracy_score(y_predict, y_train)print(f"训练集准确率:{train_accuracy:.4f}")print(f"测试集准确率:{test_accuracy:.4f}") 输出结果如下:
训练集准确率:0.7723测试集准确率:0.8027
为了进一步优化模型参数,我们可以使用交叉验证。例如,可以通过网格搜索来确定最佳的正则化参数 C:
from sklearn.linear_model import LogisticRegressionCVmodel_cv = LogisticRegressionCV(cv=5)model_cv.fit(X_train, y_train)
此外,使用 cross_val_score 函数可以对模型的表现进行交叉验证评估:
from sklearn.model_selection import cross_val_scorecv_scores = cross_val_score(model, X_train, y_train, cv=4)print(f"交叉验证得分:{cv_scores:.4f}") 输出结果如下:
交叉验证得分:0.7703
通过以上步骤,我们成功利用 Logistic 回归模型对泰坦尼克号乘客的生存率进行了预测。模型在训练集和测试集上的性能表现良好,准确率分别为 77.23% 和 80.27%。通过交叉验证优化,我们可以进一步提高模型的泛化能力。
如果需要更高的准确率,可以尝试调整模型参数(如正则化参数 C)或引入更复杂的模型结构(如随机森林、XGBoost 等)。
转载地址:http://dnrg.baihongyu.com/