### Logistic 回归实例问题及其解答 #### 实例一：二分类预测模型 假设有一个数据集，其中包含学生的考试成绩以及他们是否被大学录取的信息。目标是构建一个逻辑回归模型来预测学生是否会根据其考试成绩被特定大学录取。 ```python import numpy as np from sklearn.linear_model import LogisticRegression from sklearn.model_selection import train_test_split from sklearn.metrics import accuracy_score # 假设 X 是特征矩阵 (如考试分数), y 是标签向量(0 或 1 表示未录取/已录取) X = [[exam_score_1], ... , [exam_score_n]] y = [admission_status] # 划分训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(X, y) # 创建并拟合逻辑回归模型 model = LogisticRegression() model.fit(X_train, y_train) # 预测新样本的结果 predictions = model.predict(X_test) # 计算准确率 accuracy = accuracy_score(y_test, predictions) print(f'Accuracy: {accuracy * 100:.2f}%') ``` 此代码片段展示了如何利用 `sklearn` 库中的 `LogisticRegression` 类创建一个简单的逻辑回归模型来进行二元分类任务[^1]。 #### 实例二：梯度下降法实现逻辑回归 为了更好地理解算法内部工作原理，下面给出了一种基于梯度下降的方法手动实现逻辑回归的过程： ```python def sigmoid(z): """计算给定输入 z 的 Sigmoid 函数值""" return 1 / (1 + np.exp(-z)) def compute_cost(theta, X, y): m = len(y) h = sigmoid(np.dot(X, theta)) J = (-1/m)*(np.sum((y*np.log(h))+(1-y)*np.log(1-h))) return J def gradient_descent(X, y, alpha=0.01, num_iters=50000): m,n = X.shape initial_theta = np.zeros(n) for iteration in range(num_iters): hypothesis = sigmoid(np.dot(X,initial_theta)) loss = hypothesis - y # 更新参数theta grad = (alpha/m) * np.dot(loss.T,X).T initial_theta -= grad return initial_theta # 使用自定义函数进行建模... final_theta = gradient_descent(X,y) predicted_probabilities = sigmoid(np.dot(X, final_theta)) prediction_labels = predicted_probabilities >= 0.5 ``` 这段代码实现了通过迭代更新权重的方式求解最优参数 $\theta$ ，从而最小化成本函数 $J(\theta)$ 。这里采用了批量梯度下降方法，在每次迭代过程中都考虑到了所有的训练样例[^2]。