From 6e5f2a5c25bc228117f9597ffd82b638c08a2949 Mon Sep 17 00:00:00 2001 From: goldfest Date: Fri, 22 Nov 2024 21:52:24 +0400 Subject: [PATCH] =?UTF-8?q?4=20=D0=BB=D0=B0=D0=B1=D0=B0?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- lab_4/lab_4.ipynb | 41 +++++++++-------------------------------- 1 file changed, 9 insertions(+), 32 deletions(-) diff --git a/lab_4/lab_4.ipynb b/lab_4/lab_4.ipynb index 8ea8cdd..60fc9f9 100644 --- a/lab_4/lab_4.ipynb +++ b/lab_4/lab_4.ipynb @@ -2935,7 +2935,7 @@ }, { "cell_type": "code", - "execution_count": 45, + "execution_count": null, "metadata": {}, "outputs": [ { @@ -2986,22 +2986,15 @@ "df = pd.read_csv(\"..//static//csv//Forbes Billionaires.csv\").head(100)\n", "\n", "df = df.dropna()\n", - "\n", - "# Создание целевой переменной (Networth)\n", "target = df['Networth']\n", "\n", - "# Удаление целевой переменной из исходных данных\n", "features = df.drop(columns=['Networth'])\n", "\n", - "# Удаление столбцов, которые не будут использоваться (например, имена)\n", "features = features.drop(columns=['Name'])\n", - "\n", - "# Определение столбцов для обработки\n", "num_columns = features.select_dtypes(include=['number']).columns\n", "cat_columns = features.select_dtypes(include=['object']).columns\n", "\n", - "# Препроцессинг числовых столбцов\n", - "num_imputer = SimpleImputer(strategy=\"median\") # Используем медиану для заполнения пропущенных значений в числовых столбцах\n", + "num_imputer = SimpleImputer(strategy=\"median\") \n", "num_scaler = StandardScaler()\n", "preprocessing_num = Pipeline(\n", " [\n", @@ -3010,8 +3003,7 @@ " ]\n", ")\n", "\n", - "# Препроцессинг категориальных столбцов\n", - "cat_imputer = SimpleImputer(strategy=\"constant\", fill_value=\"unknown\") # Используем 'unknown' для заполнения пропущенных значений в категориальных столбцах\n", + "cat_imputer = SimpleImputer(strategy=\"constant\", fill_value=\"unknown\") \n", "cat_encoder = OneHotEncoder(handle_unknown=\"ignore\", sparse_output=False, drop=\"first\")\n", "preprocessing_cat = Pipeline(\n", " [\n", @@ -3020,7 +3012,6 @@ " ]\n", ")\n", "\n", - "# Объединение препроцессинга\n", "features_preprocessing = ColumnTransformer(\n", " verbose_feature_names_out=False,\n", " transformers=[\n", @@ -3030,59 +3021,47 @@ " remainder=\"passthrough\"\n", ")\n", "\n", - "# Создание финального пайплайна\n", "pipeline_end = Pipeline(\n", " [\n", " (\"features_preprocessing\", features_preprocessing),\n", " ]\n", ")\n", "\n", - "# Разделение данных на обучающую и тестовую выборки\n", "X_train, X_test, y_train, y_test = train_test_split(features, target, test_size=0.2, random_state=42)\n", "\n", - "# Применение пайплайна к данным\n", "X_train_processed = pipeline_end.fit_transform(X_train)\n", "X_test_processed = pipeline_end.transform(X_test)\n", "\n", - "# 1. Настройка параметров для старых значений\n", "old_param_grid = {\n", - " 'n_estimators': [50, 100, 200], # Количество деревьев\n", - " 'max_depth': [None, 10, 20, 30], # Максимальная глубина дерева\n", - " 'min_samples_split': [2, 5, 10] # Минимальное количество образцов для разбиения узла\n", + " 'n_estimators': [50, 100, 200], \n", + " 'max_depth': [None, 10, 20, 30],\n", + " 'min_samples_split': [2, 5, 10] \n", "}\n", "\n", - "# Подбор гиперпараметров с помощью Grid Search для старых параметров\n", "old_grid_search = GridSearchCV(estimator=RandomForestRegressor(), \n", " param_grid=old_param_grid,\n", " scoring='neg_mean_squared_error', cv=3, n_jobs=-1, verbose=2)\n", "\n", - "# Обучение модели на тренировочных данных\n", "old_grid_search.fit(X_train_processed, y_train)\n", - "\n", - "# 2. Результаты подбора для старых параметров\n", "old_best_params = old_grid_search.best_params_\n", - "old_best_mse = -old_grid_search.best_score_ # Меняем знак, так как берем отрицательное значение MSE\n", - "\n", - "# 3. Настройка параметров для новых значений\n", + "old_best_mse = -old_grid_search.best_score_ \n", "new_param_grid = {\n", " 'n_estimators': [200],\n", " 'max_depth': [10],\n", " 'min_samples_split': [10]\n", "}\n", "\n", - "# Подбор гиперпараметров с помощью Grid Search для новых параметров\n", "new_grid_search = GridSearchCV(estimator=RandomForestRegressor(), \n", " param_grid=new_param_grid,\n", " scoring='neg_mean_squared_error', cv=2)\n", "\n", - "# Обучение модели на тренировочных данных\n", "new_grid_search.fit(X_train_processed, y_train)\n", "\n", - "# 4. Результаты подбора для новых параметров\n", + "# Результаты подбора для новых параметров\n", "new_best_params = new_grid_search.best_params_\n", "new_best_mse = -new_grid_search.best_score_ # Меняем знак, так как берем отрицательное значение MSE\n", "\n", - "# 5. Обучение модели с лучшими параметрами для новых значений\n", + "# Обучение модели с лучшими параметрами для новых значений\n", "model_best = RandomForestRegressor(**new_best_params)\n", "model_best.fit(X_train_processed, y_train)\n", "\n", @@ -3101,11 +3080,9 @@ "print(\"Среднеквадратическая ошибка (MSE) на тестовых данных:\", mse)\n", "print(\"Корень среднеквадратичной ошибки (RMSE) на тестовых данных:\", rmse)\n", "\n", - "# Обучение модели с лучшими параметрами для старых значений\n", "model_old = RandomForestRegressor(**old_best_params)\n", "model_old.fit(X_train_processed, y_train)\n", "\n", - "# Прогнозирование на тестовой выборке для старых параметров\n", "y_pred_old = model_old.predict(X_test_processed)\n", "\n", "# Визуализация ошибок\n",