savenkov_alexander_lab_2 is done
This commit is contained in:
parent
7781a379c3
commit
35826f2461
7
.idea/discord.xml
Normal file
7
.idea/discord.xml
Normal file
@ -0,0 +1,7 @@
|
||||
<?xml version="1.0" encoding="UTF-8"?>
|
||||
<project version="4">
|
||||
<component name="DiscordProjectSettings">
|
||||
<option name="show" value="ASK" />
|
||||
<option name="description" value="" />
|
||||
</component>
|
||||
</project>
|
3
savenkov_alexander_lab_2/.idea/.gitignore
vendored
Normal file
3
savenkov_alexander_lab_2/.idea/.gitignore
vendored
Normal file
@ -0,0 +1,3 @@
|
||||
# Default ignored files
|
||||
/shelf/
|
||||
/workspace.xml
|
1
savenkov_alexander_lab_2/.idea/.name
Normal file
1
savenkov_alexander_lab_2/.idea/.name
Normal file
@ -0,0 +1 @@
|
||||
app.py
|
10
savenkov_alexander_lab_2/.idea/Lab_2_IIS.iml
Normal file
10
savenkov_alexander_lab_2/.idea/Lab_2_IIS.iml
Normal file
@ -0,0 +1,10 @@
|
||||
<?xml version="1.0" encoding="UTF-8"?>
|
||||
<module type="PYTHON_MODULE" version="4">
|
||||
<component name="NewModuleRootManager">
|
||||
<content url="file://$MODULE_DIR$">
|
||||
<excludeFolder url="file://$MODULE_DIR$/venv" />
|
||||
</content>
|
||||
<orderEntry type="jdk" jdkName="Python 3.11" jdkType="Python SDK" />
|
||||
<orderEntry type="sourceFolder" forTests="false" />
|
||||
</component>
|
||||
</module>
|
7
savenkov_alexander_lab_2/.idea/discord.xml
Normal file
7
savenkov_alexander_lab_2/.idea/discord.xml
Normal file
@ -0,0 +1,7 @@
|
||||
<?xml version="1.0" encoding="UTF-8"?>
|
||||
<project version="4">
|
||||
<component name="DiscordProjectSettings">
|
||||
<option name="show" value="ASK" />
|
||||
<option name="description" value="" />
|
||||
</component>
|
||||
</project>
|
@ -0,0 +1,6 @@
|
||||
<component name="InspectionProjectProfileManager">
|
||||
<settings>
|
||||
<option name="USE_PROJECT_PROFILE" value="false" />
|
||||
<version value="1.0" />
|
||||
</settings>
|
||||
</component>
|
7
savenkov_alexander_lab_2/.idea/misc.xml
Normal file
7
savenkov_alexander_lab_2/.idea/misc.xml
Normal file
@ -0,0 +1,7 @@
|
||||
<?xml version="1.0" encoding="UTF-8"?>
|
||||
<project version="4">
|
||||
<component name="ProjectRootManager" version="2" project-jdk-name="Python 3.11" project-jdk-type="Python SDK" />
|
||||
<component name="PyCharmProfessionalAdvertiser">
|
||||
<option name="shown" value="true" />
|
||||
</component>
|
||||
</project>
|
8
savenkov_alexander_lab_2/.idea/modules.xml
Normal file
8
savenkov_alexander_lab_2/.idea/modules.xml
Normal file
@ -0,0 +1,8 @@
|
||||
<?xml version="1.0" encoding="UTF-8"?>
|
||||
<project version="4">
|
||||
<component name="ProjectModuleManager">
|
||||
<modules>
|
||||
<module fileurl="file://$PROJECT_DIR$/.idea/Lab_2_IIS.iml" filepath="$PROJECT_DIR$/.idea/Lab_2_IIS.iml" />
|
||||
</modules>
|
||||
</component>
|
||||
</project>
|
94
savenkov_alexander_lab_2/app.py
Normal file
94
savenkov_alexander_lab_2/app.py
Normal file
@ -0,0 +1,94 @@
|
||||
from flask import Flask, request, render_template
|
||||
from sklearn.linear_model import LinearRegression
|
||||
from sklearn.feature_selection import RFE
|
||||
from sklearn.ensemble import RandomForestRegressor
|
||||
from sklearn.preprocessing import MinMaxScaler
|
||||
import pandas as pd
|
||||
import numpy as np
|
||||
|
||||
app = Flask(__name__)
|
||||
|
||||
# Генерируем случайные данные
|
||||
np.random.seed(0)
|
||||
size = 750
|
||||
X = np.random.uniform(0, 1, (size, 14))
|
||||
Y = (10 * np.sin(np.pi * X[:, 0] * X[:, 1]) + 20 * (X[:, 2] - .5) ** 2 +
|
||||
10 * X[:, 3] + 5 * X[:, 4] ** 5 + np.random.normal(0, 1, size))
|
||||
X[:, 10:] = X[:, :4] + np.random.normal(0, .025, (size, 4))
|
||||
|
||||
# Определяем и обучаем модели
|
||||
lr = LinearRegression()
|
||||
rfe = RFE(lr, n_features_to_select=2)
|
||||
rfe.fit(X, Y)
|
||||
|
||||
rf = RandomForestRegressor(n_estimators=100)
|
||||
rf.fit(X, Y)
|
||||
|
||||
# Словарь для хранения результатов оценок
|
||||
feature_rankings = {}
|
||||
|
||||
|
||||
# Функция для ранжирования признаков с использованием линейной регрессии
|
||||
def rank_lr():
|
||||
lr.fit(X, Y)
|
||||
coef = lr.coef_
|
||||
ranking = np.abs(coef)
|
||||
ranking = min_max_scale(ranking)
|
||||
return ranking
|
||||
|
||||
|
||||
# Функция для ранжирования признаков с использованием RFE
|
||||
def rank_rfe():
|
||||
ranking = rfe.ranking_
|
||||
ranking = min_max_scale(ranking)
|
||||
return ranking
|
||||
|
||||
|
||||
# Функция для ранжирования признаков с использованием Random Forest
|
||||
def rank_rf():
|
||||
importances = rf.feature_importances_
|
||||
importances = min_max_scale(importances)
|
||||
return importances
|
||||
|
||||
|
||||
# Функция для масштабирования оценок в диапазоне [0, 1]
|
||||
def min_max_scale(arr):
|
||||
scaler = MinMaxScaler()
|
||||
scaled = scaler.fit_transform(np.array(arr).reshape(-1, 1))
|
||||
return scaled
|
||||
|
||||
|
||||
# Функция для выполнения ранжирования и вычисления средней оценки
|
||||
def rank_features():
|
||||
feature_rankings['Linear Regression'] = rank_lr()
|
||||
feature_rankings['RFE'] = rank_rfe()
|
||||
feature_rankings['Random Forest'] = rank_rf()
|
||||
# Средняя оценка
|
||||
mean_ranking = np.mean(list(feature_rankings.values()), axis=0)
|
||||
feature_rankings['Mean Ranking'] = mean_ranking
|
||||
|
||||
# Получите индексы 4 самых важных признаков
|
||||
top_4_indices = np.argsort(mean_ranking)[-4:][::-1]
|
||||
|
||||
# Получите названия признаков по индексам
|
||||
top_4_feature_names = [f'Признак {i + 1}' for i in top_4_indices]
|
||||
|
||||
# Добавьте значения X и Y в контекст
|
||||
return {
|
||||
'feature_rankings': feature_rankings,
|
||||
'X_values': X.tolist(),
|
||||
'Y_values': Y.tolist(),
|
||||
'top_4_feature_names': top_4_feature_names # Добавляем самые важные признаки
|
||||
}
|
||||
|
||||
|
||||
@app.route('/', methods=['GET', 'POST'])
|
||||
def index():
|
||||
if request.method == 'POST':
|
||||
context = rank_features()
|
||||
return render_template('index.html', **context)
|
||||
return render_template('index.html', feature_rankings=feature_rankings)
|
||||
|
||||
|
||||
if __name__ == '__main__':
|
||||
app.run(debug=True)
|
60
savenkov_alexander_lab_2/readme.md
Normal file
60
savenkov_alexander_lab_2/readme.md
Normal file
@ -0,0 +1,60 @@
|
||||
Общее задание:
|
||||
Используя код из [1] (пункт «Решение задачи ранжирования признаков»,
|
||||
стр. 205), выполните ранжирование признаков с помощью указанных по
|
||||
варианту моделей. Отобразите получившиеся значения\оценки каждого
|
||||
признака каждым методом\моделью и среднюю оценку. Проведите анализ
|
||||
получившихся результатов. Какие четыре признака оказались самыми
|
||||
45
|
||||
важными по среднему значению? (Названия\индексы признаков и будут
|
||||
ответом на задание).
|
||||
|
||||
Задание по вариантам 2 вариант (22), взял 2 т.к. всего 20 вариант задания:
|
||||
2. Линейная регрессия (LinearRegression), Рекурсивное сокращение
|
||||
признаков (Recursive Feature Elimination – RFE), Сокращение признаков
|
||||
Случайными деревьями (Random Forest Regressor)
|
||||
|
||||
Запуск приложения осуществляется запуском файла app.py
|
||||
|
||||
Использованные технологии:
|
||||
Среда программирования Pycharm
|
||||
Версия языка python: 3.11
|
||||
Flask: Flask - это микрофреймворк для создания веб-приложений на языке Python. Он используется для создания веб-интерфейса и обработки HTTP-запросов и ответов.
|
||||
|
||||
scikit-learn: Scikit-learn - это библиотека для машинного обучения в Python. В вашей программе она используется для обучения моделей машинного обучения, таких как линейная регрессия, RFE и случайный лес, а также для выполнения ранжирования признаков.
|
||||
|
||||
NumPy: NumPy - это библиотека для научных вычислений в Python. Она используется для работы с массивами и матрицами данных.
|
||||
|
||||
Pandas: Pandas - это библиотека для анализа данных. Она используется для создания и обработки данных, включая таблицы и структуры данных.
|
||||
|
||||
MinMaxScaler: Это функция из библиотеки Scikit-learn, используемая для масштабирования оценок признаков в диапазоне [0, 1].
|
||||
|
||||
HTML и шаблоны Jinja2: HTML - это язык разметки для создания веб-страниц, а Jinja2 - это шаблонный движок для вставки данных в HTML-шаблоны.
|
||||
|
||||
HTTP и формы: Ваше приложение Flask обрабатывает HTTP-запросы и использует форму <form> для отправки данных при нажатии кнопки "Выполнить".
|
||||
|
||||
Краткое описание работы программы:
|
||||
Сгенерированные данные: Программа создает случайные данные в виде матрицы X и вектора Y.
|
||||
|
||||
Обучение моделей: Обучаются три модели машинного обучения: линейная регрессия, RFE (рекурсивное исключение признаков) и случайные леса, используя сгенерированные данные.
|
||||
|
||||
Ранжирование признаков: Для каждой модели рассчитываются ранги признаков, отражающие их важность для прогнозирования целевой переменной Y.
|
||||
|
||||
Средний ранг: Вычисляется средний ранг для каждого признака на основе результатов всех трех моделей.
|
||||
|
||||
Вывод результатов: После нажатия кнопки "Выполнить" на веб-странице, программа отображает следующие результаты:
|
||||
|
||||
Ранги признаков для каждой модели (линейная регрессия, RFE, случайные леса).
|
||||
Средний ранг признаков.
|
||||
Значения признаков X.
|
||||
Значения целевой переменной Y.
|
||||
4 самых важных признака на основе среднего ранга (по названиям).
|
||||
|
||||
Пример входных данных:
|
||||
Случайные данные в виде матрицы X и вектора Y.
|
||||
|
||||
Пример выходных данных:
|
||||
Ранги признаков для каждой модели (линейная регрессия, RFE, случайные леса).
|
||||
Средний ранг признаков.
|
||||
Значения признаков X.
|
||||
Значения целевой переменной Y.
|
||||
4 самых важных признака на основе среднего ранга (по названиям).
|
73
savenkov_alexander_lab_2/templates/index.html
Normal file
73
savenkov_alexander_lab_2/templates/index.html
Normal file
@ -0,0 +1,73 @@
|
||||
<!DOCTYPE html>
|
||||
<html lang="en">
|
||||
<head>
|
||||
<meta charset="UTF-8">
|
||||
<meta name="viewport" content="width=device-width, initial-scale=1.0">
|
||||
<title>Feature Ranking</title>
|
||||
</head>
|
||||
<body>
|
||||
<h1>Feature Ranking</h1>
|
||||
<form method="POST">
|
||||
<button type="submit">Выполнить</button>
|
||||
</form>
|
||||
|
||||
<h2>Результаты ранжирования признаков</h2>
|
||||
<table>
|
||||
<tr>
|
||||
<th>Метод</th>
|
||||
<th>Признак 1</th>
|
||||
<th>Признак 2</th>
|
||||
<!-- Добавьте остальные признаки -->
|
||||
</tr>
|
||||
<tr>
|
||||
<td>Линейная регрессия</td>
|
||||
<td>{{ feature_rankings['Linear Regression'][0] if 'Linear Regression' in feature_rankings else '' }}</td>
|
||||
<td>{{ feature_rankings['Linear Regression'][1] if 'Linear Regression' in feature_rankings else '' }}</td>
|
||||
</tr>
|
||||
<tr>
|
||||
<td>RFE</td>
|
||||
<td>{{ feature_rankings['RFE'][0] if 'RFE' in feature_rankings else '' }}</td>
|
||||
<td>{{ feature_rankings['RFE'][1] if 'RFE' in feature_rankings else '' }}</td>
|
||||
</tr>
|
||||
<tr>
|
||||
<td>Случайные деревья</td>
|
||||
<td>{{ feature_rankings['Random Forest'][0] if 'Random Forest' in feature_rankings else '' }}</td>
|
||||
<td>{{ feature_rankings['Random Forest'][1] if 'Random Forest' in feature_rankings else '' }}</td>
|
||||
</tr>
|
||||
<tr>
|
||||
<td>Средняя оценка</td>
|
||||
<td>{{ feature_rankings['Mean Ranking'][0] if 'Mean Ranking' in feature_rankings else '' }}</td>
|
||||
<td>{{ feature_rankings['Mean Ranking'][1] if 'Mean Ranking' in feature_rankings else '' }}</td>
|
||||
</tr>
|
||||
</table>
|
||||
|
||||
<h2>Самые важные признаки</h2>
|
||||
<ul>
|
||||
{% for feature_name in top_4_feature_names %}
|
||||
<li>{{ feature_name }}</li>
|
||||
{% endfor %}
|
||||
</ul>
|
||||
|
||||
<h2>Значения X</h2>
|
||||
<table>
|
||||
{% for row in X_values %}
|
||||
<tr>
|
||||
{% for value in row %}
|
||||
<td>{{ value }}</td>
|
||||
{% if loop.index % 10 == 0 %}</tr><tr>{% endif %}
|
||||
{% endfor %}
|
||||
</tr>
|
||||
{% endfor %}
|
||||
</table>
|
||||
|
||||
<h2>Значения Y</h2>
|
||||
<table>
|
||||
<tr>
|
||||
{% for value in Y_values %}
|
||||
<td>{{ value }}</td>
|
||||
{% if loop.index % 10 == 0 %}</tr><tr>{% endif %}
|
||||
{% endfor %}
|
||||
</tr>
|
||||
</table>
|
||||
</body>
|
||||
</html>
|
Loading…
Reference in New Issue
Block a user