Лабораторная работа №2. Ранжирование признаков

14 вариант

Задание:

Используя код из [1](пункт «Решение задачи ранжирования признаков», стр. 205), выполните ранжирование признаков с помощью указанных по варианту моделей. Отобразите получившиеся значения\оценки каждого признака каждым методом\моделью и среднюю оценку. Проведите анализ получившихся результатов. Какие четыре признака оказались самыми важными по среднему значению? (Названия\индексы признаков и будут ответом на задание).

Модели по варианту:

Случайное Лассо (RandomizedLasso)
Сокращение признаков cлучайными деревьями (Random Forest Regressor)
Линейная корреляция (f_regression)

Запуск

Запустить файл lab2.py

Используемые технологии

Язык программирования Python
Среда разработки PyCharm
Библиотеки:
- sklearn
- matplotlib
- numpy

Описание программы

Импортирует необходимые модули и классы:
- RandomForestRegressor из sklearn.ensemble для создания модели случайного леса регрессии;
- RandomizedLasso из RandomizedLasso для создания модели случайного Лассо (метода регуляризации линейной регрессии);
- f_regression из sklearn.feature_selection для выполнения линейной корреляции между признаками и целевой переменной;
- MinMaxScaler из sklearn.preprocessing для масштабирования оценок признаков к диапазону [0, 1];
- numpy для работы с массивами данных.
Определяет функцию generation_data, которая генерирует случайные данные для обучения модели. Для простоты, будут использованы заранее определенные случайные значения.
Определяет функцию rank_to_dict, которая принимает ранговые оценки признаков и преобразует их в словарь с нормализованными значениями от 0 до 1.
Определяет функцию get_estimation, которая вычисляет среднюю оценку по всем моделям и выводит отсортированный список признаков по убыванию оценки.
Определяет функцию print_sorted_data, которая выводит отсортированные оценки признаков для каждой модели.
Определяет функцию main, которая объединяет все шаги: генерацию данных, обучение моделей, расчет оценок признаков и вывод результатов.
Вызывает функцию main для выполнения программы.

Пример работы

Вывод

На основе результатов можно сделать следующие выводы:

Признаки x4, x2, x14 и x1 являются самыми важными. Их средние оценки по всем моделям составляют 0.82, 0.8, 0.66 и 0.56 соответственно.
В модели случайного леса регрессии наиболее значимыми признаками являются x14, x2, x4 и x1. Они имеют оценки 1.0, 0.84, 0.77 и 0.74 соответственно.
По результатам линейной корреляции (f-регрессия), самыми важными признаками также являются x4, x14, x2 и x12 с оценками 1.0, 0.97, 0.57 и 0.56 соответственно.
В модели случайного Лассо наиболее значимыми признаками являются x2, x4, x1 и x5. Их оценки составляют 1.0, 0.69, 0.49 и 0.44 соответственно.

Таким образом, можно сделать вывод, что признаки x4, x2, x14 и x1 являются наиболее значимыми для всех моделей.

4.9 KiB Raw Blame History Unescape Escape