IIS_2023_1/kozlov_alexey_lab_2

Лабораторная работа №2. Ранжирование признаков

14 вариант

---

Задание:

Используя код из [1](пункт «Решение задачи ранжирования признаков», стр. 205), выполните ранжирование признаков с помощью указанных по варианту моделей. Отобразите получившиеся значения\оценки каждого признака каждым методом\моделью и среднюю оценку. Проведите анализ получившихся результатов. Какие четыре признака оказались самыми важными по среднему значению? (Названия\индексы признаков и будут ответом на задание).

Модели по варианту:

• Случайное Лассо (RandomizedLasso)
• Сокращение признаков cлучайными деревьями (Random Forest Regressor)
• Линейная корреляция (f_regression)

---

Запуск

• Запустить файл lab2.py

Используемые технологии

• Язык программирования Python
• Среда разработки PyCharm
• Библиотеки:
  • sklearn
  • matplotlib
  • numpy

Описание программы

1. Импортирует необходимые модули и классы:

   • RandomForestRegressor из sklearn.ensemble для создания модели случайного леса регрессии;
   • RandomizedLasso из RandomizedLasso для создания модели случайного Лассо (метода регуляризации линейной регрессии);
   • f_regression из sklearn.feature_selection для выполнения линейной корреляции между признаками и целевой переменной;
   • MinMaxScaler из sklearn.preprocessing для масштабирования оценок признаков к диапазону [0, 1];
   • numpy для работы с массивами данных.

2. Определяет функцию generation_data, которая генерирует случайные данные для обучения модели. Для простоты, будут использованы заранее определенные случайные значения.

3. Определяет функцию rank_to_dict, которая принимает ранговые оценки признаков и преобразует их в словарь с нормализованными значениями от 0 до 1.

4. Определяет функцию get_estimation, которая вычисляет среднюю оценку по всем моделям и выводит отсортированный список признаков по убыванию оценки.

5. Определяет функцию print_sorted_data, которая выводит отсортированные оценки признаков для каждой модели.

6. Определяет функцию main, которая объединяет все шаги: генерацию данных, обучение моделей, расчет оценок признаков и вывод результатов.

7. Вызывает функцию main для выполнения программы.

---

Пример работы

Вывод

На основе результатов можно сделать следующие выводы:

1. Признаки x4, x2, x14 и x1 являются самыми важными. Их средние оценки по всем моделям составляют 0.82, 0.8, 0.66 и 0.56 соответственно.

2. В модели случайного леса регрессии наиболее значимыми признаками являются x14, x2, x4 и x1. Они имеют оценки 1.0, 0.84, 0.77 и 0.74 соответственно.

3. По результатам линейной корреляции (f-регрессия), самыми важными признаками также являются x4, x14, x2 и x12 с оценками 1.0, 0.97, 0.57 и 0.56 соответственно.

4. В модели случайного Лассо наиболее значимыми признаками являются x2, x4, x1 и x5. Их оценки составляют 1.0, 0.69, 0.49 и 0.44 соответственно.

Таким образом, можно сделать вывод, что признаки x4, x2, x14 и x1 являются наиболее значимыми для всех моделей.