41 lines
4.2 KiB
Markdown
41 lines
4.2 KiB
Markdown
|
Лабораторная работа №7
|
|||
|
|
|
|||
|
|
Вариант №4
|
|||
|
|
|
|||
|
|
Задание на лабораторную:
|
|||
|
|
|
|||
|
|
Выбрать художественный текст (четные варианты – русскоязычный, нечетные – англоязычный) и
|
|||
|
|
обучить на нем рекуррентную нейронную сеть для решения задачи генерации.
|
|||
|
|
Подобрать архитектуру и параметры так, чтобы приблизиться к максимально осмысленному результату.
|
|||
|
|
Далее разбиться на пары четный-нечетный вариант, обменяться разработанными сетями и проверить,
|
|||
|
|
как архитектура товарища справляется с вашим текстом.
|
|||
|
|
В завершении подобрать компромиссную архитектуру, справляющуюся достаточно хорошо с обоими видами
|
|||
|
|
текстов.
|
|||
|
|
|
|||
|
|
Как запустить лабораторную работу:
|
|||
|
|
|
|||
|
|
Чтобы увидеть работу программы, нужно запустить исполняемый питон файл senkin_alexander_lab_7.py,
|
|||
|
|
|
|||
|
|
Библиотеки:
|
|||
|
|
|
|||
|
|
- NumPy - библиотека для работы с многомерными массивами.
|
|||
|
|
- Keras - это библиотека для Python, позволяющая легко и быстро создавать нейронные сети.
|
|||
|
|
|
|||
|
|
Описание программы:
|
|||
|
|
|
|||
|
|
- Читаем файл с текстом.
|
|||
|
|
- Каждая строка текста переводится в числа с помощью Tokernizer.
|
|||
|
|
- Строим RNN модель используя Keras: Embedding - представления слов, фраз или текстовых данных в виде числовых векторов в многомерном пространстве. Вложения используются для преобразования текстовой информации в форму, понятную компьютерам, что позволяет моделям машинного обучения анализировать и работать с текстом. LSTM (Long Short-Term Memory) - это тип рекуррентной нейронной сети (RNN), который разработан для обработки и моделирования последовательных данных. LSTM является разновидностью рекуррентных нейронных сетей и был специально создан для решения проблемы исчезающего и взрывающегося градиента, с которыми сталкиваются традиционные RNN. Dense - один из типов слоев, используемых в искусственных нейронных сетях, в том числе в глубоком обучении, применяется для выполнения операции линейной комбинации входных данных и весов, а затем применения нелинейной функции активации к полученному результату.
|
|||
|
|
- Обучаем модель на 100 эпохах.
|
|||
|
|
- Генерируем последовательность на основе текста.
|
|||
|
|
- Я прогнал текст сначала на 20 эпохах русский и английский, получились не очень результаты:
|
|||
|
|
- 
|
|||
|
|
- 
|
|||
|
|
- Потом решил прогнать на 50 эпохах, получились вот такие результаты:
|
|||
|
|
- 
|
|||
|
|
- 
|
|||
|
|
- Потом решил прогнать на 100 эпохах, получились вот такие результаты:
|
|||
|
|
- 
|
|||
|
|
- 
|
|||
|
|
- Видно, что сколько бы итераций мы не выбирали, результаты остаются не утешительными.
|