41 lines
3.9 KiB
Markdown
41 lines
3.9 KiB
Markdown
### Вариант 9
|
||
### Задание на лабораторную работу:
|
||
Выбрать художественный текст (четные варианты – русскоязычный, нечетные – англоязычный) и
|
||
обучить на нем рекуррентную нейронную сеть для решения задачи генерации.
|
||
Подобрать архитектуру и параметры так, чтобы приблизиться к максимально осмысленному результату.
|
||
Далее разбиться на пары четный-нечетный вариант, обменяться разработанными сетями и проверить,
|
||
как архитектура товарища справляется с вашим текстом.
|
||
В завершении подобрать компромиссную архитектуру, справляющуюся достаточно хорошо с обоими видами
|
||
текстов.
|
||
### Как запустить лабораторную работу:
|
||
Выполняем файл gusev_vladislav_lab_7.py, решение будет в консоли.
|
||
|
||
### Технологии
|
||
Keras - это библиотека для Python, позволяющая легко и быстро создавать нейронные сети.
|
||
NumPy - библиотека для работы с многомерными массивами.
|
||
|
||
### По коду
|
||
1) Читаем файл с текстом
|
||
2) Создаем объект tokenizer для превращение текста в числа для нейронной сети.
|
||
3) Создаем модель нейронной сети с следующими аргументами:
|
||
|
||
- Embedding - это слой, который обычно используется для векторного представления категориальных данных, таких как слова или символы. Он позволяет нейронной сети изучать эмбеддинги, то есть отображение слов (или символов) в вектора низкой размерности. Это позволяет сети понимать семантические отношения между словами.
|
||
- LSTM - это слой, представляющий собой рекуррентный нейрон, который способен учитывать зависимости в последовательных данных. Он хорошо подходит для обработки последовательных данных, таких как текст.
|
||
- Dense - это полносвязный слой, который принимает входные данные и применяет весовые коэффициенты к ним. Этот слой часто используется в конце нейронных сетей для решения задачи классификации или регрессии.
|
||
|
||
4) Обучаем модель на 100 эпохах (итерациях по данным) и генерируем текст.
|
||
|
||
|
||
|
||
|
||
Английский 100 эпох
|
||
|
||
|
||
|
||
Русский 100 эпох
|
||
|
||
Русский 17 эпох
|
||
|
||
### По консоли
|
||
- Английский текст генерировался на 100 эпохах, начало получилось осмысленным, но чем ближе к концу тем хуже.
|
||
- Русский текст также генерировался на 100 эпохах, с многочисленными ошибками в словах. Русский текст,сгенерированный на 17 эпохах по ошибкам в словах оказался лучше, но всё равно не идеально. |