61 lines
1.9 KiB
Markdown
61 lines
1.9 KiB
Markdown
|
## Лабораторная работа №7, ПИбд-42 Тепечин Кирилл
|
|||
|
|
|||
|
|
|||
|
### Как запустить лабораторную работу:
|
|||
|
|
|||
|
Для запуска лабораторной работы необходимо запустить файл lab7.py
|
|||
|
|
|||
|
### Используемые технологии:
|
|||
|
|
|||
|
* Python 3.11
|
|||
|
* numpy
|
|||
|
* keras
|
|||
|
|
|||
|
### Что делает лабораторная работа:
|
|||
|
|
|||
|
Эта лабораторная работа создает и обучает рекуррентную нейронную сеть (RNN) на основе текста из файла, используя библиотеку Keras.
|
|||
|
|
|||
|
### Тесты:
|
|||
|
Опытным путем была выбрана следующая архитектура:
|
|||
|
````python
|
|||
|
model = Sequential()
|
|||
|
model.add(Embedding(total_words, 50, input_length=max_sequence_length - 1))
|
|||
|
model.add(LSTM(512))
|
|||
|
model.add(Dropout(0.2))
|
|||
|
model.add(Dense(total_words, activation='softmax'))
|
|||
|
````
|
|||
|
|
|||
|
Результат на 50 эпохах
|
|||
|
|
|||
|

|
|||
|
|
|||
|

|
|||
|
|
|||
|
Результат становится гораздо лучше при увеличении количества эпох
|
|||
|
|
|||
|
Результат на 200 эпохах
|
|||
|
|
|||
|

|
|||
|
|
|||
|

|
|||
|
|
|||
|
На англоязычном тексте сеть работает хуже (50 эпох)
|
|||
|
|
|||
|

|
|||
|
|
|||
|
Хоть и текст выглядит не так плохо
|
|||
|
|
|||
|

|
|||
|
|
|||
|
На 200 эпох результат практически не улучшается
|
|||
|
|
|||
|

|
|||
|
|
|||
|
Но текст выглядит более осмысленно
|
|||
|
|
|||
|

|
|||
|
|
|||
|
Последующие поиски компромиссной архитектуры не привели к появлению новой.
|
|||
|
|
|||
|
### Вывод:
|
|||
|
Компромиссной архитектурой является ранее выбранная
|