61 lines
1.9 KiB
Markdown
61 lines
1.9 KiB
Markdown
## Лабораторная работа №7, ПИбд-42 Тепечин Кирилл
|
||
|
||
|
||
### Как запустить лабораторную работу:
|
||
|
||
Для запуска лабораторной работы необходимо запустить файл lab7.py
|
||
|
||
### Используемые технологии:
|
||
|
||
* Python 3.11
|
||
* numpy
|
||
* keras
|
||
|
||
### Что делает лабораторная работа:
|
||
|
||
Эта лабораторная работа создает и обучает рекуррентную нейронную сеть (RNN) на основе текста из файла, используя библиотеку Keras.
|
||
|
||
### Тесты:
|
||
Опытным путем была выбрана следующая архитектура:
|
||
````python
|
||
model = Sequential()
|
||
model.add(Embedding(total_words, 50, input_length=max_sequence_length - 1))
|
||
model.add(LSTM(512))
|
||
model.add(Dropout(0.2))
|
||
model.add(Dense(total_words, activation='softmax'))
|
||
````
|
||
|
||
Результат на 50 эпохах
|
||
|
||

|
||
|
||

|
||
|
||
Результат становится гораздо лучше при увеличении количества эпох
|
||
|
||
Результат на 200 эпохах
|
||
|
||

|
||
|
||

|
||
|
||
На англоязычном тексте сеть работает хуже (50 эпох)
|
||
|
||

|
||
|
||
Хоть и текст выглядит не так плохо
|
||
|
||

|
||
|
||
На 200 эпох результат практически не улучшается
|
||
|
||

|
||
|
||
Но текст выглядит более осмысленно
|
||
|
||

|
||
|
||
Последующие поиски компромиссной архитектуры не привели к появлению новой.
|
||
|
||
### Вывод:
|
||
Компромиссной архитектурой является ранее выбранная |