Ключевые слова: нейронные сети, обучение нейронных сетей, помехи, обработка данных, большие объемы данных.
Искусственная нейронная сеть представляет собой программную или техническую реализацию биологической нейронной сети. При этом она не программируется в прямом смысле этого слова, а обучается с помощью определенного количества входных данных. Соответственно, в процессе обучения возникают ошибки[1, с.65].
Целью данной работы было изучить влияние дополнительных входных данных на точность работы искусственной нейронной сети. Данное исследование определяет возможность использования искусственных нейронных сетей в условиях помех. Для исследований применялся программный пакет STATISTICA Нейронные сети, 6 версия.
Изначально была взята сеть простейшей архитектуры, рассчитывающая элементарную операцию дизъюнкции. То есть на вход сети подаются два нейрона, принимающих значения 0 и 1. Сама сеть представляла собой многослойный перцептрон, с одним промежуточным слоем из 7 нейронов. Один выходной нейрон соответственно принимал значения 0 или 1. В качестве функции активации была взята сигмоидальная функция. Задача формулировалась как задача классификации. В качестве функции классификации (то есть определния ошибки) взята функция суммы квадратов в сочетании с обучением сети методом Левенберга-Маркара.
Обучение данной сети было проведено на 10 наборах, после чего ошибка в работе стала достаточно мала (< 0,005), как тестовая, так и контрольная.
Далее нами была изменена архитектура сети. Был внесен дополнительный нейрон, также принимающий значения 0 и 1, однако не несущий смысловой нагрузки. Затем было проведено обучение. Сначала, для чистоты эксперимента, обучении проводилось на 10 наборах, однако этого оказалось недостаточно, вероятность ошибки обучения составила 0,9564, что являлось абсолютно неприемлимым результатом. Затем было проведено обучение на 100 и 500 наборах. В первом случае ошибка составила 0,2321, во втором – 0,0334.
Затем был введен еще один входной нейрон. На наборах в 10,100 и 500 элементов ошибка была больше 0,6. На наборе в 1000 ошибка составила 0, 1029.
При вводе третьего нейрона на всех обучающих наборах меньше 1000 элементов ошибка была достаточно велика.
Исходя из данных, полученных экспериментальным путем, была составлена таблица.
Таблица 1. Значение ошибок при добавлении нейронов-помех
В данной таблице, за 1 обозначены значения ошибок примерно равные 0,9999. За 0 обозначены значения ошибок меньшие 0,0001.
В результате проделанной работы можно сделать вывод, что искусственная нейронная сеть, как и биологическая, применима в условиях помех. Однако для точной работы сети при наличии помех требуется существенно большее количество обучающих наборов данных, нежели для обучения аналогичной сети без помех.
Список использованных источников
1. Боровиков В.П. STATISTICA Neural Networks: Методология и технология современного анализа данных. Горячая линия Телеком. 2008- 392 с.
2. Вуколов Э.А. «Основы статистического анализа. Практикум по статистическим методам и исследованию операций с использованием пакетов «Statistica» и «Excel»». М.: Форум, 2004 — 464 с.