ИСПОЛЬЗОВАНИЕ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ ДЛЯ РАСПОЗНАВАНИЯ РУКОПЕЧАТНЫХ СИМВОЛОВ (Мисюрев А. В.) (продолжение)

Параметры обучения взаимозависимы и должны выбираться согласованно. Так, например, при небольшом размере обучающей базы использование искажений символов может приводить к улучшению качества обучения, а при увеличении размера базы приводит к его ухудшению. Использование кэша плохих символов в самом начале обучения особого смысла не имеет. Наоборот, после нескольких проходов по базе с обучающими символами большая часть символов из базы распознается с очень большой надежностью. Изменение весов сети происходит главным образом за счет растров, содержащихся в кэше плохих символов.

Регуляризация (т.е. введение экспоненциального затухания весов при обучении) приводит к некоторому ухудшению качества распознавания. Однако использование очень небольшого коэффициента затухания позволяет повысить устойчивость сети без заметных потерь в качестве распознавания.

Для определения наилучшего момента остановки сети можно периодически тестировать качество распознавания на небольшой независимой базе данных.

Сравнение качества различных алгоритмов распознавания символов затруднено тем, что относительное значение числа правильно распознанных символов существенно зависит от конкретной базы данных, на которой проводится тестирование. На качество распознавания также существенно влияют объем набора распознаваемых символов, технология обучения нейронной сети, методика и алгоритмы выделения первичных признаков, технология подготовки обучающей базы данных и другие факторы. Имеющиеся в литературе численные оценки эффективности различных алгоритмов относятся, главным образом, к распозаванию цифр.

Проведено обучение нейронной сети на базе из 166500 цифр и тестирование на базе данных из 16650 цифр. Число правильно распознанных символов составляет 99.61%. Дальнейшее развитие алгоритма может быть связано с поиском более адекватного представления структурных признаков распознаваемых символов. Использование большей обучающей базы данных и увеличение памяти нейронной сети также может дать некоторое улучшение качества распознавания.

ЛИТЕРАТУРА
1) Y. LeCun, O.Matan, B.Boser, J.S.Denker, D.Henderson, R.E.Howard, W.Hubbard, L.D.Jackel, H.S.Baird. "Handwritten Zipcode Recognition With Multilayer Networks," Proc. of International Conference on Pattern Recognition, Atlantic City, 1990.
2) A. Krzyzak, W. Dai, C.Y.Suen. "Unconstrained Handwritten Character Classification Using Modified Backpropagation Model," Proc. 1st Int. Workshop on Frontiers in Handwriting Recognition, Montreal, Canada, Стр.155-166, 1990.
3) Seong-Wang Lee, Young Joon Kim. "Off-line Recognition of Totally Unconstrained Handwritten Numerals Using Multilayer Cluster Neural Network." Proc. Of the 12th IAPR International Conference on Pattern Recognition. Jerusalem, Israel. 1994. Стр. 507-509.
4) R. Schapire, "The Strength of Weak Learnability," Machine Learning. 5 197-227 (1990).
5) H.Drucker, R.Schapire, P.Simard. "Boosting Performance in Neural Networks." International Journal of Pattern Recognition and Artificial Intelligence. 7 705-720 (1993).
6) Fukushima, K. (1988). Neocognition: a hierarchical neural network capable of visual pattern recognition. Neural Networks 1 (2), Стр. 119-130.
7) Knerr, S., Personnaz, L. & Dreyfus, G. (1992) Handwritten digit recognition by neural networks with single-layer training. IEEE Transactions on Neural Networks 3, 962-968.
8) Lee, Y. (1991) Handwritten digit recognition using K neares-neighbor, radial-basis function, and back-propagation neural networks. Neural Computation 3, 440-449.
9) Martin, G.L. & Pitman, J. A. (1991) Recognizing hand-printed letters and digits using backpropagation learning. Neural Computation 3, 258-267.