THE ROBUSTNESS OF NEURAL NETWORKS IN PATTERN RECOGNITION TASKS USING NEW TARGETS VECTORS

Revista Inova Ciência & Tecnologia

Endereço:
Av. Doutor Randolfo Borges Júnior - n. 2900 - Univerdecidade
Uberaba / MG
38064-300
Site: http://periodicos.iftm.edu.br/index.php/inova/index
Telefone: (34) 3326-1129
ISSN: 2447-598X
Editor Chefe: Dr. Adelar José Fabian
Início Publicação: 30/09/2015
Periodicidade: Trimestral
Área de Estudo: Ciências Agrárias, Área de Estudo: Ciências Exatas, Área de Estudo: Ciências Humanas

THE ROBUSTNESS OF NEURAL NETWORKS IN PATTERN RECOGNITION TASKS USING NEW TARGETS VECTORS

Ano: 2020 | Volume: 6 | Número: 1
Autores: José Ricardo Gonçalves Manzan, Keiji Yamanaka, Tiago Elias Carvalho Oliveira, Igor Santos Peretta, Shigueo Nomura, Ana Paula Arantes Lima Manzan
Autor Correspondente: José Ricardo Gonçalves Manzan | [email protected]

Palavras-chave: Euclidean Distance, Multilayer Perceptron, Orthogonal Bipolar Vectors.

Resumos Cadastrados

Resumo Português:

Este trabalho propõe o uso de novos vetores alvo em redes neurais artificiais (ANNs) do tipo multilayer perceptron (MLP) a fim de proporcionar maior robustez diante das mudanças dos parâmetros de treinamento. Estes são alvos com distância euclidiana aumentada denominados como vetores bipolares ortogonais (OBVs). Pela característica geométrica de bipolaridade e perpendicularidade, estes alvos são localizados no espaço n-dimensional, estando a maior distância possível um do outro. Esta maior distância mútua dos pontos do espaço de saída facilita a tarefa das ANNs na classificação de padrões. Isto garante maior desempenho para MLP até mesmo em situações em que os parâmetros não são bons para ANNs treinadas com alvos convencionais. Assim, a robustez obtida por meio do uso de OBVs facilita o use de MLPs por pessoas que não tem experiência na escolha dos parâmetros de treinamento. A Análise de robustez foi realizada com a utilização de experimentos de reconhecimento, por MLPs, de três tipos de conjuntos de dados: (a) Dígitos manuscritos do Machine Learning Repository; (b) De imagens de Iris humana da Chinese Academy of Sciences – CASIA; e (c) Signos de linguagem australiana, sinais do Machine Learning Repository. Os resultados experimentais mostram que o uso de OBVs como  alvos de MLPs reduz a perda de desempenho causada pela escolha de parâmetros. A média de desempenho obtida com o uso de OBVs é de até 15% maior que aquela obtida com vetores convencionais.



Resumo Inglês:

This paper proposes the use of new target vectors for multilayer perceptron (MLP) artificial neural networks (ANNs) in order to provide greater robustness in face of training parameter changes. These are targets with an amplified euclidean distance called orthogonal bipolar vectors (OBVs). Because of the geometric characteristics of bipolarity and perpendicularity, these targets are located in the n-dimensional space, which is the greatest possible distance from one another. This greater mutual distance of the output space points facilitates the pattern classification task of ANNs. This ensures the better performance of MLPs even in situations in which the parameters are not good for ANNs trained with conventional targets. Thus, the robustness obtained through the use of OBVs facilitates the use of MLPs for people who do not have much experience in choosing training parameters. The robustness analysis was performed using experiments for the recognition, with MLPs, of three kinds of data sets, using both OBVs and conventional targets. Real data sets used in the experiments are available at: (a) the Semeion Handwritten Digits from the Machine Learning Repository; (b) the Iris Image Database from the Chinese Academy of Sciences - CASIA; and (c) Australian Sign Language, signs of the Machine Learning Repository. The experimental results show that the use of OBVs as targets of MLPs reduces the loss of performance caused by the change of parameters. The average performance obtained with the use of OBVs is at least 15% higher than that obtained with conventional targets.