DECISÕES EXCLUSIVAMENTE AUTOMATIZADAS E A NECESSIDADE DE UMA SUPERVISÃO HUMANA NO BRASIL
REVISTA DA ADVOCACIA PÚBLICA FEDERAL
DECISÕES EXCLUSIVAMENTE AUTOMATIZADAS E A NECESSIDADE DE UMA SUPERVISÃO HUMANA NO BRASIL
Autor Correspondente: SILVA, R. V. | [email protected]
Palavras-chave: Inteligência Artificial. Decisões Exclusivamente Automatizadas. Supervisão Humana. Direito à Explicação. Direito à Revisão Humana.
Resumos Cadastrados
Resumo Português:
A inteligência artificial pode ser definida como a tentativa de atribuir à sistemas artificiais a capacidade cognitiva do ser humano. O presente trabalho tem como objetivo definir como os algoritmos de inteligência artificial devem ser desenhados para a garantia a produtividade esperada de tais incrementos tecnológicos e os requisitos exigidos para garantir a segurança jurídica nas decisões de inteligência artificial exclusivamente automatizadas. Quanto à metodologia aplicada foi realizada pesquisa básica estratégica descritiva de cunho qualitativa, utilizando-se do método hipotético-dedutivo com análise da doutrina pátria e dos conteúdos da jurisprudência nacional sobre o tema. Iniciou-se o presente trabalho identificando as diversas aplicações da inteligência artificial como instrumento de produtividade do sistema produtivo da economia brasileira por meio da assistência na tomada de decisão por um usuário humano ou na sua substituição nas decisões exclusivamente automatizadas. Passou-se a possibilidade da utilização da inteligência artificial para a tomada de decisões e as exigências para sua validade. Verificou-se a necessidade da construção dos sistemas algorítmicos de maneira neutra para que se previna a tomada enviesada de decisões automáticas e a necessidade de auditabilidade destas decisões em razão do direito de explicação garantido aos usuários. Examinou-se também a possibilidade da revisão humana das decisões automáticas de forma individualizada prestigiando-se a segurança jurídica e os direitos subjetivos dos usuários humanos ou a adoção de um sistema de revisão em abstrato das decisões buscando-se a manutenção da possibilidade de progresso científico mantendo-se o ganho de escala das decisões algorítmicas automatizadas.
