Entenda mais sobre decisões automatizadas e o que a Lei Geral de Proteção de Dados menciona sobre elas.
Algoritmos e tomada de decisão automatizada: o que são
Se for possível cindir o “passo a passo” da tomada de decisão, suas variáveis e as articulações que elas fazem entre si, teremos como resultado a decisão automatizada. Esse “passo a passo”, os comandos dados para automação, são formalmente chamados de algoritmos.
Programas de reconhecimento facial, por exemplo, já são capazes de definir qual candidato será selecionado para trabalhar em uma empresa com base no tom de voz e na linguagem corporal que apresentou durante a entrevista de emprego.
Seguradoras empregam inteligência artificial para prestação de serviços como atendimento ao cliente e abertura de sinistros. Já no setor financeiro, instituições de crédito decidem se concederão crédito a um indivíduo e qual o valor dos juros que incidirão com base em métodos estatísticos.
Como são tomadas as decisões automatizadas?
As decisões podem ser tomadas por um algoritmo simples (um sistema linear simples). Como exemplo: selecionar candidatos que tenham uma determinada formação mínima. Ou podem compor um sistema dinâmico complexo, onde há um elemento emergente que precisamente são os casos de algoritmos que aprendem (machine learning).
No caso do machine learning, parte das variáveis processadas nesses algoritmos não foi incluída pelo seu desenvolvedor, e sim produzida como resultado de operações anteriores (com as quais o algoritmo aprendeu). Por tal razão, o machine learning possui um alto nível de obscuridade, que não nos permite visualizar, e compreender, como uma decisão foi tomada. Elas não são integralmente rastreáveis ou auditáveis.
Seria, por exemplo, o caso de algoritmos que definem o perfil (profiling) profissional de todos os candidatos e apontam quais seriam mais convenientes para uma vaga de emprego. Não necessariamente se saberia informar ao candidato integralmente como a decisão foi tomada.
As aplicações citadas podem gerar benefícios econômicos tanto à indústria quanto ao consumidor pela redução de custos, maior agilidade na prestação de serviços e aumento no grau de personalização de produtos. Em vista disso, a utilização de processos automatizados de tomada de decisão , incluindo a criação de perfis , está se disseminando em diversos setores, tanto privados quanto públicos, pois o progresso tecnológico tornou esses tratamentos mais eficientes e econômicos.
Mas com o advento de diversas leis ao redor do mundo sobre privacidade e proteção de dados, criou-se o direito de revisão dessas decisões automatizadas, pelos próprios titulares de dados (pessoas cujo os dados são tratados) e que são submetidas ao profiling de máquinas, como veremos a seguir.
LGPD e a revisão de dados
No modelo europeu, expresso pelo Regulamento Geral de Proteção de Dados (GDPR), é explícito quanto à obrigatoriedade da intervenção humana no processo de revisão para que o titular de dados possa manifestar seu ponto de vista e contestar a decisão, assim exercendo seus direitos de forma plena. Nesse sentido, empresas que processem dados de europeus deverão estar alinhadas com seu artigo 22, que obriga a revisão por pessoa natural de decisões automatizadas.
Já no Brasil, a LGPD é um pouco diferente. Após vetos pelo Poder Executivo, ficou excluído do texto original a obrigatoriedade da intervenção humana no processo de revisão de decisões automatizadas. Assim, é possível ao titular de dados pedir a revisão de decisões automatizadas sobre si, mas não é imprescindível que essa revisão seja feita por pessoa humana.
Sem adentrar no mérito dos motivos que resultaram no veto, importa deixar claro que as decisões automatizadas e criação de perfis por machine learning, podem ser revisadas, pois são garantidas pela Lei Geral de Proteção de Dados como direito dos titulares de dados pessoais, podendo tais indivíduos fazerem indagações às empresas que se beneficiam dos referidos algoritmos.
