Profiling na lei geral de proteção de dados: o livre desenvolvimento da personalidade em face da governamentalidade algorítmica

Profiling na lei geral de proteção de dados – o livre desenvolvimento da personalidade em face da governamentalidade algorítmica

“Sobre perfilamento, Pedro indica que sua principal finalidade é realizar inferências. o que implica na assunção de três deveres por parte daquele que utiliza tal técnica, quais sejam, o dever de informar adequadamente ao titular de dados que existe um perfil no qual ele está inserido, a obrigação de não utilização de dados que tenham uma alta capacidade discriminatória, tais como aqueles referidos à raça e gênero e a obrigação de explicar como o processo de perfilamento funciona e como são tomadas decisões com base nessa tipologia._x000D_
_x000D_
Em relação à proteção do livre desenvolvimento da personalidade, Pedro revela uma preocupação com a potencial diminuição, ou até mesmo sublimação, da autonomia individual por conta do tratamento automatizado de dados pessoais que levam à decisão algorítmica. Para ele, a capacidade da máquina decidir por si só poderia implicar na desconsideração das subjetividades na medida em que a categorização de pessoas num mesmo perfil infere determinadas características de similitude, descartando elementos de diferenciação e individualização do sujeito. Esse mecanismo decisório calcado em algoritmos teria a potencialidade de impedir o livre desenvolvimento da pessoa ao tornar obsoleta a agência humana – termos utilizados pelo autor._x000D_
_x000D_
Ao final, como proposta de seu trabalho de pesquisa, Pedro defende que um dos conteúdos do direito à proteção de dados pessoais é justamente o poder de autoidentificação do titular. Considerando a crescente utilização de técnicas de profiling por meio do uso de algoritmos, aos agentes de tratamento de dados seria exigível o atendimento de três deveres, a fim de permitir o livre desenvolvimento da personalidade: (i) o devido processo informacional e o direito a inferências razoáveis; (ii) a explicação a respeito da tomada de decisão automatizada e, por fim, (iii) a prestação de contas por meio de relatórios de impacto, a permitir o acompanhamento pela sociedade do uso de tecnologias potencialmente violadoras de direitos fundamentais”._x000D_
_x000D_
Trecho do prefácio de Caitlin Mulholland