O risco é o critério nuclear classificatório dos sistemas de Inteligência Artificial.
Quatro ordens de riscos se vislumbram:
- Inaceitável
- Elevado
- Mínimo e
- Específico a reclamar transparência.
O risco inaceitável obriga a que se proíba toda a sorte de sistemas que em tal se revêem porque violam direitos fundamentais na União Europeia.
É o que o Parlamento Europeu faz, em regulamento aprovado quarta-feira última.
Riscos inaceitáveis e, por conseguinte, proibidos, os dos sistemas que:
- Empreguem técnicas subliminares que contornem a consciência de uma pessoa ou que a manipulem manifestamente ou a ludibriem, com o objectivo ou o efeito de distorcer substancialmente o seu comportamento ou o de um grupo, prejudicando de forma considerável a sua capacidade de decisão;
- Explorem vulnerabilidades de uma pessoa ou de um grupo específico devido à idade, incapacidade ou situação sócio-económica, com o fito de distorcer substancialmente o seu comportamento ou de pessoa pertencente ao grupo de tal forma que cause ou seja razoavelmente susceptível de causar-lhe significativos danos;
- Avaliem ou classifiquem pessoas naturais ou grupos durante um certo período com base no seu comportamento social ou em características de personalidade, conhecidas, inferidas ou previsíveis, em que tal classificação social conduza a tratamento prejudicial ou desfavorável
- em contextos sociais não relacionados com aqueles em que os dados foram originalmente gerados ou recolhidos;
- que seja injustificado ou desproporcionado face ao seu comportamento social ou à sua gravidade;
- Visem uma finalidade específica ou se adoptem para avaliação de risco de pessoas naturais a fim de aferir ou prever a probabilidade de virem a cometer uma infracção penal, com base exclusivamente numa definição de perfis ou na avaliação dos seus traços e características de personalidade (o que não se aplica aos sistemas que se destinem a apoiar a avaliação do envolvimento de uma pessoa em actividade criminosa, que se baseiejá em factos objectivos e verificáveis, directamente ligados a tal);
- Criam ou expandem bases de dados de reconhecimento facial através da recolha aleatória de imagens faciais a partir da Internet ou de imagens de televisão em circuito fechado;
- Se destinem a inferir emoções de uma pessoa natural no local de trabalho e nas instituições de ensino, excepto se se destinar a ser instalado ou introduzido no mercado por razões médicas ou de segurança;
- Visem a categorização biométrica para classificação individual de pessoas naturais com base em dados biométricos para deduzir ou inferir a sua raça, opiniões políticas, filiação sindical, convicções religiosas ou filosóficas, vida ou orientação sexual (tal proibição não abrange rotulagens nem filtragens de conjuntos de dados biométricos legalmente adquiridos, tais como imagens, com base em dados biométricos ou na categorização de dados biométricos no domínio da manutenção da ordem pública);
- Se destinem aidentificação biométrica à distância em "tempo real" em espaços acessíveis ao público para efeitos de manutenção da ordem pública, a menos e na medida em que tal utilização seja estritamente necessária para um dos seguintes fins:
- busca selectiva de vítimas específicas de rapto, tráfico ou exploração sexualde seres humanos, bem como a de pessoas desaparecidas;
- prevenção de uma ameaça específica, substancial e iminente à vida ou à segurança física de pessoas singulares ou de uma ameaça real e actual ou real e previsível de um ataque terrorista;
- a localização ou identificação de uma pessoa suspeita de ter cometido uma infracção penal, para efeitos da realização de uma investigação criminal, instauração de acção penal ou execução de uma sanção penal por alguma das 16 infracções enunciadas em anexo e puníveis no Estado-membro de que se trate com pena ou medida de segurança privativa de liberdade de duração máxima não inferior a quatro anos.
Um extenso documento(+ - 500 pp) com 180 considerandos preambulares, contra os 89 da proposta original, e 113 artigos, que importa agoraanalisar detidamente. Pelas implicações que também tem no mercado de consumo, fortemente influenciado pelos sistemas que se vêm já adoptando.
Mário Frota
presidente emérito da apDC – DIREITO DO CONSUMO - Portugal