Uma nova investigação examina o potencial uso indevido da IA no acesso ao nosso subconsciente, conforme revelado pelo escândalo Cambridge Analytica. Critica a proposta de regulamento sobre IA da UE pelas suas inadequações na proteção contra a manipulação subconsciente, sublinhando a necessidade de maiores salvaguardas de privacidade no nosso mundo cada vez mais orientado pelos dados.
A nova lei da União Europeia sobre inteligência artificial poderia permitir que a IA acedesse às nossas mentes subconscientes.
A iniciativa neurorights liderada pela Neurorights Foundation defende o reconhecimento de um novo conjunto de medidas de proteção contra os desafios destes avanços técnicos. Algumas delas estão a ser debatidas no âmbito da Lei da Inteligência Artificial, que está atualmente a ser negociada nos órgãos de governo da UE. Esta lei deve regular, entre outras questões, a capacidade da IA de influenciar o nosso subconsciente (à semelhança do caso Cambridge Analytica, mas a níveis muito mais profundos).
Ignasi Beltran de Heredia, Reitor da Faculdade de Direito e Ciência Política da Universitat Oberta de Catalunya (UOC) e autor do livro “Inteligência artificial e neurodireitos” (Aranzadi, 2023), acaba de publicar um artigo de acesso aberto examinando os desafios que enfrentamos como resultado dos avanços na IA e questionando o último projeto de lei da UE na perspectiva da neurociência.
Os riscos de dar acesso à IA ao nosso subconsciente
Segundo estimativas, apenas 5% da atividade cerebral humana é consciente. Os restantes 95% ocorrem de forma subconsciente e não só não temos controlo real sobre isso, como também nem sequer temos consciência de que está a acontecer. Como observou Beltran de Heredia em seu artigo, desconhecemos esta extraordinária torrente de atividade neural devido à alta complexidade da interação entre nossa mente consciente e nosso comportamento subconsciente e à nossa completa falta de controle sobre as forças que guiam nossas vidas.
No entanto, isso não significa que as pessoas não possam ser influenciadas subconscientemente. “Existem duas maneiras de a inteligência artificial fazer isso”, explicou ele. “A primeira é coletar dados sobre a vida das pessoas e criar uma arquitetura de decisão que leve você a tomar uma determinada decisão. E a outra – atualmente menos desenvolvida – envolve a utilização de aplicações ou dispositivos para criar diretamente impulsos irresistíveis para o nosso subconsciente, a fim de gerar respostas impulsivas a um nível subliminar, ou seja, para criar impulsos.”
“À medida que desenvolvemos gradualmente máquinas melhores e mais poderosas e nos tornamos mais estreitamente ligados a elas, ambas as opções tornar-se-ão cada vez mais difundidas. Os algoritmos terão mais informações sobre as nossas vidas e será mais fácil criar ferramentas para gerar estas respostas impulsivas (…) O risco destas tecnologias é que, tal como o Flautista de Hamelin, nos façam dançar sem saber porquê.”
Na opinião de Beltran de Heredia, o campo em que provavelmente veremos as primeiras tentativas de influenciar o comportamento humano através da IA é o do trabalho, mais especificamente da saúde ocupacional. Ele argumenta que uma série de tecnologias intrusivas estão atualmente em uso. Isso inclui dispositivos que monitoram motoristas de ônibus para detectar sensores de microssono ou eletroencefalografia (EEG) usados pelos empregadores para monitorar as ondas cerebrais dos funcionários quanto aos níveis de estresse e atenção durante o trabalho. “É difícil prever o futuro, mas, se não restringirmos essas tecnologias intrusivas enquanto ainda estão nos estágios iniciais de desenvolvimento, o cenário mais provável é que continuem melhorando e espalhando seus tentáculos em nome da produtividade. .”
Os limites (embaçados) propostos pela UE
O novo regulamento sobre inteligência artificial atualmente em discussão na UE procura antecipar os possíveis riscos futuros desta e de outras utilizações da IA. O artigo 5.1 do projeto de lei original continha uma proibição expressa de colocar no mercado, colocar em serviço ou usar uma IA que seja capaz de influenciar uma pessoa que não seja a nível consciente, a fim de distorcer o comportamento dessa pessoa. No entanto, as alterações e modificações gradualmente introduzidas desde então diluíram lentamente a natureza absoluta da proibição.
O projeto de lei atual, que servirá de referência para a redação final da lei, proíbe tais técnicas apenas se tiverem a intenção de serem manipuladoras ou enganosas, pois afetam significativamente a capacidade de uma pessoa de tomar uma decisão informada, de modo que tome uma decisão que de outra forma não teriam feito e, de alguma forma, causam danos significativos a alguém. Além disso, a proibição não se aplicará aos sistemas de IA para fins terapêuticos aprovados.
“De acordo com a proposta, a proibição da IA será aplicada quando houver danos graves e a pessoa acabar fazendo algo que de outra forma não teria feito. Mas esse é um padrão irrealista. Se não consigo acessar meu subconsciente, não posso provar o que teria feito sem o estímulo, e também não posso provar o dano (…) Se a publicidade subliminar está agora completamente banida sem qualificação, por que estamos deixando espaço para o condicionamento subliminar pela inteligência artificial?”
Segundo Beltran de Heredia, se deixarmos a porta do nosso subconsciente aberta, mesmo que por bons motivos, não conseguiremos controlar quem tem acesso a ela, como ela é acessada ou os objetivos desse acesso. “Alguns podem pensar que estas preocupações pertencem a um futuro distópico improvável. E, no entanto, não há dúvida de que já estamos a ser invadidos a uma profundidade que era inimaginável há apenas alguns anos e que o público deveria receber a proteção mais completa possível. Nossa mente subconsciente representa nosso eu mais íntimo e deve ser completamente isolada do acesso externo. Na verdade, nem deveríamos estar discutindo isso.”
Ainda há muito que não sabemos sobre como nosso cérebro funciona e como as partes consciente e subconsciente de nossa mente interagem umas com as outras. O cérebro continua a ser um órgão muito elusivo e, embora a ciência esteja a fazer grandes progressos neste campo, não sabemos muitas das formas como o seu funcionamento pode ser afetado por certos estímulos. “Precisamos estar cientes do risco de dar a outras pessoas e empresas acesso ao nosso eu interior em níveis tão profundos. No contexto da economia de dados, muitas instituições públicas e privadas competem pelo acesso à nossa informação, mas, paradoxalmente, tem sido demonstrado repetidamente que os indivíduos dão pouco valor à sua privacidade”, concluiu.
Referência: “Algoritmos e condicionamento abaixo do nível consciente: uma análise crítica da proposta de Lei de Inteligência Artificial da União Europeia” por Ignasi Beltran de Heredia Ruiz, 5 de setembro de 2023, Revista da Faculdade de Direito do México.
DOI: 10.22201/fder.24488933e.2023.286.86406
