Um estudo prevê que os malfeitores usarão a IA diariamente até meados de 2024 para espalhar conteúdo tóxico nas principais comunidades online, potencialmente impactando as eleições. Crédito: SciTechDaily.com
Um estudo prevê que, em meados de 2024, os malfeitores deverão utilizar cada vez mais a IA nas suas atividades diárias. A pesquisa, conduzida por Neil F. Johnson e sua equipe, envolve uma exploração de comunidades online associadas ao ódio. A sua metodologia inclui a pesquisa de terminologia listada na base de dados de símbolos de ódio da Liga Anti-Difamação, bem como a identificação de grupos sinalizados pelo Southern Poverty Law Center.
A partir de uma lista inicial de comunidades de “maus atores” encontrada usando estes termos, os autores avaliam as comunidades ligadas pelas comunidades de maus atores. Os autores repetem este procedimento para gerar um mapa de rede de comunidades de maus actores – e dos grupos online mais convencionais aos quais se ligam.
Comunidades tradicionais categorizadas como “subconjunto de desconfiança”
Algumas comunidades tradicionais são categorizadas como pertencentes a um “subconjunto de desconfiança” se acolherem discussões significativas sobre COVID 19, MPX, aborto, eleições ou mudanças climáticas. Utilizando o mapa resultante do actual “campo de batalha” online dos maus actores, que inclui mais de mil milhões de indivíduos, os autores projectam como a IA pode ser usada por estes maus actores.
O ecossistema mainstream vulnerável e de maus atores (painel esquerdo). Compreende comunidades interligadas de maus actores (nós coloridos) e comunidades dominantes vulneráveis (nós brancos, que são comunidades com as quais as comunidades de maus actores formaram uma ligação directa). Esta rede empírica é mostrada usando o algoritmo de layout ForceAtlas2, que é espontâneo, portanto conjuntos de comunidades (nós) aparecem mais próximos quando compartilham mais links. Cores diferentes correspondem a plataformas diferentes. Um pequeno anel vermelho mostra a comunidade do YouTube do atirador do Texas em 2023 como ilustração. O painel direito mostra o diagrama de Venn dos tópicos discutidos no subconjunto de desconfiança. Cada círculo denota uma categoria de comunidades que discutem um conjunto específico de tópicos, listados na parte inferior. O número médio é o número de comunidades que discutem esse conjunto específico de tópicos, e o maior número é o número correspondente de indivíduos, por exemplo, o círculo cinzento mostra que 19,9 milhões de indivíduos (73 comunidades) discutem todos os 5 tópicos. O número fica vermelho se a maioria for antivacinação; verde se a maioria for neutra em relação às vacinas. Somente regiões com > 3% do total de comunidades são rotuladas. A antivacinação domina. No geral, este número mostra como a IA de maus atores poderia alcançar rapidamente um alcance global e também crescer rapidamente atraindo comunidades com desconfiança existente. Crédito: Johnson et al.
Os autores prevêem que os maus atores usarão cada vez mais a IA para enviar continuamente conteúdo tóxico para as principais comunidades usando iterações iniciais de ferramentas de IA, já que esses programas têm menos filtros projetados para impedir seu uso por maus atores e são programas disponíveis gratuitamente, pequenos o suficiente para caber em um ambiente. computador portátil.
Ataques alimentados por IA quase diariamente em meados de 2024
Os autores prevêem que tais ataques de IA por maus actores ocorrerão quase diariamente em meados de 2024 – a tempo de afectar as eleições nos EUA e outras eleições globais. Os autores enfatizam que, como a IA ainda é nova, as suas previsões são necessariamente especulativas, mas esperam que o seu trabalho sirva, no entanto, como ponto de partida para discussões políticas sobre a gestão das ameaças da IA de maus actores.
Referência: “Controlando atividades de inteligência artificial de maus atores em escala em campos de batalha online” por Neil F Johnson, Richard Sear e Lucia Illari, 23 de janeiro de 2024, Nexus do PNAS.
DOI: 10.1093/pnasnexus/pgae004
