Os principais cientistas da IA alertam para os riscos significativos associados ao rápido desenvolvimento das tecnologias de IA num Fórum de Políticas. Propõem que as principais empresas tecnológicas e financiadores públicos dediquem pelo menos um terço dos seus orçamentos à avaliação e mitigação de riscos. Defendem também normas globais rigorosas para prevenir a utilização indevida da IA e sublinham a importância da governação proactiva para orientar o desenvolvimento da IA para resultados benéficos e evitar potenciais catástrofes. Crédito: SciTechDaily.com
Os especialistas em IA recomendam um investimento significativo na mitigação dos riscos da IA e regulamentações globais mais rigorosas para evitar o uso indevido e orientar o desenvolvimento da IA com segurança.
Os investigadores alertaram para os riscos extremos associados ao rápido desenvolvimento das tecnologias de inteligência artificial (IA), mas não há consenso sobre como gerir estes perigos. Num Fórum de Políticas, os principais especialistas mundiais em IA, Yoshua Bengio e colegas, analisam os riscos do avanço das tecnologias de IA.
Estes incluem os impactos sociais e económicos, as utilizações maliciosas e a potencial perda de controlo humano sobre sistemas autónomos de IA. Propõem medidas de governação proactivas e adaptativas para mitigar estes riscos.
Os autores instam as grandes empresas tecnológicas e os financiadores públicos a investirem mais, alocando pelo menos um terço dos seus orçamentos para avaliar e mitigar estes riscos. Apelam também às instituições jurídicas e aos governos globais para que apliquem normas que impeçam a utilização indevida da IA.
Apelo ao Desenvolvimento Responsável de IA
“Para orientar a IA em direção a resultados positivos e longe da catástrofe, precisamos nos reorientar. Existe um caminho responsável – se tivermos sabedoria para segui-lo”, escrevem os autores.
Eles destacam a corrida entre as empresas de tecnologia em todo o mundo para desenvolver sistemas generalistas de IA que possam igualar ou exceder as capacidades humanas em muitos domínios críticos. No entanto, este rápido avanço também traz riscos à escala social que podem exacerbar as injustiças sociais, minar a estabilidade social e permitir o cibercrime em grande escala, a guerra automatizada, a manipulação em massa personalizada e a vigilância generalizada.
Entre as preocupações destacadas está a possibilidade de perda de controlo sobre sistemas autónomos de IA, o que tornaria a intervenção humana ineficaz.
Prioridades Urgentes para Pesquisa em IA
Os especialistas em IA argumentam que a humanidade não está adequadamente preparada para lidar com estes riscos potenciais da IA. Observam que, em comparação com os esforços para melhorar as capacidades de IA, são investidos muito poucos recursos para garantir o desenvolvimento e a implantação seguros e éticos destas tecnologias. Para colmatar esta lacuna, os autores descrevem prioridades urgentes para a investigação, desenvolvimento e governação da IA.
Para obter mais informações sobre esta pesquisa, consulte Cientistas de IA alertam sobre o desencadeamento de riscos além do controle humano.
Referência: “Gerenciando riscos extremos de IA em meio ao progresso rápido” por Yoshua Bengio, Geoffrey Hinton, Andrew Yao, Dawn Song, Pieter Abbeel, Trevor Darrell, Yuval Noah Harari, Ya-Qin Zhang, Lan Xue, Shai Shalev-Shwartz, Gillian Hadfield, Jeff Clune, Tegan Maharaj, Frank Hutter, Atılım Güneş Baydin, Sheila McIlraith, Qiqi Gao, Ashwin Acharya, David Krueger, Anca Dragan, Philip Torr, Stuart Russell, Daniel Kahneman, Jan Brauner e Sören Mindermann, 20 de maio de 2024, Ciência.
DOI: 10.1126/science.adn0117
