As redes neurais artificiais poderão em breve processar dados dependentes do tempo de forma mais eficiente com o desenvolvimento de um memristor ajustável. Esta tecnologia, detalhada num estudo liderado pela Universidade de Michigan, poderia reduzir significativamente o consumo de energia da IA. Crédito: SciTechDaily.com
No cérebro, a cronometragem é feita com neurônios que relaxam em ritmos diferentes após receberem um sinal; agora os memristores – análogos de hardware dos neurônios – também podem fazer isso.
As redes neurais artificiais poderão em breve ser capazes de processar informações dependentes do tempo, como dados de áudio e vídeo, de forma mais eficiente. O primeiro memristor com um “tempo de relaxamento” que pode ser ajustado foi relatado hoje na Nature Electronics, em um estudo liderado pela Universidade de Michigan.
Eficiência Energética e IA
Memristores, componentes elétricos que armazenam informações em sua resistência elétrica, podem reduzir as necessidades energéticas da IA por cerca de um fator de 90 em comparação com as unidades de processamento gráfico atuais. A IA já deverá representar cerca de meio por cento do consumo total de eletricidade do mundo em 2027, e esse número tem potencial para aumentar à medida que mais empresas vendem e utilizam ferramentas de IA.
“Neste momento, há muito interesse na IA, mas para processar dados maiores e mais interessantes, a abordagem é aumentar o tamanho da rede. Isso não é muito eficiente”, disse Wei Lu, professor de engenharia James R. Mellor na UM e co-autor correspondente do estudo com John Heron, professor associado de ciência e engenharia de materiais da UM.
O problema com GPUs
O problema é que as GPUs funcionam de forma muito diferente das redes neurais artificiais que executam os algoritmos de IA – toda a rede e todas as suas interações devem ser carregadas sequencialmente a partir da memória externa, o que consome tempo e energia. Em contraste, os memristores oferecem economia de energia porque imitam aspectos-chave do modo como as redes neurais artificiais e biológicas funcionam sem memória externa. Até certo ponto, a rede memristor pode incorporar a rede neural artificial.
Inovações em materiais Memristor
“Prevemos que nosso novo sistema de materiais poderia melhorar a eficiência energética dos chips de IA seis vezes em relação ao material de última geração, sem variar as constantes de tempo”, disse Sieun Chae, um recente Ph.D. graduado em ciência e engenharia de materiais e co-autor do estudo com Sangmin Yoo, um recente PhD da UM em engenharia elétrica e de computação.
Em uma rede neural biológica, a cronometragem é obtida por meio do relaxamento. Cada neurônio recebe sinais elétricos e os envia, mas não há garantia de que o sinal avançará. Algum limite de sinais recebidos deve ser alcançado antes que o neurônio envie os seus próprios, e deve ser alcançado em um determinado período de tempo. Se passar muito tempo, diz-se que o neurônio relaxa à medida que a energia elétrica vaza dele. Ter neurônios com diferentes tempos de relaxamento em nossas redes neurais nos ajuda a compreender sequências de eventos.
Como funcionam os memristores
Os memristores operam de maneira um pouco diferente. Em vez da presença ou ausência total de um sinal, o que muda é a quantidade de sinal elétrico que passa. A exposição a um sinal reduz a resistência do memristor, permitindo a passagem de mais sinal seguinte. Nos memristores, o relaxamento significa que a resistência aumenta novamente com o tempo.
Embora o grupo de Lu tenha explorado a construção do tempo de relaxamento em memristores no passado, não era algo que pudesse ser controlado sistematicamente. Mas agora, a equipe de Lu e Heron mostraram que variações em um material base podem fornecer diferentes tempos de relaxação, permitindo que redes de memristores imitem esse mecanismo de cronometragem.
Composição e testes de materiais
A equipe construiu os materiais no supercondutor YBCO, feito de ítrio, bário, carbono e oxigênio. Não possui resistência elétrica em temperaturas abaixo de -292 Fahrenheit, mas eles queriam isso por sua estrutura cristalina. Orientou a organização dos óxidos de magnésio, cobalto, níquel, cobre e zinco no material do memristor.
Heron chama esse tipo de óxido, um óxido estabilizado pela entropia, de “pia de cozinha do mundo atômico” – quanto mais elementos eles adicionam, mais estável ele se torna. Ao alterar as proporções desses óxidos, a equipe alcançou constantes de tempo que variam de 159 a 278 nanossegundos, ou trilionésimos de segundo. A simples rede de memristores que construíram aprendeu a reconhecer os sons dos números de zero a nove. Uma vez treinado, ele poderia identificar cada número antes que a entrada de áudio fosse concluída.
Perspectivas futuras
Esses memristores foram feitos através de um processo que consome muita energia porque a equipe precisava de cristais perfeitos para medir com precisão suas propriedades, mas eles antecipam que um processo mais simples funcionaria para a fabricação em massa.
“Até agora, é uma visão, mas acho que existem caminhos para tornar esses materiais escalonáveis e acessíveis”, disse Heron. “Esses materiais são abundantes na terra, não são tóxicos, são baratos e você quase pode borrifá-los.”
Referência: “Processamento eficiente de dados usando memristores de óxido estabilizados por entropia ajustáveis” por Sangmin Yoo, Sieun Chae, Tony Chiang, Matthew Webb, Tao Ma, Hanjong Paik, Yongmo Park, Logan Williams, Kazuki Nomoto, Huili G. Xing, Susan Trolier- McKinstry, Emmanouil Kioupakis, John T. Heron e Wei D. Lu, 20 de maio de 2024, Eletrônica da Natureza.
DOI: 10.1038/s41928-024-01169-1
A pesquisa foi financiada pela National Science Foundation. Isso foi feito em parceria com pesquisadores da Universidade de Oklahoma, da Universidade Cornell e da Universidade Estadual da Pensilvânia.
O dispositivo foi construído na Lurie Nanofabrication Facility e estudado no Michigan Center for Materials Characterization.
Lu também é professor de engenharia elétrica e de computação e ciência e engenharia de materiais. Chae é agora professor assistente de engenharia elétrica e ciência da computação na Oregon State University.
