Edgar Cervantes / Autoridade Android
DR
- Uma desmontagem do Android Authority revelou que o Reddit usará um modelo de IA para detectar assédio.
- O modelo é treinado em conteúdo que foi previamente sinalizado por violar os termos do Reddit.
Vimos grandes modelos de linguagem (LLMs) usados para uma variedade de recursos no último ano, desde geração de texto/imagem até assistentes virtuais e muito mais. Agora parece que podemos adicionar mais um caso de uso à lista graças ao Reddit.
Uma desmontagem de APK ajuda a prever recursos que podem chegar a um serviço no futuro com base no código de trabalho em andamento. No entanto, é possível que tais recursos previstos não cheguem ao lançamento público.
Uma análise da versão 2024.10.0 do aplicativo Reddit para Android revelou que o Reddit agora está usando um LLM para detectar assédio na plataforma. Você pode ver as strings relevantes abaixo.
Código
<string name="hcf_answer_how_model_trained">The harassment model is an large language model (LLM) that is trained on content that our enforcement teams have found to be violating. Moderator actions are also an input in how the model is trained.</string>
<string name="hcf_faq_how_model_trained">How is the harassment model trained?</string>Reddit também atualizou seu página de suporte há uma semana para mencionar o uso de um modelo de IA como parte de seu filtro de assédio.
“O filtro é alimentado por um Large Language Model (LLM) que é treinado nas ações do moderador e no conteúdo removido pelas ferramentas internas e equipes de fiscalização do Reddit”, diz um trecho da página.
De qualquer forma, parece que os moderadores têm outra ferramenta em seu arsenal para combater conteúdo questionável no Reddit. Isso realmente fará um ótimo trabalho de sinalização de conteúdo? Teremos apenas que esperar para ver.
