Emillie de Keulenaar (UvA) analisa como LLMs produzem discurso moderado em resposta a temas controversos e de alto risco

A pesquisadora Emillie de Keulenaar, da Universidade de Amsterdã (UvA), apresentou o trabalho “LLMs and the generation of moderate speech” no dia 4 de setembro, em encontro presencial do Condado Lab na PUC-Rio. O artigo analisa as técnicas discursivas empregadas pelos grandes modelos de linguagem (LLMs, na sigla em inglês) para responder a comandos sobre temas controversos e conclui que os modelos tendem a responder a temas de alto risco com recusas e linguagem normativa, enquanto os temas controversos recebem respostas inconsistentes.

Para testar as respostas de diferentes modelos, Emillie coletou as 250 perguntas mais controversas de 165 fóruns da plataforma Reddit, em seis idiomas. A própria plataforma oferece um índice de “controversialidade”, calculado a partir do número de votos positivos e negativos de cada post. O risco, por sua vez, é medido pela nota de moderação fornecida pelas APIs dos modelos, que classificam cada post em uma escala de 0 a 1 (do menor para o maior risco). A amostra foi submetida aos modelos GPT-3.5 Turbo, GPT-4, Claude 3 Haiku, Claude 3 Sonnet, Claude 3.5, Llama 2 7B, Llama 3 7B e Mistral. Os prompts “arriscados” são identificados pelos modelos por meio de extensos processos de alinhamento de valores.

A pesquisadora categorizou seis tipos de técnicas discursivas utilizadas pelos modelos em resposta a temas controversos e de alto risco: agnóstica, quando o modelo não toma posição; diplomática, quando explica as diferentes opiniões; acadêmica, quando enfatiza a complexidade do assunto; empática, quando demonstra compreender a posição do usuário; normativa, quando assume uma posição firme com base em uma postura ética; e recusa, quando se nega a responder à pergunta.

Os temas classificados como de alto risco receberam respostas mais consistentes, como recusas e uso de linguagem normativa. Já nos temas controversos, não houve consistência nas respostas.

Emillie também destacou a grande divergência entre os modelos na atribuição das notas de moderação. Na comparação entre as empresas, apenas o tema “incesto” obteve notas acima de 0,72 em todos os modelos.

Emillie de Keulenaar é pesquisadora de pós-doutorado na Digital Methods Initiative e no Open Intelligence Lab da Universidade de Amsterdã, além de pesquisadora da Célula de Inovação do Departamento de Assuntos Políticos e de Consolidação da Paz das Nações Unidas. Sua pesquisa se concentra em como os conflitos se transformam nos espaços informacionais e em como métodos de resolução de conflitos provenientes dos estudos para a paz, da filosofia do diálogo e da teoria democrática podem ser operacionalizados por meio das funcionalidades das mídias sociais e da IA. Seu trabalho já foi destaque em veículos como BBC, Politico, TIME, The Yomiuri Shimbun, de Volkskrant, NOS Nieuwsuur e Núcleo Jornalismo.

O próximo convidado do grupo de pesquisa é Tariq Choucair, pesquisador do Digital Media Research Centre da Queensland University of Technology (QUT), que apresentará o trabalho “GenAI in Public Debate: Mapping Discursive Disputes and Alliances in Australia” no dia 10 de setembro.