O Conselho Europeu de Investigação (ERC) atribuiu um prestigiado financiamento Proof of Concept (PoC) a Joana Gonçalves-Sá, investigadora no NOVA LINCS – Centro de Investigação da Faculdade de Ciências e Tecnologia da Universidade NOVA de Lisboa e no LIP – Laboratório de Instrumentação e Física Experimental de Partículas, que vai liderar o projeto conhecido por FARE_DSA, sigla para Framework for Auditing Recommendation Engines under the DSA.
O que o FARE_DSA irá desenvolver é profundamente inovador, dado que tenciona testar uma metodologia para auditar plataformas algorítmicas cada vez mais cruciais no modo como os cidadãos acedem à informação online – em particular motores de busca e modelos de linguagem de grande escala (LLMs).
Trata-se do primeiro projeto a oferecer uma ferramenta concreta e alinhada com políticas públicas para a implementação do Artigo 40º do Regulamento de Serviços Digitais (DSA) da União Europeia, que concede, a investigadores credenciados, acesso a dados não públicos das plataformas com o objetivo de avaliar riscos sistémicos para a UE, como a interferência eleitoral ou a manipulação política.
“Plataformas como o Google ou o ChatGPT tornaram-se verdadeiras portas de acesso à informação”, afirma Joana Gonçalves-Sá. “Mas estamos longe de compreender de que forma os seus algoritmos influenciam a opinião pública. Durante as eleições para o Parlamento Europeu, em 2024, verificámos que tanto motores de busca, como LLMs, exibiam sistematicamente conteúdos enviesados para um lado do espectro político. Com este projeto, pretendemos testar se estes enviesamentos são gerais e, se sim, porquê. Isto só é possível se colaborarmos quer com os reguladores quer com as próprias plataformas, para que possamos identificar causas e estudar implicações.”
Investigação em transferência algorítmica
O projeto assenta em investigação anterior financiada pelo ERC, nomeadamente o projeto ERC Starting Grant FARE – Fake News and Real People (lançado em 2020 com 1,5 milhões de euros) e a bolsa PoC FARE_Audit, que permitiu desenvolver um conjunto de “robots online” (ou webcrawlers) personalizáveis, capazes de imitar comportamento humano e simular diferentes características (por exemplo, país, idade, género).
Estes “bots” interagem com motores de busca ou LLMs e recolhem informação sobre como estas plataformas respondem às suas pesquisas. As análises que esta abordagem já permitiu mostram que pequenas diferenças no histórico de navegação ou no perfil do utilizador podem levar a resultados significativamente diferentes e, por vezes, enviesados. O FARE_DSA irá permitir aprofundar esta metodologia com acesso a dados reais das plataformas ao abrigo do DSA, oferecendo uma nova perspetiva sobre como a personalização e a monetização podem distorcer o acesso à informação, sobretudo em períodos críticos como os eleitorais.
“A nossa equipa passou anos a desenvolver ferramentas éticas e protetoras da privacidade para conseguir auditar sistemas algorítmicos, sem recolher dados pessoais”, acrescenta Joana Gonçalves de Sá. “Mas, para compreendermos verdadeiramente o que acontece nos bastidores – por exemplo, como é que os resultados de uma pesquisa online são ordenados, ou seja, por que razão certos links aparecem ou aparecem primeiro – precisamos de acesso a dados não públicos. O Artigo 40 permite isso mesmo. É uma altura única para a investigação em transparência algorítmica. Este financiamento vai ajudar-nos a abrir essa porta e, esperamos, ajudar outros a segui-la.”
O projeto também irá contribuir para clarificar que dados estão disponíveis, em que formatos e em que condições podem ser acedidos, ao abrigo do Artigo 40º, pondo fim a um impasse de longa data entre investigadores em transparência algorítmica e as plataformas online. O FARE_DSA irá ainda gerar recomendações de política pública, organizar acções de formação para académicos e ONGs, e contribuir para outras auditorias a estas plataformas de grandes dimensões (VLOPs e VLOSEs, nos acrónimos em inglês).
Embora os financiamentos Proof of Concept do ERC estejam geralmente associados à inovação comercial, o FARE_DSA demonstra o seu potencial enquanto ferramenta de inovação social de elevado impacto, promovendo a ligação entre ciência de excelência, transparência digital e implementação de políticas públicas.
O FARE_DSA foi apoiado com 150 mil euros e irá ser implementado ao longo de um ano.
Nota biográfica
Joana Gonçalves-Sá é investigadora no NOVA LINCS – Faculdade de Ciências e Tecnologia da Universidade NOVA de Lisboa e no LIP (Laboratório de Instrumentação e Física Experimental de Partículas), onde coordena o grupo de investigação Social Physics and Complexity (SPAC). Desde 2025, é também External Faculty no Complexity Science Hub, em Viena. Licenciou-se em Engenharia Física pelo Instituto Superior Técnico – Universidade de Lisboa, e doutorou-se em Biologia de Sistemas pela NOVA – ITQB, tendo desenvolvido a sua tese na Universidade de Harvard(EUA).
Entre 2018 e 2020, foi Professora Associada na Nova School of Business and Economics e, anteriormente, Investigadora Principal no Instituto Gulbenkian de Ciência, onde coordenou a iniciativa Ciência para a Sociedade e foi fundadora e diretora do Programa de Doutoramento PGCD – Science for Development, dedicado à promoção da investigação científica em África.
Recebeu duas bolsas ERC (StG_2019 e PoC_2022) para estudar enviesamentos humanos e algorítmicos, utilizando a desinformação como sistema modelo.