Atténuer les biais de cadrage grâce à la perte de minimisation de la polarité : limites, déclaration éthique et références

Tableau des liens

• Résumé et introduction
• Travaux connexes
• Approche
• Expériences
• Conclusion
• Limites, déclaration d'éthique et références
• A. Détails expérimentaux
• B. Résultats de génération

6.1. Limites

L'étude est limitée par son adhésion à la configuration des tâches de référence basée sur l'anglais. L’analyse se limite aux idéologies politiques aux États-Unis et en langue anglaise. De plus, la limite d'entrée de 1 024 sous-jetons du modèle BART limite le nombre d'articles sources biaisés pouvant être inclus en entrée. Il est important de noter que ces limitations, bien qu’elles puissent avoir un impact sur la portée des résultats de l’étude, ne sont pas rares dans la recherche sur le traitement du langage naturel. Néanmoins, les recherches futures pourraient bénéficier de la résolution de ces limitations en explorant des méthodes alternatives pour un plus large éventail d’idéologies politiques (idéologies politiques non américaines) et de langues, ainsi qu’en incorporant des textes d’entrée plus longs pour capturer une gamme plus complète d’articles sources.

6.2. Déclaration d'éthique

La question des articles biaisés avec cadrage a été largement étudiée, car elle peut conduire à une polarisation en influençant l'opinion des lecteurs à l'égard d'une certaine personne, d'un groupe ou d'un sujet. Pour résoudre ce problème, nos recherches se concentrent sur l'introduction d'une fonction de perte qui peut être incorporée pour permettre au modèle de réduire le biais de cadrage dans le résumé généré.

Cependant, il est important de reconnaître que les technologies automatiques peuvent également avoir des conséquences négatives involontaires si elles ne sont pas développées avec un examen attentif de leurs impacts plus larges. Par exemple, les modèles d’apprentissage automatique peuvent introduire des biais dans leurs résultats, remplaçant ainsi les biais de source connus par une autre forme de biais (Lee et al., 2022). Pour atténuer ce risque, Lee et al. (2022) ont suggéré d’inclure une mention explicite des articles sources aux côtés de résumés neutres générés automatiquement. De plus, bien que nos travaux visent à supprimer les biais de cadrage dans les articles générés par des humains, il existe un risque d'hallucination dans la génération, qui est un problème bien connu des modèles génératifs (Ji et al., 2023). Il est donc important d'équiper un garde-fou (par exemple, une fourniture de référence source) si une telle technologie automatique est mise en œuvre pour des cas d'utilisation réels.

Malgré ces défis, nos recherches peuvent contribuer aux efforts visant à atténuer les biais de cadrage générés par l’homme afin de réduire la polarisation dans la société. L'un des cas d'utilisation peut être d'aider les experts humains à fournir des articles synthétisés à vues multiples sans biais de cadrage. En termes d’impact sociétal plus large, nous espérons que notre travail pourra aider les utilisateurs en ligne à accéder à des informations plus dépolarisées en ligne.

6.3. Les références

2021. Centre – que signifie une évaluation du biais médiatique « central » ?

Ramy Baly, Giovanni Da San Martino, James Glass et Preslav Nakov. 2020. Nous pouvons détecter votre parti pris : prédire l'idéologie politique des articles de presse. Dans Actes de la conférence 2020 sur les méthodes empiriques dans le traitement du langage naturel (EMNLP), pages 4982-4991, en ligne. Association pour la linguistique computationnelle.

Adriana Beratšová, Kristína Krchová, Nikola Gažová et Michal Jirásek. 2016. Cadrage et biais : une revue de la littérature sur les découvertes récentes. Revue de gestion d'Europe centrale, 3(2).

Dennis Chong et James N Druckman. 2007. Théorie du cadrage. Ann. Révérend Polit. Sci., 10 : 103-126.

Robert M. Entman. 2002. Cadrage : Vers une clarification d'un paradigme fracturé. Lecteur de McQuail en théorie de la communication de masse. Londres, Californie et New Delhi : Sage.

Robert M. Entman. 2007. Biais de cadrage : les médias dans la répartition du pouvoir. Journal de communication, 57(1):163-173.

Robert M. Entman. 2010. Préjugés encadrant les médias et pouvoir politique : explication de l'orientation des nouvelles de la campagne 2008. Journalisme, 11(4) : 389-408.

Alexander R Fabbri, Irene Li, Tianwei She, Suyi Li et Dragomir R Radev. 2019. Multi-news : un ensemble de données de synthèse multi-documents à grande échelle et un modèle hiérarchique abstrait. préimpression arXiv arXiv:1906.01749

Lisa Fan, Marshall White, Eva Sharma, Ruisi Su, Prafulla Kumar Choubey, Ruihong Huang et Lu Wang. 2019. À la vue de tous : les préjugés des médias à travers le prisme des reportages factuels. Préimpression arXiv arXiv:1909.02670.

Matthew Gentzkow et Jesse M Shapiro. 2006. Biais et réputation des médias. Journal d'économie politique, 114(2):280-316.

Matthew Gentzkow, Jesse M Shapiro et Daniel F Stone. 2015. Biais des médias sur le marché : théorie. Dans Manuel d'économie des médias, volume 1, pages 623-645. Elsevier.

Erving Goffman. 1974. Analyse du cadre : un essai sur l'organisation de l'expérience. Presse universitaire de Harvard

Félix Hamborg, Karsten Donnay et Bela Gipp. 2019. Identification automatisée des préjugés médiatiques dans les articles de presse : une revue de la littérature interdisciplinaire. Revue internationale des bibliothèques numériques, 20(4):391-415.

Félix Hamborg, Norman Meuschke et Bela Gipp. 2017. Agrégation d'actualités basée sur une matrice : explorer différentes perspectives d'actualité. En 2017, Conférence conjointe ACM/IEEE sur les bibliothèques numériques (JCDL), pages 1 à 10. IEEE.

Ziwei Ji, Nayeon Lee, Rita Frieske, Tiezheng Yu, Dan Su, Yan Xu, Etsuko Ishii, Ye Jin Bang, Andrea Madotto et Pascale Fung. 2023. Enquête sur les hallucinations dans la génération du langage naturel. Calcul ACM. Surv., 55(12).

Daniel Kahneman et Amos Tversky. 2013. Théorie des perspectives : une analyse de la décision sous risque. Dans Manuel des principes fondamentaux de la prise de décision financière : partie I, pages 99 à 127. Monde scientifique.

Philippe Laban et Marti A Hearst. 2017. newslens : créer et visualiser des reportages d'actualité à long terme. Dans Actes des événements et des histoires de l'atelier d'actualités, pages 1 à 9.

Nayeon Lee, Yejin Bang, Tiezheng Yu, Andrea Madotto et Pascale Fung. 2022. NeuS : résumé neutre de plusieurs actualités pour atténuer les biais de cadrage. Dans Actes de la conférence 2022 du chapitre nord-américain de l'Association for Computational Linguistics : Human Language Technologies, pages 3131-3148, Seattle, États-Unis. Association pour la linguistique computationnelle.

Mike Lewis, Yinhan Liu, Naman Goyal, Marjan Ghazvininejad, Abdelrahman Mohamed, Omer Levy, Ves Stoyanov et Luke Zettlemoyer. 2019. Bart : Pré-formation au débruitage séquence à séquence pour la génération, la traduction et la compréhension du langage naturel. Préimpression arXiv arXiv:1910.13461.

Yujian Liu, Xinliang Frederick Zhang, David Wegsman, Nicholas Beauchamp et Lu Wang. 2022. POLITIQUE : Pré-formation avec comparaison d'articles de même histoire pour la prédiction de l'idéologie et la détection des positions. Dans Findings of the Association for Computational Linguistics : NAACL 2022, pages 1354-1374, Seattle, États-Unis. Association pour la linguistique computationnelle.

Saïf Mohammad. 2018. Obtention d'évaluations humaines fiables de valence, d'excitation et de dominance pour 20 000 mots anglais. Dans Actes de la 56e réunion annuelle de l'Association for Computational Linguistics (Volume 1 : Long Papers), pages 174-184.

Fred Morstatter, Liang Wu, Uraz Yavanoglu, Stephen R Corman et Huan Liu. 2018. Identifier les biais de cadrage dans les actualités en ligne. Transactions ACM sur l'informatique sociale, 1(2):1–18.

Kishore Papineni, Salim Roukos, Todd Ward et WeiJing Zhu. 2002. Bleu : une méthode d'évaluation automatique de la traduction automatique. Dans Actes de la 40e réunion annuelle de l'Association for Computational Linguistics, pages 311-318.

Souneil Park, Seungwoo Kang, Sangyoung Chung et Junehwa Song. 2009. Newscube : proposer de multiples aspects de l'information pour atténuer les préjugés des médias. Dans Actes de la conférence SIGCHI sur les facteurs humains dans les systèmes informatiques, pages 443-452.

Dietram A. Scheufele. 2000. La définition, l'amorçage et le cadrage de l'agenda revisités : un autre regard sur les effets cognitifs de la communication politique. Communication de masse et société, 3(2-3) :297-316.

Tous les côtés. 2018. Notations biaisées dans les médias. Allsides.com.

Timo Spinde, Christina Kreuter, Wolfgang Gaissmaier, Felix Hamborg, Bela Gipp et Helge Giese. 2021. Pensez-vous que c'est biaisé ? comment s'interroger sur la perception des préjugés médiatiques. En 2021, Conférence conjointe ACM/IEEE sur les bibliothèques numériques (JCDL), pages 61 à 69. IEEE.

Esther van den Berg et Katja Markert. 2020. Contexte de la détection des biais informationnels. Dans Actes de la 28e Conférence internationale sur la linguistique computationnelle, pages 6315-6326, Barcelone, Espagne (en ligne). Comité international de linguistique informatique.

George Wright et Paul Goodwin. 2002. Éliminer un biais de cadrage en utilisant des instructions simples pour « réfléchir plus fort » et des répondants ayant une expérience en gestion : commentez sur « briser le cadre ». Revue de gestion stratégique, 23(11):1059-1067.

Jingqing Zhang, Yao Zhao, Mohammad Saleh et Peter J. Liu. 2019a. Pegasus : pré-formation avec des phrases manquantes extraites pour un résumé abstrait.

Tianyi Zhang*, Varsha Kishore*, Felix Wu*, Kilian Q. Weinberger et Yoav Artzi. 2020. Bertscore : Évaluation de la génération de texte avec bert. Dans Conférence internationale sur les représentations d'apprentissage.

Yifan Zhang, Giovanni Da San Martino, Alberto BarrónCedeno, Salvatore Romeo, Jisun An, Haewoon Kwak, Todor Staykovski, Israa Jaradat, Georgi Karadzhov, Ramy Baly et al. 2019b. Tanbih : Apprenez à savoir ce que vous lisez. EMNLP-IJCNLP 2019, page 223.