Humanities, Philosophie

L'IA et la maîtrise des médias sociaux

Par Sarah Allen

Cohorte 2021-2022

INTRODUCTION

"Pensez-vous que la possession de toutes les autres choses ait une quelconque valeur si nous ne possédons pas le bien ? Ou la connaissance de toutes les autres choses si nous n'avons pas la connaissance du ... bien ?". (Platon, République, 505b)

J'ai introduit ce module d'enseignement dans le contexte de mon cours d'automne 2021 Humanités, savoir et sagesse. L'objectif du module est d'aider les étudiants à réfléchir sur : (i) les effets de la technologie numérique sur la façon dont nous accédons à la connaissance et la définissons ; et (ii) la meilleure utilisation de la technologie numérique pour contribuer à une vie bien vécue. Comme le suggère le titre du module, il se concentre sur la façon dont les médias sociaux en général et l'utilisation de l'IA par les entreprises de médias sociaux ont un impact sur notre accès, notre compréhension et notre utilisation de ce que nous considérons comme des connaissances. Les étudiants sont invités à s'engager dans une réflexion critique sur les médias sociaux et l'IA, en tant que formes relativement récentes de technologie qui dominent nos paysages d'information, de communication et de société. Cette réflexion critique s'inscrit dans une longue tradition des sciences humaines qui associe les développements scientifiques et technologiques à une réflexion éthique sur la question de savoir si et comment ces développements peuvent être utilisés de manière à favoriser (ou du moins à ne pas nuire) à l'épanouissement de l'être humain.

LA TECHNOLOGIE NUMÉRIQUE ET LA REDÉFINITION DE LA CONNAISSANCE

Avant d'aborder les médias sociaux et l'IA, l'unité commence par une réflexion générale sur la façon dont la technologie numérique en général a transformé la manière dont nous accédons à la connaissance, ce que nous définissons comme de la connaissance, et qui décide de ce qui compte comme de la connaissance. Cette réflexion est basée sur le livre de David Weinberger : Too Big to Know (2011). Ce livre contient de nombreux chapitres pertinents et intéressants qui pourraient constituer des lectures utiles pour cette partie du module : Je me concentre en particulier sur les chapitres 1 et 3. Dans ces chapitres, Weinberger fait la distinction entre ce qu'il appelle les "connaissances traditionnelles" et les "connaissances en réseau".

Les connaissances traditionnelles sont définies comme étant principalement basées sur des supports papier et soumises à un filtrage conservateur effectué par des personnes en position de pouvoir et d'expertise, où la majorité des informations et des points de vue disponibles sont filtrés, et où seule une petite fraction parvient à passer à travers les filtres. Dans ce sens, les connaissances traditionnelles sont comprises comme des croyances justifiées constituant un ensemble (plus ou moins) convenu de vérités partagées. Weinberger affirme que, si le savoir traditionnel a toujours sa place dans notre société, la vision dominante du savoir s'est déplacée vers le savoir en réseau.
La connaissance en réseau est accessible par le biais des médias numériques et passe par un processus de filtrage qui met en avant les informations privilégiées par les réseaux sociaux en ligne et les filtres algorithmiques en ligne. La quantité et la diversité des informations disponibles sont plus importantes, mais les processus de vérification et de justification qui nous amènent à considérer ces informations comme des connaissances sont devenus beaucoup plus flous. Ainsi, si les connaissances en réseau peuvent toujours être définies comme des croyances inventées et justifiées d'une certaine manière, on assiste à une fragmentation du corpus traditionnel de connaissances et à un accord beaucoup moins large sur ce qui pourrait être considéré comme des vérités partagées.

EXERCICE DE JOURNALISME : L'UTILISATION DES MÉDIAS SOCIAUX PAR LES ÉLÈVES

Le thème de la maîtrise des médias sociaux est abordé en demandant aux élèves de tenir un journal sur leur propre utilisation des médias sociaux. Le Youth Toolkit du Center for Humane Technology est une excellente ressource pour trouver des activités de journalisme sur les médias sociaux. J'utilise l'unité 5, "Tell Your Social Media Story", en particulier les questions de la partie 2, "Quel rôle les médias sociaux jouent-ils dans votre vie ?" Au-delà de cet exercice de journal, l'ensemble du site web du Center for Humane Technology vaut la peine d'être exploré pour des idées et du matériel liés à la pensée critique et à la technologie numérique, en particulier les médias sociaux.

LA PENSÉE CRITIQUE ET L'ÉDUCATION AUX MÉDIAS SOCIAUX : LES CINQ QUESTIONS

Le module explore ensuite l'éducation aux médias sociaux à travers cinq questions directrices :

Qu'est-ce que c'est ?
Comment fonctionnent-ils ?
Qui a le contrôle ?
En quoi sont-ils bénéfiques et/ou nuisibles ?
Comment les utiliser et les réglementer correctement ?

Avant d'aborder ces questions en classe, nous regarderons le film documentaire Le dilemme social (2020, Netflix) et les élèves prennent des notes sur le type de réponses que le documentaire apporte aux questions 1 à 4. Nous examinons ensuite les questions ensemble pendant plusieurs cours, à l'aide de la présentation PowerPoint suivante : "Diapositives sur l'IA et la maîtrise des médias sociaux". Je ne vais pas m'étendre sur la question 1, car le sujet est assez simple si vous regardez Le dilemme social et les diapositives. En revanche, je voudrais m'attarder sur la façon dont les questions 2 à 5 sont abordées.

QUESTION 2 : L'AI ET LE FONCTIONNEMENT DES MÉDIAS SOCIAUX

Le dilemme social met l'accent sur le fait que les informations que nous voyons sur nos fils d'actualité dans les médias sociaux sont déterminées dans une certaine mesure par nos préférences personnelles et notre communauté de contacts, mais aussi, de manière plus importante et moins transparente, par la collecte de données par l'IA, sur la base d'algorithmes destinés à optimiser l'engagement des utilisateurs pour les bénéfices des entreprises de médias sociaux. Le tableau complet de ce fonctionnement n'est pas mis à notre disposition par les entreprises de médias sociaux, mais voici quelques ressources qui expliquent de manière accessible le rôle et l'utilisation de l'IA dans les médias sociaux :

Hodgson, Ashley, "The Story of Social Media Algorithms : A Timeline", YouTube Il s'agit d'un récit amusant et accessible, bien que fortement simplifié, du développement des algorithmes des médias sociaux. Ashley Hodgson, professeur d'économie au Saint Olaf College, propose également de nombreuses autres vidéos intéressantes sur les médias sociaux qui méritent d'être explorées sur sa chaîne YouTube: "Social Media. Big Tech. Information. Lepoint de vue d'un économiste".
Centre pour la technologie humaine: Les quatre premières unités du YouthToolkit ("1. L'économie de l'attention", "2. La technologie persuasive", "3. Les médias sociaux et le cerveau" et "4. Voir les conséquences") traitent de la manière dont les plateformes de médias sociaux sont conçues pour créer une dépendance (technologie persuasive) et pour que les utilisateurs restent sur les plateformes de médias sociaux le plus longtemps et le plus possible.

Les deux sources ci-dessus sont des ressources prêtes à l'emploi, faciles à intégrer directement dans l'enseignement de ce sujet. Pour explorer plus en profondeur l'aspect addictif et persuasif de la conception des médias sociaux, voici quelques lectures complémentaires qui pourraient s'avérer intéressantes :

Adam Alter, Irresistible (2017): Ce livre donne un aperçu général de l'addiction comportementale, puis examine comment l'addiction comportementale peut être et est souvent créée par le biais de la technologie numérique. Alter examine également quelques solutions intéressantes pour contrer le problème de l'addiction numérique. Il s'agit d'un livre bien écrit et très lisible. Bien que je n'en aie pas encore distribué certaines parties à mes étudiants, il constituerait un bon complément aux lectures de cours pour cette unité, en particulier si vous souhaitez vous concentrer sur la question de la conception addictive.
B. J. Fogg, Persuasive Technology (2003). Ce livre définit et examine la science du comportement qui sous-tend la technologie persuasive. Bien qu'il soit en quelque sorte dépassé - la technologie mobile a beaucoup évolué depuis 2003 - ses idées de base sont toujours applicables. Les passages les plus intéressants du livre pour ce module se trouvent dans le chapitre 8 ("Augmenter la persuasion par la mobilité et la connectivité") et le chapitre 9 ("L'éthique des technologies persuasives"), en particulier les sections sur les avantages persuasifs des ordinateurs par rapport aux humains et l'ambiguïté éthique des techniques des sciences du comportement utilisées dans les technologies persuasives, telles que le conditionnement opérant et la surveillance. Le texte lui-même est peut-être un peu aride pour être distribué directement aux étudiants, mais il est très instructif pour l'enseignement des technologies persuasives. Fogg est la source principale de la définition de la technologie persuasive discutée dans The Social Dilemma et dans les unités YouthToolkit du Center for Humane Technology mentionnées ci-dessus.
Wall Street Journal, Les dossiers Facebook (2021) : Cette série d'articles documente divers problèmes liés aux plateformes de médias sociaux de Facebook (désormais Meta), notamment en examinant certains des effets négatifs de ces plateformes sur les adolescents, la manière dont l'algorithme de Facebook favorise les contenus qui fâchent et divisent, et jusqu'où l'IA peut ou ne peut pas aller dans le nettoyage des contenus sur Facebook. Bien qu'un abonnement soit nécessaire pour accéder aux articles eux-mêmes, de nombreux articles sont accompagnés de podcasts (avec des transcriptions écrites) qui peuvent être consultés gratuitement. Voici quelques liens vers certains de ces podcasts :

QUESTION 3 : QUI CONTRÔLE ?

Une question étroitement liée au fonctionnement des médias sociaux est de savoir qui contrôle réellement les plateformes de médias sociaux. Cette question est très bien traitée dans The Social Dilemma. Bien que les choix et les préférences des utilisateurs déterminent dans une certaine mesure ce qu'ils voient sur leurs plateformes, il est intéressant de faire réfléchir les élèves sur la grande asymétrie de pouvoir entre les utilisateurs individuels et la quantité d'informations que les IA des médias sociaux collectent sur les utilisateurs afin de les maintenir sur les plateformes et de les amener à se comporter de manière bénéfique pour les entreprises de médias sociaux et les annonceurs qui financent les entreprises de médias sociaux. Le thème de la conception addictive mène au thème de l'ingénierie du comportement de l'utilisateur et de la perte d'autonomie de l'utilisateur. Une autre question qui mérite d'être explorée avec les étudiants est celle de savoir ce qui se passe lorsque les algorithmes des médias sociaux ont des conséquences involontaires qui n'ont pas été prévues (ou programmées à dessein) par les entreprises et leurs programmeurs. Y a-t-il un sens dans lequel le développement de la technologie de l'IA repousse les limites du contrôle humain sur cette technologie elle-même ? (J'utilise les sources mentionnées pour la question 2 pour répondre à la question 3 également).

QUESTIONS 4 ET 5 : EFFETS NÉFASTES, AVANTAGES ET MEILLEURES PRATIQUES

Dans la dernière partie du module, les questions 4(inconvénients et avantages des médias sociaux) et 5(meilleures utilisations et réglementation) sont abordées ensemble. Pour ces questions, j'utilise plusieurs activités de discussion en petits groupes en classe décrites dans ce qui suit (et qui se trouvent également dans les "diapositives sur l'IA et la maîtrise des médias sociaux" ci-dessus). Pour chacune de ces activités, la classe est divisée en petits groupes de 4 à 5 étudiants qui discutent des questions ou des tâches assignées pendant 10 à 15 minutes ; nous nous réunissons ensuite en grand groupe et rassemblons les résultats des discussions en petits groupes.

Nous commençons donc cette dernière partie du module par une activité de discussion en petit groupe au cours de laquelle les étudiants sont invités à accomplir deux tâches :

Réfléchir à ce que veut dire Tristan Harris dans The Social Dilemma lorsqu'il décrit les médias sociaux comme une "utopie et une dystopie simultanées" ; et
Dresser une liste des inconvénients et des avantages potentiels des médias sociaux dans leur propre vie et dans notre société dans son ensemble, sur la base de leurs réflexions antérieures sur leur utilisation personnelle des médias sociaux (l'exercice de journalisme du début du module).

Les étudiants doivent ensuite lire un texte tiré d'une dernière source : Deibert, Ronald J. Reset. Récupérer l'Internet pour la société civile. CBC Massey Lectures (2020). Le chapitre 5 ("Retraite, réforme, retenue") est celui qui présente le plus d'intérêt pour ce module. Il aborde certains des inconvénients et des avantages de la technologie numérique en général, y compris les médias sociaux, et explore diverses façons de modifier et de contrôler l'utilisation de la technologie numérique afin de réduire les inconvénients et d'augmenter les avantages. Deibert commence par présenter ces moyens de manière quelque peu disparate sous les rubriques suivantes : (i) le repli, y compris des pratiques telles que les pauses dans la technologie numérique et la création d'espaces sans technologie numérique ; et (ii) la réforme, y compris une plus grande réglementation gouvernementale, la promotion d'une conception éthique et l'encouragement d'une plus grande responsabilité sociale des entreprises pour les médias sociaux et d'autres entreprises de la Big Tech. En fin de compte, M. Deibert estime que nous devons revoir complètement notre approche de la technologie numérique en créant un cadre éthique et politique pour son utilisation. Il pense que le principe fondamental de ce cadre doit être la modération, à la fois dans le sens de l'autocontrôle de notre utilisation personnelle et de la limitation du pouvoir des institutions gouvernementales et des entreprises qui contrôlent la technologie numérique. Il convient également de mentionner les autres chapitres du livre. Bien que je ne les aie pas utilisés pour ce module particulier, ils abordent la technologie numérique en relation avec des thèmes connexes tels que la culture de consommation et le capitalisme de surveillance (chapitre 1), la dépendance numérique (chapitre 2), l'abus de pouvoir par la police et les gouvernements autocratiques (chapitre 3), et les coûts environnementaux (chapitre 4).

Une fois que les élèves ont lu le chapitre 5 de Deibert, nous discutons des avantages et des inconvénients des médias sociaux, en particulier pour notre compréhension et notre accès à la connaissance. Les thèmes importants abordés sont les suivants : la manière dont la personnalisation algorithmique des flux conduit à différentes versions de la réalité (la fragmentation d'un ensemble de vérités partagées) ; la propagation des fausses nouvelles ; et si et comment les entreprises de médias sociaux et leurs algorithmes peuvent atténuer ces problèmes.

Les élèves participent ensuite à une autre activité de discussion en petits groupes au sein de la classe, au cours de laquelle ils répondent aux questions suivantes :

Comment pouvez-vous gérer votre propre utilisation des médias sociaux afin d'en accroître les avantages et d'en réduire les inconvénients potentiels ?
Quelles solutions Deibert envisage-t-il pour résoudre les problèmes posés par les médias sociaux ?

Pour répondre à la question 2, nous explorons les quatre R d'utilisation de la technologie numérique de Deibert mentionnés plus haut : le recul, la réforme, la réinitialisation et la retenue.

Dans le cadre d'une activité finale de discussion en petit groupe, les étudiants sont invités à développer le cadre éthique et politique proposé par Deibert sur la base de sa conception libérale/républicaine de la modération en répondant aux questions suivantes :

Quels principes éthiques et/ou politiques souhaiteriez-vous voir à l'œuvre dans un cadre d'orientation pour la conception et l'utilisation de la technologie numérique dans notre société ?
Quels sont les valeurs et les objectifs sociaux qu'un tel cadre devrait, selon vous, promouvoir ?

Bien que nous n'ayons pas eu le temps de le faire lors de la mise en œuvre de ce module à l'automne 2021, un point de départ naturel serait d'examiner les cadres directeurs réels pour la conception et l'utilisation éthiques de la technologie numérique qui existent déjà dans notre société et dans d'autres sociétés similaires sur le plan éthique et politique.

PROJET FINAL

À l'automne 2021, les étudiants ont terminé ce module en réalisant un projet de rédaction final pour le cours sur la question suivante : " Comment les médias sociaux ont-ils transformé notre compréhension et notre accès au savoir ? Comment les médias sociaux ont-ils transformé notre compréhension et notre accès à la connaissance ? Voici les directives générales données aux étudiants : Directives pour la rédaction d'un essai de réflexion critique.

OBSERVATION FINALE

Les médias sociaux occupant une place importante dans la vie de nos élèves (et dans la nôtre), j'ai trouvé que la discussion sur les médias sociaux était un moyen très accessible d'amener les élèves à réfléchir à ce qu'est l'IA et à son impact sur leur vie quotidienne. Les étudiants ont pu apporter leur expérience personnelle des médias sociaux à la discussion sur ce sujet et ils ont montré un niveau de conscience assez élevé des effets des médias sociaux sur leur vie (par exemple, leur caractère addictif) et des questions éthiques soulevées par la domination des médias sociaux dans nos paysages d'information, de communication et de société.

REMERCIEMENTS

Merci à Robert Stephens pour sa façon discrète mais toujours pertinente de diriger la communauté de pratique sur l'enseignement de l'IA de l'automne 2021. Merci à Myriam Dimanche pour ses contributions humoristiques et son soutien administratif à la CdP. Merci à tous mes collègues participants pour leurs présentations inspirantes, leurs suggestions de sources, leurs commentaires et leurs questions : Patricia Campbell, Michel Fournier-Simard, Daniel Goldsmith, Andrew Katz et Kasia Wolfson.

LISTE DES RESSOURCES

Alter, Adam. Irresistible. The Rise of Addictive Technology and the Business of Keeping Us Hooked. New York : Penguin Books, 2017.

Deibert, Ronald J. Reset. Récupérer l'Internet pour la société civile. Conférences Massey de la CBC. Canada : Anansi Press, 2020.

Fogg, B. J. Persuasive Technology. Utiliser les ordinateurs pour changer ce que nous pensons et faisons. San Francisco : Morgan Kaufmann, 2003.

Harris, Tristan et. al. Center for Humane Technology, 2021, www.humanetech.com/

Hodgson, Ashley, "The Story of Social Media Algorithms : A Timeline", YouTube, 11 juillet 2021, www.youtube.com/watch?v=zzorwqPW7yM

Hodgson, Ashley, "Social Media. Big Tech. Information. An Economist's Perspective", YouTube, www.youtube.com/channel/UChTaQi88607D84YEg44It_g

Linebaugh Kate & Ryan Knutson. Les dossiers Facebook, une série de podcasts. Un regard sans précédent sur l'entreprise. The Wall Street Journal, 2021, www.wsj.com/articles/the-facebook-files-a-podcast-series-11631744702

Orlowski Jeff. Le dilemme social. Exposure Labs, 2020. Netflix, netflix.com/title/81254224

Weinberger, David. Too Big to Know. Repenser la connaissance maintenant que les faits ne sont pas des faits, que les experts sont partout et que la personne la plus intelligente dans la pièce est la pièce. New York : Basic Books, 2011.