La prétendue 'stratégie du chuchotement' de Meta contre l'universitaire Jonathan Haidt soulève des préoccupations éthiques en matière d'IA

De récents documents judiciaires ont révélé une discussion au sein de Meta en 2023 concernant une « stratégie du chuchotement » visant à discréditer l'universitaire Jonathan Haidt, un éminent critique de l'impact des médias sociaux sur la santé mentale des jeunes. Cette révélation a provoqué une forte réaction de la part d'universitaires, y compris de nombreux qui avaient déjà critiqué le travail de Haidt, soulignant des préoccupations importantes concernant l'influence des entreprises et la conduite éthique dans le discours public.

Ce qui s'est passé

Selon The Verge, des documents judiciaires déposés en Californie le mois dernier ont révélé que des employés de Meta ont discuté en 2023 d'une « stratégie du chuchotement » visant à « monter les universitaires contre Haidt » avant la sortie de son livre à succès, The Anxious Generation. Le travail de Haidt postule que les médias sociaux et les smartphones sont préjudiciables à la santé mentale des adolescents. La stratégie proposée comprenait une « campagne hors-média » et l'idée de « faire écrire un article de démolition par Gellman », faisant peut-être référence au professeur Andrew Gelman de l'Université Columbia, qui avait déjà critiqué Haidt.

Il n'est pas clair si Meta a jamais mis en œuvre cette stratégie. Cependant, la divulgation a généré une controverse considérable. Plusieurs universitaires, dont la professeure de psychologie éminente Candice Odgers et la professeure de communication de l'Université Cornell, danah boyd, ont publiquement déclaré qu'elles n'avaient jamais été approchées ou payées par Meta pour critiquer le travail de Haidt. Odgers, qui étudie les effets de la technologie sur les adolescents, a écrit sur Substack que ses opinions sont « fondées sur les années de recherche que j'ai menées sur ce sujet ». danah boyd a déclaré : « Je pense que l'entreprise est fondamentalement contraire à l'éthique », tout en affirmant sa recherche indépendante sur les adolescents et les médias sociaux.

Andrew Gelman, bien qu'ayant déjà critiqué les méthodes de Haidt, a dénoncé les discussions privées de Meta, déclarant à The Verge : « Je pense que c'est horrible pour Haidt que cela lui soit arrivé. » Gelman a confirmé n'avoir jamais été contacté par Meta concernant Haidt, bien qu'il ait reçu une « donation sans conditions » pour la recherche de la part de l'entreprise en 2016, sans rapport avec l'impact des médias sociaux sur la santé des adolescents. Chris Ferguson, professeur de psychologie à l'Université Stetson, a qualifié l'idée d'une « campagne de chuchotement » contre tout universitaire de « dégoûtante », notant qu'il ne reçoit aucun financement des entreprises technologiques.

Haidt, dans une déclaration à The Verge, a salué le débat scientifique mais a critiqué le plan présumé de Meta comme une tactique « tout droit sortie du manuel des grandes compagnies de tabac », ce qui, selon lui, devrait préoccuper quiconque s'intéresse à l'intégrité scientifique et au bien-être des enfants. Meta a refusé de commenter l'affaire. Les documents judiciaires sont issus de poursuites judiciaires consolidées contre Meta et d'autres entreprises de médias sociaux, alléguant qu'elles ont trompé le public sur les risques de sécurité pour les adolescents. Meta a récemment subi d'importantes défaites juridiques et a réglé des réclamations des procureurs généraux des États pour 17,1 milliards de dollars, selon The Verge.

Pourquoi c'est important pour les équipes de sécurité et de politique

Cet incident, que la stratégie ait été exécutée ou non, illustre de manière frappante les risques éthiques et de réputation inhérents à la tentative de manipuler le discours public. Pour les équipes de sécurité et de politique au sein des petites entreprises, en particulier celles qui naviguent dans les complexités de la gouvernance de l'IA et des relations publiques, il met en évidence des vulnérabilités critiques. La prétendue « stratégie du chuchotement » exemplifie une approche d'entreprise qui privilégie le contrôle du récit à l'engagement transparent, risquant de graves dommages à la confiance et à la crédibilité en cas d'exposition. À une époque où l'IA peut amplifier les messages et créer du contenu à grande échelle, le potentiel de telles tactiques à être exécutées par de plus petites entités, peut-être par inadvertance, est une préoccupation majeure. Les politiques doivent être suffisamment robustes pour prévenir toute forme d'astroturfing ou d'influence secrète, garantissant que les outils d'IA sont utilisés pour améliorer une communication authentique, et non pour fabriquer un consensus ou discréditer une critique légitime. La réaction des universitaires, dont beaucoup sont eux-mêmes critiques de Haidt, démontre que même un public aligné condamnera un comportement perçu comme contraire à l'éthique, soulignant l'attente universelle d'intégrité dans le discours public et scientifique. Le maintien d'une utilisation éthique de l'IA et d'une communication d'entreprise transparente n'est pas seulement un impératif moral, mais une nécessité stratégique pour atténuer les risques de réputation et maintenir la confiance du public.

Que faire cette semaine

1. Examinez et mettez à jour les directives internes de votre entreprise en matière de relations publiques, de marketing et de communications externes afin d'interdire explicitement toute tactique pouvant être perçue comme une influence secrète ou une manipulation du discours public.
2. Mettez en œuvre des politiques éthiques claires pour l'utilisation de l'IA dans la génération de contenu, la gestion des médias sociaux et la sensibilisation du public, en veillant à ce que les outils d'IA soient utilisés pour soutenir une communication transparente et factuelle plutôt que pour créer des récits trompeurs ou discréditer les critiques.
3. Menez un bref audit interne de toutes les collaborations existantes ou passées avec des experts externes, des chercheurs ou des personnalités publiques afin de vous assurer que toutes les interactions ont été entièrement divulguées, exemptes d'influence indue et conformes aux normes éthiques de votre entreprise.

Sources

• Meta discussed attacking Jonathan Haidt — now even his haters are annoyed — The Verge - Policy