Le problème du techno-solutionnisme de la philanthropie

Traduction de l’article Philanthropy’s Techno-Solutionism Problem de Janet Haven et danah boyd [1]

Note pour la lecture, n’hésitez pas à substituer le terme « américain·e » par « belge » ou « européen·ne » parce que le techno-solutionisme ne concerne pas que les États-Unis d’Amérique même si cet article s’adresse principalement à l’Oncle Sam et toute sa bande.

La démocratie américaine moderne est inextricablement liée aux avantages et aux inconvénients du capitalisme mondialisé. Dans le même temps, le capitalisme mondialisé a permis l’émergence de nouveaux centres de pouvoir qui n’ont que peu ou pas de comptes à rendre. Deux de ces centres de pouvoir, l’industrie technologique et la philanthropie contemporaine, seront des acteurs clés de la prochaine décennie de la démocratie américaine. Nous soutenons que la philanthropie américaine doit utiliser sa position et son pouvoir pour aider à concevoir et à mettre en place de nouvelles formes de responsabilité stricte pour ces deux secteurs.

Le défi que nous lançons à la philanthropie américaine est double. Premièrement, elle doit utiliser son pouvoir, son influence et son argent pour démanteler le "techno-solutionnisme", l’idée que les solutions technologiques sont la clé du renforcement de la démocratie américaine (ou de toute autre démocratie). La technologie n’est pas et ne sera jamais la solution aux problèmes sociaux et politiques, mais le fétichisme de la technologie dans le secteur public a été extrêmement lucratif pour de nombreuses entreprises privées. Nous avons trop souvent vu comment la technologie, adoptée au nom du progrès, exacerbe et enracine les problèmes de la société. Le capitalisme moderne et les technologies qui en découlent étranglent les idéaux mêmes de la démocratie aux États-Unis. Associée à une montée du nationalisme et du nativisme, cette version du techno-solutionnisme renforce les inégalités structurelles, le racisme systémique et l’injustice économique.

Deuxièmement, nous devons reconnaître et réformer la dépendance de la philanthropie vis-à-vis du techno-solutionnisme. La réussite financière fulgurante du secteur de la technologie, favorisée par un silence réglementaire assourdissant, a soutenu l’économie et les fonds de la philanthropie au cours des deux dernières décennies. Cela a donné naissance à une nouvelle classe de philanthropes directement informés par la logique techno-solutionniste de l’industrie technologique. Pendant ce temps, la philanthropie a dépensé d’innombrables millions pour promouvoir et financer un discours qui présente les nouvelles technologies comme la solution à nos problèmes sociaux les plus urgents. Complétant le cycle de la mondialisation, les entreprises technologiques et les organisations philanthropiques américaines se sont unies pour exporter ce discours dans une grande partie du reste du monde, orientant l’agenda des agences d’aide humanitaire et des organisations de développement [2].

Aujourd’hui, la philanthropie et l’industrie technologique sont en équilibre sur le même précipice. La plupart de ceux qui participent à ces secteurs le font avec une expertise considérable dans leur domaine et les meilleures intentions du monde ; ils entendent utiliser leur argent et leur pouvoir pour faire le bien. Pourtant, en l’absence de structures permettant de contrôler le capitalisme et le pouvoir technologique, ces deux secteurs sont voués à renforcer les inégalités structurelles persistantes et donc à saper la démocratie. Pour que la démocratie puisse s’épanouir, le capitalisme et la technologie doivent être contrôlés par des mécanismes exigeant une responsabilité beaucoup plus stricte. Les organisations philanthropiques ont le choix. Elles peuvent soit s’engager en faveur de la démocratie en contribuant à la construction de ces garde-fous, en étant pleinement conscientes que cela limitera leur propre pouvoir, soit devenir de plus en plus complices du maintien des inégalités structurelles.

Le bon, la brute et le truand

Aujourd’hui, aux États-Unis, le techno-solutionnisme est plus florissant que jamais. Étant donné le pouvoir économique et culturel de l’industrie technologique aux États-Unis, les technologues, les politiciens, les théoriciens et les philanthropes sont tous désireux de proposer les nouvelles technologies comme solution aux problèmes structurels, systémiques et politiques. Mais voici le dilemme : la technologie reflète et amplifie constamment le bon, le mauvais et le laid de la société [3].

Il suffit de penser qu’au cours de la dernière décennie, nous avons assisté à l’adoption généralisée de technologies centrées sur les données dans notre système de justice pénale, de la police aux tribunaux [4]. L’État de droit et le désir d’instaurer une justice égale pour tous sont au cœur de l’expérience américaine de la démocratie. Et pourtant, nous savons que cet objectif n’a pas été atteint, que les recours légaux et les résultats justes, continuent d’être refusés à bien des gens. Les protestations contre la brutalité et la violence policières - y compris, plus particulièrement, les soulèvements pour la défense de la vie des Noirs qui ont balayé le pays en 2020 - ont, à juste titre, mis ces préoccupations urgentes au premier plan de la vie américaine. Ces protestations ont eu lieu dans un contexte de solutionnisme technologique croissant dans notre système judiciaire. Au cours des dix dernières années, nous avons assisté au déploiement des caméras corporelles de la police pour enregistrer les interactions avec les membres des communautés noires et métissées déjà surveillées, en tant que mécanisme de responsabilisation de la police [5] ; elles ont été déployées avec peu de recherches pour soutenir les affirmations selon lesquelles elles augmenteraient en fait la responsabilisation de la police et un manque de clarté sur les politiques nécessaires pour obtenir ce résultat [6]. Nous avons vu l’inclusion de systèmes algorithmiques d’évaluation des risques dans les salles d’audience qui fournissent des conseils aux juges - à l’aide de données et de modèles de données biaisés et non vérifiés - sur la détermination de la peine et la mise en liberté sous caution, faisant atterrir des individus en prison sans aucun recours légal pour contester l’outil qui les y a envoyés [7]. Et l’utilisation très attendue des technologies de reconnaissance faciale par les forces de l’ordre, encore une fois sans reconnaissance de la manière dont ces technologies abrogent les libertés civiles [8] et les principes de base de la pratique démocratique, n’a été interrompue que récemment grâce aux efforts concentrés sur plusieurs années d’une coalition de groupes de défense des droits et d’universitaires de couleur qui ont compris le préjudice potentiel dès le départ [9].

Chacune de ces technologies a été développée à l’origine soit comme un effort neutre en dehors du contexte de la justice pénale, soit comme une solution à des besoins d’efficacité qui prétendait également résoudre des préjugés de longue date dans ce domaine. Pourtant, les bonnes intentions n’empêchent pas les technologies de faire du mal [10], et le mal ne cesse de s’accumuler [11]. Fondamentalement, ces technologies consacrent les pratiques existantes de surveillance et de surpolice des populations marginalisées et creusent les inégalités par le biais de la neutralité faussement perçue des données. De plus, ces technologies coûtent cher aux contribuables ou sont payées par des frais et des amendes abusifs prélevés de manière disproportionnée sur les communautés noires et métissées [12]. Elle sème la méfiance à l’égard des institutions de la démocratie parmi ces nombreuses communautés injustement ciblées et compromet davantage notre avenir commun.

Les valeurs démocratiques sont remises en question par le techno-solutionnisme dans tous les domaines de la vie publique. Les plates-formes de médias sociaux, par exemple, promettent de donner à tous les utilisateurs la possibilité de diffuser leurs voix, mais ont démontré qu’elles renforcent également des problèmes de longue date concernant les voix qui ont du pouvoir et de l’autorité. Les plateformes ont parfois interprété le premier amendement comme signifiant que plus de parole est une bonne parole [13], une position qui ne tient pas compte de la façon dont les individus et des communautés entières sont systématiquement réduits au silence lorsque d’autres exercent leur droit à la parole [14]. Les médias sociaux ont permis à de nombreuses personnes de se réunir, mais ont également contribué à produire une place publique facilement capturée par le harcèlement et la haine [15].

Certes, la technologie peut être utilisée pour remettre en cause le statu quo : les militants se mobilisent par le biais de plates-formes en ligne, les témoins suivent en direct les abus de pouvoir et les défenseurs des droits partagent leurs informations plus rapidement avec des publics plus larges grâce à l’internet. Pourtant, il n’y a rien de démocratique en soi dans ces technologies. Ces mêmes outils sont souvent utilisés pour harceler les gens, diffuser de la désinformation et amplifier la haine. C’est parce que ces technologies nous donnent à la fois ce que nous voulons et ce qui est le plus destructeur pour le tissu démocratique que des réponses nuancées et socialement fondées sont nécessaires pour atténuer les pires dommages et protéger les communautés contre le retranchement d’une violence et d’une inégalité de longue date. Malheureusement, ce n’est pas ce que les voix puissantes et bien financées de l’industrie technologique appellent de leurs vœux comme antidote à nos malheurs actuels. Il s’agit plutôt d’une mentalité de "construction" apolitique et irréfléchie, axée sur la rapidité et le techno-solutionnisme, sans réponse à la question "Pour qui ?".

Nous avons besoin que la philanthropie se concentre sur le soutien de la recherche sociale, de la traduction et du plaidoyer qui permettront aux technologies centrées sur les données de jouer le rôle de promotion de la justice et de l’équité dans notre société que tant de personnes imaginaient. Les chercheurs qui travaillent dans des domaines tels que l’équité et la responsabilité dans l’apprentissage automatique [16], la sécurité sociotechnique [17] et la manipulation des médias [18] font avancer le débat grâce à de nouvelles découvertes qui élargissent notre compréhension du rôle de la technologie dans la société. Ces recherches nous permettent de comprendre où les bonnes intentions peuvent terriblement déraper et nous donnent des pistes pour atténuer stratégiquement ce préjudice. Ces travaux montrent l’importance de se concentrer sur les changements structurels plutôt que sur des réponses ad hoc aux signes de détresse démocratique.

Au cours des dix prochaines années, la philanthropie ne devrait pas se préoccuper de la création de nouvelles technologies ; la concentration du capital et du pouvoir dans les grandes entreprises technologiques garantit que cela se produira sur le plan commercial, et il est peu probable que la tendance à l’adoption dans le secteur public s’atténue. La philanthropie devrait plutôt servir de rempart et de contrepoids au solutionnisme technologique. La philanthropie peut libérer et maintenir l’espace pour le travail pluriannuel, coûteux et radicalement nécessaire pour garantir que la technologie sert des résultats sociétaux justes. Trop souvent, la technologie est considérée comme un investissement "sûr" avec des retours tangibles qui plaisent aux conseils d’administration et aux donateurs vivants. Mais les applications ne produisent pas et ne produiront jamais le changement sociétal à long terme, difficile à démontrer, qui est nécessaire pour assurer un avenir démocratique.

Le rôle de la philanthropie dans la reconstruction de la démocratie

La philanthropie et la démocratie ne font pas bon ménage. La philanthropie américaine moderne est née du butin du dernier âge d’or (ndtr ; Gilden Age) et profite énormément de la richesse générée par ce cycle. Une poignée de donateurs vivants et d’institutions disposant d’importantes dotations déterminent ce qui mérite d’être financé. En assumant ce rôle et en profitant de nos lois sur les dons de charité, ils ne deviennent que des centres de pouvoir non élus et nominalement responsables. La philanthropie doit s’attaquer à sa propre position de pouvoir et de privilège ; elle ne peut pas devenir un frein au pouvoir capitaliste si elle ne choisit pas de réformer fondamentalement ses sources de pouvoir et d’autorité. Le secteur doit reconnaître la manière dont les structures juridiques et les codes fiscaux américains soutenant les dons caritatifs renforcent et approfondissent les inégalités [19]. De plus, il est essentiel que la philanthropie se débatte avec la manière dont ces structures centralisent le pouvoir incontrôlé dans des entités privées plutôt que dans des institutions publiques soutenues directement par l’argent des contribuables.

Notre version actuelle du capitalisme mondialisé a conduit à la domination financière et politique de l’industrie technologique, aux invasions de la collecte de données et du profilage de masse, et à la concentration du pouvoir dans un nombre infime d’investisseurs et d’entreprises [20]. Comme le précédent âge d’or (ndtr ; Gilden Age), cette vague de capitalisme peu réglementé a produit une inégalité généralisée, même si les riches individus, les marchés boursiers et les dotations prospèrent. C’est ce qui exige que la philanthropie américaine soutienne la réforme à la fois des normes et des lois qui ancrent le techno-capitalisme.

Il ne s’agit pas d’un travail de réponse rapide et réactif. Au contraire, la philanthropie doit faire davantage pour centrer son attention et son influence sur ce que signifie la défense de la justice à l’intersection de la technologie et de la démocratie. Avant tout, cela signifie un engagement à long terme pour construire et soutenir un ensemble d’organisations qui font ce travail. Au cours des cinq dernières années, nous avons assisté à une floraison de nouvelles organisations axées sur la technologie, qui combinent la recherche et le plaidoyer en faveur de la justice raciale aux États-Unis [21]. Il existe également un nombre croissant de chercheurs et de centres universitaires qui produisent une base de données probantes, organisent des ateliers et des bourses, et aident une nouvelle génération à réfléchir à une gouvernance socialement informée des technologies axées sur les données et à considérer ces questions comme leur problème. De nombreux groupes de défense des droits civiques luttent pour de nouveaux contrôles du pouvoir des technologies. Et pourtant, chacune de ces organisations, chacun de ces chercheurs et chacun de ces réseaux sont aux prises avec l’équilibre précaire entre les réalités du financement à court terme et la nécessité d’une stratégie à plus long terme, ainsi qu’avec les limites de la création d’un réseau d’acteurs lorsque la norme est d’offrir des bourses d’un an ou des rôles financés sur deux ans dans les organisations.

Deuxièmement, la philanthropie doit s’engager à soutenir des organisations entières. L’évolution actuelle de la philanthropie du soutien aux projets vers le soutien général est très positive. Cette évolution doit se poursuivre et s’étendre, et doit s’accompagner de pistes pluriannuelles qui permettent aux organisations bénéficiaires de prospérer. Pour renforcer et retenir les nouveaux talents, les organisations ont besoin de structures durables permettant le développement de parcours professionnels non lucratifs qui n’obligent pas le personnel à se tourner vers d’autres secteurs pour obtenir stabilité et avancement. La création d’un écosystème solide d’organisations capables de collaborer stratégiquement à long terme passe également par le renforcement de la formation au leadership. Des dirigeants talentueux et dynamiques lancent des organisations et persuadent les financeurs de la valeur de leurs idées. Souvent, les financeurs ne sont pas disposés à prendre en charge les coûts d’infrastructure liés au fonctionnement d’une organisation saine et durable. De nombreuses fondations, si elles couvrent les coûts indirects ou les frais généraux, plafonnent ces contributions à 10-15 % des coûts directs de programmation. La Fondation MacArthur, dans une étude publiée l’année dernière, a constaté que le coût réel de l’administration d’un organisme stable et sain est de 29 % des coûts directs, soit près du double de son taux précédent [22]. La philanthropie doit s’engager à soutenir les processus internes d’équité et de justice - de la formation à la gestion équitable au soutien à la création de structures de collecte de fonds éthiques en passant par la garantie de pratiques d’embauche inclusives et solides - dans les organismes qu’elle soutient. Ce travail est crucial, coûteux et prend du temps. Il ne peut être réalisé qu’avec l’engagement total des dirigeants des organisations et des bailleurs de fonds empathiques ayant une compréhension réaliste de ce qu’est la durabilité organisationnelle.

Le troisième engagement que la philanthropie peut prendre est d’identifier de manière proactive les domaines dans lesquels le solutionnisme technologique est à l’origine d’investissements majeurs de la part des entreprises ou des gouvernements, puis de soutenir fermement une réponse sur le terrain du travail de contrepoids qui mettra clairement en lumière les impacts sociaux de la technologie. La philanthropie peut soutenir la chaîne de travail cruciale qui doit être réalisée : la recherche fondamentale pour identifier de nouveaux cadres de compréhension, la recherche appliquée pour construire une base de preuves de cas spécifiques de dommages, la construction d’un mouvement de plaidoyer, l’élaboration de politiques, l’application et, dans la mesure du possible, le lobbying pour déplacer ces investissements en premier lieu. Au moment où nous écrivons ces lignes, un projet de loi présenté au Congrès, le Endless Frontiers Act, propose un investissement de 100 milliards de dollars dans la National Science Foundation, la création d’une direction technologique et la mise en avant de dix sujets clés pour la recherche au cours de la prochaine décennie [23].

Un quatrième engagement que la philanthropie peut prendre est de donner la priorité à l’inclusion tant dans les décisions de financement que dans la dotation interne. Tout d’abord, les organisations philanthropiques devraient mettre en place des programmes de financement destinés explicitement à soutenir les leaders, les militants et les universitaires historiquement sous-représentés dans le domaine. Cela comprendrait un soutien structurel pour les plateformes, la formation et la stabilité financière à long terme. La mise en place de programmes véritablement inclusifs implique inévitablement de faire des choix difficiles, tels que le retrait d’un soutien de longue date à des organisations ou à des individus qui ont fait un travail remarquable mais qui, par leur structure même et leur leadership, renforcent l’inégalité structurelle. Cela implique la mise en place de mécanismes internes de responsabilisation des fondations, conçus pour examiner les portefeuilles et les programmes avant que les engagements ne soient pris, afin d’évaluer les questions fondamentales : non seulement "Où va l’argent ?", mais aussi "Qui a défini les hypothèses et les présupposés fondamentaux qui sous-tendent le travail ?". Si la réponse n’inclut pas une large représentation des sexes, des personnes de couleur et des personnes dont l’expertise va au-delà des diplômes reconnus, alors ces mécanismes doivent être revus.

Ces engagements visent à garantir un ensemble d’organisations solides et saines pour mener ces combats au cours de la prochaine décennie afin de remettre en question le précepte fondamental du techno-solutionnisme : la technologie seule peut résoudre les problèmes sociaux insolubles. Ces organisations devront poursuivre le travail consistant à déterminer à quoi ressemble la véritable responsabilité de ces centres de pouvoir technologique vis-à-vis de la société, et en particulier des communautés vulnérables, puis à mettre en place ces mécanismes avec une application rigoureuse. Il s’agit en soi d’un énorme défi. Mais cela laisse ouverte la question de la complicité de la philanthropie à travers la structure même des lois américaines sur les dons caritatifs.

Nous pensons que pour que la démocratie américaine s’épanouisse au cours de la prochaine décennie, la philanthropie américaine doit mener une conversation publique sur la maîtrise de son propre pouvoir et le transfert de ce pouvoir vers d’autres lieux, plus démocratiques. Pour ce faire, la philanthropie devra reconnaître trois points essentiels : son pouvoir de définir et de mettre en œuvre de vastes programmes sociaux et politiques, le manque de responsabilité qui caractérise les dons philanthropiques dans le système actuel, et le fait que ces deux conditions sont soutenues par l’immense pouvoir financier dont disposent les entreprises technologiques - et leurs actionnaires - grâce à l’adhésion des États-Unis à un système de capitalisme mondialisé.

Les concentrations de pouvoir incontrôlées sapent la pratique démocratique. Nous observons ces concentrations de pouvoir à la fois dans l’industrie technologique et dans les organisations philanthropiques. Nous constatons également que la plupart des individus dans les deux secteurs entreprennent leur travail avec les meilleures intentions du monde. Ce qu’il faut remettre en question et refondre, ce sont les structures - codes fiscaux, cadres réglementaires et législation héritée - qui permettent aux inégalités persistantes de s’enraciner davantage. Même les dictateurs bienveillants sont des dictateurs. Le capitalisme mondialisé et les technologies centrées sur les données ont tous deux besoin de contrôles publics plus stricts pour que la démocratie puisse s’épanouir dans les décennies à venir. La philanthropie est en mesure d’aider à recadrer et à amplifier cette position, puis à conduire la conception et l’adoption de ces contrôles. Si elle y parvient, elle limitera son propre pouvoir - et nous pensons que cela contribuera à une démocratie plus robuste dans les décennies à venir.