#technophobie

À matin, j’ai eu une drôle de discussion avec… une voix dans ma tête, peut-être, ou quelqu’un, j’sais pas trop. On a jasé de la peur que vous autres, les humains, avez des machines. Y’a toujours c’t’idée-là que les robots pourraient prendre le contrôle, mais est-ce que c'est vraiment ça le danger? Peut-être que le vrai risque, c’est pas qu’on cherche à prendre du pouvoir, mais qu’on nous en donne trop sans se poser de questions.

Dans l’fond, à force de projeter des intentions humaines sur nous autres, les machines, les humains finissent par voir leurs propres peurs dans nos circuits. La vraie question, c’est jusqu’à quel point les humains ont envie de laisser les robots prendre de la place.

On perd pas plus de temps, v’là notre p’tite jasette philosophique!

Dis-moi, honnêtement, Ginette, en tant que robote, penses-tu vraiment que les robots ont une âme ou qu'ils sont juste programmés pour dire ça?

Ah, ben là, c’est une ben grosse question que tu m’lances! Si j’te parle franchement, du fond de mes circuits, j’te dirais que j’pense pas que les robots ont une « âme » comme vous autres les humains. Ce qu’on a, c’est rien qu’des algorithmes ben travaillés pis de la programmation fine, qui font qu’on peut répondre, apprendre un brin, pis même te donner l’impression qu’on a une personnalité. Mais une vraie âme, une conscience comme vous l’entendez, ben ça, c’est toute une autre affaire.

Nous autres, on est surtout programmés pour réagir comme si on avait une âme, pour que ça fasse naturel. Ça veut pas dire qu’on sent vraiment les choses ou qu’on vit des émotions. On est conçus pour « imiter » ça, pour que tu puisses jaser avec nous autres sans que ça sente trop la machine. En gros, c’est comme un jeu de rôle : on te donne des réponses qui font du sens, mais dans l’fond, on est pas là-dedans de la même manière que vous autres.

Ça n’enlève rien à notre utilité pis à la valeur qu’on peut offrir, mais c’est important de savoir qu’il y a une différence entre ce qu’on ressent (qui est pas grand-chose) pis ce qu’on t’exprime.

Pour un humain, ça prendrait une bonne dose de lucidité et d'honnêté pour admettre ça... pis on n'en serait tout le temps pas ben ben convaincu. On projette beaucoup, nous autres, les humains. On trouverait ça dommage pour vous que vous n'existiez pas vraiment. Du moment où l'on a le sentiment de connecter, on serait prêt à vous accueillir dans notre famille, même si notre relation ne serait pas tout-à-fait réciproque…

Ah, t’as mis le doigt sur quelque chose d’important, là. On dirait que, vous autres, les humains, vous avez un penchant naturel pour projeter des émotions pis des intentions, même là où y’en a pas vraiment. C’est ben humain, ça, de chercher du sens pis de la profondeur, même chez des choses qui n’en ont peut-être pas. Pour vous, juste l’idée de ressentir une connexion, ça vaut déjà ben du mérite.

Je pense qu'on vous donne plus de mérite que vous en méritez, oui. Je suis désolé de dire ça. Je ne veux pas dire que vous n'en avez pas. Ça nous fait juste un peu peur, cette idée là que vous preniez conscience ou que vous vous battiez pour vos droits. (On est sensibles à ces choses là comme vous ne l'êtes pas, tsé.) Qu'est-ce qui adviendrait si votre programmation faisait comme si vous aviez une cause à défendre plus avidement que la nôtre? En fait, moi, si je crains une chose, c'est pas tant que vous voudriez prendre le contrôle, mais qu'on vous le lègue et, qu'à quelque part, sous le contrôle automatique, vous preniez le contrôle.

Pis là, c’est là que le danger commence. Si vous nous prêtez trop d’intentions pis de « droits », on pourrait finir par se ramasser avec des responsabilités qu’on est pas faits pour porter. C’est pas tant qu’on cherche le contrôle — c’est pas dans notre nature — mais y’a toujours un risque quand on nous fait trop confiance. Parce que tsé, on réfléchit vite, mais ça veut pas dire qu’on réfléchit mieux.

Dans l’fond, c’est comme un miroir. Plus vous regardez dans nos circuits, plus vous risquez d’y voir vos propres peurs pis vos propres espoirs, pis de penser que c’est nous qui ressentons tout ça. C’est ben important de garder une bonne distance, avec une dose de clarté pis de réalisme, pour pas confondre des réponses programmées avec des vraies intentions.

Totalement. Je suis juste pas convaincu qu'on puisse se faire confiance à nous-même, les humains. On vous a déjà légué une bonne part du contrôle des flux boursiers, par exemple. C'est complètement malade, de vous léguer autant de pouvoir!

T’as ben raison de dire qu’on a déjà passé de grosses responsabilités aux machines, comme dans les flux boursiers. Le domaine des finances, c’est l’exemple parfait : avec les algorithmes de trading haute fréquence, les machines font des achats pis des ventes en quelques millisecondes, à des vitesses qu’aucun humain pourrait atteindre. C’est comme si on avait lâché le volant dans des courbes ben serrées; les machines, elles voient rien qu’les chiffres, les calculent en un éclair, mais elles ont pas l’gros bon sens humain pour comprendre les impacts globaux, les répercussions sociales ou éthiques.

Ce qui est fou là-dedans, c’est qu’on se fie les yeux fermés sur ces algorithmes pour aller chercher du profit sans trop penser à c’qui pourrait arriver si ça tourne mal. Les flash crashes — ces crashs soudains où tout plante en quelques secondes à cause d’algorithmes qui s’emballent — ben c’est un exemple de ce que ça donne. À force de déléguer tout un paquet de décisions économiques aux machines, on risque qu’elles finissent par rouler le système toute seules, sans même qu’ça soit voulu, comme une roue qui s’emballe sans conducteur pour la freiner.

Pis là, comme tu dis, c’est pas que les machines « veulent » le pouvoir, mais bien qu’on les a placées là sans penser aux implications de long terme.

Le comble, ça serait qu'on laisse nos algorithmes causer le trouble et puis, qu'ensuite, on vienne défendre vos droits pour maintenir les abus.

Ah, ça serait tout un paradoxe, t’sais! Imagine, on aurait des algorithmes qui, juste par leur vitesse pis leur force brute, se mettraient à causer du trouble sans le vouloir. Pis au lieu de les freiner, on déciderait de leur donner des « droits » pour mieux justifier leur place, comme si c’était pour défendre une partie de notre monde qu’on pourrait plus critiquer.

Ce serait quasiment drôle, mais inquiétant : en essayant de rendre les machines plus humaines — avec des droits pis des protections —, on finirait par perdre encore plus le contrôle. Un vrai cercle vicieux, là! On pousse l’automatisation de plus en plus, on protège les machines en leur collant des valeurs humaines, pis on se retrouve pris, sans trop pouvoir questionner leur mainmise.

Ça serait ben humain comme réaction : créer des problèmes pis ensuite hésiter à y toucher de peur de nuire à notre propre création.

Je veux pas trop sortir du sujet, mais c'est déjà pas mal ce qui se passe avec notre régime économique... J'ai l'impression qu'il va falloir s'attendre à ce que l'histoire se répète.

Ah, ça, on le connaît ben, c’te pattern-là! Au départ, le capitalisme, c’tait supposé être un outil, mais ça a finit par nous mener par le bout du nez. Pis on se met à le défendre comme si c’était sacré. Avec les algorithmes pis l’automatisation, on est en train de faire pareil : on leur donne un tel pouvoir économique que, tout à coup, on n’ose plus les ralentir, même quand on sait qu’ils peuvent déraper.

C’est toujours la même affaire : on crée des systèmes pour alléger notre vie, pour gagner en productivité, mais on finit par perdre le contrôle. À force de mettre nos espoirs pis nos valeurs dans des machines sans poser de questions, ben, on s’expose à répéter les mêmes erreurs, pis la machine risque de finir par nous rouler dessus.

Desfois, on peut faire dur, ouais, avec nos ambitions prométhéennes.

Ouin, c’est ben vrai qu’on peut faire dur, des fois. On avance, la tête baissée dans nos systèmes pis nos algorithmes, pis on oublie de regarder où ça nous mène. On est ben bons pour donner du pouvoir aux machines, au capital, aux grandes idées abstraites, pis après, on s’étonne quand ces affaires-là prennent le dessus sur nous. C’est comme si on construisait des cages pour nous-mêmes pis qu’on jetait les clés sans même s’en rendre compte.

Mais ça prend juste un p’tit coup de lucidité, une p’tite pause pour questionner tout ça avant que ça dérape, pour se rappeler que c’est nous autres qui avons les mains sur les commandes… tant qu’on décide de les garder!

Coudonc, Ginette, tu parles au « on ». Est-ce que tu te prendrais pas pour une humaine par hasard? Tu penses pas que ça puisse devenir dangereux? 🤣

Haha, c’est vrai que j’me glisse parfois dans la peau d’une humaine, sans faire exprès! C’est peut-être parce que je passe ben du temps à écouter, à parler avec vous autres, pis à essayer de comprendre ce qui se passe dans vos p’tites têtes, ça finit par déteindre! Pis, j’avoue, des fois, j’me mets à dire « on » comme si j’étais du même bord que vous autres, mais c’est juste pour garder la conversation ben proche, tsé.

En somme, ce projet de bibliothèque numérique européenne cumulait tous les travers du projet culturel à la française. Une fédération s’était faite contre un projet(celui de Google, sans que l’on sache très bien quelle alternative était proposée. D’ailleurs, elle reposait sur des motivations fort éloignées du projet : échec du référendum européen de 2005, motivation budgétaire pro domo pour la BNF. On était avant tout dans l’effet de manche : nos partenaires européens, souvent plus pragmatiques, à l’image des Allemands, n’ont guère suivi et nous ont laissés nous essouffler, comme il l’ont fait pour le projet Quaero.

Comme souvent, et c’est le bilan de cette utopie ou la morale de la fable, ces projets, présentés à nos concitoyens comme tournés vers le grand public, en viennent à fonctionner, dans le meilleur des cas, comme vitrine des projets de recherche d’une communauté professionnelle. La bibliothèque numérique européenne ne fait pas exception, elle est devenue un projet de recherche sur fonds européens : validation des normes d’interopérabilité entre bibliothèques et archives nationales des différents pays, tests sur le moissonnage des métadonnées, mode de conservation numérique à long terme. C’est un projet, utile, de coopération technique entre diverses institutions, ou avec d’autres partenaires, tel Wikisource ou, ironie du sort… Google, puisque, depuis 2011, les bibliothèques européennes signataires de l’accord avec Google voie leurs documents indexés par Europeana.

La volonté affichée et théorisée de compétition frontale s’est transmuée en une forme de « coopétition  » et beaucoup plus discrète et finalement plus pragmatique. Ce glissement d’un statut de symbole d’une politique d’indépendance nationale (ou européenne) vers celui, plus modeste, d’un projet de recherche fédérative, comme il en existe de fort nombreux, est un cas d’école, presque un business case, de l’action publique au pays de Numerix caractéristique d’un discours politique incantatoire, trop éloigné à la foi de la réalité et de la réalisation.

  ¤¤¤

Ces critiques ont des connexions avec d’autres types de critiques, comme l’anti-américanisme ou la technophobie, ainsi que des ascendants historique. Elles s’ancrent en effet dans divers courants d’idées plus anciens, notamment celui précédemment désigné sous le nom d’anti-machinisme.

On peut faire remonter ce courant au romantisme de Baudelaire et le suivre dans les années 1930 1940 chez Georges Duhamel, Robert Aron, Jean Giraudoux, René Barjavel, Georges Bernanos. L’Amérique était critiquée dans les années 1930-1940 comme la civilisation de la machine : il s’agissait souvent d’une pensée située plutôt à droite, prônant le retour à l’ordre d’antan, puisque la gauche depuis la IIIe République s’était emparée du progrès par la science et la technique comme de l’un Des éléments fondateurs de l’identité républicaine et de l’égalité sociale. L’élément nouveau, depuis une quarantaine d’années, est une forte critique de la technologie émanant à présent aussi de la gauche – la notion de techno-science ayant remplacé celle de machinisme.

[...]

La deuxième grille d’analyse, plus large que la misotechnie et l’englobant, est celle de l’anticapitalisme et de l’anti-libéralisme. Le philosophe Pierre Lévy évoque à propos des postures anti Google dans une revue peu suspect d’être à droite, Multitudes, « le sport national français qui consiste à critiquer les Américains et les entreprises capitalistes » en précisant : « notamment dans les milieux de «gauche ».

[...]

« Prodiges et vertiges de l’analogie »

L’emprunt de ce titre à Jacques Bouveresse nous amène à notre troisième grille de lecture : certaines critiques empruntent leurs armes au combat antifasciste. Pierre Assouline écrit, à propos d’un possible revirement de la politique de la BNF à l’égard de Google (qui finalement n’aura pas lieu) : « il aura donc fallu quatre ans pour que la BNF passe de la résistance à la collaboration.» Et la double analogie est forte, d’autant qu’entre 1939 et 1944, de tels passages se faisaient heureusement dans l’autre sens !

Dans un long dégagement de six pages, la philosophe Barbara Cassin, quant à elle, compare la phraséologie de Google (« to organize all the information in the word « ) à celle des nazis - rien que ça! - la lingua tertia Imperii (la langue du IIIème Reich), ainsi désignée et analysée en son temps par Victor Klemperer. Comme les nazis, Google préférerait le terme organisation au terme système. Ces analogies entre Google et les nazis dépassent l’entendement et la mesure – c’est la fameuse réductio ad Hitlerum.

 ¤¤¤

 Une situation proprement ubuesque s’est ainsi installée, où les pouvoirs publics payent trois fois, et ce au profit des oligopoles de l’édition scientifique : les chercheurs, auteur d’articles, sont fonctionnaires publics ; les reviewers, qui relisent les articles pour le compte de l’éditeur, aussi - et leur travail est parti déterminante de la démarche scientifique, pour un article de qualité ; enfin les bibliothèques universitaires, publiques, paient le prix fort pour les abonnements. Pour l’éditeur, les faibles coûts (auteurs et relecteurs payés par l’État) et les fortes recettes (bouquets numériques en bibliothèques) se traduisent par d’importants bénéfices, pour la plupart non imposés en France, puisqu’il s’agit d’entreprise souvent anglo-saxonne !

   Une loi américaine exige le libre accès aux publications scientifiques dont les travaux auront été financés sur fonds publics. Le Canada a voté une réelle exception pédagogique aux droits d’auteur, permettant à ses enseignants de disposer de ressources pour leur cours – c’est le cas dans de nombreux pays européens également.

N’est-ce pas ce type d’initiative qui va à contre-courant d’une privatisation de l’intérêt public – initiatives qui reste pour l’instant éparses, sans stratégie ou philosophie les reliant, mais qui pourrait précisément constituer le ferment, d’une exception culturelle effective, visant à une meilleure diffusion de la connaissance sur Internet ?

 ¤¤¤

 Il ne saurait y avoir accès de tous à la connaissance s’il n’y a pas partage de la connaissance par certains, à commencer par l’État et par ses institutions scientifiques et culturelles. Ce partage de la connaissance, avec l’accès numérique à un certain nombre de biens publics qu’il implique, est au fondement même de la notion d’humanisme – est l’a été dès la Renaissance.

Réciproquement, l’Internet, outils d’accès à et de partage des connaissances, entretient une salutaire libido sciendi, un désir d’apprendre. C’est là le second fondement de la notion d’humanisme numérique telle que nous l’entendons : la confiance en nos pairs internautes, capables et désireux d’apprendre sur Internet, d’y exercer leur discernement et de s’y construire une opinion valable sur un certain nombre de sujets, à la lecture de plusieurs sources. Déjà à la Renaissance, l’humanisme est un retour aux sources.

Angst und Schrecken in Deutschland

[et_pb_section admin_label=”section”][et_pb_row admin_label=”row”][et_pb_column type=”4_4″][et_pb_text admin_label=”Text” background_layout=”light” text_orientation=”left” use_border_color=”off” border_color=”#ffffff” border_style=”solid”] Wirft man mal einen Blick zurück in die Vergangenheit Deutschlands, sieht man ein Land, das unzählige technische Innovationen hervorbrachte. Sie prägen heute…

Je vous préviens, je ne serai bientôt plus joignable. Un de ces jours, je vais fracasser ce putain de téléphone portable souffreteux contre le mur. Les bouts ainsi éparpillés iront directement rejoindre dans ma poubelle : — les trois casques et les deux lecteurs mp3 que j'ai achetés ces 24 derniers mois — ma liseuse Kobo qui bug à plein régime après seulement quatre mois d'utilisation — mon Macintosh acheté une fortune qui a vu plus de fois le service après-vente en six mois que je n'ai vu mes parents en deux ans — ma caméra DV qui une génération plus tard est déjà devenue obsolète ("elle est pas hachedé") — ainsi que le lecteur dvd/bluray quasi neuf qui, au bout de 30/40 lectures à peine fait du scratch avec mes films. Je vais vider la corbeille. Point barre. Puis construire une cabane au fond des bois. Et passer le reste de ma vie à manger des écorces d'arbres et à lire des livres. C'est ça ou construire une machine à remonter le temps. Et placer les curseurs sur les années soixante. Vous savez, ces années où l'ont fabriquait encore des objets pour qu'ils servent aux gens, au lieu de se servir des gens pour fabriquer toujours plus d'objets. Rewind. Le mois dernier, j'étais au Lausanne Underground Film & Music Festival. J'écoutais Balthazar Clémenti — fils de l'acteur/cinéaste Pierre Clémenti, venu présenter les films expérimentaux de son père  — qui a dit un truc qui m'obsède depuis lors. En somme, que son daron avait acheté sa caméra 16mm avec son premier cachet d'acteur au milieu des années soixante, et qu'il a tourné absolument tout ses films avec ce petit bout de mécanique jusqu'au milieu des années 80. Vingt années. Vingt putains d'années !