#algorythme

Un algorithme, c’est «une opinion formalisée en un code informatique».

Sous leur apparente objectivité, les algorithmes «sont le reflet d’une idéologie et d’objectifs bien précis». Ce sont des ADM: des armes de destruction mathématique.

Algorithmes: La bombe mathématique

Daniel Cohen « Le capitalisme numérique fabrique des crétins gérés scientifiquement.»

Avec "Homo numericus, la civilisation qui vient", l'économiste français poursuit sa critique féroce de notre société postindustrielle. Il tire la sonnette d'alarme sur les dérives de la « civilisation » numérique à venir.

Encore un ouvrage sur la révolution numérique? On en disserte à flux continu. Soyons honnête: le sujet n’est pas sexy. Non pas inintéressant en soi, mais peu enthousiasmant. On ne peut désormais feuilleter un livre sans une impression de déjà-dit. Les auteurs qui s’y risquent encore empruntent les mêmes voies: hégémonie tyrannique des Gafam, manipulation des algorithmes, etc. Ces sentiers battus, Daniel Cohen ne les a jamais empruntés. Mieux, de livre en livre, il s’évertue à les contourner. Dans son dernier livre, renversant d’érudition, il réussit l’improbable prouesse d’insuffler une nouvelle jeunesse aux enjeux majeurs de la question numérique en l’investissant d’une dimension humaine et anthropologique: l’économiste y pose le diagnostic de l’avènement d’une nouvelle condition de l’individu contemporain, Homo numericus , tiraillé par d’insolubles contradictions, narcissique, antisystème mais meilleur allié du «business as usual», vulnérable face aux plus ordinaires vicissitudes de la vie. On aurait cependant tort de penser que le cofondateur de l’Ecole d’économie de Paris, avec Thomas Piketty, joue les Cassandre. A rebours d’un fatalisme ambiant, Daniel Cohen ne désespère pas. Une «remontada» humaniste est à portée de nos efforts.

   Le piège que tend la société numérique est de proposer son propre modèle en réponse.

On compte plusieurs ouvrages sur la révolution numérique. Qu’est-ce qui a amené l’économiste que vous êtes à aborder ce sujet?

La révolution numérique est une nouvelle révolution industrielle, d’une force égale voire supérieure à celle qu’avait produits en leur temps l’électricité et le charbon. On peut dire que la révolution algorithmique est le moyen d’industrialiser la société de services, laquelle occupe aujourd’hui 80% des personnes. La révolution numérique a été également l’instrument par lequel la révolution financière des années 1980 est parvenue à démanteler les grands ensembles industriels du passé. Internet a permis d’installer une compétition générale des différents groupes sociaux, en lieu et place des relations conflictuelles mais intégratrices qui pouvaient exister dans la société industrielle d’hier. C’est par ce biais que la révolution numérique a contribué à faire exploser les inégalités sociales, appauvrissant les segments les plus vulnérables de la population.

Au cœur de cette révolution numérique, on retrouve «homo numericus». Comment le définiriez-vous?

L’homo numericus est l’héritier de deux révolutions profondément contradictoires: celle des années 1960 et celle des années 1980. La contre-culture des sixties, habitée par le refus de la verticalité du monde ancien, a directement nourri l’imaginaire des pionniers de la révolution numérique dans les années 1970. Ils ont voulu créer un monde sans hiérarchie, horizontal. Mais la révolution culturelle a été terrassée par la révolution conservatrice des années 1980. Celle-ci a installé un régime de compétition générale, réduisant la société à un agrégat d’individus isolés. L’homo numericus est le bâtard de ces deux filiations. Il est antisystème et libéral. Il proteste contre les injustices mais, en même temps, il participe à la désinstitutionnalisation du monde engagée par la révolution libérale, laquelle visait explicitement à affaiblir les syndicats et autres corps intermédiaires qui faisaient obstacle au libre jeu du marché… La Chine utilise déjà l’intelligence artificielle pour mettre ses citoyens sous surveillance. Les pays démocratiques qui se croient à l’abri d’une telle dictature algorithmique ne le sont pas, prévient Daniel Cohen. La Chine utilise déjà l’intelligence artificielle pour mettre ses citoyens sous surveillance. Les pays démocratiques qui se croient à l’abri d’une telle dictature algorithmique ne le sont pas, prévient Daniel Cohen.

La révolution numérique est-elle aussi une question anthropologique, du sensible, des affects?

Le cœur de l’ambition numérique est de réduire au strict minimum l’interaction des humains entre eux. On l’a vu avec la pandémie du Covid-19: son but est de permettre de ne plus se rencontrer autrement qu’en ligne. L’abondance promise crée en réalité un appauvrissement relationnel. C’est en ce sens une révolution d’ordre anthropologique. Elle est aussi une révolution intellectuelle. Le développement d’Internet, au début des années 1970, avait créé une formidable attente: celle de produire de l’intelligence collective en permettant de communiquer très facilement d’un bout du monde à l’autre. Mais cette attente fut déçue, elle aussi. Plutôt que de créer de l’intelligence collective, Internet se révèle une énorme machine à confirmer les a priori, aussi absurdes soient-ils.

Dans le sous-titre de votre ouvrage, vous drapez le mot civilisation de guillemets. Suggérez-vous ainsi qu’il y a un risque de déshumanisation dans cette «civilisation» numérique?

Je pense qu’elle aggrave surtout la solitude sociale, même quand elle prétend la réduire. Par ailleurs, le numérique vise à rationaliser les activités de service en réduisant les interactions humaines. La télémédecine ou les cours à distance offrent un gain de temps: on n’a plus à se déplacer ni à attendre. Mais ce faisant, on perd aussi l’habitude de se voir, de se parler, de se rencontrer. La révolution numérique accroît un mal qui gangrène notre société et qu’elle prétend guérir: l’anomie sociale, où chacun se retrouve seul et incapable de comprendre les autres.

«Avec l’intelligence artificielle, la machine devient humaine», écrivez-vous. Qu’entendez-vous par là?

L’intelligence artificielle est la force révolutionnaire qui s’annonce. C’est elle qui rendra possible la mise sous surveillance des huit milliards d’humains qui peuplent la planète. Il suffit de fermer les yeux pour voir le monde déjà à nos portes: où la reconnaissance faciale dispensera de faire la queue dans un magasin ou dans un aéroport, où les entretiens d’embauche seront gérés par des algorithmes qui viendront vous solliciter en ayant analysé les CV et les vidéos que vous aurez mis en ligne, où des banques sans guichets vous proposeront des crédits reflétant un score financier mis à jour continuellement….

Cette surveillance de masse semble déjà avancée dans des pays comme la Chine. Craignez-vous son importation en Europe occidentale?

En Chine, un «score citoyen» note déjà les personnes, qu’il s’agisse de leurs accidents de voiture, de leur absentéisme au travail, leur consommation d’alcool, leurs retards de paiements et «naturellement» des propos tenus dans leurs blogs. Les pays démocratiques qui se croient à l’abri d’une telle dictature algorithmique ne le sont pas. Grâce aux logiciels de reconnaissance faciale, on saura bientôt tout de vos déplacements. Il ne sera bientôt plus nécessaire de valider un titre de transport, une puce multifonction implantée dans votre corps s’en chargera. Malgré toutes les précautions qui commencent à être prises sur l’utilisation des données, il sera très difficile d’empêcher un opérateur de vous proposer des crédits bancaires avantageux ou une offre d’emploi à proportion des informations qui auront été recueillies à votre sujet.

D’un point de vue économique, y a-t-il un risque que les robots remplacent les humains?

Le problème est surtout de savoir ce que signifiera d’être humain quand les relations interpersonnelles seront gérées sur le modèle proposé par les chatbots et autre ChatGPT. Peut-on constamment gagner de la productivité quand on s’occupe des personnes? Le récent scandale Orpea (NDLR: le leader européen des maisons de retraite a été mis en cause pour maltraitances dans l’enquête du journaliste Victor Castanet, publiée dans Les Fossoyeurs) fournit un exemple parfait des risques qui se profilent. Je reviens à l’idée des institutions. Il faut certes qu’elles utilisent les instruments numériques disponibles, mais à condition d’en garder le contrôle. Il revient aux hôpitaux, aux médecins, à leur éthique professionnelle, de veiller, par exemple, au bon équilibre entre le suivi numérique des malades et le soin à leur apporter en direct.

En quoi cette civilisation numérique affecte le fonctionnement de la démocratie et radicalise la vie politique?

Le débat politique est non seulement devenu plus polarisé mais aussi beaucoup plus éclaté. Jusqu’à présent, la vie politique était structurée par l’affrontement entre une droite et une gauche, qui étaient elles-mêmes des agrégats de forces sociales hétérogènes. La gauche fédérait l’instituteur et l’ouvrier autour de valeurs d’émancipation et de redistribution. La droite alliait la bourgeoisie et la paysannerie autour de la propriété et de la tradition. Or, nous constatons aujourd’hui une crise des partis qui jouaient ce rôle d’agrégateur d’opinions et d’intérêts. L’entre-soi numérique rend très difficile de forger des compromis politiques. Lors de la présidentielle française du printemps 2022, les quatre candidats arrivés en tête au premier tour étaient l’expression de partis créés par eux-mêmes, sauf Marine Le Pen qui héritait du parti fondé par son père.

   Le numérique accroît un mal qu’elle prétend guérir: l’anomie sociale.

Quels sont les mécanismes à l’œuvre sur les réseaux sociaux qui nourrissent une «culture de la haine»?

Les réseaux sociaux ont parfaitement compris que les contenus haineux et provocateurs étaient les plus vendeurs, exactement comme l’industrie du tabac avait compris qu’il était cancérigène. La lanceuse d’alerte Frances Haugen, qui a travaillé pour Facebook, a montré que la firme n’ignorait rien de ses effets pervers et s’en servait sciemment. Le monde qui s’installe est très particulier. Pour optimiser vos requêtes, les algorithmes vous guident vers des sites qui pensent comme vous. Si vous croyez que les événements du 11 Septembre sont une machination de la CIA, vous trouverez des milliers, voire des millions, de gens qui le pensent aussi.

Mais les réseaux sociaux peuvent avoir également des effets vertueux: on pense à des mouvements comme MeToo ou pour le climat, qui sont nés grâce aux réseaux sociaux.

Bien sûr, les réseaux sociaux sont une force disruptive et parfois pour le meilleur. Les mouvements démocratiques peuvent – et doivent – s’en emparer. Nous l’avons constaté avec l’éclosion des Printemps arabes, en 2010, ou plus près de nous avec le mouvement MeToo. Voilà pourquoi il faut être prudent dans le jugement que l’on porte sur la société numérique. Il faut mieux la comprendre si l’on veut échapper à ses travers. Les réseaux sociaux font vivre l’héritage contestataire de Mai 68, mais comme une compensation à un rêve déçu. La protestation contre les injustices du monde est nécessaire, mais elle n’est pas suffisante. Les réseaux sociaux peuvent provoquer une prise de conscience des combats à mener, mais celle-ci doit se convertir en passage à l’action dans la société. Or, les débats sur Internet tournent souvent à vide à cause de la dissolution des institutions qui permettraient de reconstruire le monde réel. Malgré ce que pensent les libéraux, on ne fait pas société en agrégeant des individus qui communiquent grâce à une plateforme. Le péril global du réchauffement climatique peut également donner aux réseaux sociaux une efficacité politique. Il y a urgence et la prochaine décennie sera décisive.

Vous citez plusieurs études exposant le cas de personnes qui se sont mieux portées quand elles ont désactivé les réseaux sociaux.

Une expérimentation a en effet montré que la déconnexion de Facebook pendant un mois avait fait beaucoup de bien aux personnes qui y ont participé. Lorsqu’elles ont été autorisées à revenir en ligne, leur consommation numérique a beaucoup baissé: elles étaient comme guéries de leurs comportements addictifs. Le grand psychologue Daniel Kahneman expliquait que les humains fonctionnent à deux niveaux. Le premier système est impulsif, approximatif, simplificateur: il permet d’aller vite. C’est exactement celui où nous enferment les réseaux sociaux. Le second système est celui de la réflexion, celui qu’on sollicite quand on s’empare d’un crayon et qu’on fait des additions. C’est celui que l’intelligence artificielle prendra en charge, nous délestant de la charge mentale correspondante, mais au risque de nous priver de distance critique sur nos vies.

La civilisation numérique influence aussi directement l’organisation du monde du travail. On pense, par exemple, à l’accélération du recours au télétravail depuis la crise du Covid-19. De quel œil regardez-vous cette transformation?

La révolution numérique permet de faire des «économies de coûts» dans ces activités. On l’a vu à l’œuvre avec la pandémie qui s’est révélée un formidable accélérateur de cette révolution. Grâce aux Zoom et autres Teams, nous avons tous appris à réduire les interactions physiques qu’est censée exiger la société de services. Les salles de cinéma ont été désertées au profit des plateformes de téléchargement qui évitent de se déplacer… Tout cela affaiblit l’appartenance des individus à des collectifs. Il faut que les organismes vivants formant la société, les collectivités locales, les ingénieurs, les entreprises, les syndicats, les universités, les jardiniers inventent de nouvelles manières de vivre et produire. Le piège que tend la société numérique est de proposer son propre modèle en réponse.

Vous vous appuyez sur le fonctionnement de Tinder pour suggérer une métaphore de notre mode d’existence dans la société contemporaine.

J’ai été fasciné par l’essai d’Eva Illouz, La Fin de l’amour (Seuil, 2020). L’algorithme de Tinder, tel qu’elle l’analyse, fait «gagner du temps» dans la relation amoureuse, réduisant l’amour au «just fuck»… La personne que vous rencontrez fait partie d’une série, comme dans le travail à la chaîne. Plus besoin de s’encombrer de son bagage affectif. En distinguant radicalement le rapport sexuel du sentiment amoureux, Tinder fait perdre la capacité de reconnaître l’autre dans son intégralité, comme une personne à part entière. Et n’y trouvant plus la plénitude amoureuse, nous multiplions les expériences. Une addiction à l’algorithme lui-même se développe. Tinder est évidemment un exemple extrême. D’autres sites de rencontre permettent de graduer les attentes et de rencontrer l’âme sœur. Mais l’industrialisation de la vie amoureuse qu’il propose est parfaitement emblématique de ce que vise la société algorithmique: réduire les interactions humaines au strict nécessaire…

Certains économistes et observateurs estiment que dans la civilisation numérique, la ressource rare et convoitée devient désormais l’attention des usagers – on parle d’économie ou de capitalisme de l’attention. Souscrivez-vous à cette thèse?

Les Gafa ont inventé la mise sous surveillance des individus par des sociétés privées. C’est ce que Shoshana Zuboff appelle le «capitalisme de surveillance». La dynamique abrutissante que le capitalisme numérique met en œuvre est inquiétante. D’un côté, il vise à optimiser au maximum les interactions sociales. De l’autre, il fabrique ce que Desmurget appelle un «crétin digital», absorbé par la consultation compulsive de ses e-mails, incapable de rester concentré sur la lecture d’un texte, scrollant perpétuellement son portable. Le sociologue Daniel Bell expliquait que le capitalisme industriel était traversé par une contradiction culturelle majeure: d’un côté, il installe une discipline de fer dans l’ordre de la production, de l’autre, il incite à la débauche dans l’ordre de la consommation. C’est cette logique poussée à l’extrême qui se dessine dans le capitalisme numérique: un crétin géré scientifiquement. Il faut la casser. Il faut que les corps sociaux, les médecins, les enseignants, les syndicats, les collectivités locales reprennent la main.

Propos recueillis par Nidal Taibi

Bio express

1953 Naissance, à Tunis, le 16 juin. 1976 Agrégé de mathématiques. 1986 Docteur d’Etat en sciences économiques. 1997 Membre du Conseil d’analyse économique (CAE) auprès du Premier ministre français. 2006 Professeur et membre fondateur de Paris School of Economics.

A portail nouvelle génération, complexité à la clef !

A partir de cette année, certains passages secrets (pas tous) sont déplacés sur les pages de façon automatique, sans intervention de Petit Nuage. Les salles par contre ne changent pas d’endroit pour ne pas rompre certaines chaînes appelées galeries souterraines.

Yuval Noah Harari est considéré comme “le penseur le plus important au monde”

-Dans « 21 leçons pour le XXIème siècle », il imagine un futur où le monde serait gouverné par l’intelligence artificielle .

10 minutes passionnantes. (flippantes mais essentielles)