Jean-Paul JOUARY, né à Arzeu (Algérie) le 21 mai 1948, est un philosophe et essayiste français. Professeur de chaire supérieure, agrégé et docteur en philosophie, il enseigne à Paris et Abidjan. Il a publié une trentaine de livres et de nombreux articles de philosophie des sciences, de philosophie politique et sur l’histoire et l’enseignement de la philosophie. Jean-Paul pilote, avec Jean-Claude Mairal, le Groupe Démocraties de I-Dialogos. Derniers livres parus : La parole du mille pattes, difficile démocratie, Éditions Belles Lettres (2019), Vivre et penser dans l’incertitude, Éditions Flammarion (2021).
Contribution au colloque du CERIPP de mai 2023 à Marrakech, avec la Fondation Hanns Seidel et l’Institut Montpensier
L’irruption du numérique, des réseaux sociaux, des diverses formes d’« intelligence » artificielle, a été si rapide et accompagné de développements quantitatifs et qualitatifs si accélérés, qu’on ne peut imaginer que cela soit sans conséquence sur les formes d’organisation sociale, culturelle et politique de tous les peuples. Si l’on voit bien l’usage qu’en peuvent faire les dictatures, mais aussi leurs craintes face aux possibilités de communication que peuvent explorer les citoyens, c’est sans doute pour les diverses formes de vie démocratique que ces techniques nouvelles sont susceptibles d’apporter des modifications qu’il est urgent d’examiner. Encore faut-il préalablement préciser les termes mêmes de la question, car parler de « démocratie » et d’« intelligence » n’a rien d’évident et, selon le sens que l’on donne à ces deux termes, on risque d’aboutir à des conclusions fort différentes, voire même opposées.
Démocratie ?
Trop souvent, de façon délibérément mystificatrice, on entend appeler « démocratie » tout régime qui n’est pas une dictature, tout système dans lequel chaque citoyen possède des droits et les moyens de les faire valoir, droit de vote bien sûr, droit d’opinion et d’expression, droit d’organisation et de manifestation, droit de grève et de pratique religieuse, sans discrimination raciste, sexuelle ou autre. Tout cela est bien sûr important et appartient à l’essence de toute démocratie. Cette reconnaissance de droits personnels répond à une aspiration universelle, jalousement défendue par les peuples qui en bénéficient, et puissamment revendiquée par ceux qui en sont privés. C’est cette dimension de la démocratie qui ne cesse de se consolider à l’échelle de l’espèce humaine et qui, de ce point de vue, ne connaît pas de véritable crise.
Mais si la démocratie n’était que cela on ne comprendrait pas pourquoi, là où elle règne depuis le plus de temps, elle plonge depuis des décennies dans une crise profonde, avec une montée de l’abstention, une rapide impopularité de celles et ceux que l’on vient d’élire et une poussée spectaculaire des formations les plus opposées aux principes de la démocratie. Les États-Unis, le Brésil, l’Italie, la France, l’Espagne, la Suède et des dizaines d’autres pays l’illustrent assez clairement pour qu’on ne puisse contester cet inquiétant processus historique, qui discrédite l’idée de démocratie face aux nombreuses dictatures de la planète, de la Russie à la Chine en passant par les pays du Golfe et de nombreux autres en Afrique du nord ou en Afrique sub-saharienne. Cette crise profonde de la démocratie semble bien manifester le sentiment grandissant que voter n’a servi à rien, qu’entre deux élections les citoyens trahis n’ont aucun moyen de décider de leur destin, que leurs « représentants » ne les représentent donc pas. Ainsi, tandis que la dimension « droits personnels » de la démocratie paraît irréversiblement recueillir l’assentiment des peuples, l’autre dimension « pouvoir du peuple » (démos-kratos) n’étant pas assurée, étant même totalement entravée par des institutions conçues à cette fin par les puissants, les possédants, les professionnels de la domination politicienne, - cette dimension pourtant essentielle prétend être rétablie par des « populistes » d’extrême droite. Comme Trump, comme Bolsonaro, comme les partis fascisants d’Europe et d’ailleurs clament leur volonté d’incarner le « vrai peuple ». Dès lors, l’effet conjugué de leur poussée et de l’abstention des déçus représente une menace réelle et imminente contre la démocratie. La fameuse « crise de la démocratie » est en réalité une crise d’une « démocratie représentative » qui exhibe un formidable déficit de démocratie.
La délibération, plus essentielle que le vote
C’est ici que l’essor du numérique et de l’« intelligence » artificielle entre dans la problématique démocratique. D’un côté, ces techniques nouvelles offrent des potentialités sans précédent. En effet, on a longtemps estimé que donner plus de possibilité pour les citoyens de trancher en tout domaine lorsque leurs « représentants » contredisent manifestement les aspirations de celles et ceux qu’ils sont censés représenter, rend précaire voire impossible toute gouvernance cohérente. Certes, les tribus anciennes ou autochtones qui survivent ont pendant des millénaires tout décidé dans des palabres auxquels toutes et tous pouvaient participer. Mais, objecte-t-on, on voit mal 67 millions de Français ou un milliard et demi de Chinois se réunir sans cesse pour débattre et décider à mains levées. Pourtant les Suisses, qui ne sont pas une tribu, qui sont un peuple moderne et fort éduqué, procèdent depuis des siècles par élection, présidence tournante et recours trimestriel aux « votations » sur tous les sujets qu’ils estiment de trancher tous ensemble, même en contredisant leurs gouvernants qui ne sont donc pas des dirigeants. Les Suisses ont ainsi organisé de façon civilisée et absolument démocratique, plus de la moitié des référendums de l’histoire de l’Humanité. Ils résolvent pacifiquement les questions qui pourtant les divisent le plus fortement. Dira-t-on qu’ils y parviennent parce qu’ils sont une population moins nombreuse que la moyenne ?
Chaque jour, des millions de personnes reçoivent à leur adresse les colis qu’ils ont commandés par internet, et l’on dirait que ce moyen ne peut permettre à ces mêmes personnes de manifester leur volonté citoyenne ? Même à un milliard et demi, les Chinois et les Indiens pourraient sans difficulté organiser des référendums pour trancher sur les questions dont dépend leur vie.
Au nom de la « démocratie », et sans rougir, certains rétorquent que les peuples ne savent pas ce qu’ils veulent, qu’ils ne connaissant rien à la complexité des problèmes, et que la politique est une affaire d’experts et de « représentants ». Allons franchement à ce que cela sous-entend : les citoyens sont des enfants mineurs, la démocratie ne vaut rien, seule la monarchie technocratique peut assurer le bien du peuple. Qu’en sait-on ?
Après tout, malgré les légions d’« experts » qui prétendent posséder La Vérité sur ce qui est bon pour le peuple, et qui d’ailleurs sont en désaccord entre eux, les dirigeants qui se succèdent admettent régulièrement qu’on avait eu tort auparavant, que l’on s’est trompé, qu’il est temps de faire autrement. Et si les citoyens sont des ignorants incapables de bien juger, au nom de quoi peut-on se flatter d’avoir été élus par eux ?
Ce qui est évident c’est qu’aucun peuple, emporté par ses intérêts immédiats et ses passions, ne peut savoir spontanément ce qui est bon pour sa société. C’est bien pourquoi, dans la démocratie, c’est moins le vote qui est important, que le débat public qui précède le vote. Si, comme en Suisse, les citoyens sont informés de façon pluraliste, par des écrits de tous les acteurs sociaux, des raisons d’approuver ou refuser telle ou telle décision, alors de discussion en discussion, depuis les médias jusqu’aux repas de famille, chaque électeur est contraint de réfléchir, d’argumenter, d’écouter, de former son jugement, éventuellement de changer de position. Et s’il épouse cette démarche, c’est parce qu’il a la certitude que de son vote dépend effectivement son avenir. C’est cette période de délibération qui donne sens et valeur au suffrage universel, au vote de chacun. C’est ainsi par exemple qu’en 2005, les Français devant se prononcer sur le Traité de Lisbonne, ont peu à peu changé d’opinion, très sensiblement, au point de refuser largement ce Traité, alors que 80 % de leurs « représentants » l’approuvaient. Faute d’approbation populaire, ce Traité fut donc ensuite imposé contre le peuple, sans nouvelle consultation. Qui peut prétendre que lorsque les citoyens délibèrent leur jugement ne vaut rien, en tout cas moins que les « experts » qui les dirigent ?
L’informatique peut effectivement lever tous les obstacles matériels à ces délibérations et votations, ce qui donne force à la revendication de référendums d’initiative citoyenne. C’est cette intelligence collective, et qui n’a rien d’artificiel, qui fonde la possibilité d’une démocratie vivante, que les formes actuelles de « démocratie représentative » ruinent, jetant le discrédit sur l’idée même de démocratie. La possibilité pour l’ensemble des citoyens de décider lui-même par le moyen de référendums organisés à son initiative, permet de dépasser la contradiction entre le désir de posséder des droits individuels inaliénables, et l’aspiration à utiliser ces droits pour s’autogouverner. On peut ainsi déléguer à des élus le soin d’appliquer les décisions et propositions choisies par le vote, et en même temps pouvoir reprendre l’initiative des décisions lorsque cela est estimé nécessaire.
La souveraineté populaire n’est donc pas incompatible avec l’idée de gouvernance cohérente. C’est dans ce cadre d’une démocratie vivante que les réseaux sociaux peuvent jouer un rôle positif en s’émancipant des risques de médias centralisés possédés et soumis à un État ou à des forces financières (souvent liées au commerce du luxe ou des ventes d’armes, comme en France) forcément conduites à nourrir les idées qui servent leurs intérêts et leur domination.
L’intelligence peut-elle être artificielle ?
Le problème, c’est que tous les nouveaux outils liés à internet sont à la fois un moyen de débattre et s’informer individuellement, et un vaste système où peuvent se déployer, à l’insu des utilisateurs, les campagnes les plus insidieuses et les mensonges les plus grossiers. Comme l’a démontré une étude du MIT que cite Giuliano da Empoli dans Les ingénieurs du chaos (Éditions Lattès, 2019), « la vérité prend six fois plus de temps qu’une fake news pour toucher 1500 personnes », parce qu’elle apparaît plus originale. Internet, en poussant à l’infini la circulation de n’importe quelle nouvelle, donne aux mensonges, aux erreurs, aux propagandes les plus absurdes, une chance sans précédent de gagner les consciences. Si l’on y ajoute les algorithmes qui permettent à des milliards de messages d’être envoyés automatiquement à des destinataires triés selon leurs opinions décryptées sur le net, alors il apparaît évident que c’est l’ensemble des débats publics et des délibérations vitales pour la démocratie vivante qui s’en trouve faussé, parasité, stérilisé.
C’est ainsi qu’ont pesé sur les votes des hommes comme Steve Bannon pour la campagne de Trump aux États-Unis, Gianroberto pour celle du mouvement 5 étoiles en Italie, Arthur Finkelstein en Hongrie pour Orban, en Israël pour Netanyahu, en Ukraine, en République tchèque, en Azerbaïdjan, en Autriche, en Albanie. Pour Finkelstein, « en politique, c’est ce que tu perçois comme vrai qui l’est, pas ce qui est vrai ». Les mêmes « ingénieurs du chaos » ont opéré pour la victoire du breixit en Grande -Bretagne. En mettant par exemple à la disposition de Donald -Trump toute la puissance et les équipe de Facebook, Mark Zuckerberg a ainsi testé 5,9 millions de messages, et permis que chaque catégorie d’électeurs reçoive personnellement des messages adaptés à ses peurs et ses désirs pour bombarder les électeurs potentiels d’Hillary Clinton et augmenter l’abstentionnisme dans son camp. Il serait très étonnant que nul n’ait eu recours à de tels dispositifs dans d’autres pays, la France par exemple.
Ce que l’on appelle l’« intelligence » artificielle est ainsi profondément inintelligent, mécanique, mais doué d’une puissance, d’une rapidité et d’une complexité sans aucun précédent. Cela nous amène à interroger le terme « intelligence » dans cette expression. Sans pouvoir bien sûr entrer dans une analyse détaillée ici, il faut rappeler ce qu’au sens propre signifie ce mot. Très généralement, un comportement manifeste de l’intelligence lorsqu’il produit des modifications adaptées au milieu, à ses modifications, de sorte que la survie soit assurée, les besoins satisfaits. Tous les animaux, en ce sens, possèdent visiblement, à des degrés divers, de l’intelligence, pour l’essentiel guidée par des instincts génétiquement transmis et dans certains cas acquis par imitation. Cette intelligence est parfois extrêmement complexe et produit des comportements très astucieux, mais dans le meilleur des cas, le moindre trouble dans les conditions du milieu en révèle les limites étroites. Ainsi les baleines, capables de prouesses en tous domaines, s’échouent et meurent sur les plages alors qu’elles s’efforcent de gagner le Nord, parce qu’une petite perturbation fausse leur système d’orientation. De même les chimpanzés, cousins si proches des humains, courent se mettre à l’abri lorsqu’on diffuse l’enregistrement des cris qu’ils poussent lorsqu’il pleut, alors que le ciel est tout bleu.
C’est sans doute parce que, justement, les humains naissent prématurés, inachevés, privés presque totalement d’instincts innés, que de tels comportements leur sont étrangers. En effet, à la naissance, nous ne manifestons rien que l’on puisse qualifier d’« intelligent », et nous construisons la nôtre non pas dans le ventre maternel mais dehors, dans un univers où règnent les mots, les caresses, des émotions, de l’affectivité, de la sociabilité, des plaisirs et des souffrances, des sentiments, une foule de comportements singuliers, tous différents, au sein desquels nous devenons humains, nous devenons intelligents.
Comme Erasme l’avait bien perçu en 1519 dans son Traité d’éducation, « on ne naît pas homme, on le devient ». Dans la petite enfance se développe progressivement une intelligence perceptive, visuelle, tactile, auditive, rapidement liée à une intelligence motrice, une intelligence affective, une intelligence sociable et, à travers les mots et la structuration des phrases se construit peu à peu une intelligence logique, cognitive, symbolique. Tout ce processus se développe indissociablement dans un vécu fait de plaisirs, de déplaisirs, de souffrances intimes, d’émotions diverses aussi bien sexuelles qu’esthétiques et affectives, une infinité d’interactions de tous ordres avec les autres et le monde environnant. C’est pourvus de toutes ces capacités construites au cours de la vie que chaque citoyen peut concourir à ce que l’on entend par démocratie vivante.
Ce que l’on appelle intelligence, au sens proprement humain, ne peut ainsi exister sans ce formidable ensemble de facteurs subjectifs. Dans ces conditions, peut-on parler d’« intelligence » artificielle ?
De quoi parle-t-on ?
On définit sommairement l’« intelligence artificielle » comme l’ensemble des techniques qui imitent une forme d’intelligence humaine. Depuis 1950, un test élaboré par Alan Turing évalue notre capacité à discerner ou non le fait que c’est une machine qui répond à un questionnaire. Mais depuis, cette technique qui permet des calculs lourds et d’une incroyable rapidité à partir de gigantesques masses de données, a franchi des étapes et dépassé des limites qui peuvent en modifier la nature, les possibilités et aussi les dangers. A coup d’investissements qui dépassent désormais les cent milliards de dollars, les Google, Apple, IBM, Facebook et quelques autres ont répandu les applications dans les smartphones, les techniques médicales, les moyens de reconnaissance faciale et vocale, la gestion des trafics de transport, le commerce et le marketing, les traductions, les dispositifs militaires, et progressivement tous les secteurs de l’activité humaine.
Ces réseaux de neurones artificiels, ces masses de données et des algorithmes de plus en plus sophistiqués peuvent tirer d’une quasi infinité de données toutes les solutions possibles et proposer des décisions sur la base de systèmes statistiques et probabilistes complexes. Ainsi sont accomplies des tâches qui nécessitaient jusque là, absolument, une intervention humaine. Les doutes ont été levés de façon spectaculaire en 1997 lorsque la machine Deep blue a battu le champion du monde d’échecs Gary Kasparov, puis en 2016 le champion du jeu de Go Lee Sedol. Chat GPT a récemment fait entrevoir des prolongements stupéfiants de ces techniques en formulant de façon très correcte des réponses à une infinité de questions qu’on lui pose, écartant même explicitement en tant que machine tout ce qui suppose sentiments, émotions, sens esthétique et toute autre dimension subjective de l’intelligence.
En même temps, de grossières erreurs alertent sur l’incroyable bêtise de cette technique et sur ses possibles effets désastreux en termes de culture, d’éducation et de propagande. Le fait que le gouvernement japonais par exemple envisage de céder à ChatGPT la rédaction des réponses gouvernementales aux questions des parlementaires indique assez quel type de danger peut menacer la vie démocratique et le débat public avec cette soit-disant « intelligence » artificielle. Ce danger est d’autant plus grand que les chercheurs apprentis-sorciers investissent tous leurs efforts et leurs capitaux dans le projet de passer de la machine learning, technique imitative et « étroite », limitée à quelques tâches particulières à partir de masses de données (comme les moteurs de recherche par exemple), au deep learning, vouée à des tâches générales, approfondissant son apprentissage, et dépassant ainsi les données initiales. Ce type de machine n’existe pas encore mais tout laisse penser que l’étape sera franchie allègrement dans un terme court ou moyen. L’idée de « dépasser » les capacités humaines est annoncée comme un progrès souhaitable et prometteur, ce qui peut conduire à deux remarques.
La première : si cela est possible, mesure-t-on l’effroyable perspective que cela représente en termes de domination sociale, de gestion inhumaine des services publics (pire à coup sûr qu’avec le pouvoir déjà accordé aux gestionnaires dans les hôpitaux, le système scolaire, etc.) ou de crimes militaires (on conçoit d’ores et déjà des « robots tueurs » capables de massacrer sans aucune sorte de réticence éthique).
La seconde : toute cette démarche réduit l’« intelligence » à quelques capacités logiques, en faisant abstraction de toutes les autres dimensions de l’intelligence. A un niveau restreint, cela donne par exemple le programme Moral machine, lancé par des chercheurs du CNRS, du MIT, d’Harward et de Colombie britannique, qui ont recueilli des millions de réponses d’internautes du monde entier à propos des choix éthiques qu’il faudrait programmer dans les « voitures autonomes » en cas de situations précises. Que devrait « choisir » l’automobile : la mort d’animaux ou d’humains ? De jeunes ou de vieux ? De passants ou de passagers du véhicule ? etc. Heureusement, ce programme n’aboutira jamais, parce qu’en termes juridico-financiers les assurances ne prendront jamais un tel risque. De plus, l’étude révèle que les choix sont sensiblement différents selon les latitudes et les cultures ce qui rend impossible une programmation universelle. Mais cet exemple suggère clairement ce que cela pourrait donner dans toutes les sphères de la vie sociale, économique, militaire et politique. L’humain ou le rentable par exemple ? Sans oublier l’usage qu’en font déjà les dictatures avec la reconnaissance faciale par exemple (et pas seulement la Chine, et pas seulement des dictatures).
Le principe de précaution
Loin de toute alternative simpliste entre un enthousiasme béat une condamnation obscurantiste, l’irruption de l’« intelligence » artificielle dans le champ de la démocratie nécessite réflexion, engagement, débat et attitude lucide en termes de précaution. Ce que Hans Jonas appelait « principe de précaution » dans son Principe de responsabilité en 1979 prend tout son sens dans la question qui nous préoccupe. Le développement et surtout les perspectives de l’« intelligence » artificielle annoncent bien ce qu’il qualifiait de « Prométhée déchaîné », irruption de la technique non seulement dans le cadre de la domination de la nature, mais aussi dans tout ce qui définit un être humain. Pour l’« intelligence » artificielle, comme pour le clonage, les biotechnologies, les OGM, les nanotechnologies, le nucléaire civil et militaire, les activités humaines génératrices de réchauffement climatique, la pollution aux particules fines, etc. des problèmes nous sont posés en des termes absolument inédits, aux effets irréversibles, et qui ne trouvent de réponse solide dans aucune des éthiques philosophiques ou religieuses connues.
C’est chaque fois le sort de l’humanité et de la planète où il vit qui se joue et qui exigerait une pause prudente, à vrai dire incompatible avec la course au profit maximum et immédiat qui est devenue le moteur de l’essentiel des sociétés existantes et le principe essentiel des politiques libérales qui se soumette à ce moteur.
Bien sûr, on dira de façon superficielle que les dangers sont l’affaire des utilisateurs de ces innovations techniques lesquelles, par elles-mêmes, seraient « neutres », dédouanant ainsi les scientifiques qui y travaillent de toute responsabilité propre. Ce raisonnement est indigent, tant il est évident que leur travail est financé par ceux qui en feront le pire des usages, et que ces innovations, en elles-mêmes, créent une pluralité de possibilités à dominante destructrice. Pour faire accepter et applaudir les recherches en « intelligence » artificielle, on met bien sûr en avant les progrès qu’elle promet dans le domaine médical. Mais cet arbre humaniste cache mal la forêt des menaces qui se profilent.
Ainsi Le britannique Lewis Griffin, par exemple, a-t-il compilé une liste (non exhaustive) de vingt activités illégales déjà perpétrées par l’I.A. : fausses vidéos, fausses informations, piratages des moyens de transport, messages individualisés et automatisés pour influer sur les opinions et les désirs de consommation, chantage à grande échelle, articles de propagande, faux discours, échanges de visages, robots militaires, corruption de données, cyberattaques basée sur l’apprentissage des points faibles des systèmes, drones d’attaque autonomes, manipulations de toutes sortes, suppression ou invention de preuves, contrefaçons en tous domaines…
En ce sens, la pétition lancée en 2023 par le Future of life institute demandant l’arrêt immédiat des grands projets d’« intelligence » artificielle au nom de la menace qu’ils font peser sur la vie humaine en général, a eu le mérite d’alerter l’opinion (malgré les suspicions de non sincérité qu’ont alimenté certaines signatures comme celle d’Elon Musk). Mais refuser que l’on remplace les emplois épanouissants et craindre que l’humanité perde le contrôle au profit des machines n’est sans doute pas l’aspect essentiel du problème.
En effet, on oublie trop souvent que les menaces les plus graves que l’« intelligence » artificielle fait peser sur les humains concerne tout ce que l’on peut entendre par démocratie vivante. Non seulement les votes peuvent être comme jamais dévoyés, influencés, découragés par les ingénieurs du chaos que nous évoquions plus haut, mais ce sont les débats publics et la délibération qu’ils rendent possible qui peuvent être (et sont déjà) affectés par l’action combinée des algorithmes, des réseaux sociaux et des moyens gigantesques de l’I.A., effets encore amplifiés par des médias écrits, radio-diffusés et télévisés devenus propriété dominante des multimilliardaires de la consommation, du luxe et de l’industrie militaire.
La limite de l’illimité
A cela il faut ajouter tous les types de décisions qui peuvent échapper au contrôle et à la décision des citoyens dès lors que l’on fait admettre que les experts s’appuient sur des données supérieures à toute réflexion et tout débat des citoyens. Encore une fois, ce que l’on appelle faussement « intelligence » dans l’expression « intelligence artificielle » ne recouvre qu’une dimension logique et pragmatique à laquelle on ne saurait réduire la politique en général et la démocratie vivante en particulier. Si cette logique et cette combinatoire font partie de l’intelligence, comme l’adaptation aux contextes et aux leçons tirées de l’expérience, choses que l’I.A. commence à exécuter d’ores et déjà de façon efficace et utile, les choix politiques possèdent des dimensions explicitement exclues des techniques dites « intelligentes » : les valeurs, les sentiments, les souffrances, le principe de légitimité, l’invention populaire, la clémence…
Conduit par l’I.A. Mandela n’aurait jamais prôné et fait triompher le principe de réconciliation, en contradiction avec le droit international (l’ONU ayant déclaré l’apartheid crime imprescriptible contre l’humanité). Comme d’habitude, on aurait jugé, condamné, exécuté, et sans doute conduit à la guerre civile, à des exodes et finalement à une nouvelle dictature. La démocratie vivante, la seule qui mérite ce nom, réclame l’essor d’une intelligence populaire plurielle et soucieuse des autres. En ce sens, l’« intelligence » artificielle pose une grande question d’essence politique.
Il est devenu évident qu’à court terme l’« intelligence » artificielle va intervenir dans tous les champs de l’activité économique, sociale, culturelle et politique humaine, non seulement pour en accroître l’efficacité (donc les retombées négatives sur la planète et l’environnement), mais aussi pour opérer des choix qui échapperont à l’intervention consciente individuelle et collective des humains. Or, on l’a évoqué, cette « intelligence » artificielle, quelle qu’en soient les perfectionnements à venir, n’intégrera jamais, absolument jamais, ce qui façonne une subjectivité humaine. Les formes subjectives de toute individualité humaine sont en effet un résultat toujours en devenir de traces affectives conscientes et inconscientes, de souffrances refoulées et sublimées, de structures symboliques rigoureusement singulières. L
e simple fait d’être soi-même, pour un humain, entraîne le fait de devenir autre que soi, de réaliser dans chaque acte un possible parmi une pluralité d’autres possibles. Une machine, aussi sophistiquée qu’elle puisse être sera toujours un artifice, une puissance certes quasi infinie un jour, mais tout de même une puissance qui singera, même à la perfection, les comportements et les pensées qui sont les nôtres. C’est là une limite par essence infranchissable, mais cette limite crée et créera toujours de l’illimité.
En effet, ce qui nous caractérise en tant qu’humain c’est que, capable de raisonner, nous combinons nos raisonnements avec des émotions, sentiments, valeurs, pulsions, affections diverses susceptibles d’entraver le prolongement intellectuel et pratique de ces raisonnements. Soudain le soldat refuse de tirer, le gestionnaire le plus froid refuse de licencier, notre désir de vengeance peut se transformer en clémence. Le passage à l’acte d’un humain peut trouver une limite dans l’extraordinaire complexité de sa construction singulière.
Même si les sociétés les plus développées techniquement tendent à engendrer des personnalités calculatrices, soumises aux critères dominants, des individus centrés sur leurs intérêts et leurs désirs égocentriques, il y a toujours une possibilité de changement, d’identification à l’autre, d’altruisme, de générosité, de cette « pitié naturelle », purement sensible, dans laquelle Jean-Jacques Rousseau voyait le fond d’animalité qui nous empêche de devenir des monstres froids. C’est l’« état esthétique » de Schiller, qui permet d’échapper à la sauvagerie comme à la barbarie.
C’est la clémence de Mozart. C’est le discours final du Dictateur de Charlie Chaplin, clamant contre le nazisme que « nous pensons trop et ne sentons pas assez ».
Les machines que l’on nous prépare n’intégreront jamais cette limite et pour cette raison seront porteuse d’un illimité d’où pourra surgir le pire, sans remords, sans pitié, sans bouleversement affectif. Et cette menace sur la démocratie vivante sera tout simplement une menace sur ce qui est le propre de l’humain.
=> Lire présentation originale