ET SI L’IA NE NOUS VOLAIT PAS NOS EMPLOIS… MAIS NOTRE PENSÉE ?

Nous avons inventé des machines pour travailler à notre place. Nous sommes désormais en train d’en inventer qui pensent avec nous. Reste à savoir si, demain, elles penseront pour nous.

Il y a quelque chose de vertigineux dans l’époque que nous traversons.
Pour la première fois dans l’histoire, l’homme ne construit plus seulement des machines capables de prolonger ses bras, ses jambes ou ses yeux. Il construit des machines capables de prolonger — et parfois d’imiter — son intelligence.
Nous avons mécanisé le travail.
Nous sommes en train de mécaniser une partie de la pensée.
Et peut-être ne mesurons-nous pas encore ce que cela signifie.
L’intelligence artificielle écrit, traduit, résume, calcule, programme, compose, dessine, analyse des images, détecte des anomalies, répond à nos questions et produit, en quelques secondes, ce qui aurait demandé autrefois des heures, parfois des jours.
Nous sommes fascinés.
Nous avons raison de l’être.
Mais nous devons aussi nous inquiéter.
Non pas parce que la machine serait nécessairement destinée à prendre le pouvoir sur l’homme.
Mais parce que l’homme pourrait, de son propre gré, lui abandonner une partie de son pouvoir de penser.
Une vieille peur dans une technologie nouvelle.
L’inquiétude est ancienne.
Dans Phèdre, Platon raconte le mythe de Theuth, inventeur de l’écriture. Celui-ci présente l’écriture comme un remède à la mémoire. Socrate lui oppose une idée troublante : ce qui devait renforcer la mémoire pourrait finir par l’affaiblir, puisque l’homme s’appuierait désormais sur un support extérieur.
Il y a vingt-cinq siècles, la question était déjà là.
Que perdons-nous lorsque nous cessons d’exercer une faculté parce qu’un outil peut l’exercer pour nous ?
La calculatrice nous a libérés d’une partie du calcul.
Le GPS nous a libérés d’une partie de notre capacité à nous orienter.
Le moteur de recherche nous a libérés d’une partie de notre mémoire.
L’intelligence artificielle risque maintenant de nous libérer d’une partie de notre effort intellectuel.
Mais il faut se méfier d’une liberté qui finit par devenir une dépendance.
Ce que nous cessons d’exercer, nous risquons de finir par ne plus savoir faire.

La nouvelle alchimie

Paracelse, médecin, philosophe et alchimiste de la Renaissance, appartenait à une époque fascinée par les secrets de la transformation.
L’alchimiste cherchait à comprendre la matière, ses mutations, ses propriétés cachées. Derrière la quête de la pierre philosophale se trouvait aussi une interrogation plus profonde : comment transformer le monde sans perdre le sens de cette transformation ?
L’intelligence artificielle ressemble à une nouvelle alchimie.
Nous lui donnons nos textes, nos images, nos connaissances, nos archives, nos langues, nos expériences humaines accumulées pendant des siècles.
Elle transforme cette matière intellectuelle.
Elle recombine.
Elle prédit.
Elle génère.
Elle produit.
Mais une question demeure : qu’allons-nous devenir, nous, au terme de cette transformation ?
C’est peut-être la véritable question philosophique de l’IA.
Pas ce que la machine deviendra.
Mais ce que l’homme deviendra avec elle.
Une machine peut-elle comprendre la souffrance ?
L’IA peut écrire admirablement sur l’amour.
Elle peut produire un texte bouleversant sur le deuil.
Elle peut expliquer la peur, la solitude, la dépression, la guerre ou la mort.
Mais elle ne souffre pas.
Elle ne perd personne.
Elle ne vieillit pas.
Elle ne connaît pas la fragilité d’un corps.
Elle ne ressent pas cette étrange conscience que nous avons de notre propre finitude.
Elle peut reproduire les signes extérieurs de l’émotion sans nécessairement connaître l’expérience intérieure qui donne naissance à cette émotion.
C’est là que se trouve une différence fondamentale.
L’intelligence n’est pas nécessairement la conscience.
Et la performance n’est pas l’expérience.
Une machine peut produire une réponse brillante sans vivre la question.
L’être humain, lui, vit ses questions.
C’est précisément ce qui fait sa grandeur et sa tragédie.
Le risque le plus dangereux est peut-être le plus banal

Nous imaginons volontiers le scénario spectaculaire : des machines qui deviennent autonomes, dépassent leurs créateurs et prennent le contrôle du monde.
Mais le danger le plus immédiat pourrait être beaucoup plus discret.
Il pourrait prendre la forme d’un étudiant qui ne rédige plus.
D’un journaliste qui ne vérifie plus.
D’un médecin qui ne réfléchit plus suffisamment avant de suivre une recommandation algorithmique.
D’un citoyen qui ne cherche plus à comprendre parce qu’une machine lui donne une réponse.
D’un enfant qui ne développe plus sa capacité à argumenter parce qu’il sait qu’il peut obtenir instantanément un texte parfaitement structuré.
Le danger ne serait alors pas une machine devenue trop intelligente.
Ce serait un humain devenu intellectuellement paresseux parce qu’il dispose d’une intelligence artificielle.

La différence est immense.
Et inquiétante.
Le confort peut être l’ennemi de l’intelligence
Nous vivons déjà dans une civilisation qui cherche à supprimer le moindre effort.
Tout doit être rapide.
La réponse doit être immédiate.
Le trajet doit être optimisé.
La nourriture livrée.
L’information résumée.
Pl La vidéo accélérée.
La pensée elle-même risque désormais d’être instantanée.
Mais penser demande du temps.
Douter demande du temps.
Lire demande du temps.
Comprendre demande du temps.
Créer demande parfois de l’ennui, de l’échec, de la solitude et de la lenteur.
Nietzsche nous rappelait l’importance du pourquoi.
Or l’intelligence artificielle est extrêmement efficace pour produire des réponses au comment.
Comment écrire ?
Comment calculer ?
Comment organiser ?
Comment traduire ?
Comment produire ?
Mais elle ne doit jamais devenir propriétaire de notre pourquoi.
Pourquoi vivre ?
Pourquoi aimer ?
Pourquoi transmettre ?
Pourquoi protéger ?
Pourquoi être juste ?
Pourquoi préférer la liberté à la sécurité ?
Ces questions ne sont pas des équations.
Elles sont le territoire de la philosophie, de la conscience et de la responsabilité.
Et pourtant, quelle formidable promesse !
Refuser l’IA serait une autre erreur.
Car cette technologie possède un potentiel extraordinaire.
Dans la médecine, elle peut aider à analyser des images, accélérer certaines recherches, repérer des anomalies et faciliter l’accès à l’information.

Dans l’éducation, elle peut devenir un formidable outil de personnalisation.

Dans la recherche scientifique, elle permet d’explorer des masses de données qu’aucun cerveau humain ne pourrait traiter seul.

Pour les personnes en situation de handicap, elle peut devenir un instrument d’autonomie.

Pour les chercheurs, les artistes, les ingénieurs, les entrepreneurs et les créateurs, elle peut devenir un multiplicateur de capacités.

L’IA peut nous faire gagner du temps.

Et le temps est peut-être la plus précieuse des richesses humaines.

La vraie question est donc ailleurs :

Que ferons-nous du temps qu’elle nous rendra ?

Si nous l’utilisons pour consommer davantage, nous n’aurons rien gagné.

Si nous l’utilisons pour penser davantage, créer davantage, aimer davantage, soigner davantage, transmettre davantage, alors la machine pourrait réellement devenir un outil d’émancipation.

L’IA ne sera jamais neutre

Il faut également abandonner une illusion : celle d’une technologie parfaitement objective.

Une intelligence artificielle apprend à partir de données produites par des êtres humains.

Or les sociétés humaines sont imparfaites.

Elles contiennent des préjugés, des discriminations, des rapports de force, des erreurs historiques.

Une machine peut donc reproduire certains biais humains tout en donnant à ses décisions une apparence scientifique.

C’est là que le danger devient politique.

Qui possède les données ?

Qui possède les infrastructures ?

Qui contrôle les algorithmes ?

Qui fixe les règles ?

Qui décide de ce qui est acceptable ?

Et surtout : qui contrôle ceux qui contrôlent l’intelligence artificielle ?

La question de l’IA n’est donc pas seulement celle de l’innovation.

C’est une question de démocratie.

Le prochain grand combat sera celui de l’éducation

Nous avons longtemps voulu apprendre aux enfants à utiliser les outils.

Il faut maintenant leur apprendre à ne pas devenir dépendants des outils.

L’école de demain ne pourra plus se contenter d’enseigner des connaissances.

Elle devra enseigner l’esprit critique.

La vérification.

Le doute.

L’argumentation.

La créativité.

L’empathie.

La capacité à reconnaître une erreur.

Et surtout la capacité à dire : « Je ne sais pas. »
Cette phrase pourrait devenir l’une des plus importantes de l’ère de l’intelligence artificielle.
Parce que la machine aura toujours une réponse.
Et qu’une réponse n’est pas nécessairement une vérité.
La sagesse, dernière frontière humaine
Aristote parlait de phronèsis, cette sagesse pratique qui consiste à savoir décider correctement dans une situation particulière.
Nous entrons dans un monde où la machine pourra calculer plus vite que nous ce qui est possible.
Mais elle ne doit pas décider seule de ce qui est souhaitable.
Une IA peut optimiser un système de santé.
Mais que signifie une bonne santé ?
Une IA peut optimiser une ville.
Mais faut-il optimiser la circulation ou la qualité de vie ?
Une IA peut sélectionner un candidat.
Mais voulons-nous que la valeur d’un être humain soit réduite à un score ?
Une IA peut nous recommander ce que nous devons regarder.
Mais voulons-nous vraiment que nos désirs soient progressivement fabriqués par des algorithmes ?
La technologie peut nous donner davantage de puissance.
Elle ne nous donnera pas automatiquement davantage de sagesse.
C’est à nous de construire cette sagesse.
L’homme augmenté ou l’homme diminué ?
Deux futurs se dessinent.
Dans le premier, l’intelligence artificielle devient une prothèse de l’intelligence humaine.
Elle nous aide à mieux diagnostiquer, mieux apprendre, mieux chercher, mieux créer.
Elle prend en charge une partie du travail répétitif et permet à l’homme de consacrer davantage de temps à ce qui ne peut être réduit à une performance : la relation, l’imagination, la solidarité, la beauté, la conscience.
Dans le second, elle devient une béquille permanente.
Nous ne mémorisons plus.
Nous ne calculons plus.
Nous n’écrivons plus.
Nous ne cherchons plus.
Nous ne vérifions plus.
Nous ne décidons plus.
Nous demandons.
Et la machine répond.
Alors le problème ne sera plus que l’intelligence artificielle aura remplacé l’intelligence humaine.
Le problème sera qu’elle aura remplacé l’exercice de l’intelligence humaine.

Le véritable progrès

Hans Jonas avait compris que plus notre puissance technologique augmente, plus notre responsabilité doit augmenter avec elle.
C’est probablement la grande règle morale du XXIe siècle.
Nous ne devons pas seulement nous demander : « Est-ce que nous pouvons le faire ? »
Nous devons demander :
« Devons-nous le faire ? » Et surtout : « Quelles conséquences cela aura-t-il sur l’être humain ? »
C’est ici que la philosophie redevient indispensable.
Car la technologie nous dit comment.
La politique décide avec quelles règles. Mais seule la philosophie ose encore demander pourquoi.
L’intelligence artificielle pourrait être l’une des plus grandes inventions de l’histoire humaine.
Elle pourrait libérer du temps, démocratiser le savoir, accélérer la médecine, soutenir l’éducation et démultiplier notre capacité à résoudre des problèmes complexes.
Mais elle pourrait aussi favoriser la dépendance, la surveillance, la manipulation, la concentration du pouvoir et l’atrophie progressive de certaines facultés humaines.
La balance bénéfices-risques ne sera donc jamais définitivement équilibrée. Elle dépendra de nos choix.

La dernière liberté

Nous avons longtemps cru que notre supériorité venait de notre capacité à fabriquer des outils.
Nous découvrons aujourd’hui quelque chose de plus troublant :
nous sommes capables de fabriquer des outils qui nous ressemblent.
L’enjeu n’est plus seulement de construire une intelligence artificielle.
L’enjeu est de construire une société suffisamment intelligente pour vivre avec elle.
Car l’avenir ne sera probablement pas celui où les machines remplaceront simplement les hommes.
Il sera celui où les hommes devront apprendre à cohabiter avec des machines capables de réaliser une partie de ce qu’ils pensaient être les seuls à pouvoir accomplir.
Paracelse rêvait de comprendre les secrets de la transformation.
Nous sommes entrés dans une nouvelle alchimie.
Nous transformons désormais la connaissance en puissance algorithmique.
Mais il nous reste à réussir la transformation la plus difficile : transformer la puissance en sagesse.
Parce que la question ultime n’est pas de savoir si l’intelligence artificielle deviendra plus intelligente que nous.
La véritable question est beaucoup plus vertigineuse : serons-nous encore capables de penser lorsque nous n’aurons plus besoin de le faire ?
Et peut-être que, demain, notre dernière liberté ne sera pas de battre la machine.
Elle sera simplement de pouvoir lui dire :
« Je préfère réfléchir moi-même. »