Édito juillet 2019

L’intelligence sans conscience n’est-elle que ruine de l’âme ?

Il n’aura échappé à personne que notre monde contemporain se focalise sur la recherche d’intelligences, sur terre comme dans l’espace infini. Celle-ci est devenue un critère social, à tel point que nous avons tous dans notre entourage des personnes qui, sur le ton de la fausse confidence, nous apprennent que leur fille ou fils est un(e) "surdoué(e)". Il n’y en aura jamais eu autant. La cerise sur le gâteau, si je puis dire, est l’apparition de l’IA, ou "Intelligence Artificielle", technologie qui risque d’envahir petit à petit nos espaces de liberté et qui mérite que l’on s’y attarde. Loin de nous l’idée d’en faire le procès, mais interrogeons-nous cependant.
Reconnaissance vocale ou faciale, credit-scoring bancaire, moteurs prédictifs ou de recherche… les capacités informatiques actuelles évoluent plus vite que nos propres imaginations, et la science-fiction s’installe dans nos quotidiens, à tel point que certains pays entament déjà une gestion civique de leurs ressortissants par des processus liés à l’IA. Vous avez un permis à points de citoyen !
Infractions routières, comportements individuels, ces données concentrées dans ce qu’on appelle le Big Data – pas loin de devenir le "Big Brother" du romancier Georges Orwell –, peuvent s’avérer vite liberticides, voire dangereuses. Le mouvement transhumaniste, thuriféraire de l’IA, gagnerait à méditer sur le fait que "la machine ultra intelligente sera la dernière invention que l’homme aura besoin de faire, à condition que ladite machine soit assez docile pour constamment lui obéir". Irving Good, par cette pensée, renvoie notamment l’humain à une réflexion simple : dès lors qu’une machine aura réellement la capacité de penser par elle-même et d’interagir, aurons-nous encore la capacité de nous interposer à des décisions que nous estimerions néfastes ?
L’IA est la construction de programmes informatiques qui s’adonnent à des tâches qui sont, pour l’instant, accomplies de façon plus satisfaisante par des êtres humains, car elles demandent des processus mentaux de haut niveau, tels que l’apprentissage perceptuel, l’organisation de la mémoire et le raisonnement critique. Pour John Mac Carthy, l’un des créateurs de ce concept, "toute activité intellectuelle peut être décrite avec suffisamment de précision pour être simulée par une machine".
Peut-être pensez-vous que nous voyons les choses trop en noir. Malheureusement, ce sujet impose que les questions soient posées avant plutôt qu’après. Nous devons prévoir et non pas subir.
Jetons un coup d’œil sur l’IA rapportée à notre segment d’activité. Le Big Data nous permet aujourd’hui de puiser dans les banques de données publiques (et elles sont nombreuses) et de collecter des informations insoupçonnées sur les personnes, puis de les exploiter à des fins financières. La donnée informatique devient donc une arme commerciale qu’une législation hexagonale ne peut restreindre.
Chaque jour qui passe, les fonctions d’apprentissage automatique de ces machines s’accroissent, à tel point que des pans entiers de décision humaine pourraient bientôt être délégués à des automates. Les machines feront-elles les "lois" de demain ?
"Science sans conscience n’est que ruine de l’âme." Rabelais exprime finalement ce qu’est l’esprit humain : intuition, conscience, communion.
La conscience – cum scientia (latin) : activité psychique qui fait que "Je pense le monde et que je me pense moi-même, et ce parce que la conscience est une mise à distance de l’homme face au monde et à lui-même". C’est ce qui fait que je ne suis pas posé dans le monde comme peut l’être un objet, mais que "je" me rapporte au monde, que "je" le vise, que "je" m’y projette.
Que nous soyons en mesure de créer des "machines intelligentes", qui accomplissent certaines tâches pour le seul profit de l’humanité, est louable. La conscience prend alors une autre dimension, celle de la dignité qui permet à l’homme de penser le monde et de se penser lui-même. Mais celle-ci a un prix, elle est une libération qui impose la nécessité de devoir répondre de ses actes et de les assumer. Parallèlement à cela, parce qu’elle permet la pensée, elle est ce qui génère le questionnement philosophique.
À l’invitation "Connais-toi toi-même", Socrate répond : "Je sais que je ne sais rien". Humilité qu’une machine ne saurait avoir. Par moments, il est bon de ne pas pouvoir répondre à une question, car cela enclenche un processus stimulant pour l’homme comme la recherche d’hypothèses… ce carburant intellectuel, adrénaline de l’esprit, caractéristique propre à l’être humain.
Que deviendrions-nous si demain l’IA prenait le dessus ? Des morts-vivants ? Des esclaves d’une technologie inventée par nous mais dont nous aurions perdu le contrôle ? Peut-être… Alors, restons vigilants !

Maud Batut
Rédactrice en chef