Philosophe et fondateur du Think Tank Génération Libre, Gaspard Koenig est l’auteur de « La fin de l’individu : Voyage d’un philosophe au pays de l’intelligence artificielle » qui peut faire office de lecture complémentaire à notre podcast « Le libre-arbitre et la liberté ».

Qu’est-ce que le libre arbitre ? Et pourquoi est-il essentiel pour le système de pensée libérale ?

C’est un vieux débat. Le libre arbitre est associé à la possibilité d’assumer les conséquences de ses actes, en bien comme en mal. C’est la naissance de l’idée de responsabilité individuelle. Sans libre arbitre, dans un univers purement déterministe, il est difficile de penser la responsabilité individuelle. Les gens qui aujourd’hui rejettent le libre arbitre considèrent, tout à fait logiquement, que le système pénal doit être entièrement revu. Il ne peut avoir, selon eux, pour fonction de châtier l’individu, puisqu’il n’est pas responsable de ses actes, car biochimiquement déterminé. Le libre arbitre est au fondement de nos sociétés libérales et de notre humanisme. Le rejeter c’est mettre cela en péril.

Deuxièmement, sur le plan purement théorique, en termes de métaphysique, le libre arbitre est un débat complexe. En défendant le libre arbitre on est immédiatement suspecté de réhabiliter une notion poétique et peu fondée scientifiquement. La manière la plus élégante de sortir de ce débat c’est de s’intéresser aux réponses de l’autre camp. Les purs déterministes sont devant une espèce d’impasse logique puisque s’ils disent que tout est déterminé, eux-mêmes sont donc déterminés à dire que tout est déterminé, ce qui prive leur considération de toute valeur de vérité. Leur argumentation se mord la queue. Un peu comme le paradoxe du menteur, on ne peut pas dire « je mens toujours ». Défendre le déterministe est par essence illogique.

Il existe une autre réponse ?

L’alternative, c’est une formule élégante appelée compatibiliste. Je m’inscris dans ce courant. Depuis les années 70, on accepte un monde déterminé, car on accepte le résultat de la science, notamment avec les neurosciences qui peuvent prédire la manière dont les gens vont se comporter ou la manière dont les gens vont formuler une décision. On peut savoir quelle décision ils vont formuler avant même qu’elle soit consciemment exprimée.

Mais considérer le libre arbitre comme un arbitraire, c’est tout aussi faux sur le plan de la responsabilité que penser le déterminisme. Voir dans le libre arbitre un droit de faire n’importe quoi, de faire un acte gratuit, c’est faire fausse route. Ce n’est pas quelque chose qui est nourri de raison. Au fond, sur le plan de la responsabilité individuelle, c’est tout aussi vide. Soit on est déterminé à faire quelque chose, soit on le fait de manière capricieuse, mais à ce moment là si l’acte est purement gratuit, en quoi en est-on vraiment responsable, en quoi vient-il vraiment de nous ? Ici encore, l’option la plus élégante c’est l’option compatibiliste, qui accepte le déterminisme biochimique, mais qui considère qu’il reste dans notre esprit, dans notre conscience, une capacité à se projeter, une intentionnalité qui fait qu’on peut expliquer une décision par des raisons qui sont plus riches qu’une simple chaîne causale, qui se superpose à une autre chaîne causale. Ces décisions sont intéressantes parce qu’elles sont riches. Elles sont riches parce qu’elles ont fait l’objet d’une délibération intérieure et que, de fait, dans ce processus de délibération intérieure, on choisit entre différentes hypothèses qui, indépendamment même du résultat, de la décision qu’on prend, sont intéressantes pour constituer notre singularité, notre personnalité capable d’assumer des choix.

Sachant qu’on prend 35’000 décisions par jour environ, cela veut dire que la plupart de ces décisions sont enfouies et qu’on n’en a pas conscience. Ce qui veut dire que quelque part, quand on prend une décision contre une action au moment T, quand on décide ou non de se jeter à l’eau pour sauver un enfant qui se noie, ce n’est pas seulement une décision déterminée au sens où elle n’a aucune valeur morale, ce n’est pas une décision purement capricieuse qui interrompt les processus biochimiques, mais une décision qui vient de loin, qui vient de toutes les décisions qu’on a déjà prises avant, qui reflètent notre personnalité. Si on a l’instinct de se jeter à l’eau pour le sauver ou pas, c’est le résultat de sa propre expérience de vie et de la manière dont on a constitué sa propre personnalité. C’est en cela qu’on peut être considéré comme responsable de cette décision parce qu’elle reflète notre personnalité entière. Car elle a mûri et résulte des millions de processus de délibération intérieure qui, peu à peu, sont enterrés dans des strates de plus en plus subconscientes du cerveau.

Considérez-vous qu’au 21ème siècle avec la question du progrès technologique, le libre arbitre est encore d’actualité ?

C’est tout l’enjeu aujourd’hui de pouvoir raccorder ces idées présentes dans le débat académique sur le libre arbitre à l’émergence de l’intelligence artificielle (IA). Puisque la combinaison d’un espèce d’état d’esprit déterministe dans lequel nous plongent les neurosciences, l’économie comportementale et la psychologie tendent à justifier le nudge et le contrôle comportemental.

Premièrement, on est bourré de biais cognitifs comme l’a démontré Daniel Kahneman. Ce qui, selon lui, ruine l’économie de marché et la doctrine de Chicago. Si on a des biais cognitifs, comment pourrait-on demander à un individu d’être rationnel et de faire des choix en toute conscience ? Il n’a pas tort. Quand Milton Friedman écrit sa thèse sur le fait que les gens font des anticipations d’inflation en fonction des taux d’intérêt de la banque centrale pour faire leurs choix de consommation, c’est délirant. Aucun économiste ne fait cela. Quelque part, c’était nécessaire de dire que l’individu n’est pas autant rationnel qu’on ne l’avait imaginé.

Avec quelles conséquences ?

Ils en tirent les conclusions que puisque les humains ne sont pas rationnels, autant leur faire suivre des algorithmes qui leur permettent de décider au mieux pour eux-mêmes, même s’ils n’en ont pas forcément conscience. La théorie de Kahneman justifie toute la théorie du nudge qui est, pour moi, épouvantable, puisque certes, elle est soft au sens où il n’y a pas de coercition, mais quelque part je préfère encore une coercition par la loi contre laquelle on peut se rebeller plutôt qu’une espèce de coercition soi-disant douce, bienveillante, qu’on n’aperçoit même pas. Quand on ne l’aperçoit pas, on est encore moins capable de s’y opposer. Le paternalisme libertarien de Thaler m’effraie. Être dirigé de manière assez subtile, fine et calculée pour qu’on ne s’en aperçoive même pas, voilà la pire des oppressions. Il n’y a rien de pire. Je préfère encore un État qui impose une loi contre laquelle je peux me révolter. Au moins les choses sont claires. Tout ça vient de cette idée bienveillante que puisque les gens pensent mal, n’ont pas de jugement autonome, on va les aider à prendre les meilleures décisions pour eux-mêmes.

Quel rôle joue l’évolution technologique dans cette dynamique ?

La technologie intervient ici pour faciliter ce nudge. L’intelligence artificielle n’est pas mauvaise en soi, c’est une technologie neutre. Mais telle qu’elle est déployée commercialement, comme elle se nourrit de données, elle permet d’évaluer les comportements au niveau le plus individuel par l’accumulation de données et par l’élaboration de statistiques. Ça n’est pas du tout de la magie, ça permet de suivre et d’orienter le comportement au plus près de l’individu. Évidemment, plus on récolte des données sur cet individu, plus c’est facile. J’ai pu rencontrer des neuroscientifiques dont le métier est de rendre les gens addicts, d’orienter les comportements sur certaines applications. Avec un discours empreint de bienveillance, qui dit que c’est pour faire plus de sport, pour mieux gérer ses finances, etc. In fine il s’agit de continuer à dépouiller l’individu de sa responsabilité et de sa capacité à faire des erreurs et d’en assumer les conséquences. L’IA se greffe complètement là-dessus, et ce n’est pas du tout un hasard si durant mon voyage on m’a tellement parlé de Daniel Kahneman. Cette tendance est définitivement ancrée dans l’état d’esprit académique qui nourrit les chercheurs et les praticiens en IA.

En réponse à cela, il est nécessaire de rétablir, d’abord d’un point de vue métaphysique, l’idée d’un libre arbitre. Ce qui est important, c’est que l’individu arrive lui-même à une décision, même si elle est fausse, même si elle est pleine de biais cognitifs. Parce que c’est dans le processus même de son choix qu’il forge sa personnalité qui est ensuite capable de responsabilité morale. Une importante application de l’IA est d’orienter les gens vers leur vraie préférence. Un utilisateur dit par exemple qu’il veut rencontrer une fille blonde, mais il ignore que sa “vraie” préférence ne correspond pas à ce désir. A force d’accumuler ses données, on peut en tirer une l’analyse et l’IA peut lui dire ce qu’il désire “réellement”. Elle va indiquer ce dont il a vraiment envie, sans le savoir.

C’est là qu’est pour moi tout le problème. Il faut pouvoir choisir une mauvaise musique, trouver un partenaire avec lequel on n’est pas heureux, souffrir en amour, prendre des mauvaises décisions pour ses finances ou sa santé. Il faut pouvoir construire une personnalité riche et apprendre de ses erreurs, se corriger et pouvoir les assumer. Sinon c’est trop facile. C’est tellement facile qu’on en perd l’autonomie de jugement. Et quand on la perd sur les petites choses du quotidien, on la perd aussi sur les grandes choses. D’abord parce qu’il y a des zones du cerveau qui s’affaiblissent. On a démontré que l’utilisation intensive du GPS chez les chauffeurs VTC atrophie des zones de l’hippocampe, qui sont actives dans le processus de décision dans le cerveau.

Tous ces nudges quotidiens et quasiment continuels conduisent vers un monde hyper personnalisé et en même temps hyper désindividualisé. On assiste d’un côté à une hyper personnalisation – on sait exactement qui est Gaspard, ce qu’il aime, où il est et comment il vit – et de l’autre, à une désindividualisation – en ce sens que l’individu n’est plus respecté dans sa capacité de jugement autonome et donc dans sa dignité.

Face à ce constat, comment peut-on revitaliser le libre arbitre et permettre à l’individu de redevenir autonome dans sa capacité de jugement ?

Il faut le redéfinir et l’assumer d’un point de vue métaphysique et réaffirmer que ce qui est important, c’est la délibération intérieure, même si celle-ci est déterminée. Les gens doivent pouvoir introduire des critères explicites, conscients, au sein des algorithmes, même si ces critères explicites sont sous-optimaux pour eux-mêmes et pour le reste du groupe, peu importe. C’est là qu’il ne faut plus être utilitariste, car si on est complètement utilitariste on considère que les gens font n’importe quoi et qu’on va les nudger vers ce qui est le mieux pour tout le monde. On retrouve ici un débat qui oppose des libéraux comme Bentham et John Stuart Mill. Ce dernier dit qu’il n’y a pas d’échelle commune de valeur. Dès lors, on ne peut pas maximiser le bonheur de tous, car le bonheur est une définition individuelle. C’est pour cela qu’il faut réhabiliter la singularité individuelle contre le confort du groupe. Bien évidemment la singularité individuelle provoque de l’inconfort, du malheur et de la souffrance, mais assumons-le.

Concrètement, cela se passerait comment ?

Pour ce faire, on ne va évidemment pas, chacun, s’amuser à manipuler les algorithmes d’Amazon qui sont des secrets industriels. Ce qu’on peut faire, c’est se rappeler que les algorithmes ne nous manipulent qu’en fonction des données qu’on leur offre et donc en contrôlant le flux de données qu’on livre, on reprend le contrôle sur le nudge. On accepte de se faire nudger, mais dans certaines conditions et en fonction de paramètres qu’on aura définis soi-même. Ces paramètres s’expriment dans le choix des données qu’on va livrer aux différentes plateformes. C’est pour cela que dans ce projet de réhabilitation du libre arbitre je conclus qu’il est nécessaire d’établir une propriété privée des données personnelles, car pour contrôler le flux de données sortant, je dois être responsable des termes contractuels qui font que je partage certaines données et pas d’autres avec les sites internet. Pour cela, j’ai besoin d’une propriété privée. Ensuite, les plateformes viendront consulter mes conditions personnelles et accéderont uniquement aux données que j’ai acceptées de livrer.

Cette propriété privée permettra de constituer une sorte de smart wallet de données où à chaque donnée seront attachés des termes contractuels et bien sûr, avec une incidence financière. Effectivement, puisque plus on garde de privacy, plus on refuse un nudge personnalisé, plus on va payer des services auxquels on va avoir accès sur internet, ça crée un marché secondaire. Et à l’inverse, plus on fournit de données, plus on sera payé. On introduit une balance de crédit ou débit envers les plateformes qui s’alimentent de données.

Certains libéraux manifestent une opposition à cette idée et dénoncent une intervention de l’Etat, qui régulerait et obligerait le fait que les données appartiennent aux individus. Car finalement, chaque individu est libre d’utiliser, ou non, ces plateformes. Que leur répondez-vous ?

Je connais cette critique. C’est un peu la même chose que si les libéraux avaient dit aux paysans de l’an 1000 « si vous n’êtes pas contents de votre seigneur, vous n’avez qu’à prendre vos bagages et vous établir ailleurs ». Dans un système libéral, il faut pouvoir négocier, il faut pouvoir contractualiser. C’est surprenant que les libéraux ne comprennent pas que la garantie du droit de propriété est évidemment une des tâches du gouvernement.

La croissance excessive de l’Etat a été tellement contre-productive qu’ils ont tendance à rejeter toute intervention de sa part. Ils oublient cependant que c’est le libéralisme du 18e siècle qui a inventé l’État moderne. C’est l’Etat qui nous a donné les droits de propriété et les brevets, tout ce qui a fait notre prospérité. Adam Smith est un bon exemple. Toute la dernière partie de son livre « Recherches sur la nature et les causes de la richesse des nations » traite du rôle du gouvernement. Pour qu’il y ait des marchés il faut qu’il y ait de la régulation. La dernière crée les premiers. C’est donc absurde pour les libéraux de complètement rejeter l’Etat. On peut effectivement, critiquer l’Etat actuel qui est devenu complètement boulimique, mais pas tomber dans l’excès inverse libertarien qui est contraire aux valeurs fondamentales de la doctrine.

Il y a également une sorte de fascination : parce que c’est le secteur privé, le monde de l’innovation et de la tech, c’est forcément bien. Mais non, un pouvoir centralisé comme celui de Facebook est tout aussi dangereux que le pouvoir centralisé de l’Etat, voire plus, car il est plus difficile à contourner. Donc, on ne peut pas se contenter de dire à quelqu’un qu’il suffit de ne pas utiliser Facebook. Il faut avoir la capacité de négocier comme on négocie tout : on négocie le prix du blé, le prix de la force de travail ou le prix d’un brevet industriel.

Avec ma proposition, j’introduis un marché là où il y a aujourd’hui une sorte de féodalisme, où on donne tout en échange de services gratuits. On n’a pas la possibilité de négocier. Et c’est quand les paysans ont eu la possibilité de négocier les prix sur les marchés qu’ils se sont émancipés de la tutelle féodale. La propriété privée est un facteur d’émancipation et en disant cela ces libéraux se rendent complices de Thomas Piketty qui écrit contre la propriété privée. Il faut au contraire l’étendre. Même Murray Rothbard, libertarien bien connu, justifie l’existence des brevets et la propriété intellectuelle en argumentant que tout ce qui sort de moi, c’est moi et donc ça m’appartient puisque je m’appartiens à moi-même. On peut parallèlement plaider pour cette propriété privée des données de manière encore plus fondamentale, à partir de l’idée de self-ownership : puisque je m’appartiens à moi-même, tout ce qui sort de moi – mes idées comme mes données – doivent m’appartenir. On crée alors un marché régulé, avec des antitrusts, avec des droits du consommateur, avec des obligations de transparence, avec tout ce qui fait un marché du coup, l’infrastructure de nos libertés.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

*

code