Ouvrir Menu
TV5MONDE+
Profitez de votre espace

Pas encore inscrit ?

Créez vos alertes selon vos préférences, partagez voc contenus favoris, et accédez à vos recommandations personnalisées

  • Ce programme n'est malheureusement pas disponible pour votre zone géographique.
    Découvrez d'autres programmes disponibles dans les recommandations ci-dessous.
  • L'invité

    Gaspard Koenig

    Invité : Gaspard Koenig, philosophe et essayiste français.

    Après l'annonce par Emmanuel Macron de l'ouverture de deux centres consacrés à l'intelligence artificielle, à Paris et Montréal, Gaspard Koenig s'est plongé dans ce monde trouble qui va bouleverser l'avenir de l'humanité. Il a mené une enquête aux quatre coins du monde et sort « La Fin de l'individu, voyage d'un philosophe au pays de l'intelligence artificielle ».

    Présentation : Patrick Simonin.

    Transcription

    Bonjour Gaspard Koenig. Bonjour. Vous êtes philosophe et c'est un véritable pavé dans la mare que vous publiez aux éditions de l'Observatoire Le Point. Ça s'appelle La Fin de l'individu. En gros, vous nous dites aujourd'hui, à travers une enquête incroyable, que l'intelligence artificielle, Internet, met en cause peut-être en péril l'existence d'une liberté individuelle dans le monde. Oui, ce que je veux dire, ce n'est pas que l'intelligence artificielle va soumettre l'humanité comme on l'entend (...)

    Bonjour Gaspard Koenig. Bonjour. Vous êtes philosophe et c'est un véritable pavé dans la mare que vous publiez aux éditions de l'Observatoire Le Point. Ça s'appelle La Fin de l'individu. En gros, vous nous dites aujourd'hui, à travers une enquête incroyable, que l'intelligence artificielle, Internet, met en cause peut-être en péril l'existence d'une liberté individuelle dans le monde. Oui, ce que je veux dire, ce n'est pas que l'intelligence artificielle va soumettre l'humanité comme on l'entend parfois ou qu'elle va sortir de sa boîte et réduire l'humanité en esclavage ou qu'elle va voler nos emplois. C'est la manière dont elle est déployée, déjà aujourd'hui dans les technologies, qui nous incitent, c'est la logique même de l'IA et des systèmes qui l'utilisent, à lui déléguer notre pouvoir de prendre des décisions. L'intelligence artificielle, l'IA. Ça veut dire qu'on ne pense plus et on laisse les machines penser pour nous. On est habitué à ce qu'elles nous donnent de tellement bonnes réponses que finalement, on leur dit puisqu'elle m'offre une solution confortable, bonne pour moi et bonne pour le reste du groupe, pourquoi est-ce que je vais essayer de prendre une décision qui serait fautive, trop humaine et potentiellement erronée. Par exemple, si on donne des exemples. Ça peut être quoi par exemple ? Quand vous utilisez Google Maps ou quand vous utilisez Waze pour vous déplacer, vous ne prenez pas la décision de tourner à gauche et à droite en regardant une carte. Vous faites confiance à la petite bille bleue. Vous pensez qu'elle vous mène à peu près au bon endroit à la bonne vitesse. Aujourd'hui, sur Gmail, c'est assez intéressant, la nouvelle fonctionnalité de Gmail fait que Gmail anticipe votre réponse et vous propose une réponse. Vous recevez un mail : "Es-tu libre demain pour déjeuner ?". Gmail passe en revue votre historique de mail, la manière dont vous répondez, regarde éventuellement si votre Google Agenda est libre ce jour-là et vous propose la réponse adaptée. Il propose. On n'est pas obligé de le suivre pour l'instant. On n'est jamais obligé de les suivre. On peut aussi ne pas utiliser Google Maps et prendre des cartes routières. Honnêtement, qui le fait ? De plus en plus, dans les petits actes de la vie, mais aussi dans les grandes décisions. Même les décisions pour séduire, pour rencontrer quelqu'un. Pour l'amour, pour le travail. J'ai été rencontré des plateformes de recrutement qui fonctionnent exactement comme Google Maps, mais appliqués au monde du travail. Ils vous disent : "Donnez-nous toutes vos données sur vous-même et nous trouverons le meilleur match pour vous. Vous n'avez plus à postuler pour certains jobs dans une certaine industrie à un certain poste. Vous nous dites simplement qui vous êtes. Vous nous laissez amalgamer toutes vos données et on vous donnera ce qu'on pense être la meilleure solution". Ce qui est intéressant, c'est que ce sont des logiques qui sont toujours des logiques collectives. Pour le bien au départ, pour le bien individuel. C'est toujours pour le bien-être. Ce ne sont pas des choses contraignantes, mais ce sont des choses en revanche très normatives. On vous dit puisque vous vous comportez comme ça, vous vous porterez toujours comme ça. On vous enferme en vous-même. On vous enferme dans votre propre moyenne statistique. Et deuxièmement, on vous dit : "On va vous donner ce qu'il y a de mieux pour vous, mais pour que le reste du groupe soit également content". Ce qui est très différent de l'ère industrielle où on vous proposait le meilleur produit pour vous et uniquement pour vous. C'est pour cela que j'ai rencontré un chercheur à Stanford, lors de ce long périple que vous décriviez, qui était très content de dire qu'il pouvait battre Google Maps. Effectivement, vous pouvez battre Google Maps quand vous connaissez tellement bien un itinéraire que vous allez prendre effectivement le chemin le plus court. Google Maps ne vous donne pas le chemin le plus court pour vous, il vous donne le chemin plus court pour désengorger le reste de la circulation. La même logique s'applique aux sites de dating, aux sites de rencontre. On ne vous donne pas le meilleur partenaire pour vous parce que si on essaie vraiment de répondre aux préférences explicites des gens, il y aurait très vite beaucoup de demandes pour très peu de gens et tout le monde serait frustré. Ce qu'on fait, c'est qu'on essaye de répartir, que chacun trouve l'âme soeur, que chacun trouve chaussure à son pied de la manière la plus fonctionnelle possible pour l'ensemble du groupe. Ce sont des logiques, c'est ce dont je me suis rendu compte, c'est que ce sont des logiques profondément collectivistes. C'est pour ça que les Chinois sont aussi à l'aise. Ils adorent ça, les Chinois. Vous n'êtes pas allé qu'en Chine. Vous êtes allé aux Etats-Unis, partout dans le monde. Souvent, on voit d'ailleurs que vos interlocuteurs n'ont pas tellement envie d'en parler. Ils vous répondent : "Je ne sais pas. Voyez ailleurs. Ils n'ont pas tellement envie de se poser ces questions". On vit une période d'innovation technologique qui va transformer entièrement la manière dont la société est constituée, comme il y a deux siècles et demi avec la révolution industrielle. A l'époque de la révolution industrielle ou des grandes mutations du capitalisme, les intellectuels, les artistes, les poètes, les ingénieurs, les investisseurs, les économistes, tout le monde était à peu près au même endroit, dans ce que Fernand Braudel appelait des villes mondes, où l'on discutait ensemble. C'est pour cela que Smith pouvait théoriser la révolution industrielle depuis Edimbourg, que Marx pouvait théoriser le prolétariat depuis Londres. Aujourd'hui, les gens sont chacun dans leur coin, dans leur silo. Dans la Silicon Valley, vous n'avez pas beaucoup d'interactions entre les sciences humaines et l'innovation technologique où les Américains vous disent juste : "We make the world better". Ils ne veulent entendre parler de rien d'autre. Avec ton histoire de libre arbitre, tu nous ennuies parce qu'on est en train d'améliorer la société et l'éducation. The world better, c'est le monde économique. C'est pour faciliter les échanges. C'est une logique commerciale presque. Je dirais que c'est une logique utilitariste au sens où c'est une logique qui essaye de maximiser le plaisir de chacun et le bien-être du groupe. En cela, c'est un peu au-delà d'une pure logique économique. C'est une logique qui vous donne de la statistique de la satisfaction en tant qu'utilisateur. C'est pour ça d'ailleurs que ces produits sont si populaires. Mais la question qu'il va falloir se poser à un moment donné, c'est : est-ce que cette recherche de satisfaction ne se fait pas au détriment de notre capacité de choix, notre capacité de jugement et ce qui fait de nous, des êtres libres et autonomes. Aujourd'hui, nos sociétés sont fondées sur l'idée que nous sommes des individus, des sociétés libérales fondées sur l'idée que nous sommes des individus responsables, que nous avons un droit de vote, que nous pouvons investir et perdre de l'argent si nous faisons des mauvais choix, que nous pouvons être jugés coupables pénalement si nous faisons une mauvaise action, responsables de nos actes. Mais si peu à peu, on délègue notre capacité de juger à la machine, qui va être responsable ? C'est là, en allant voir secteur par secteur, qu'on voit que ce glissement s'opère déjà. Par exemple, vous avez des gens qui réfléchissent à accorder une personnalité juridique aux robots en disant : "C'est la voiture qui a choisi de tourner à gauche. La voiture autonome, ce n'est pas le conducteur, donc c'est elle qui doit être pénalisée". Les assurances vont se régler les sommes les sommes qu'elles se doivent entre elles et le conducteur est exempté de toute responsabilité pénale ou de toute responsabilité assurantiel. Au niveau de l'économie de marché aussi, peu à peu, l'intelligence artificielle vous permet de sortir d'une économie de marché où chacun fait ses choix en fonction de certaines incitations, pour arriver dans une économie totalement planifiée, à la chinoise, où on alloue aux gens la meilleure utilité pour mieux répartir le capital. C'est un appel à une forme de résistance, votre livre, Gaspard Koenig. Vous terminez d'ailleurs par la bête humaine, vous dites la machine. Vous revenez à l'idée de machine, fondement de la société industrielle et vous dites que le grand enjeu, ce sera cette confrontation entre l'homme et la machine. Il y a des gens dans cette logique de résistance totale. J'ai rencontré des hackers à Berlin qui utilisent des vieux Nokia et qui considèrent qu'il faut simplement ne pas utiliser ces outils. Chacun peut résister à sa manière aussi en utilisant DuckDuckGo plutôt que Google, en enlevant la géolocalisation de son téléphone portable, etc. Mais pour moi, ce sont des attitudes qui resteront toujours des attitudes marginales. L'intérêt, pour nous, est de savoir comment on peut s'approprier ces technologies en rétablissant dessus une forme de maîtrise. Je propose une solution de politique publique dont j'ai entendu parler au cours de ce périple, assez nouvelle en Europe mais qui me semble extrêmement intéressante. Elle est d'ailleurs débattue aujourd'hui aux Etats-Unis dans le cadre de la primaire des démocrates pour la présidentielle. C'est la propriété privée sur les données personnelles. Parce que nous sommes manipulés par ces systèmes qu'à mesure des informations que nous leur livrons. Il n'y a pas un grand manitou qui tire les ficelles. Ces informations, nous les délivrons en communiquant des données. Aujourd'hui, le droit de propriété doit continuer à s'étendre, comme il l'a toujours fait dans l'histoire. Il doit s'étendre très logiquement aux données personnelles en disant que ce sont les miennes, elles doivent être considérées comme du patrimoine. Et sur ce patrimoine, sur mon portefeuille numérique de données, je dois pouvoir décider de mes propres critères d'utilisation et que ce sont les plateformes qui viennent cliquer sur mes conditions d'utilisation que j'aurais moi-même paramétrées. Merci Gaspard Koenig, La Fin de l'individu, voyageur philosophe au pays de l'intelligence artificielle, publié aux éditions de l'Observatoire Le Point. Merci d'avoir été notre invité. Merci.

    Voir plusmoins
    00:08:23
    Tous publics
    Tous publics
    label.disponibilite