[[partie 5]] [[importa]] TODONOW:Mes Articles
L'intelligence artificielle et le problème de lier importance avec productivité
Thumbnail : Tu es inutile
Attachement émotionnel : si tu rattaches ta self-worth à ta productivité, fail avec l'IA
Pourquoi c'est crucial de dissocier l'importance de la productivité.
Bonjour et bienvenue,
C'est Bertrand de la Fondation MAGister.
Beaucoup de personnes tirent leur sens de l'importance et leur estime d'eux-mêmes de leur productivité.
Ce qui est important pour eux, c'est d'être productif.
Plus ils produisent de résultats externes, plus ils ont l'impression de faire quelque chose d'important, et plus leur estime d'eux-mêmes grandit.
S'ils ne font rien de productif, ils se sentent sans importance. Insignifiants. Misérables.
Mais il y a un gros problème de lier l'importance avec la productivité. Surtout à notre époque.
Parce que cette productivité peut se faire dépasser par la technologie.
Et à partir de là si tu lies importance avec productivité, eh bien tu auras logiquement très peu d'importance quand la technologie va complètement dépasser ta productivité.
Et donc forcément à l'avenir, avec l'avènement de telles technologies, la société à grande échelle va être forcée d'ajuster son rapport à l'importance pour pouvoir la conserver.
Autrement dit, la société va être forcée de changer de paradigme, et de relier l'importance à ce qui compte vraiment.
Les individus vont devoir se libérer et cesser d'être esclaves, soumis à une vision restrictive de l'importance.
Ce qui est grosso-modo tout ce dont je vous ai parlé dans les premiers épisodes de la série sur l'importance.
Pour mieux comprendre où je veux en venir, imaginez la différence de puissance entre une super intelligence artificielle et celle d'un être humain.
Et je ne parle pas d'une pseudo-intelligence artificielle comme celles qui existent actuellement, je parle vraiment d'un intelligence artificielle générale super avancée.
Cette super IA sera incroyablement plus efficace et productive que l'être humain, il n'y aura même pas de comparaison possible.
Si le but de la vie c'est d'être productif, eh bien en comparaison ça ne sera même pas la peine pour l'être humain de s'embêter à faire des efforts, tant ça sera insignifiant.
En ce sens, si le seul but de l'existence c'est de maximiser les résultats et la vitesse de développement des solutions aux problèmes de la vie, de minimiser la souffrance dans le monde, etc, si c'est ça qui compte vraiment, si c'est ça qui fait la valeur,
alors la seule voie qui soit rationnelle et altruiste pour les êtres humains c'est d'arrêter de se contenter de nos moyens lents, limités et plafonnés pour résoudre ces problèmes.
C'est d'arrêter d'essayer de résoudre nous-mêmes ces problèmes et d'arrêter de développer nous-mêmes des solutions.
Non la seule voie qui soit rationnelle et altruiste, c'est de créer de la technologie qui soit bien meilleure que nous pour ça, et de lui déléguer la tâche.
Et notamment de miser sur le développement de l'intelligence artificielle générale.
De développer ce que j'appelle des "démultiplicateurs de puissance".
Tous les humains de la planète devraient rationnellement accepter qu'ils sont fondamentalement impuissants, et unir leurs cerveaux, se rassembler et s'unir pour créer des technologies permettant de décupler la puissance que l'on peut exploiter.
Toute personne n'entreprenant pas dans cette voie, toute personne ne contribuant pas au développement de ces démultiplicateurs de puissance, ayant forcément en comparaison, une activité égoïste et sans importance. Inutile.
Même si tu essaies de sauver le monde, si tu essaies de sauver le monde en suivant ta propre voie et que tu te contentes de ta puissance actuelle d'être humain, plutôt que de suivre la voie qui consiste à décupler la puissance que l'humanité peut exploiter, alors ton activité sera égoïste et sans importance.
Parce que le rendement théorique maximum de ton approche est ridicule comparé au rendement que pourrait avoir un démultiplicateur de puissance.
Tu es voué à faire des coups d'épée dans l'eau en comparaison.
Ce que tu fais, c'est juste une forme de distraction glorifiée.
...
Peut-être qu'il y a certaines personnes qui vont écouter cette vidéo et trouver cette vision parfaitement logique et sensée ;
mais je pense que face à cette vision la grande majorité des êtres humains voient qu'il y a quelque chose qui ne va pas.
Pour la plupart des gens, de voir les choses comme ça, ça met justement bien en évidence que l'importance ne se résume pas à une question de productivité vers une destination,
y compris de productivité dans la résolution de problèmes mondiaux, de problèmes qui menacent l'existence de l'humanité, de problèmes de souffrance à travers le monde, etc.
Aussi, même si on n'est pas efficace, c'est important pour nous de participer, de faire les choses nous-mêmes et non de laisser la technologie s'occuper de tout.
Pour dire les choses autrement, pour maximiser l'importance de notre existence personnelle, on ne doit pas employer chaque seconde de notre vie uniquement sur les voies qui vont optimiser l'impact positif futur qu'on va avoir.
Le futur c'est très bien, mais il y a aussi et avant cela, ce qu'on appelle le présent.
Et le présent n'est pas juste une escale vers le futur.
Parce que d'une certaine manière, le présent c'est tout ce qu'on a vraiment.
Le futur, c'est une abstraction potentiellement infinie.
C'est important pour nous de pouvoir profiter de la valeur directement dans le présent. Au moins un peu.
Et la magie avec notre esprit, c'est que le peu qu'on a, eh bien ça va pouvoir en quelque sorte devenir beaucoup et nous combler.
Je ne sais pas si vous avez remarqué mais notre esprit s'adapte. Il fonctionne essentiellement de manière relative.
Si tu prends un enfant d'un pays pauvre, il lui en faudra beaucoup beaucoup moins qu'un enfant d'un pays riche pour être comblé.
En comparaison il pourra être comblé avec trois fois rien.
Il y a une escalade et une relativisation : peu importe la valeur absolue dont on dispose, elle est relativisée. Elle est normalisée.
Et là aussi, il y a deux façons miroirs d'interpréter cet état des choses.
La façon négative de voir cette relativisation, c'est que finalement ben on n'a jamais assez et on n'aura jamais assez. On est condamné à l'éternelle insatisfaction.
La façon positive de voir cette relativisation, c'est que peu importe ce dont on dispose, on a le potentiel d'être comblé ici et maintenant.
Ce qu'il est important de réaliser c'est que contrairement à l'intelligence artificielle nous on a de l'expérience. On a de la conscience.
Et au fond c'est pour ça qu'on vit et qu'on fait les choses.
Même le futur, pour nous il est important parce qu'il va devenir notre expérience. Ou l'expérience de nos descendants.
Si on n'avait pas d'expérience, on s'en foutrait de produire des super choses. Même si on les produisait super rapidement.
Au contraire on peut même dire que y compris avec de l'expérience, il ne faut pas que ce soit trop rapide de produire des super choses.
Parce que sans ça on n'a pas le temps de savourer ni le processus, ni les enjeux. Il n'y a pas de sentiment d'accomplissement, de développement, de progression, etc.
Il n'y a pas de tension et de contraste tangible entre la situation présente, sans le super produit que l'on veut créer, et la situation future qui aurait ce super produit.
Parce que pour que ce contraste soit tangible il faut qu'il y ait de la résistance et de la temporisation. Si c'est trop rapide il n'y a pas de contraste. Il n'y a pas de poids.
C'est comme dans un film, la fin de l'histoire a du sens et de la valeur vis-à-vis du début et de toutes les péripéties qui se passent dans l'histoire du film.
De la même manière, quand vous êtes dans un véhicule qui avance, ce qui visuellement vous donne la sensation d'avancer c'est qu'à travers la fenêtre vous voyez l'environnement défiler.
Parce que l'environnement reste en place.
Si l'environnement se déplaçait à la même vitesse que vous, vous n'auriez pas la sensation d'avancer.
Et en gros c'est un peu ce qui se passerait si on pouvait tout produire et résoudre super rapidement.
Donc même si on développe des super choses, on veut que le processus soit gratifiant.
Ce n'est pas juste le résultat qui compte.
J'irais même jusqu'à dire que le résultat compte très peu globalement, il compte momentanément et après on passe à autre chose.
On se lance dans un nouveau processus.
Donc, oui d'un point de vue externe, en termes de résultats, les IAs du futur vont pouvoir faire plein de trucs mieux que nous. Beaucoup mieux que nous.
Mais ça ne sera jamais vraiment important pour une IA. Du moins tant que les IAs n'ont pas d'expérience.
Et pour le moment il n'y a aucune perspective concrète que les IAs du futur auront de l'expérience.
Peut-être qu'à un moment donné elles auront de l'expérience, mais selon moi c'est forcément très lointain,
et surtout les IAs sans expérience vont radicalement changer le monde bien avant l'arrivée des IAs qui ont de l'expérience.
et avant d'en arriver là il y aura une grosse phase, une ère de changements radicaux
Comme je vous le disais dans l'épisode 325, sans même parler d'expérience, les IAs actuelles ne comprennent même pas ce qu'elles font et ce qu'elles produisent.
Elles sont incapables de penser par elles-mêmes et donc de générer des choses qui ne soient pas déductibles de ce qu'elles ont appris.
Donc avant même de parler d'expérience, la prochaine grande étape pour les IAs ça va être de comprendre, et de penser.
Chat GPT et compagnie, ils ne font qu'apprendre comment l'humanité a utilisé des patterns de symboles, de lettres et extraire des règles d’utilisation,
pour ensuite pouvoir réengager et recombiner certains de ces patterns de symboles ensemble pour générer des textes.
Et c'est pareil pour les IAs qui génèrent de l'art.
Et les recombiner et les réengager comme l'être humain idéal représenté par les textes originaux l'aurait fait.
Ça donne des résultats impressionnants, mais à aucun moment il n'y a de la pensée ou de la compréhension.
Et si vous voulez en savoir plus là dessus je vous invite à consulter ma vidéo sur le sujet, épisode 325.
Bref, pour en revenir à mon propos, si on n'emploie pas chaque seconde de notre vie à optimiser l'impact positif futur qu'on va avoir, on ne doit pas pour autant se sentir coupable de négliger ce qui est important, se sentir coupable d'irresponsabilité, d'immaturité ou que sais-je.
Non, ça ne marche pas comme ça.
Et encore une fois si ça marchait comme ça, la seule voie rationnelle serait de consacrer et sacrifier sa vie au développement de ce que j'appelle des "démultiplicateurs de puissance" qui vont pouvoir avoir un impact externe bien plus grand que celui qu'on peut avoir sans ça.
Parce que notre puissance à nous, en comparaison, c'est rien du tout.
Et toute personne ne contribuant pas dans cette voie devrait alors se sentir coupable de passer son temps sur des distractions frivoles.
Même si tu essaies de guérir le cancer, si tu le fais en te contentant de ton intelligence humaine, eh bien de ce point de vue c'est une distraction frivole.
En fait, sans même parler de super démultiplicateurs de puissance, d'intelligence artificielle et compagnie, on peut utiliser le même raisonnement avec les petits démultiplicateurs qui existent déjà.
C'est à dire que si actuellement tu ne fais pas en sorte d'être le meilleur que tu peux être dans ton domaine et que tu ne fais pas en sorte de toucher un maximum de monde, d'avoir un maximum d'impact, etc.
Eh bien en suivant ce raisonnement, ce que tu fais ne peut pas vraiment avoir d'importance.
Seuls les personnes qui font les choses à fond et en grand font quelque chose d'important.
Mais bien sûr c'est manifestement fallacieux de penser comme ça.
Le sens de l'importance, comme les autres sens, dépend de la finitude et des limites. Ou d'un cadre si vous préférez.
À partir du moment où on arrive vraiment à démultiplier la puissance, et où cette même puissance démultipliée se re-démultiplie elle-même, et ce de manière récursive.
Et bien il n'y a plus de finitude. Il n'y a plus de limites. Il n'y a plus de cadre. C'est infini.
Tous nos problèmes auront certes probablement été résolus, mais leur résolution n'aura plus aucune importance.
Donc améliorer la condition globale de l'humanité, améliorer le niveau de vie, créer un paradis sur Terre, tout ça, c'est beaucoup plus délicat que ce que beaucoup imaginent naïvement.
Il ne faut pas juste tout résoudre.
Ce qu'il faut en quelque sorte préserver c'est le principe d'expérience même.
Parce que finalement tout ce qui nous tient à cœur repose là dessus.
Mais si on veut préserver l'expérience, alors on doit préserver la planète.
De la même manière on ne veut pas juste préserver l'expérience mais en même temps que plein de gens sur Terre aient une expérience vraiment pourrie, remplie de souffrance.
Non, on veut améliorer l'expérience de tout un chacun, on veut améliorer l'expérience moyenne de l'humanité.
C'est l'un des buts ultimes du progrès.
Et si on veut faire ça, alors on doit faire des progrès énormes dans plein de domaines.
Or si on veut faire ces progrès, si on veut préserver la planète, et a fortiori si on veut faire ça rapidement et dans les temps, alors on aura sûrement besoin d'un démultiplicateur de puissance.
Parce que sans ça, ça va être très compliqué.
Mais à partir du moment où un démultiplicateur digne de ce nom va entrer en jeu, un démultiplicateur capable de ces tâches, un démultiplicateur permettant de contrôler notre destinée,
ben ça ne va pas juste se contenter d'être capable de sauver la planète et de continuer la vie comme avant mais en mieux.
Non, si ça peut faire ça, alors ça pourra faire beaucoup plus que ça.
Et ça ira probablement beaucoup plus loin que de sauver la planète.
Et l'expérience telle qu'on la conçoit va probablement disparaître.
Parce que cette expérience se définit encore une fois par des limites et de la finitude.
Pour améliorer l'expérience de tout un chacun, il faut faire des ajustements relativement précis, des opérations "chirurgicales" pourrait-on dire.
Il faut maintenir plus de choses qu'il ne faut en changer.
Parce que oui tu veux globalement diminuer la souffrance dans le monde par exemple, mais tu ne veux pas y aller trop fort et complètement l'éliminer ou l'empêcher d'exister.
Parce que si tu commences à retirer tous les problèmes de l'humanité un par un, pour augmenter le niveau de vie, tu vas très vite te rendre compte que tu es en train de retirer tout le jeu de la vie, et que si tu continues jusqu'au bout, il n'y aura plus de vie.
Et donc ton intention initiale d'augmenter le niveau de vie se sera retournée contre elle-même.
Un jeu nécessite des enjeux.
Par exemple imaginez un monde dans lequel c'est impossible de ressentir de la douleur, un monde dans lequel c'est impossible de souffrir d'une rupture amoureuse, un monde dans lequel ça ne sert à rien de dormir, un monde dans lequel on a fondamentalement besoin de rien, un monde dans lequel il n'y a absolument aucune conséquence négative qu'on ne peut annuler, un monde dans lequel on peut absolument tout apprendre, tout devenir, un monde dans lequel c'est impossible de ressentir de l'ennui, de l'insatisfaction, un monde dans lequel il n'y a aucune obligation, etc.
Superficiellement ça semble cool, mais quand tu réfléchis aux implications en fait non.
Car très rapidement, rien n'aurait plus aucun sens dans un tel monde. Et on finirait par se foutre de tout.
Ça serait une combinaison entre un nihilisme absolu et du solipsisme.
Ça serait probablement la fin des engagements, car les engagements impliquent du risque d'investir.
Ça serait probablement la fin des relations, car les relations dépendent d'un partage implicite duquel on ne peut s'émanciper.
On irait de plus en plus vite vers de meilleurs résultats, mais cette progression n'aurait plus aucun sens.
Car il n'y aurait plus de dualité, plus de contraste, plus de temps de pause et de stabilité pour leur donner du poids et de la valeur.
On pourra toujours progresser sans jamais s'arrêter, sans jamais ralentir, sans jamais être confronté à des difficultés ou des challenges.
Encore une fois ce qui fait la valeur, ce sont les limites.
Et pour que la valeur existe ces limites doivent être relativement stables à travers le temps.
Si vous réfléchissez à tout ce qui vous procure de l'intérêt, du sens, de l'importance, etc, vous réaliserez que ça dépend de limites.
L'état de flow dont je vous ai souvent parlé et dans lequel on apprécie tant être, il se caractérise en partie par le fait d'être à la frontière de certaines de nos limites.
En général cela implique de la performance et de la progression, mais qui se font en échange d'une concentration intense.
C'est à dire que cette performance et cette progression ne sont pas garanties, elles sont fragiles.
C'est un challenge de les maintenir. Il y a de la tension, même si c'est agréable.
Justement, au fond c'est agréable parce qu'il y a de la tension et qu'on fait quelque chose de rare et de fragile. De précieux.
Si on pouvait avoir la même performance et la même progression sans s'investir, on ne rentrerait pas dans l'état de flow.
On s'ennuierait.
Bref, ça serait le solipsisme et le nihilisme total car non seulement les choses n'auraient pas d'ancrage absolu comme actuellement, mais ils n'auraient même pas d'ancrage relatif partagé.
Ce qui fait qu'actuellement le nihilisme absolu n'a que très peu d'incidence, c'est qu'en tant qu'être humains on partage plein de choses. Plein de limites. Plein de contraintes. Plein d'émotions.
Ce qui fait qu'on se comprend et qu'il y a un rapport. On se donne mutuellement du sens à notre vie.
Même nos petites différences, elles ont du sens et de la valeur parce qu'elles sont petites et donc qu'elles restent en rapport avec une base commune et partagée.
Si les différences étaient trop grandes, elles perdraient en sens et en valeur.
Par exemple, les personnes qui vont le plus trouver ce que je dis comme étant intéressant et chargé de sens, ce sont les personnes qui vont apprendre des choses nouvelles mais en même temps très proches de ce qu'elles pensent déjà.
Les personnes pour qui il y a trop de distance, elles ne vont pas trouver ça intéressant. Il n'y aura pas de rapport, pas de connexion. Ça sera trop alien pour eux.
C'est le même principe que la zone du flow. Il faut être à la bordure de nos limites.
Quand c'est trop dans notre norme ça n'a pas vraiment de valeur particulière, quand c'est légèrement mais clairement au dessus de notre norme ça a de la valeur, quand c'est très loin de notre norme ça n'a pas de valeur car c'est trop distant, on n'a rien pour le comprendre.
Qu'une machine soit capable soit capable de sauter à 10 mètres de hauteur, tu t'en fous un peu parce qu'elle est trop différente de toi.
Par contre qu'un être humain soit capable de sauter à plus de 2 mètres de hauteur, là ça a de la valeur pour toi, parce qu'il y a un rapport.
Bref, il y a un ancrage relatif et partagé, on n'est pas juste des individus complètement indépendants les uns des autres. Très loin de là.
On est dépendants à énormément de niveaux.
À partir du moment où chaque individu peut vivre avec ses propres règles, et ce à un niveau fondamental, eh bien c'est la fin du partage.
Et c'est la fin du sens mutuel.
Chaque individu devient alors une catégorie, une espèce, un univers à lui tout seul.
Donc en gros pour résumer les choses on peut distinguer ce que j’appellerai la phase facile de l'évolution de la société, et la phase difficile de l'évolution de la société.
La phase facile de l'évolution de la société, c'est en gros quand on reste encore grosso-modo dans le même paradigme qu'actuellement, mais que l'abondance est généralisée à tous les individus.
C'est à dire que plus personne dans la société n'est condamné à souffrir, à être sans abri, à ne pas pouvoir manger,
plus personne dans la société n'est forcé de faire un bullshit job ou un travail ingrat juste pour gagner de l'argent.
Chacun est libre de poursuivre ce qui l'épanouit.
De la même manière cette abondance est également partagée au niveau de la santé :
tout le monde à accès aux meilleurs soins, qui permettent de vivre de manière optimale, de vieillir en gardant un bon niveau de vie, etc.
La société est organisée de sorte à promouvoir la bonne santé à tous les niveaux, physique, mental, émotionnel, etc.
Pour ça elle est notamment organisée pour maintenir de la cohésion, de la connexion entre les individus, pour promouvoir l'engagement dans des activités constructives,
de sorte à ce que personne ne soit complètement livré à lui-même, que tout le monde se sente faire partie d'une communauté et soit épanoui individuellement.
C'est ça c'est la phase facile de l'évolution de la société.
Qui je répète encore une fois, se résume par l'abondance pour tous.
Le jeu de la vie reste globalement le même, mais il n'y a plus de joueur lésé.
J'appelle ça la phase facile car théoriquement il n'y a pas de difficultés, c'est assez simple.
Et ça demande assez peu d'imagination de la concevoir.
La phase difficile de l'évolution de la société, c'est quand on commence à faire évoluer le cœur du jeu. Ses fondements.
En gros c'est quand tu veux faire évoluer la vie au delà de la vie humaine idéale.
C'est grosso-modo ce vers quoi tend le transhumanisme.
Pour imager, dans la phase facile de l'évolution de la société, l'être humain reste un joueur qui fait avec les règles du jeu.
Alors que dans la phase difficile de l'évolution de la société, l'être humain prend le rôle de Dieu qui définit et modifie les règles du jeu.
Et là les possibilités de conséquences de second ordre, d'effets secondaires pervers, etc, elles sont pratiquement infinies.
Et assez difficiles à imaginer.
Et surtout philosophiquement on peut se questionner sur la désirabilité d'une telle évolution.
Est-ce que c'est vraiment désirable ?
Est-ce que ça ne va pas remettre en question le principe même de désirabilité ?
C'est très différent de l'évolution culturelle qui a eu lieu depuis le début de l'humanité, car cette évolution était principalement environnementale.
Jusque là les êtres humains ont très peu évolués, on est grosso-modo les mêmes qu'il y a des milliers d'années.
C'est la culture qui a beaucoup évoluée.
Donc on ne peut pas se baser sur les changements du passé.
Notamment on ne peut pas se dire qu'à chaque changement sociétal du passé il y a eu des réticents qui craignaient la nouveauté, et que c'est passé, et que là bah c'est pareil.
Non ce n'est pas pareil.
Les types changements sont beaucoup plus profonds et n'ont encore jamais eu lieu dans l'histoire de l'humanité.
Pour en revenir à la questionnabilité de la désirabilité,
il y a beaucoup de fantaisies transhumanistes qui ont du sens depuis nos limites actuelles.
Mais qui n'en auront probablement plus une fois qu'elles auront été réalisées.
Mais ce genre de choses on a du mal à l'anticiper.
Par exemple l'immortalité n'a pas du tout le même sens et la même valeur d'un point de vue d'un être mortel qui vit dans un monde d'êtres mortels, que du point de vue d'un être immortel qui vit dans un monde d'êtres immortels.
Pourtant on a la fantaisie de penser que quand on sera immortel ça aura toujours le même sens et la même valeur que quand on était mortel.
C'est le paradoxe qu'on retrouve souvent caché dans le transhumanisme.
D'un côté on veut quitter ce qu'on est, on veut évoluer et se transformer radicalement, mais implicitement on veut se préserver et conserver notre humanité, notre identité, nos préférences, nos valeurs, nos références, etc.
Pour moi il y a un conflit entre deux choses mutuellement incompatibles.
Quand on réfléchit superficiellement ça ne semble pas incompatible, mais quand on réfléchit plus en profondeur en fait on se rend compte que si.
Bref pour conclure cet épisode et revenir à ce que je disais au début.
Comparé aux intelligences artificielles du futur, c'est comme si on était sévèrement handicapés et déficients intellectuellement parlant.
Est-ce que les handicapés sont impuissants ? Est-ce qu'ils n'ont aucune importance ? Comment font-ils pour gérer leur rapport avec leur différence de puissance par rapport aux êtres humains normaux qui ne sont pas handicapés ? Est-ce qu'ils se sentent insignifiants et inutiles ? Est-ce que leur estime de soi est basse ?
estime de soi et cetera. Insignifiant, inutile.
Je pense qu'il y a beaucoup d'handicapés pour qui effectivement ça a un impact négatif sur tout ça.
Mais je pense aussi qu'il y en a plein pour qui pas du tout.
Et qui justement ont été poussé à réaliser que l'importance finalement, c'est déconnecté de tout ça.
Ça les a aidé à changer de paradigme, à avoir le déclic, et à lâcher prise sur la vision restrictive de l'importance qu'ils avaient.
Et encore une fois je pense qu'il va se passer le même parallèle avec les humains de manière générale vis-à-vis de l'intelligence artificielle.
Parce qu'au fond le sentiment d'importance est indépendant de tout ça.
Maîtrisez votre esprit, développez votre conscience, élevez votre existence !
