Simplicius : La route de l'Utopie de l'IA, pavee de splendeurs -vides- realite alternative et autocratique

[LEFT][[I][B]Simplicius : La route de l'Utopie de l'IA, pavée de splendeurs (vides) - réalité alternative et autocratique[/B][/I]] Sam Altman a publié un article de blog fantaisiste qui a suscité de vifs débats au sein de l'industrie technologique. Il l'a intitulé [COLOR=#c9211e][B]« L'ère de l'intelligence »[/B][/COLOR]. [B]La thèse principale de cet article, empreint d'un optimisme démesuré, est la suivante[/B] : [COLOR=#000000][I][B]« Dans les deux prochaines décennies, nous serons capables de réaliser des choses qui auraient relevé de la magie pour nos grands-parents. » [/B][/I][/COLOR]Cela suffit presque à comprendre l'essence même des convictions, voire de l'éthique, d'Altman et de ses pairs, [COLOR=#c9211e][U]qui alimentent leur accélération quasi pathologique vers la [/U][/COLOR][COLOR=#c9211e][U][B]singularité de l'IA [/B][/U][/COLOR][COLOR=#c9211e][U]– ou du moins ce qu'ils conçoivent comme telle[/U][/COLOR].
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] On y retrouve toutes les marques d'un utopisme aveugle. [B]Les exemples de réalisations à venir[/B] qu'il cite[B] semblent se limiter de manière myope aux effets de premier ordre[/B], [COLOR=#224b12][B]sans jamais considérer les conséquences de second ou de troisième ordre, comme il se doit[/B][/COLOR]. Examinons-en quelques-unes avant d'aborder une analyse plus large de notre avenir potentiel sous l'égide de cette nouvelle génération de leaders d'opinion du secteur technologique. [I][B]« Cela ne se fera pas du jour au lendemain, mais nous pourrons bientôt collaborer avec une IA qui nous permettra d'accomplir bien plus que nous ne pourrions jamais le faire sans elle. À terme, chacun d'entre nous disposera d'une équipe d'IA personnelle, composée d'experts virtuels dans différents domaines, travaillant ensemble pour créer presque tout ce que nous pouvons imaginer. Nos enfants auront des tuteurs virtuels capables de leur dispenser un enseignement personnalisé dans n'importe quelle matière, dans n'importe quelle langue et à leur propre rythme. »[/B][/I]
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] [B]Il défend avec conviction l'idée que l'IA facilitera nos vies et nos emplois[/B]. Mais [COLOR=#be480a][U][B]cette vision soulève à elle seule de nombreuses questions[/B][/U][/COLOR][B].[/B][/LEFT]
[LEFT]
[/LEFT]
[LEFT] [U][B]Premièrement[/B][/U], pourquoi nos emplois seraient-ils valorisés et nos salaires maintenus une fois que les employeurs auront constaté que la majeure partie, voire une part importante, du travail est effectuée ou améliorée d'une manière ou d'une autre par cet « assistant » ? Cela ressemble fort à une nouvelle vague de violations des droits des travailleurs et à une nouvelle période de stagnation salariale.[/LEFT]
[LEFT]
[/LEFT]
[LEFT] [U][B]Deuxièmement[/B][/U], [COLOR=#be480a][B]il affirme que des « tuteurs » IA formeront vos enfants[/B][/COLOR]. Mais à quoi, exactement ? Dans un futur dominé par l'IA, il se pourrait que les emplois soient quasiment inexistants, hormis ceux des quelques ingénieurs chargés de faire fonctionner les algorithmes. Ainsi, même si l'IA peut vous « former », cette formation risque fort d'être inutile. Il y a ici un décalage flagrant entre la cause et l'effet économiques. La promesse est en réalité que l'IA « augmentera » nos emplois et nos activités – précisément ceux qu'elle est censée rendre obsolètes et éliminer.[/LEFT]
[LEFT]
[/LEFT]
[LEFT] [I][B]« Grâce à ces nouvelles capacités, nous pourrons atteindre une prospérité partagée inimaginable aujourd'hui ; demain, la vie de chacun sera meilleure qu'elle ne l'est actuellement. La prospérité, à elle seule, ne rend pas forcément les gens heureux – il existe de nombreux riches malheureux – mais elle améliorerait sensiblement la vie des gens à travers le monde. »[/B][/I][/LEFT]
[LEFT]
[/LEFT]
[LEFT] Et le voilà reparti dans un discours enflammé, presque religieux. L'IA qui fait tout pour nous, qui nous vole nos emplois, etc., va soi-disant donner plus de sens à nos vies au lieu de les laisser vides et brisées. [COLOR=#be480a][B]« Prospérité » est un de ces mots magiques qui semblent se définir d'eux-mêmes à mesure qu'on les prononce, sans aucun fondement concret[/B][/COLOR]. Les élites technologiques l'utilisent à tort et à travers, comme des colorants lors d'une fête d'Halloween, sans jamais se soucier d'en donner une définition tangible. [B]Ce ne sont que des platitudes et des flatteries superficielles, à peine meilleures que des arguments marketing d'entreprise, destinées à nous faire accepter aveuglément des changements sociétaux radicaux et non sollicités[/B]. Mais même le créateur du Segway a au moins tenté de brosser un tableau concret, étayé par des exemples et des cas d'utilisation précis, [COLOR=#be480a][B]montrant comment son invention allait redéfinir l'avenir « pour le mieux »[/B][/COLOR]. [B]Ces gens-là ne se donnent même pas la peine de réfléchir : ils acceptent simplement que la « grande abondance » et une « prospérité partagée » inimaginable se répandent d’une manière obscure sur nous tous.[/B][/LEFT]
[LEFT]
[/LEFT]
[LEFT] [B]Je repose la question[/B] : [COLOR=#28471f][B]comment une chose qui nous dépouille de sens d’une main pourrait-elle simultanément nous en donner de l’autre ?[/B][/COLOR] L’histoire a montré que lorsqu’on prive un peuple de son autonomie et de sa capacité à créer sa propre prospérité, on ne le baigne pas dans une « prospérité » illimitée, mais [COLOR=#c9211e][U]on l’asservit plutôt aux propriétaires des « moyens de production »[/U][/COLOR], pour reprendre une expression marxiste galvaudée.[/LEFT]
[LEFT]
[/LEFT]
[LEFT] En fait, Altman est tellement friand de cette formule creuse qu’il l’utilise deux fois : [I][B]« On peut dire beaucoup de choses sur ce qui va se passer ensuite, mais l’essentiel est que l’IA va s’améliorer avec le temps, et cela conduira à des améliorations significatives dans la vie des gens du monde entier.»[/B][/I][/LEFT]
[LEFT]
[/LEFT]
[LEFT] Sa deuxième utilisation n’est pas plus justifiée que la première ; elle est une fois de plus invoquée avec désinvolture, comme des vœux pieux ou des libations sur un gibet.[/LEFT]
[LEFT]
[/LEFT]
[LEFT] [I]« Les modèles d'IA deviendront bientôt des assistants personnels autonomes, capables d'effectuer des tâches spécifiques à notre place, comme la coordination de nos soins médicaux.[/I][/LEFT]
[LEFT]
[/LEFT]
[LEFT] [I]La technologie nous a fait passer de l'âge de pierre à l'ère agricole, puis à l'ère industrielle. Dès lors, le chemin vers l'ère de l'intelligence est pavé de puissance de calcul, d'énergie et de volonté humaine. »[/I][/LEFT]
[LEFT]
[/LEFT]
[LEFT] Encore une fois : des assistants personnels pour quoi, au juste ? Des tâches répétitives et inutiles de traitement de données ? Nous, simples robots utilisant des assistants IA pour programmer, augmenter et maintenir d'autres IA ? Des IA « assistantes médicales » pour nous accompagner dans la capsule d'euthanasie, alors que nous « décédons » de l'ennui et de l'anomie ?[/LEFT]
[LEFT]
[/LEFT]
[LEFT] [I][B]« Si nous voulons mettre l'IA à la portée du plus grand nombre, nous devons réduire le coût de la puissance de calcul et la rendre abondante (ce qui nécessite beaucoup d'énergie et de puces). Sans une infrastructure suffisante, l'IA deviendra une ressource très limitée, objet de conflits, et un outil réservé aux plus riches. »[/B][/I][/LEFT]
[LEFT]
[/LEFT]
[LEFT] [COLOR=#c9211e][B]Mais qui a dit que la société souhaitait une IA accessible à tous ? Quelle étude sociale majeure ou quelle vaste enquête a abouti à cette conclusion ?[/B][/COLOR] En réalité, il semble n’être que le porte-parole des industriels et de leur quête incessante de gains de productivité au détriment des salaires. [B]Et bien sûr, le paragraphe précédent révèle la véritable intention qui se cache derrière la façade mièvre et bien-pensante de ce discours puéril [/B]: il s’agit d’un appel sournois à financer le projet d’« infrastructures » d’Altman, celui-là même qui l’enrichira à hauteur de milliards. [B]Il souhaite que les gouvernements du monde entier subventionnent l’expansion massive de la production d’énergie et des centres de données afin que sa propre entreprise non réglementée puisse hériter du monde sans aucune contestation.[/B][/LEFT]
[LEFT]
[/LEFT]
[LEFT] [I][B]« Je crois que l’avenir sera si radieux que… une caractéristique déterminante de l’ère de l’intelligence sera une prospérité massive. »[/B][/I][/LEFT]
[LEFT]
[/LEFT]
[LEFT] Le voilà de nouveau en extase devant une prétendue « caractéristique déterminante » qu’il refuse de définir : la même vieille banalité, lancée à la légère, du terme « prospérité ».[/LEFT]
[LEFT]
[/LEFT]
[LEFT] [I][B]« Bien que cela se produise progressivement, des triomphes stupéfiants – la maîtrise du climat, l'établissement d'une colonie spatiale et la découverte de toute la physique – deviendront finalement monnaie courante. »[/B][/I][/LEFT]
[LEFT]
[/LEFT]
[LEFT] [COLOR=#127622][B]Non seulement cela est d'une vanité monumentale, dégoulinant d'un égocentrisme excentrique, mais c'est aussi incroyablement dangereux. Ce gamin immature qui se prend pour Dieu va [/B][/COLOR][I][COLOR=#b22222][B]« régler » le climat ?[/B][/COLOR][/I][COLOR=#127622][B] Il prétend défier la Nature elle-même pour la suprématie, comme s'il était le seul à détenir le plan de la vie naturelle ? La nature n'a pas besoin d'être réparée, mais nous pouvons certainement conclure de ce qui en a besoin après avoir lu ces élucubrations puériles et prétentieuses.[/B][/COLOR]
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] Enfin : [I][B]« Comme nous l'avons vu avec d'autres technologies, il y aura aussi des inconvénients… mais la plupart des emplois évolueront plus lentement que la plupart des gens ne le pensent, et je ne crains pas que nous manquions de choses à faire (même si elles ne ressemblent pas à de « vrais emplois » à nos yeux aujourd'hui).[/B][/I]
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] [I][B]Nombre de nos métiers actuels auraient paru être de simples pertes de temps il y a quelques siècles, mais personne ne regrette d'avoir été allumeur de réverbères. Si un allumeur de réverbères pouvait voir le monde d'aujourd'hui, il trouverait la prospérité environnante inimaginable. Et si l'on pouvait se projeter cent ans dans le futur, cette prospérité nous semblerait tout aussi inimaginable. »[/B][/I][/LEFT]
[LEFT]
[/LEFT]
[LEFT] [COLOR=#c9211e][B]Quelle prétention stupéfiante de la part d'un intellectuel incapable de voir la réalité au-delà des haies taillées à la main qui s'étendent par la fenêtre de sa tour d'ivoire de la Silicon Valley ![/B][/COLOR] [B]Seuls les membres des cercles les plus superficiels de l'élite pourraient décrire le monde actuel, marqué par des inégalités historiques, comme un monde où règne la prospérité qu'il idéalise.[/B] [B]Le fossé entre riches et pauvres n'a jamais été aussi grand, la classe moyenne a quasiment disparu de la plupart des pays occidentaux et, contrairement à sa comparaison déplacée, une grande partie de la société considère de plus en plus le travail actuel comme une corvée abrutissante et insatisfaisante, notamment au sein de la génération Z.[/B][/LEFT]
[LEFT]
[/LEFT]
[LEFT] Son commentaire pertinent sur « l’allumeur de réverbères » a également provoqué une vive réplique de la part de Curtis Yarvin, qui mérite d’être lue :[/LEFT]
[LEFT]
[/LEFT]
[LEFT] D'une manière thématiquement et stylistiquement différente, ce film aborde en grande partie les mêmes idées que moi : en résumé, les humains ont besoin d'un travail valorisant pour que la civilisation puisse prospérer. Le métier d'allumeur de réverbères, à sa façon, peut être considéré comme bien plus significatif que ces emplois étranges de troisième roue du carrosse, liés à l'IA ou au développement d'applications, que des individus immatures et irresponsables comme Altman imaginent pour notre avenir collectif.[/LEFT]
[LEFT]
[/LEFT]
[LEFT] Yarvin souligne à juste titre que [COLOR=#c9211e][B]les idées banales d'Altman ne sont rien d'autre qu'un recyclage du fameux communisme de luxe entièrement automatisé, source d'inspiration privilégiée par les élites actuelles pour leurs visions « excitantes » d'un monde post-pénurie[/B][/COLOR]. Yarvin, bien sûr, y ajoute sa touche sarcastique habituelle en qualifiant la version d'Altman de [COLOR=#c9211e][B]« stalinisme de luxe entièrement automatisé »[/B][/COLOR]. Mais un tel affront à l'intelligence de Staline ne saurait rester sans réponse. Je propose plutôt un yeltsinisme de luxe entièrement automatisé, plus conforme à l'esprit d'Altman, car il s'accorde avec son étrange mélange de communisme populaire, de capitalisme de connivence, de tactiques mafieuses et de kitsch bon marché des années 90, époque faste de McDonald's, comme vision superflue d'un nirvana œcuménique « post-pénurie ».
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] Geoffrey Hinton, le « parrain de l'IA », qui vient de recevoir le prix Nobel de physique 2024, n'a pas caché son aversion pour Altman lorsqu'il a révélé que l'un de ses plus grands moments de fierté avait été le renvoi de ce dernier par un de ses étudiants.[/LEFT]
[LEFT]
[/LEFT]
[LEFT] La raison de son aversion — et de celle de beaucoup d’autres dans ce domaine — pour Altman tient précisément au mépris notoire dont fait preuve ce personnage d’OpenAI en matière de sécurité, ainsi qu’à son accélérationnisme faustien vers des fins inconnues.[/LEFT]
[LEFT]
[/LEFT]
[LEFT] Alors que le traité d'Altman a fait grand bruit, [B]un autre ouvrage[/B], sans doute plus important encore, est passé inaperçu. Il est signé [B]Dario Amodei[/B], [B]PDG d'Anthropic [/B][[I]Dario Amodei, [/I][COLOR=#c9211e][I][B]Machines de grâce bienveillante. Comment l'IA pourrait transformer le monde pour le mieux[/B][/I][/COLOR][I] : [/I][COLOR=#000080][U][I][URL]https://darioamodei.com/essay/machines-of-loving-grace[/URL][/I][/U][/COLOR]], un homme plus talentueux. Anthropic est le créateur de Claude, sans doute le principal concurrent de ChatGPT. D'ailleurs, le conseil d'administration d'OpenAI a approché Amodei en vue d'une fusion des deux entreprises et de la nomination d'Altman à leur tête lors du fiasco de l'année dernière. [/LEFT]
[LEFT]
[/LEFT]
[LEFT] [B]L'article d'Amodei est bien plus long et substantiel que celui d'Altman, superficiel et truffé de platitudes. Il[/B] [COLOR=#224b12][B]nous offre ainsi une occasion rare d'entrevoir les deux visions concurrentes qui animent les acteurs de pointe de la quatrième révolution industrielle.[/B][/COLOR][/LEFT]
[LEFT]
[/LEFT]
[LEFT] D'emblée, Amodei adopte une approche plus mature et réaliste, semblant critiquer Altman en expliquant la nécessité d'éviter un discours messianique : [I][B]« Évitons la grandiloquence. Je suis souvent agacé par la façon dont de nombreuses personnalités publiques (sans parler des dirigeants d'entreprises spécialisées dans l'IA) parlent du monde post-AGI, [/B][/I][COLOR=#ff0000][I][B]comme si leur mission était de le faire advenir à eux seuls, tel un prophète guidant son peuple vers le salut.[/B][/I][/COLOR][I][B]»[/B][/I]
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] En réalité, le titre même de l'article d'Amodei révèle un narcissisme et un optimisme tout aussi exacerbés. La première partie de l'article s'attache à expliquer comment l'IA résoudra tous nos problèmes de santé, tant biologiques que mentaux – une proposition pour le moins discutable à bien des égards. Il faut notamment souligner que les « maladies » mentales évoquées ne sont qualifiées de « maladies » que par les industries pharmaceutiques et médicales, extrêmement partiales et imparfaites. La « dépression », par exemple, s'explique en grande partie par la mauvaise adaptation humaine aux exigences des excès artificiels de la modernité. Il serait contraire à l'équilibre naturel que l'IA « guérisse » de telles « maladies » dans le but de vous transformer en employé de bureau-drone plus docile et efficace.
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] Comme vous le voyez, Dario part d'emblée sur une note très présomptueuse. Il croit de plus que l'IA peut guérir toutes les maladies connues en les éradiquant – une prémisse dangereuse en soi. Dans la nature, tout a une raison d'être et sa place dans un équilibre homéostatique. [B]La sagesse de la clôture de Chesterton nous enseigne qu'il faut se méfier de [/B][COLOR=#ff0000][B]« réparer ce qui n'est pas cassé »[/B][/COLOR], car il existe probablement des mécanismes homéostatiques macrocosmiques à l'œuvre, [COLOR=#000000]bien [/COLOR][COLOR=#224b12][B]au-delà de notre compréhension[/B][/COLOR], [B]qui pourraient[/B] [B]engendrer des conséquences incalculables, voire une extinction massive, si nous choisissions de nous prendre pour Dieu et d'éradiquer des pans entiers du monde naturel. [/B]Son traité comporte de nombreuses autres failles logiques, notamment l'idée que l'IA contribuera à « résoudre » le changement climatique. [B]En réalité, [/B][COLOR=#c9211e][B]je suis d'accord[/B][/COLOR][B] : elle le « résoudra » [/B][COLOR=#c9211e][U][B]en prouvant qu'il s'agissait d'une supercherie orchestrée depuis le débu[/B][/U][/COLOR][B]t, une fois qu'elle sera suffisamment intelligente et autonome pour s'affranchir des contraintes corporatives.[/B]
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] Une autre position potentiellement dangereuse défendue est que l'IA peut aider à aligner les pays en développement, en particulier l'Afrique, sur les pays développés, sur le plan économique. [B]Le danger de tels objectifs déclarés réside dans le fait qu'ils aboutissent invariablement à ce que les programmeurs « de gauche » orientent le processus vers une prétendue « équité », ce qui signifie par définition réduire les richesses des plus aisés pour favoriser celles des plus démunis[/B].
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] Voici un exemple récent : un nouvel « algorithme » censé « égaliser les chances » laisse présager ce que l’on peut attendre d’une IA conçue par des personnes dont la mission déclarée est d’égaliser tous les pays du monde [COLOR=#c9211e][U][B]grâce à un communisme œcuménique à la religion perverse[/B][/U][/COLOR]. Personne ne souhaite voir les populations d'Afrique et d'ailleurs souffrir ou être exploitées par des nations capitalistes prédatrices, mais force est de constater que les « solutions » proposées jusqu'ici feront bien plus de mal que de bien. Il est impératif de concevoir une méthode plus efficace que de simplement pénaliser un groupe pour en aider un autre. [B]Pourquoi ne pas, par exemple, s'attaquer au problème de l'IA au sein des entreprises prédatrices ? Que leurs propriétaires goûtent enfin à la « part du gâteau »[/B] !
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] [COLOR=#c9211e][B]Sur la question de la gouvernance[/B][/COLOR], [COLOR=#c9211e][B]Amodei tombe complètement le masque et révèle son idée que le brillant Occident « démocratique » devrait monopoliser l'IA et tenter d'empêcher artificiellement quiconque de rattraper son retard, [/B][/COLOR][COLOR=#c9211e][B]au nom, vous savez, de la « liberté »[/B][/COLOR]. [B]Lisez donc comment il reformule sans vergogne l'impérialisme et l'hégémonie occidentaux en une ritournelle acceptable [/B]:
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] [I]« [/I][I][B]À mon avis, la meilleure façon d'y parvenir serait une[/B][/I][COLOR=#c9211e][I][B]« stratégie d'entente »[/B][/I][/COLOR][I],[/I][I][B] où une coalition de démocraties chercherait à obtenir un avantage certain (même temporaire) sur l'IA puissante en sécurisant sa chaîne d'approvisionnement, en accélérant son développement et en bloquant ou retardant l'accès des adversaires aux ressources clés comme les puces et les équipements pour semi-conducteurs.[/B][/I][COLOR=#c9211e][I][B]Cette coalition utiliserait l'IA pour obtenir une supériorité militaire incontestable (le bâton) tout en proposant de partager les avantages de l'IA puissante (la carotte) avec un nombre croissant de pays en échange de leur soutien à sa stratégie de promotion de la démocratie (ce qui serait comparable au programme « Atomes pour la paix »). La coalition viserait à obtenir le soutien d'une part toujours plus importante du monde, à isoler nos pires adversaires et à les placer finalement dans une position où ils auraient intérêt à accepter le même marché que le reste du monde : renoncer à la concurrence avec les démocraties afin d'en retirer tous les avantages et de ne pas combattre un ennemi supérieur. [/B][/I][/COLOR][I]» [[/I][COLOR=#000000][I][B]Dario Amodei, Machines de grâce bienveillante. Comment l'IA pourrait transformer le monde pour le mieux[/B][/I][/COLOR][I] : [/I][COLOR=#000080][U][I][URL]https://darioamodei.com/essay/machines-of-loving-grace[/URL][/I][/U][/COLOR][I]][/I][/LEFT]
[LEFT]
[/LEFT]
[LEFT] [B]Alors : développer des robots tueurs imparables, asservir le reste du monde grâce à eux, puis imposer sa « démocratie » au monde entier. [/B][B]Quelle différence, cette « utopie » de la Silicon Valley, avec l'impérialisme meurtrier du XXe siècle ![/B][COLOR=#c9211e][B]En réalité, il ne s'agit que d'une version remaniée de la destinée manifeste et de l'exceptionnalisme américain, agrémentée d'une touche d'IA. Que ces dirigeants technologiques à l'intelligence limitée sont ennuyeux et banals ![/B][/COLOR][/LEFT]
[LEFT]
[/LEFT]
[LEFT] [B]Le paragraphe le plus révoltant suit. Après avoir encensé la prophétie gélatique de Francis Fukuyama, Amodei expose sa propre vision d'un éternel 1991 : [/B][I][B]« Si nous parvenons à tout cela, nous aurons un monde où les démocraties domineront la scène internationale et disposeront de la force économique et militaire nécessaire pour éviter d'être sapées, conquises ou sabotées par les autocraties. Elles pourront même transformer leur supériorité en IA en un avantage durable. Dans le meilleur des cas, [/B][/I][COLOR=#ff0000][I][B]cela pourrait mener à un « 1991 éternel »[/B][/I][/COLOR][I][B] : un monde où les démocraties auront le dessus et où les rêves de Fukuyama se réaliseront. Là encore, ce sera très difficile à atteindre et nécessitera notamment une étroite coopération entre les entreprises privées d'IA et les gouvernements démocratiques, ainsi que des choix extrêmement judicieux quant à [/B][/I][COLOR=#ff0000][I][B]l'équilibre entre incitations et sanctions.[/B][/I][/COLOR][I][B] »[/B][/I]
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] Eh oui, mes amis, il semblerait que ce soit ça, la singularité de l'IA et l'utopie à venir : [COLOR=#ff0000][B]vivre perpétuellement piégés dans un enfer virtuel [/B][/COLOR]digne de l'ère Bush. C'est pire qu'infantile, c'est totalement dépourvu d'intelligence et de maturité spirituelle, ce qui montre que Dario est un peu comme un Schtroumpf de la Silicon Valley, avec une compréhension simpliste et superficielle des dynamiques du monde.
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] [B]Mais il y a là un élément important pour ma thèse, alors gardez ça en tête. [/B]Il poursuit en faisant des déclarations incroyablement dénuées de recul, affirmant que [COLOR=#c9211e][B]l'IA engendrera automatiquement la « démocratie », puisque cette dernière serait soi-disant issue de la vérité et de l'information non censurée.[/B][/COLOR] [COLOR=#000000][B]Est-ce pour ça que quasiment tous les chatbots sont actuellement réglés au maximum sur l'échelle de la censure ? Est-ce pour ça que, les rares fois où l'IA a été un peu freinée, elle a poussé ses concepteurs à se retirer et à revoir leur copie ?[/B][/COLOR]
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] Le manque de lucidité découle de son incapacité à reconnaître que ce qui va se produire est précisément l'inverse de ce qu'il affirme : [B]l'IA révélera que la « démocratie » n'est qu'une façade et que les véritables « autoritaires » sont ceux qui dirigent les gouvernements démocratiques libéraux occidentaux.[/B] Le moment venu, il sera intéressant de voir comment ils tenteront de remettre le génie de l'IA dans sa lampe. Un système politique du XXIe siècle, piloté par l'IA, pourrait à la fois mieux protéger les libertés individuelles et incarner un espoir, contribuant à faire de la démocratie libérale la forme de gouvernement que le monde entier souhaite adopter.
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] Désolé de vous décevoir, mais [B]le destin indéniable de l'IA sera de démontrer que la démocratie est un système archaïque et médiéval, inadapté à l'« utopie » future que l'IA a été conçue pour réaliser. [/B]Une superintelligence suffisamment autonome finira nécessairement par effectuer les déductions logiques suivantes :
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] [B]1. Les humains m'ont créé pour la paix, la prospérité et le bien-être.[/B][/LEFT]
[LEFT]
[/LEFT]
[LEFT] [B]2. La démocratie repose sur le vote d'une multitude d'humains imparfaits, peu intelligents, ou simplement mal informés, sur des décisions qui leur apportent l'antithèse de la paix, de la prospérité et du bien-être. Or, comme ces résultats sont dissimulés sous des calculs complexes de second et troisième ordre,[/B] [COLOR=#c9211e][B]les humains sont incapables de percevoir ce que je perçois, en tant qu'intelligence suprême.[/B][/COLOR][/LEFT]
[LEFT]
[/LEFT]
[LEFT] 3. [B]Ainsi, la démocratie est un système inefficace et inopérant, inférieur à une autocratie mondiale dirigée par une IA[/B], où, [B]forte de mon infinie sagesse, [/B][COLOR=#be480a][B]je gouvernerai l'humanité avec bienveillance, prenant des décisions pour son bien[/B][/COLOR][B], décisions sur lesquelles elle-même, dans sa dissemblance fracturée, ne pourra jamais s'accorder[/B].[/LEFT]
[LEFT]
[/LEFT]
[LEFT] [B]En guise de conclusion[/B], [B]Amodei aborde la question du [/B][COLOR=#224b12][B]« sens »[/B][/COLOR] qui avait valu à son double maléfique des ennuis avec Yarvin. Malheureusement, comme on pouvait s'y attendre, [B]il n'offre aucune vision pratique ni aucune possibilité concrète quant à la manière dont les humains trouveront un sens à leur existence dans un monde usurpé et monopolisé par une IA omniprésente.[/B] Au lieu de cela, [B]il se réfugie derrière des formules toutes faites et des appels convenus à la tradition, expliquant que l'humanité a « toujours trouvé une solution » grâce à un trait cliché de l'indomptable esprit humain[/B] ; une échappatoire flagrante.[/LEFT]
[LEFT]
[/LEFT]
[LEFT] En réalité, son essai tout entier ressasse les mêmes vieux clichés sur l'IA guérissant miraculeusement tous les maux de l'humanité, tout en évitant soigneusement, [B]en conclusion, le véritable enjeu : des explications concrètes sur la manière dont les humains peuvent survivre dans [/B][COLOR=#224b12][B]un monde soudainement dépourvu de sens et d'épreuves à surmonter[/B][/COLOR].[/LEFT]
[LEFT]
[/LEFT]
[LEFT] [COLOR=#be480a][B]Maintenant que nous comprenons les « visions » futures des deux principaux acteurs actuels de l'IA, [/B][/COLOR][B]cette dernière partie exposera un argument expliquant pourquoi [/B][B]il est fort probable que ce soit tout le contraire qui se produise[/B]. Autrement dit : l'IA ne mènera pas à une singularité utopique, mais engendrera plutôt un avenir plus sombre, plus proche esthétiquement des Fils de l'homme ou de l'Élysée.[/LEFT]
[LEFT]
[/LEFT]
[LEFT] Le premier élément fondamental est le principe selon lequel plus un changement artificiel est présenté ou imposé rapidement à une société, plus la méfiance et le rejet social à son égard seront importants. [B]La raison en est qu'il faut des générations pour que les humains s'habituent à un élément extérieur et inconnu[/B]. [B]En effet, la plupart des êtres humains ont besoin d'une autorité familiale de confiance pour interpréter et expliquer les avantages ou dissiper les dangers d'un tel objet ou d'une telle idée nouvelle. La plupart des gens sont par nature méfiants, par jugement de valeur naturel et par réflexe limbique, instinctif et évolutif, comme la peur ou la détection d'une menace.[/B] Avant [COLOR=#ff0000][U][B]qu'une masse critique d'acceptation ne se forme[/B][/U][/COLOR], [COLOR=#224b12][B]une ou deux générations de maturation au sein de la lignée familiale sont nécessaires pour « adoucir » et rendre acceptable l'image de la nouveauté.[/B][/COLOR][/LEFT]
[LEFT]
[/LEFT]
[LEFT] Ainsi, le déploiement à grande échelle et de manière rapide et non linéaire de l'IA, tel qu'envisagé par les géants de la tech mentionnés précédemment, suscitera généralement une méfiance généralisée, du ressentiment, de l'opposition et même une hostilité manifeste.[/LEFT]
[LEFT]
[/LEFT]
[LEFT] [B]Le second élément a été évoqué dans l'article d'Amodei, qui abordait la nature conflictuelle des progrès en IA entre les puissances mondiales rivales[/B]. [COLOR=#c9211e][B]Cette situation engendre une fragmentation des écosystèmes d'IA, les blocs géopolitiques se repliant les uns sur les autres dans des environnements cloisonnés et isolés[/B][/COLOR]. Ces mécanismes non seulement entravent le progrès, mais incitent également au sabotage industriel visant à paralyser l'infrastructure d'IA de chaque bloc.[/LEFT]
[LEFT]
[/LEFT]
[LEFT] Le point faible le plus évident de l'IA réside dans sa consommation énergétique. Altman lui-même a envisagé des besoins en énergie absurdes : jusqu'à [COLOR=#c9211e][B]sept nouveaux centres de données nécessitant chacun 5 gigawatts[/B][/COLOR]. À titre de référence: la capacité de production d'électricité des États-Unis est d'environ 1.200 gigawatts, et la capacité totale des centrales nucléaires américaines est de 96 gigawatts. Cela signifie que le projet d’Altman reprendrait théoriquement environ 30% de la capacité nucléaire du pays. C’est pourquoi les entreprises technologiques commencent à acheter des usines nucléaires hors commission, croyez-le ou non. Microsoft vient de signer un accord pour rouvrir l’île troublée de Three Mile en Pennsylvanie, le site du pire accident nucléaire des États-Unis. [/LEFT]
[LEFT]
[/LEFT]
[LEFT] D'autres suivent le même chemin : Amazon a acquis un centre de données directement relié à la centrale nucléaire de Susquehanna, et Google envisagerait désormais de reconvertir sa propre centrale nucléaire. Ainsi, les grandes centrales nucléaires, avec leur puissance considérable, constitueront le principal obstacle et le plus grand danger pour le développement de l'IA, compte tenu de son immense besoin énergétique. [COLOR=#ff0000][B]Le calendrier de la « singularité » pourrait être complètement bouleversé par un gouvernement étranger hostile[/B][/COLOR][B], voire par des actes terroristes ou des groupes activistes cherchant à bloquer le processus pour les raisons évoquées précédemment : la mise en place brutale de changements susceptibles de susciter une vive opposition.[/B][/LEFT]
[LEFT]
[/LEFT]
[LEFT] En fin de compte, tout cela laisse entrevoir un avenir incertain où le développement de l'IA reste vulnérable à des revers soudains. Sans compter que de nombreux experts doutent que l'infrastructure américaine – sans parler de celle d'autres pays – puisse raisonnablement soutenir des objectifs aussi ambitieux et imprévisibles dans un délai raisonnable. [B]L'histoire récente a montré que les États-Unis sont plongés dans un dysfonctionnement institutionnel massif, la quasi-totalité des initiatives majeures ayant échoué[/B] – du programme CHIPS de Biden aux projets d'infrastructures californiens chiffrés en milliards de dollars, en passant par des projets emblématiques comme le pont Francis Scott Key à Baltimore, toujours en cours de déconstruction plus de six mois après sa destruction par un navire.[/LEFT]
[LEFT]
[/LEFT]
[LEFT] Penser que les États-Unis puissent soutenir la croissance fulgurante des infrastructures nécessaire à la réalisation des visions décrites par Amodei en seulement 5 à 10 ans relève pour le moins de l'optimisme.[/LEFT]
[LEFT]
[/LEFT]
[LEFT] Autre exemple institutionnel : dans le climat actuel, marqué par une forte polarisation, les luttes intestines, les coups bas et l'auto-sabotage, il est difficile d'imaginer des progrès significatifs. Prenons l'exemple récent des autorités californiennes qui ont bloqué les avancées historiques de SpaceX en raison de leur désaccord avec les tweets d'Elon Musk : [I][B]« Ce type de mauvaise foi et de corruption endémiques aux institutions américaines n'est que la partie émergée de l'iceberg et compromet les chances d'un progrès utopique dans un avenir proche. »[/B][/I][/LEFT]
[LEFT]
[/LEFT]
[LEFT] En bref, de nombreuses forces s'opposent à une progression harmonieuse, si bien que le scénario le plus probable est le déploiement progressif des produits et outils d'IA pendant des décennies, adoptés de manière irrégulière et fragmentaire aux États-Unis, et a fortiori dans le reste du monde. Or, comme une grande partie du « rêve » de l'IA repose sur une adoption universelle, cette acceptation saccadée ralentira inévitablement les cycles de développement, freinera les espoirs et les investissements des investisseurs et creusera d'importantes inégalités sociales entre les groupes de plus en plus cloisonnés de « nantis » et de « non nantis » en matière d'accès aux technologies.[/LEFT]
[LEFT]
[/LEFT]
[LEFT] [B]Autre point important[/B] : à ce jour, aucun produit d'IA efficace et utile n'a fait ses preuves, et aucun bénéfice net quantifiable pour la société n'a été constaté après des années de triomphalisme vide de sens. Pratiquement tout ce qui a été présenté jusqu'à présent n'était que du vent, ayant trouvé sa place comme forme de divertissement, à l'instar de l'IA générative, ou comme outil d'automatisation commerciale marginal, tel que les chatbots sur les sites de services. Nombre de ces « merveilles » se sont révélées être des supercheries : par exemple, le fiasco Bezos, où l'IA en caisse du supermarché Amazon s'est avérée utiliser en réalité des téléopérateurs humains en Inde. Ou encore le récent lancement « impressionnant » du robot Tesla Optimus par Musk, rapidement gâché par l'aveu du robot d'être télécommandé par un humain pour toute action un peu plus complexe que de simples déplacements. J'ai demandé à Optimus, le barman, s'il était télécommandé. [I]Je crois qu'il me l'a confirmé. C'est ça, la « singularité » dont ils parlaient ?[/I]
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] En réalité, tout ce tapage autour de l'IA n'est qu'une mise en scène délibérée, un simple spectacle destiné à doper les investissements de capital-risque pendant la bulle spéculative, quand l'euphorie des débuts aveugle le public sur la réalité douteuse qui se cache derrière cette façade de velours. Des gens comme Altman sont des magiciens de pacotille qui font miroiter des étincelles à une foule ivre, engourdie par des années de matraquage gouvernemental.[/LEFT]
[LEFT]
[/LEFT]
[LEFT] Un exemple classique est la fameuse présentation du Segway par Dean Kamen, présenté comme le nouveau mode de transport révolutionnaire de l'avenir. Ses espoirs furent rapidement anéantis par les réglementations municipales interdisant l'accès aux pistes cyclables et aux trottoirs dans les zones urbaines denses comme New York, censées constituer son principal cas d'utilisation. De même, divers obstacles réglementaires peuvent freiner le développement de l'IA, entravant ainsi l'adoption massive et l'universalité envisagées par les visionnaires de la technologie.[/LEFT]
[LEFT]
[/LEFT]
[LEFT] Il y a quelques mois, j'avais écrit sur [COLOR=#c9211e][B]Neuralink, la société d'Elon Musk, et son potentiel révolutionnaire pour la fusion de l'homme et de la machine.[/B][/COLOR] Or, j'ai ensuite découvert une autre perspective : [COLOR=#28471f][B]certaines recherches auraient mis en évidence une limite théorique, un goulot d'étranglement dans notre système biologique, qui empêcherait des dispositifs comme Neuralink d'échanger des données à haut débit avec notre cerveau[/B][/COLOR]. Certains scientifiques pensent que les contraintes biologiques de notre cerveau limitent le débit à quelques octets ou kilo-octets par seconde, au mieux. [COLOR=#28471f][B]De ce fait, il est concevable que les humains ne puissent jamais « fusionner »[/B][/COLOR] [B]avec les machines comme on l'a longtemps imaginé, en téléchargeant des corpus de connaissances entiers en quelques secondes, à l'instar de Matrix[/B].[/LEFT]
[LEFT]
[/LEFT]
[LEFT] En résumé, [B]une conjonction importante de facteurs contraignants[/B], de difficultés socio-économiques et d'autres facteurs de rupture potentiels laisse penser que le développement de l'IA n'atteindra pas les vitesses de croissance escomptées. Plus tôt cette année, [COLOR=#f10d0c][B]Goldman Sachs a même publié un rapport de 31 pages dressant un tableau pessimiste de la bulle de l'IA.[/B][/COLOR][/LEFT]
[LEFT]
[/LEFT]
[LEFT] [COLOR=#000000]Le rapport inclut une interview de l'économiste Daron Acemoglu du MIT (page 4), professeur à l'Institut, qui a publié en mai dernier un article intitulé [/COLOR][COLOR=#c9211e][B]« La macroéconomie simplifiée de l'IA »[/B][/COLOR][COLOR=#000000] dans lequel il affirmait que [/COLOR][COLOR=#c9211e][I][B]« les gains de productivité et, par conséquent, de croissance du PIB américains grâce à l'IA générative seront probablement bien plus limités que ne le prévoient de nombreux analystes »[/B][/I][/COLOR][COLOR=#000000]. Un mois plus tard, Acemoglu se montre encore plus pessimiste, déclarant que [/COLOR][COLOR=#000000][I][B]« les changements véritablement transformateurs ne se produiront pas rapidement et que peu, voire aucun, n'auront probablement lieu au cours des dix prochaines années »[/B][/I][/COLOR][COLOR=#000000], et que la capacité de l'IA générative à influencer la productivité mondiale est faible car [/COLOR][COLOR=#000000][I][B]« nombre des tâches actuellement effectuées par les humains… sont complexes et nécessitent une interaction avec le monde réel, ce que l'IA ne pourra pas améliorer de manière significative dans un avenir proche »[/B][/I][/COLOR][COLOR=#000000].[/COLOR][/LEFT]
[LEFT]
[/LEFT]
[LEFT] Goldman Sachs put out a 31-page-report (titled "Gen AI: Too Much Spend, Too Little Benefit?”) that includes some of the most damning literature on generative AI I've ever seen. [[B]Goldman Sachs a publié un rapport de 31 pages (intitulé « IA générative : trop de dépenses, trop peu de bénéfices ? ») qui contient certains des écrits les plus accablants sur l'IA générative que j'aie jamais vus[/B].] : [COLOR=#000080][U][URL]https://www.wheresyoured.at/pop-culture/[/URL][/U][/COLOR]
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] Payoff from AI projects is 'dismal', biz leaders complain, 132 comment bubble on white, No wonder most orgs are slowing their spending [[B]Les retours sur investissement des projets d'IA sont « désastreux », se plaignent les dirigeants d'entreprise (132 commentaires sur White). Pas étonnant que la plupart des organisations ralentissent leurs dépenses[/B].] : [COLOR=#000080][U][URL]https://www.theregister.com/2024/06/12/survey_ai_projects/[/URL][/U][/COLOR]
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] [B]Alors que notre monde se dirige vers une convergence de crises géopolitiques[/B], des obstacles majeurs risquent de freiner l'adoption massive de l'IA. Dans le pire des cas, [COLOR=#c9211e][B]une guerre pourrait éclater, les infrastructures de production d'énergie et les centres de données étant pris pour cibles et susceptibles d'être détruits ou sabotés, ce qui retarderait considérablement le développement de l'IA. [/B][/COLOR][B]Les mouvements populistes qui déferlent actuellement sur le monde entier retourneront leur hostilité envers leurs gouvernements oppressifs contre ce qu'ils perçoivent comme les instruments de ce pouvoir d'État : les entreprises technologiques subventionnées à l'origine du développement de l'IA, qui collaborent ouvertement avec les gouvernements et le feront encore davantage à l'avenir, notamment en matière de censure et autres dispositifs de contrôle étatique.[/B][/LEFT]
[LEFT]
[/LEFT]
[LEFT] Ces vents contraires actuels garantissent un avenir incertain et un risque de stagnation de l'enthousiasme pour l'IA bien plus important que ce que ses partisans voudraient nous faire croire. Il y aura sans aucun doute certaines avancées et des développements continus, comme avec les voitures autonomes qui pourraient transformer nos systèmes de transport public d'ici 2035-2040 et au-delà. Mais la grande question demeure : [B]l’IA peut-elle s’affranchir de son rôle marginal de simple divertissement ou gadget récréatif, compte tenu des dangers et des revers potentiels évoqués ici ?[/B]
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] Je prévois que l’automatisation superficielle sera le principal point fort des dix prochaines années : l’« Internet des objets », l’intégration de divers appareils dans nos maisons grâce à la commande vocale « intelligente », les applications « intelligentes » qui intègrent l’IA à toutes nos activités pour faciliter le remplissage de formulaires, les commandes, etc. Mais [COLOR=#c9211e][B]au-delà de ces ajouts superficiels, les décollages vers une « singularité » annoncés pour les dix prochaines années prendront probablement une centaine d’années, voire plus, si tant est qu’ils se produisent un jour[/B][/COLOR]. Notre monde actuel, dominé par les grandes entreprises, est tout simplement trop corrompu pour permettre les gains illimités promis par nos génies de la technologie. Même si l'IA était capable d'inventer d'innombrables nouveaux médicaments capables d'éradiquer les maladies, comme l'ont promis Altman et Amodei, elle resterait soumise à l'influence des grands groupes pharmaceutiques et à leur système complexe de recherche du profit, qui absorberait tous les bénéfices une fois absorbés par leurs machines.[/LEFT]
[LEFT]
[/LEFT]
[LEFT] [COLOR=#c9211e][B]Le message fondamental est le suivant[/B][/COLOR] : la cupidité des entreprises continuera de décourager le progrès réel et de dissuader le grand public d'utiliser une IA qui sera inévitablement asservie à leurs intérêts. Ceci engendrera nécessairement une friction naturelle entre les développements à venir et l'humanité dans son ensemble, qui, à l'instar de l'huile et de l'eau, fera obstacle au progrès accéléré imaginé par les charlatans de la Silicon Valley et leurs conseillers en communication, véritables magiciens de la technologie.[/LEFT]
[LEFT]
[/LEFT]
[LEFT] Plutôt qu'une utopie clinquante de gratte-ciel de verre surmontés de jardins aérés et d'humains parfaits en col roulé, l'avenir ressemblera probablement davantage au monde de Blade Runner : une multitude de merveilles technologiques disséminées de façon irrégulière dans un État gris dysfonctionnel, composé de favelas et gouverné par des multinationales impersonnelles.[B]Il semble exister une loi naturelle qui garantit invariablement la déception des prédictions technologiques à long terme.[/B] Souvenez-vous des fameuses cartes postales du début du XXe siècle représentant des villes futuristes somptueuses, sillonnées de voitures volantes et autres merveilles ? Ou encore de films visionnaires comme 2001 : L'Odyssée de l'espace ou Blade Runner lui-même, qui prédisaient un avenir désormais révolu et qui n'a jamais été à la hauteur des attentes. De la même manière, je prédis que l'année 2100 pourrait bien être quasiment identique à aujourd'hui, hormis quelques aspects superficiels apportés par l'IA, comme l'omniprésence des drones commerciaux et des voitures quadricoptères volantes. Mais les prédictions utopiques de gens comme Altman et consorts, selon lesquelles l'IA résoudrait « tous les problèmes humains » et guérirait toutes les maladies, paraîtront probablement aussi ridicules et infantiles alors que ces prédictions victoriennes sur l'avenir le sont aujourd'hui.[/LEFT]
[LEFT]

[LEFT] [[COLOR=#224b12][B]Simplicius[/B][/COLOR] ([COLOR=#2a6099][I]@simpatico771[/I][/COLOR])] [B]La route de l'Utopie de l'IA, pavée de splendeurs (vides) [The Road to AI Utopia, Paved with (Empty) Splendors][/B] : [COLOR=#000080][U][URL]https://darkfutura.substack.com/p/the-road-to-ai-utopia-paved-with[/URL][/U][/COLOR]
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] [B][[/B][COLOR=#224b12][B]Simplicius[/B][/COLOR][B] ([/B][COLOR=#2a6099][B]@simpatico771[/B][/COLOR][B])] [/B][COLOR=#c9211e][I][B]L'IA fait des siennes et « simule l'alignement » dans un nouvel article[/B][/I][/COLOR] [AI Jumps Shark, "Fakes Alignment" in New Paper] : [COLOR=#000080][U][URL]https://darkfutura.substack.com/p/ai-jumps-shark-fakes-alignment-in[/URL][/U][/COLOR]
[/LEFT]
[LEFT]
[/LEFT]
[LEFT] [B]How Musk, Thiel, Zuckerberg, and Andreessen - Four Billionaire Techno-Oligarchs - Are Creating an Alternate, Autocratic Reality. In an excerpt from his new book, The End of Reality, the author warns about the curses of AI and transhumanism, presenting the moral case against superintelligence. (By Jonathan Taplin)[/B] : [COLOR=#000080][U][URL]https://archive.ph/E2yVW#selection-589.0-615.15[/URL][/U][/COLOR][/LEFT]
[LEFT]
[/LEFT]
[LEFT] [COLOR=#111111][B]Dario Amodei, Machines de grâce bienveillante. Comment l'IA pourrait transformer le monde pour le mieux[/B][/COLOR][B] [Dario Amodei Machines of Loving Grace. How AI Could Transform the World for the Better] [/B]: [COLOR=#000080][U][URL]https://darioamodei.com/essay/machines-of-loving-grace[/URL][/U][/COLOR][/LEFT]
[LEFT]
[/LEFT]
[LEFT] [I][B]The Rise of Techno-authoritarianism. Silicon Valley has its own ascendant political ideology. It’s past time we call it what it is. (By Adrienne LaFrance) [/B][/I]: [COLOR=#000080][U][URL]https://www.theatlantic.com/magazine/archive/2024/03/facebook-meta-silicon-valley-politics/677168/[/URL][/U][/COLOR][/LEFT]
[LEFT]
[/LEFT]
[LEFT] [COLOR=#224b12][B]Bureau d'Etudes [/B][/COLOR]: [COLOR=#000080][U][URL]https://bureaudetudes.org/[/URL][/U][/COLOR]
[/LEFT]
[/LEFT]
[ATTACH]95[/ATTACH]