Sur Twitter comme partout dans la Silicon Valley et dans la tech américaine, le mouvement e/acc prospère, et veut faire accélérer le développement de l’IA et atteindre l’AGI.
Auteur / Autrice :
E/acc : le combat de ceux qui veulent aller plus vite, plus loin, dans l’IA
Une nouvelle fracture culturelle divise la Silicon Valley en deux: d’un côté, les « accelerationist », qui prônent l’accélération, et de l’autre les « decel », qui prônent la décélération.
Pour développer, les accélérationnistes veulent accélérer le progrès technologique, et en particulier dans le domaine de l’intelligence artificielle. Ce groupe d’entrepreneurs, d’investisseurs et de technophiles a adopté le label « e/acc », qui signifie « accélérationnisme efficace » (« effective accelerationism » en anglais)
Ce terme fait référence à l’altruisme efficace (« effective altruism » en anglais, ou EA), un mouvement philanthropique qui est devenu obsédé par l’idée de s’assurer que l’intelligence artificielle est développée en toute sécurité, afin qu’elle ne devienne pas un fléau et n’anéantisse pas l’humanité.
Sam Bankman-Fried, le plus célèbre des membres du courant EA, a exprimé ce type de préoccupations – en marge des graves problèmes qui l’ont fait passer de milliardaire génial à accusé endetté devant les tribunaux. Certains autres acteurs de l’effective altruism veulent réglementer, voire stopper le développement de l’IA. Une vision qui n’est pas sans rappeler les interrogations récurrentes de Elon Musk, qui n’est pourtant pas du tout un membre du mouvement.
À l’opposé, les membres du courant E/acc (à prononcer « ee-ack ») ne veulent pas ralentir le développement de l’IA, et pense que le faire serait un ralentissement, et un obstacle grave au progrès. Ils qualifient ceux qui sont convaincus que le développement de l’IA doit « ralentir pour la sécurité de l’humanité » de « safetypilled ». L’industrie technologique et son jargon…
Le mouvement e/acc compte quelques partisans importants, dont l’actuel président de Y Combinator (l’incubateur de Paul Graham qui a lancé la carrière de Sam Altman), Garry Tan. Mais aussi l’investisseur milliardaire Marc Andreessen (de A16Z), qui a publié en octobre un très, très long manifeste : « The Techno-Optimist Manifesto ». Selon son essai sur le techno-optimisme, le mouvement e/acc abhorre des idées telles que « risque existentiel », « durabilité » et « ESG ».
Selon la journaliste de Bloomberg Ellen Huet, « Être un e/acc, c’est se déclarer agressivement et inconditionnellement pro-technologie. Après des années de réactions négatives du public à l’égard des grandes entreprises technologiques – à propos de la désinformation, de l’antitrust et de la confidentialité des données – l’e/acc est devenu le cri de ralliement d’une réaction à la réaction. »
Les récente secousses au sein de la direction d’OpenAI ont donné une occasion spéciale aux partisans actifs du mouvement e/acc de donner de la voix. Nombre d’entre eux ont dénoncé haut et fort les deux membres du conseil d’administration de l’entreprise – des femmes, Helen Toner et Tasha McCauley – qui ont vu dans le comportement d’Altman des facteurs de risque. Et, bien sûr, ils ont célébré le retour du jeune messie de l’AGI lorsqu’il a été rétabli dans ses fonctions à la tête d’OpenAI.
Le fossé entre les partisans de l’accélération et ceux du ralentissement de l’encadrement s’observe aussi du côté des investisseurs en capital-risque de la « tech ». Lorsque le CEO de General Catalyst, Hemant Taneja, a publié sur le Twitter un engagement en faveur d’un développement « responsable » de l’IA, d’autres l’ont critiqué, dont Andrew Chen, partner chez Andreessen Horowitz (A16Z), qui a commenté d’un laconique « Non merci ».
Les leaders du mouvement e/acc
Le mouvement accélérationniste prospère en particulier sur Twitter, place forte de la tech américaine, où les partisans inscrivent « e/acc » dans leur nom de profil et retweetent les messages et memes (parfois absurdes) de deux leaders pseudonymes de l’e/acc :
- Beff Jezos : selon lui d’ailleurs, Sergey Brin, Larry Page et Demis Hassabis sont « des e/acc hardcore », tout comme Sundar Pichai.
- Lord Bayes
Des pseudos, mais la véritable identité de Beff Jezos a cependant été doxxé par Forbes, il y a quelques jours.
Et maintenant que l’un des principaux visages de l’e/acc a été dévoilé, les idées du groupe – dont certaines sont troublantes – vont faire l’objet d’un examen plus approfondi. Beff Jezos, que Marc Andreessen a qualifié de « saint patron du techno-optimisme », a écrit qu’il se considérait comme un « post-humaniste », une idée qui veut que la sélection naturelle pourrait amener l’IA à nous remplacer en tant qu’espèce dominante. « Pour se répandre dans les étoiles, la lumière de la conscience/intelligence devra être transposée sur des substrats non biologiques », écrivait-il, dans un de ses nombreux messages.
Il a également fait l’éloge du mantra de l’e/acc, selon lequel « nous allons faire en sorte que l’avenir soit meilleur ». Ce sentiment de contribuer à quelque chose de plus grand « vous donne cette dopamine infinie qui vous pousse à passer les longues nuits, à sauter les repas de fête, à déposer plus de PI et à faire des heures », a-t-il déclaré aussi.
Pour certains autres partisans du mouvement, « E/acc est une forme de spiritualité. »
« What the f* is e/acc » : Les premières explications complètes de ce qu’est le mouvement e/acc
Sur la plateforme Substack, les leaders du mouvement e/acc ont publié le 22 décembre 2022 un long article détaillant leur vision, nommé « What the f* is e/acc ».
Le voici (traduit de l’anglais) :
What the f* is e/acc
Il est difficile d’éviter les messages : l’humanité est mauvaise. Nous sommes trop nombreux. Nos problèmes sont trop nombreux et trop difficiles à résoudre.
Beaucoup de gens disent que la solution à ces problèmes est de faire un pas en arrière, que la solution est la décroissance. Mais la décroissance est une sorte de capitulation. La décroissance, c’est de la planification centrale dopée à l’esprit de pénurie. La décroissance est un loup déguisé en agneau.
Le XXe siècle regorge d’exemples des inconvénients et des limites de ce type d’approche. Mais quelle est l’alternative ?
Il vous est peut-être arrivé de tomber sur un article concernant l’e/acc et de vous sentir plus confus après l’avoir lu qu’au début. C’est compréhensible ; il peut être difficile de trouver le bon endroit pour commencer, et certaines des idées qui sous-tendent l’e/acc peuvent être un peu ésotériques.
Votre confusion douloureuse est sur le point de prendre fin, car dans ce billet, votre humble auteur va vous révéler les secrets de l’e/acc. Si vous ne retenez qu’une chose de cet article, c’est que le message fondamental de l’e/acc est positif : nous allons tous y arriver.
Il ne s’agit pas de foi ou d’optimisme simpliste. Au cœur de l’e/acc se trouve un ensemble de conclusions sur le monde tirées de la physique de la vie elle-même, et la voie à suivre qu’il trace est aussi claire que convaincante. Tout ce qu’il reste à faire, c’est de participer et d’aider. Il ne reste plus qu’à construire.
Plus concrètement, l’e/acc vise à déterminer comment et pourquoi nous nous épanouirons tous dans le monde que nous sommes en train de construire. Dans un monde où nous sommes nourris d’un flot constant de raisons de désespérer, l’e/acc est une raison d’espérer en ce moment même. C’est, plus que toute autre chose, la raison pour laquelle l’e/acc est le point nodal de tant d’énergie, et la raison pour laquelle j’espère qu’il vous enthousiasmera également.
Attachez votre ceinture.
Qu’est-ce que l’accélérationnisme effectif ?
L’essence de l’e/acc (accélérationnisme effectif) est la croyance, basée sur la thermodynamique, que l’existence possède certaines caractéristiques qui se prêtent le mieux à une vie en expansion continue. Nous y reviendrons bientôt.
Tout d’abord, d’un point de vue pratique, la solution aux problèmes auxquels l’humanité est confrontée est d’en sortir par la croissance. L’humanité résout les problèmes par le progrès technologique et la croissance. Les exemples contraires dans l’histoire – où l’humanité a résolu un problème en reculant – sont rares, voire inexistants. Ce n’est pas une surprise, c’est même une conséquence de notre réalité physique.
Rien ne nous empêche de créer l’abondance pour chaque être humain vivant, si ce n’est la volonté de le faire. Nous disposons de la plus puissante technologie de l’information connue de l’homme : le marché. Et la même croissance technologique qui nous aide dans d’autres domaines accroît également le pouvoir du marché.
D’un point de vue stratégique, nous devons nous efforcer d’atteindre plusieurs objectifs civilisationnels globaux qui sont tous interdépendants.
Augmenter la quantité d’énergie que nous pouvons exploiter en tant qu’espèce (gravir le gradient de Kardashev). À court terme, cela signifie presque certainement la fission nucléaire.
Accroître l’épanouissement humain par des politiques favorables à la croissance démographique et à la croissance économique (altruisme émergent, mise du pouvoir économique et de l’agence entre les mains des plus faibles).
Créer l’intelligence artificielle générale (qui permet de compléter le travail par du capital), le plus grand multiplicateur de force de l’histoire de l’humanité.
Développer les transports interplanétaires et interstellaires afin que l’humanité puisse s’étendre au-delà de la Terre.
Pourquoi y croyez-vous ?
Pour beaucoup, les idées qui sous-tendent l’e/acc deviennent intuitivement évidentes dès que l’on s’y attarde. Si c’est votre cas, ce n’est pas grave, vous n’avez pas à vous battre avec la physique si vous ne le souhaitez pas. Pour ceux qui le souhaitent, voici un point de départ. Je dis « commencer » parce que cela se trouve au plus profond de la physique, dans la thermodynamique statistique.
La physique de notre univers favorise la création de structures qui consomment de l’énergie pour maintenir l’ordre interne en extériorisant l’entropie (par exemple en rejetant de la chaleur dans l’environnement). C’est la conséquence d’un effet de la thermodynamique statistique appelé fluctuation-dissipation de Jarzynski-Crooks.
Plus ces structures de décharge d’entropie peuvent utiliser efficacement l’énergie, plus leurs états de faible entropie deviennent résistants. Ces structures comprennent tout ce que nous considérons comme de la vie.
En d’autres termes, la thermodynamique favorise la création d’une vie complexe qui augmente sa capacité à utiliser l’énergie pour décharger l’entropie. Dans les conditions de notre univers, le développement d’une vie complexe est presque aussi inévitable qu’une balle qui dévale une colline.
Voulez-vous vous débarrasser des êtres humains ?
Non. L’épanouissement humain est l’une de nos valeurs fondamentales ! Nous sommes des humains et nous aimons les humains.
La complexité des circonstances dans lesquelles la vie peut avoir besoin de survivre et de s’épanouir signifie que toute monoculture est indésirable. Un mélange diversifié de vie, allant de la vie cellulaire simple à la vie technologique fragile et puissante, en passant par la vie humaine complexe, représente un système capable de faire face à n’importe quelle circonstance et d’utiliser autant d’énergie que possible, de toutes sortes et à toutes les échelles possibles.
Certains environnements ne peuvent accueillir de manière productive qu’une vie biologique simple, par exemple les extrêmophiles. Il existe un gradient et la biologie aura toujours sa place. Au moins, la biologie reste le système de secours incroyablement résistant qui est le plus capable de repartir à zéro en cas de catastrophe.
« Alors quoi, vous voulez simplement élever l’humanité, construire l’IA et peupler l’univers avec un maximum de diversité et de quantité de vie ?
« : Oui
Le message se termine par des recommandations pour ceux qui seraient « convaincus » :
« Parlez de l’e/acc, exprimez votre optimisme quant à l’avenir et refusez d’avaler le désespoir et la peur dont on vous abreuve. N’ayez pas peur, construisez.
Qu’il s’agisse de construire une famille, une startup, un vaisseau spatial, un robot ou une meilleure politique énergétique, construisez.
Faites quelque chose de difficile. Faites-le pour tous ceux qui viendront après vous. C’est tout. L’existence s’occupera du reste. Il suffit de construire. »
Une vision loin d’être unanimement partagée
Les choses ont cependant évolué depuis bientôt un an, alors que l’IA n’est plus seulement portée par le lancement récent (novembre 2022) de ChatGPT, mais bien par un écosystème fourni, qui repousse tous les jours les limites… et qui semble cependant toujours très, très loin de mettre au point une AGI, selon le français Yann Le Cun, actuel Chief AI scientist de Meta, Prix Turing 2018 et voix la plus forte d’un appel à la raison.
Pour lui, l’AGI n’est pas pour demain, et ne pourra certainement pas découler d’un LLM auto-régressif, peu importe le nombre de données de formation qui lui sera fourni.
Il y a quelques heures seulement, il postait d’ailleurs le message suivant :
Pour la plupart des gens « sérieux », l’affirmation correcte est la suivante : « L’IA de niveau humain est toujours à 10-20 ans. »
Et de se moquer encore des « jeunes gens trop optimistes, les collecteurs de fonds de démarrage d’AGI et les technologues qui se font des illusions ».
