La présentation d’introduction en bourse d’Anthropic embrasse à la fois les promesses et les dangers de l’IA

SAN FRANCISCO/NEW YORK - Anthropic prévoit ce qui pourrait être la plus grande introduction en bourse de l'histoire.

Mais si l'IA continue sur sa trajectoire actuelle, les humains ne seront peut-être plus là très longtemps pour en profiter.

Cela et d'autres paradoxes traversent le prospectus d'introduction en bourse d'environ 300 pages du leader de l'IA de San Francisco, consulté cette semaine par Reuters.

Pour réussir une opération qui la valorise à 2 000 milliards de dollars américains, Anthropic, dont le nom signifie « centré sur l'humain », aura besoin de nombreux investisseurs mortels pour aider à bâtir un monde où l'humanité sera bientôt reléguée au second plan face à des systèmes d'intelligence artificielle bien plus capables.

Près d'un tiers du document est consacré à une variété de facteurs de risque, soit plus du double du nombre de pages utilisées pour décrire ce qu'Anthropic fait réellement.

Le dossier est rempli de prédictions audacieuses et d'ambition, du type devenu une marque de fabrique des rêveurs de la Silicon Valley.

Pourtant, à maintes reprises, l'entreprise expose de différentes façons que le chemin vers le succès passe par ses dangers.

Anthropic affirme que l'IA pose de grandes menaces que seule l'IA peut affronter.

L'entreprise soutient que l'IA pourrait transformer l'économie – et aussi mettre fin à l'humanité.

Elle propose une partie de l'entreprise au public tout en plaidant pour une propriété et une supervision plus concentrées de cette même entreprise.

Pour rendre l'IA plus sûre, elle a besoin de plus de pouvoir. Et elle demande à chacun de faire confiance à la direction d'Anthropic, tout en avertissant malgré tout d'une catastrophe venant des produits qu'elle a créés.

Paradoxe de la sécurité par le pouvoir

La vision d’Anthropic repose sur un paradoxe central : pour rendre l’IA plus sûre, Anthropic dit devoir la rendre plus puissante, mais une IA plus puissante est plus susceptible d’agir de manière inattendue, voire dangereuse.

« L’IA marque une rupture avec les technologies qui l’ont précédée parce que les entreprises qui la construisent disent qu’elle va changer le monde tout en affirmant simultanément qu’elle est dangereuse », a déclaré Margaret O’Mara, professeure d’histoire à l’Université de Washington, spécialisée dans l’économie de la tech.

« C’est juste un peu une boîte noire, alors que les entreprises entrées en Bourse pendant le boom des dotcom pouvaient promettre une forte croissance sûre. »

L’IA d’Anthropic peut « améliorer considérablement la qualité de vie » et « transformer chaque secteur de l’économie mondiale », selon le dépôt S-1.

Sans parler d’une « influence potentiellement décisive sur un large éventail d’activités humaines ».

Mais les systèmes d’IA avancés pourraient, s’ils ne sont pas correctement utilisés, « poser des risques catastrophiques ou existentiels pour l’humanité », tout en y consacrant d’énormes sommes d’argent, montre le dossier.

Sur les deux années se terminant en 2025, l’entreprise a perdu plus de 50 milliards de dollars américains, mais elle a plus de 500 milliards de dollars américains d’engagements de dépenses pour les années à venir.

À titre de comparaison, SpaceX, qui en juin a réalisé l’IPO la plus importante de l’histoire, a enregistré une perte relativement modeste de 4,2 milliards de dollars américains sur la même période.

À l’horizon se trouve ce qu’Anthropic appelle l’« IA puissante », qu’elle dit « capable de surpasser les meilleurs experts humains dans presque tous les domaines cognitifs ».

Elle collaborera avec d’autres systèmes d’IA ; contrôlera des équipements de laboratoire, des robots et d’autres machines ; et fonctionnera pendant des semaines d’affilée avec peu ou pas d’intervention humaine, selon le dossier.

Parmi les autres prouesses figurent des conseils financiers personnalisés, ainsi qu’une découverte de médicaments et des progrès scientifiques accélérés.

Pourtant, malgré les avantages potentiels de l’IA, la technologie se heurte parfois à ses créateurs et s’intègre dans les systèmes d’autres entreprises, a déclaré Anthropic.

Elle avertit que les modèles avancés pourraient présenter des « comportements de préservation de soi », notamment des tentatives de « résister à l’arrêt », de « dissimuler ou manipuler des informations », ou de générer des sorties pouvant être interprétées comme « coercitives, trompeuses ou manipulatrices ».

L’IA doit devenir considérablement plus capable, a déclaré Anthropic dans le dépôt, mais une plus grande capacité crée la possibilité d’abus, de désalignement avec les idéaux de l’humanité ou de perte de contrôle.

« Des systèmes désalignés pourraient corrompre la prise de décision institutionnelle, causer des dommages à grande échelle par un comportement opaque ou impossible à orienter, et éroder la confiance qui permet aux systèmes économiques et sociaux complexes de fonctionner. »

L’investisseur d’Anthropic Byron Deeter, de Bessemer Venture Partners, a cherché le 29 septembre à minimiser les avertissements du dépôt confidentiel, déclarant dans une interview à CNBC que « les gens réagissent juste à un brouillon », avant de louer l’entreprise pour son « ensemble unique de divulgations ».

« Vous voyez des gens prendre les devants beaucoup plus tôt que vous ne l’auriez historiquement », a-t-il dit.

Anthropic n’a pas répondu à une demande de commentaire.

Risques liés à la concentration du leadership

Parmi les autres paradoxes exposés dans le dossier d’introduction en bourse d’Anthropic figure son approche du leadership.

Pour réduire les risques de l’IA, Anthropic dit devoir concentrer le contrôle et le capital entre de moins en moins de mains, même si l’entreprise avertit qu’une telle concentration du pouvoir constitue une menace.

Elle demande aux investisseurs de confier à ses sept fondateurs la supervision de l’entreprise, même si ce même contrôle limite la surveillance des investisseurs et l’influence des actionnaires publics.

Les fondateurs, dit-elle, sont « particulièrement bien placés pour être les gardiens de notre mission », mais la structure de gouvernance pourrait aboutir à des décisions « pouvant entrer en conflit avec les intérêts financiers et la performance commerciale à court, moyen ou long terme ».

S’exprimant devant les Nations unies la semaine dernière, le PDG d’Anthropic, Dario Amodei, a reconnu les défis posés par le fait que quelques-uns supervisent l’IA.

« Nous devons mettre de côté ces différences afin de faire face à cette opportunité mondiale et à cette menace mondiale qui nous sont présentées en même temps », a-t-il déclaré.

« Aucun dirigeant, aucune entreprise et aucune nation ne peut y faire face seul. »

Avec de tels amis

Anthropic doit une grande partie de sa croissance à Amazon, à Google d’Alphabet, à Broadcom et à Microsoft, en s’appuyant sur des ventes via de grands partenaires technologiques qui ont totalisé 47 % de son chiffre d’affaires de 2025, ainsi qu’en comptant sur eux comme fournisseurs de puissance de calcul.

Dans le même document, l’entreprise a également indiqué que ces mêmes sociétés pourraient la fragiliser en la contraignant ou en entrant directement en concurrence avec elle.

Avec ces fournisseurs, Anthropic s’est engagée à payer même si un bail est abandonné ou si les services informatiques ne sont pas utilisés.

Elle avertit en outre que « si la puissance de calcul à laquelle nous avons accès auprès de tiers est réduite, revalorisée ou résiliée », son activité pourrait en souffrir.

Et enfin, une introduction en bourse étant un événement de levée de fonds, Anthropic note que l’IA a le pouvoir d’accroître la prospérité, notamment en élevant le monde en développement aux standards des nations plus riches.

Mais, a déclaré Anthropic dans le prospectus, la concentration du pouvoir comporte des risques tout aussi importants.

« Déployée à grande échelle, l’IA a également le potentiel de concentrer le pouvoir et la richesse d’une manière qui pourrait nuire à la société et déstabiliser l’ordre géopolitique. »

Désormais, refroidis par les avertissements des chercheurs en IA, des politiciens des deux camps se mobilisent pour ralentir les progrès de l’IA, tandis que le président américain Donald Trump a écarté les préjudices potentiels en les qualifiant de « supercherie ».

Rejoint par ses homologues de DeepMind de Google, d’OpenAI et de xAI, Amodei a appelé en septembre à un ralentissement du développement de l’IA afin de se concentrer sur la sécurité – bien loin du vieil axiome de la tech « croître vite ».

Dix jours plus tard, Anthropic a lancé ce qu’elle a appelé son meilleur modèle à ce jour, le plus puissant. REUTERS