Leçon du Web2 pour l’IA : décentraliser pour protéger l’humanité

Cela va paraître présomptueux de la part d'un gars qui n'écrit T de code, et encore moins qui n'a aucune expérience directe en apprentissage automatique ou en recherche sur l'intelligence artificielle.

Mais je dois le dire : la récente demande alarmiste d’une pause de six mois , voire d’un arrêt militaire de la recherche sur l’IA – de la part de personnes ayant de l’expérience, de l’argent et de l’influence dans l’industrie de l’intelligence artificielle – est fondée sur une pensée fondamentalement erronée qui encouragera le même résultat destructeur pour l’humanité que nous cherchons à éviter. Le fait que le gouvernement américain orchestre simultanément une répression contre l’industrie de la Crypto , un domaine d’innovation open source qui développe le type de technologies de cryptographie et de coordination de réseau nécessaires pour gérer les menaces de l’IA, fait de ce moment un moment particulièrement dangereux pour nous tous.

Ces prophètes de malheur sont des informaticiens et non des étudiants en histoire économique. Le problème n’est pas, en soi, qu’une IA incontrôlable puisse évoluer pour nous tuer tous . (Nous le savons tous. Pendant des décennies, Hollywood nous a appris qu’il en était ainsi.) Non, la tâche consiste à garantir que les aspects économiques de l’IA n’encouragent T intrinsèquement cet horrible résultat. Nous devons empêcher que le contrôle concentré des entrées et sorties des machines d’IA n’entrave notre capacité à agir ensemble dans l’intérêt commun. Nous avons besoin d’un développement logiciel collectif et collaboratif qui crée un antidote informatique à ces cauchemars dystopiques.

Vous lisez Money Reimagined , un regard hebdomadaire sur les Événements et tendances technologiques, économiques et sociaux qui redéfinissent notre relation avec l'argent et transforment le système financier mondial. Abonnez-vous pour recevoir la newsletter complète ici .

La réponse ne consiste pas à arrêter l’innovation en matière d’IA et à verrouiller le créateur de ChatGPT, OpenAI, le leader de l’industrie qui a porté le domaine à son niveau de développement actuel, en pole position. Au contraire, c'est la meilleure façon de garantir que le cauchemar devienne réalité.

Nous le savons grâce à la débâcle du Web2, l’économie basée sur les plateformes sociales et axée sur la publicité, dans laquelle l’Internet décentralisé du Web1 a été recentralisé autour d’une oligarchie de géants agrégateurs de données omniscients, dont Google, Facebook et Amazon. Ils sont devenus les bénéficiaires de ce que Shoshana Zuboff a surnommé le « capitalisme de surveillance », et nous, les humains, en sommes devenus les victimes, une source passive de données personnelles qui nous sont extraites et recyclées dans des algorithmes modifiant notre comportement.

Tout cela s'est produit, non pas parce que les plateformes étaient moralement enclines à abandonner la maxime « Do T Be Evil » de Google, mais parce que la logique du marché les a poussées vers ce modèle. Les publicités fournissaient des revenus, et un nombre toujours croissant d’utilisateurs sur leurs plateformes fournissaient les données avec lesquelles les titans de l’Internet pouvaient façonner le comportement Human afin de maximiser les retours sur ces publicités. Les actionnaires, exigeant que ces gains exponentiels se poursuivent, ont fait pression sur eux pour qu'ils redoublent d'efforts sur ce modèle pour « atteindre le chiffre » chaque trimestre. À mesure que les effets de réseau se sont manifestés et que les plateformes ont attiré davantage d’utilisateurs grâce à une fonction de croissance auto-renforcée, les modèles d’extraction de données sont devenus plus lucratifs et plus difficiles à abandonner à mesure que les attentes de Wall Street étaient de plus en plus élevées.

Sur le même sujet : Les marques sauveront-elles la Crypto? Fais attention à ce que tu souhaites

Ce système d’exploitation prendra de l’ampleur si le développement de l’IA se déroule dans le cadre de la même structure monopolistique par défaut. La solution n’est pas d’arrêter la recherche mais d’inciter les développeurs d’IA à trouver des moyens de renverser ce modèle.

Pendant des siècles, le système capitaliste de marché a encouragé la concurrence entre entrepreneurs pour obtenir des parts de marché, générant ainsi richesse et productivité pour tous. Elle a favorisé les disparités de richesse mais, à long terme, grâce aux lois antitrust, aux syndicats et aux filets de sécurité sociale, elle a produit des gains de bien-être sans précédent dans le monde entier.

Mais le système a été construit pour une économie analogique, une ONE qui tournait autour de la production et de la vente de biens physiques, un monde où les contraintes géographiques imposent un coût du capital onéreux aux opportunités de croissance. L’ère d’Internet est très différente. Il s'agit d' un effet de réseau auto-renforcé, où l'efficacité de la production de logiciels permet aux leaders du marché d'augmenter rapidement leur part de marché à un coût marginal très faible, et où la matière première la plus précieuse n'est pas physique, comme le minerai de fer, mais intangible : ce sont les données Human . .

Nous avons besoin d’un nouveau modèle de propriété décentralisée et de gouvernance consensuelle, ONE sur des incitations à l’innovation compétitive, mais doté d’un cadre autocorrectif qui oriente cette innovation vers le bien public.

Inspiré par Jacob Steeves, fondateur du protocole de développement d'IA décentralisé Bittensor, je pense que la Technologies Crypto peut aider à définir à quoi LOOKS cet avenir, même si nous avons besoin de garde-fous pour cela.

"Nous disons qu'il faut construire une propriété ouverte de l'IA", a déclaré Steeves à propos du modèle de construction décentralisé et symbolique de Bittensor pour l'IA sur le podcast "Money Reimagined" de cette semaine. « Si vous pouvez contribuer, vous pouvez en être propriétaire. Et puis, laissons le peuple décider.

L’idée philosophique est qu’une propriété et un contrôle suffisamment décentralisés empêcheraient un seul parti de dicter le développement de l’IA et qu’au lieu de cela, le groupe dans son ensemble opterait pour des modèles favorables au collectif. "Si nous avions tous une part de cela, alors cette chose ne reviendrait pas et ne nous ferait pas de mal car en fin de compte, la monnaie fondamentale de l'IA, la partie fondamentale de la propriété est dans votre portefeuille", a déclaré Steeves.

Trop utopique ? Peut être. La longue liste d’escroqueries dans l’histoire de la Crypto signifie que beaucoup imagineront instinctivement un modèle de crypto-IA détourné par des acteurs néfastes.

Mais si nous voulons forger un projet commun basé sur l’innovation open source et la gouvernance collective, les phénomènes économiques qui ressemblent le plus à ce dont nous avons besoin sont les écosystèmes qui ont surgi autour des protocoles blockchain.

«Ethereum et Bitcoin sont les plus grands supercalculateurs au monde, mesurés en hachages », a déclaré Steeves. « Ces réseaux – pour le meilleur ou pour le pire, que vous vous positionniez ou non d’un côté ou de l’autre du débat de pouvoir – sont des mégastructures. Ce sont les plus grandes mégastructures informatiques que l’humanité ait jamais créées… elles sont des centaines de fois plus grandes que les entrepôts de données d’entreprises comme Google.

OpenAI, la société à l'origine des grands modèles de langage (LLM) ChatGPT et GPT1-through-4, est structurée très différemment de ces écosystèmes blockchain. Il s'agit d'une entreprise privée ONE vient d'acquérir un investissement de 10 milliards de dollars (avec un B) du géant de la technologie Microsoft.

Et même si son PDG, Sam Altman, n'a pas encore rejoint ELON Musk, PDG de Tesla et investisseur d'OpenAI, ONE plus de 25 000 signataires d' une lettre ouverte appelant à une pause de six mois dans le développement de l'IA , beaucoup pensent que si les exigences de cette lettre étaient mis en œuvre, l'entreprise en serait un bénéficiaire direct, ce qui rendrait plus difficile pour tout concurrent de contester la domination d'OpenAI tout en permettant à l'entreprise d'Altman de contrôler le développement de l'IA à l'avenir.

Sur le même sujet : ChatGPT tuera la recherche et ouvrira un chemin vers le Web3

"La lettre sert à Rally le soutien du public à OpenAI et à ses alliés alors qu'ils consolident leur domination, construisent une avance étendue en matière d'innovation et assurent leur avantage sur une Technologies d'importance fondamentale pour l'avenir", a écrit le pionnier de la Cryptomonnaie Peter Vessenes dans un éditorial de CoinDesk . cette semaine. « Si cela se produit, cela portera un préjudice irréparable aux Américains – à notre économie et à notre population. »

Imaginez si, écrivait Vessenes, « en 1997, Microsoft et Dell avaient publié une lettre de « pause » similaire, appelant à l'arrêt de l'innovation en matière de navigateurs et à l'interdiction des nouveaux sites de commerce électronique pendant six mois, citant leurs propres recherches selon lesquelles Internet détruirait. magasins physiques et aide au Finance du terrorisme. Aujourd’hui, nous considérerions cela comme un alarmisme égoïste et une tentative de capture réglementaire. »

OpenAI est désormais basé sur un système fermé, mais l'approche LLM de l'apprentissage automatique est désormais répandue et répliquée de toutes sortes de manières ingénieuses. Comment diable un accord de scientifiques américains, ou même un acte du Congrès, pourrait-il arrêter le progrès de cette technologie – en particulier par des acteurs criminels soutenus par des États voyous ayant toutes les raisons d'ignorer les supplications des États-Unis ?

Si l’on ajoute à cela la récente hostilité du gouvernement américain à l’égard des Crypto , qui se manifeste dans la série d’actions de la Securities and Exchange Commission contre les leaders de l’industrie et dans les sanctions contre le protocole open source Tornado Cash, une convergence inquiétante apparaît. Le fait que les sociétés de Crypto quittent désormais les côtes américaines est plus qu’une menace pour le secteur des actifs numériques. C’est un coup porté à la forme même d’innovation open source qui est nécessaire pour éviter la dangereuse capture de l’IA par des intérêts centralisés égoïstes.

Malgré toutes les pertes subies récemment par les spéculateurs de jetons, les Waves d’argent qui ont chassé ces richesses ont financé certains des plus grands progrès de la cryptographie de tous les temps. Les preuves sans connaissance, par exemple, susceptibles de jouer un rôle dans la façon dont nous protégeons les informations sensibles contre la surveillance omniprésente par l’IA, ont progressé bien plus qu’à l’ère pré-crypto.

Il existe également un avantage en matière de sagesse de la foule, qui vient de la philosophie d'innovation sans autorisation de la cryptographie. Les idées marginales non conformes ont tendance à surgir plus facilement que celles dirigées d’en haut par les dirigeants des entreprises. La structure d'innovation d'OpenAI est très différente de cela. Bien sûr, il a compris comment exploiter l'énorme quantité de données d'Internet et comment y former un LLM incroyablement efficace. Mais après avoir abandonné son statut d'entreprise open source et à but non lucratif, il s'agit désormais d'un opérateur de boîte noire fermée, redevable aux exigences de maximisation des profits de son nouvel investisseur corporatif.

Nous avons le choix : voulons-nous que l’IA soit capturée par les mêmes modèles économiques concentrés qui se sont imposés dans le Web2 ? Ou la vision de propriété décentralisée du Web3 est-elle la valeur la plus sûre ? Je sais ONE je choisirais.