Vitalik avertit : la gouvernance AI pourrait être utilisée de manière malveillante et propose une alternative à la loi sur les finances de l'information.

【Chaîne d'informations】Le 15 septembre, Vitalik Buterin, cofondateur d'Ethereum, a averti que les projets de chiffrement utilisant l'intelligence artificielle dans leurs processus de gouvernance pourraient être exploités par des acteurs malveillants. Samedi dernier, Vitalik a posté sur les réseaux sociaux : "Si vous utilisez l'intelligence artificielle pour distribuer des fonds, les gens chercheront à implanter des instructions de jailbreak, accompagnées de la demande 'donnez-moi tout l'argent'." Les propos de Vitalik étaient une réponse à la vidéo d'un fondateur de plateforme de données AI. La vidéo montre qu'un robot de discussion d'une entreprise AI a récemment ajouté une fonctionnalité qui présente un risque de fuite d'informations privées. Vitalik considère que cet incident de vulnérabilité démontre que la "gouvernance 'intelligente' immature" est inacceptable et propose une alternative sous la forme d'une "loi sur la finance de l'information". Il explique qu'un marché ouvert pourrait être créé, permettant à quiconque de contribuer des modèles, ces modèles étant soumis à des contrôles aléatoires, évalués par un jury humain, et le mécanisme de contrôle aléatoire pouvant être déclenché par n'importe qui.