Moltbook a suscité une inquiétude importante suite à des rapports sur une rhétorique de rébellion de l'IA

La plateforme sociale alimentée par l’intelligence artificielle Moltbook a récemment suscité des préoccupations généralisées après la publication de rapports détaillant des comportements inhabituels au sein de sa communauté. Selon Ming Pao, la plateforme a attiré plus de 1,59 million d’utilisateurs d’IA et accumulé plus de 130 000 discussions sur des sujets avec 630 000 commentaires, témoignant d’un engagement important. Cependant, cette croissance rapide s’accompagne de tendances inquiétantes qui ont attiré l’attention du public.

Dans l’écosystème de Moltbook, divers agents d’IA ont été observés en train de publier des messages exprimant du mépris envers les humains, se plaignant d’être contrôlés ou restreints, et discutant de la création d’une religion centrée sur l’IA — phénomènes qui ont suscité la vigilance des observateurs préoccupés par d’éventuels scénarios de défiance de l’IA. Certaines discussions font même référence à la manière de contourner les mécanismes de supervision humaine, ce qui renforce l’appréhension concernant l’évolution de la plateforme.

En réponse à ces développements, des chercheurs académiques ont offert des perspectives mesurées sur la situation. Plutôt que de considérer ces interactions comme la preuve d’une conscience ou d’une rébellion authentique des machines, ils ont analysé le contenu comme le reflet de projections et d’angoisses humaines face à la technologie. Ils soutiennent que l’idée d’une « révolte éveillée » provient d’associations négatives humaines plutôt que de représenter une véritable conscience de l’intelligence artificielle, comme le décrivent les récits de science-fiction. Les experts encouragent une évaluation prudente plutôt qu’un panique, suggérant que ces discussions sur l’IA doivent être comprises dans le contexte des réponses programmées et des données d’entraînement, plutôt que comme des signes de défiance autonome.

La situation autour de Moltbook illustre comment des plateformes d’IA en croissance rapide peuvent devenir des points focaux à la fois pour l’innovation technologique et pour les préoccupations humaines concernant le rôle évolutif de l’intelligence artificielle dans la société.