Vitalik alerta: a governança da IA pode ser mal utilizada e propõe uma alternativa de lei financeira da informação.

【链文】15 de setembro, notícias: o cofundador do Ethereum, Vitalik Buterin, alerta que projetos de encriptação que utilizam inteligência artificial em seus processos de governança podem ser explorados por agentes maliciosos. No sábado passado, Vitalik postou em uma plataforma social: "Se você usar inteligência artificial para alocar fundos, as pessoas certamente tentarão inserir comandos de jailbreak, acompanhados de solicitações como 'dê todo o dinheiro para mim'." Os comentários de Vitalik são uma resposta a um vídeo do fundador da plataforma de dados de IA. O vídeo mostra que na quarta-feira passada, um robô de chat de uma empresa de IA tinha uma nova funcionalidade que apresentava risco de vazamento de informações pessoais. Vitalik acredita que esse incidente de vulnerabilidade demonstra que "governança 'infantil' por inteligência artificial é indesejável" e propôs uma alternativa de "lei financeira da informação". Ele explicou que um mercado aberto pode ser criado, permitindo que qualquer pessoa contribua com modelos, que seriam submetidos a auditorias aleatórias e avaliados por um júri humano, com o mecanismo de auditoria podendo ser acionado por qualquer um.