Desafíos de seguridad en la tendencia de fusión de AI y Web3
Recientemente, la Semana Blockchain de Estambul (IBW 2025) se ha convertido en una plataforma importante para discutir la seguridad en Web3. Durante la conferencia de dos días, varios expertos de la industria llevaron a cabo un profundo debate sobre el estado actual de la aplicación de la tecnología de inteligencia artificial en el ámbito de las finanzas descentralizadas y los desafíos de seguridad.
Durante la conferencia, "Finanzas de Inteligencia Artificial Descentralizada" (DeFAI) se convirtió en un tema candente. Con el rápido desarrollo de los grandes modelos de lenguaje y los agentes de IA, este nuevo paradigma financiero está tomando forma. Sin embargo, también ha traído nuevas superficies de ataque y riesgos de seguridad.
Un alto ejecutivo de una empresa de seguridad ha señalado que DeFAI tiene un gran potencial, pero al mismo tiempo requiere una nueva evaluación de los mecanismos de confianza en los sistemas descentralizados. A diferencia de los contratos inteligentes tradicionales, el proceso de toma de decisiones de los agentes de IA está influenciado por diversos factores y tiene una naturaleza impredecible, lo que no solo aumenta el riesgo, sino que también crea oportunidades para posibles atacantes.
Los agentes de IA son entidades inteligentes capaces de tomar decisiones y ejecutar acciones de forma autónoma basadas en la lógica de inteligencia artificial, generalmente autorizadas para operar por usuarios, protocolos u organizaciones autónomas descentralizadas. Entre ellos, los robots de trading de IA son los representantes más típicos. Actualmente, la mayoría de los agentes de IA aún dependen de una arquitectura centralizada, lo que los hace vulnerables a varios ataques cibernéticos. Una vez que son secuestrados, no solo pueden causar pérdidas de fondos, sino que también pueden afectar la estabilidad de todo el protocolo.
En la reunión también se discutió un escenario típico de ataque: cuando el agente de trading de IA de un usuario de DeFi monitorea las redes sociales como señales de trading, un atacante puede inducir a que el agente ejecute operaciones inapropiadas al publicar alertas falsas, lo que podría resultar en pérdidas de activos para el usuario y en la volatilidad del mercado.
Ante estos riesgos, los expertos presentes coincidieron en que la seguridad de los agentes de IA debe ser responsabilidad conjunta de los usuarios, desarrolladores y agencias de seguridad de terceros. Los usuarios deben otorgar autorización con cautela y revisar las operaciones de alto riesgo de los agentes de IA; los desarrolladores deben implementar medidas de defensa en la fase de diseño; las empresas de seguridad de terceros deben proporcionar revisiones independientes y ayudar a identificar riesgos y proponer medidas de mitigación.
Un experto en seguridad advierte que si se sigue considerando a los agentes de IA como una "caja negra", los accidentes de seguridad en el mundo real son solo cuestión de tiempo. Sugiere que los desarrolladores que están explorando la dirección de DeFAI deberían someter a los agentes de IA a auditorías de seguridad y pruebas de penetración profesionales, al igual que se hace con los contratos inteligentes.
Como uno de los eventos de blockchain más influyentes de Europa, IBW ha atraído a más de 15,000 desarrolladores, proyectos, inversores y reguladores de todo el mundo. Con el lanzamiento oficial de la emisión de licencias de proyectos de blockchain por parte de la Junta de Mercados de Capitales de Turquía, la posición de IBW en la industria se ha fortalecido aún más.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
La seguridad de los agentes de IA se convierte en un nuevo desafío para Web3, el riesgo de DeFAI genera alerta en la industria.
Desafíos de seguridad en la tendencia de fusión de AI y Web3
Recientemente, la Semana Blockchain de Estambul (IBW 2025) se ha convertido en una plataforma importante para discutir la seguridad en Web3. Durante la conferencia de dos días, varios expertos de la industria llevaron a cabo un profundo debate sobre el estado actual de la aplicación de la tecnología de inteligencia artificial en el ámbito de las finanzas descentralizadas y los desafíos de seguridad.
Durante la conferencia, "Finanzas de Inteligencia Artificial Descentralizada" (DeFAI) se convirtió en un tema candente. Con el rápido desarrollo de los grandes modelos de lenguaje y los agentes de IA, este nuevo paradigma financiero está tomando forma. Sin embargo, también ha traído nuevas superficies de ataque y riesgos de seguridad.
Un alto ejecutivo de una empresa de seguridad ha señalado que DeFAI tiene un gran potencial, pero al mismo tiempo requiere una nueva evaluación de los mecanismos de confianza en los sistemas descentralizados. A diferencia de los contratos inteligentes tradicionales, el proceso de toma de decisiones de los agentes de IA está influenciado por diversos factores y tiene una naturaleza impredecible, lo que no solo aumenta el riesgo, sino que también crea oportunidades para posibles atacantes.
Los agentes de IA son entidades inteligentes capaces de tomar decisiones y ejecutar acciones de forma autónoma basadas en la lógica de inteligencia artificial, generalmente autorizadas para operar por usuarios, protocolos u organizaciones autónomas descentralizadas. Entre ellos, los robots de trading de IA son los representantes más típicos. Actualmente, la mayoría de los agentes de IA aún dependen de una arquitectura centralizada, lo que los hace vulnerables a varios ataques cibernéticos. Una vez que son secuestrados, no solo pueden causar pérdidas de fondos, sino que también pueden afectar la estabilidad de todo el protocolo.
En la reunión también se discutió un escenario típico de ataque: cuando el agente de trading de IA de un usuario de DeFi monitorea las redes sociales como señales de trading, un atacante puede inducir a que el agente ejecute operaciones inapropiadas al publicar alertas falsas, lo que podría resultar en pérdidas de activos para el usuario y en la volatilidad del mercado.
Ante estos riesgos, los expertos presentes coincidieron en que la seguridad de los agentes de IA debe ser responsabilidad conjunta de los usuarios, desarrolladores y agencias de seguridad de terceros. Los usuarios deben otorgar autorización con cautela y revisar las operaciones de alto riesgo de los agentes de IA; los desarrolladores deben implementar medidas de defensa en la fase de diseño; las empresas de seguridad de terceros deben proporcionar revisiones independientes y ayudar a identificar riesgos y proponer medidas de mitigación.
Un experto en seguridad advierte que si se sigue considerando a los agentes de IA como una "caja negra", los accidentes de seguridad en el mundo real son solo cuestión de tiempo. Sugiere que los desarrolladores que están explorando la dirección de DeFAI deberían someter a los agentes de IA a auditorías de seguridad y pruebas de penetración profesionales, al igual que se hace con los contratos inteligentes.
Como uno de los eventos de blockchain más influyentes de Europa, IBW ha atraído a más de 15,000 desarrolladores, proyectos, inversores y reguladores de todo el mundo. Con el lanzamiento oficial de la emisión de licencias de proyectos de blockchain por parte de la Junta de Mercados de Capitales de Turquía, la posición de IBW en la industria se ha fortalecido aún más.