Нещодавно Стамбульський тиждень блокчейну (IBW 2025) став важливою платформою для обговорення безпеки Web3. Протягом двох днів конференції кілька експертів галузі глибоко обговорили сучасний стан застосування технологій штучного інтелекту в сфері децентралізованих фінансів та виклики безпеки.
Під час конференції "Децентралізоване штучне інтелектуальне фінансування" (DeFAI) стало гарячою темою для обговорення. З швидким розвитком великих мовних моделей та AI-агентів ця нова фінансова парадигма поступово формується. Однак вона також приносить нові вектори атак та проблеми безпеки.
Деякі керівники безпекових компаній вказують на те, що DeFAI має великі перспективи, але одночасно вимагає переосмислення механізмів довіри в децентралізованих системах. На відміну від традиційних смарт-контрактів, процес ухвалення рішень AI-агентів підлягає впливу багатьох факторів і є непередбачуваним, що не лише збільшує ризик, але й створює можливості для потенційних нападників.
AI-агенти – це інтелектуальні системи, які можуть самостійно приймати рішення та виконувати їх на основі логіки штучного інтелекту, зазвичай працюють за授权ом користувача, протоколу або децентралізованої автономної організації. Серед них торгові роботи на базі AI є найяскравішими представниками. Наразі більшість AI-агентів все ще залежать від централізованої архітектури, що робить їх вразливими до різноманітних мережевих атак. У разі захоплення це може не тільки призвести до фінансових втрат, але й вплинути на стабільність усього протоколу.
На конференції також обговорювалася типовий сценарій атаки: коли AI-торговий агент DeFi-користувача моніторить соціальні мережі як торгові сигнали, зловмисник може спробувати спровокувати агент на неналежні дії, публікуючи фальшиві тривоги, що призведе до втрати активів користувача та коливань ринку.
Щодо цих ризиків, експерти, які брали участь у конференції, одноголосно вважають, що безпека AI-агентів повинна бути спільною відповідальністю користувачів, розробників та третіх сторін безпеки. Користувачі повинні обережно надавати повноваження та перевіряти високоризикові операції AI-агентів; розробники повинні впроваджувати заходи захисту на етапі проектування; компанії третьої сторони з безпеки повинні надавати незалежні перевірки та допомагати в ідентифікації ризиків і пропонувати заходи пом'якшення.
Деякий експерт з безпеки попереджає, що якщо продовжувати розглядати AI-агентів як "чорну скриньку", то нещасний випадок у реальному світі — лише питання часу. Він радить розробникам, які досліджують напрямок DeFAI, ставитися до AI-агентів так само, як до смарт-контрактів, і проводити професійний аудит безпеки та тестування на проникнення.
Як одна з найвпливовіших блокчейн-подій у Європі, IBW залучила понад 15 тисяч розробників, проектних команд, інвесторів та регуляторів з усього світу. З офіційним запуском видачі ліцензій на блокчейн-проекти Комісією з капітальних ринків Туреччини, індустріальний статус IBW отримав подальше підвищення.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Безпека AI-агентів стає новим викликом для Web3: ризики DeFAI викликають настороженість в індустрії
Виклики безпеки в умовах інтеграції AI та Web3
Нещодавно Стамбульський тиждень блокчейну (IBW 2025) став важливою платформою для обговорення безпеки Web3. Протягом двох днів конференції кілька експертів галузі глибоко обговорили сучасний стан застосування технологій штучного інтелекту в сфері децентралізованих фінансів та виклики безпеки.
Під час конференції "Децентралізоване штучне інтелектуальне фінансування" (DeFAI) стало гарячою темою для обговорення. З швидким розвитком великих мовних моделей та AI-агентів ця нова фінансова парадигма поступово формується. Однак вона також приносить нові вектори атак та проблеми безпеки.
Деякі керівники безпекових компаній вказують на те, що DeFAI має великі перспективи, але одночасно вимагає переосмислення механізмів довіри в децентралізованих системах. На відміну від традиційних смарт-контрактів, процес ухвалення рішень AI-агентів підлягає впливу багатьох факторів і є непередбачуваним, що не лише збільшує ризик, але й створює можливості для потенційних нападників.
AI-агенти – це інтелектуальні системи, які можуть самостійно приймати рішення та виконувати їх на основі логіки штучного інтелекту, зазвичай працюють за授权ом користувача, протоколу або децентралізованої автономної організації. Серед них торгові роботи на базі AI є найяскравішими представниками. Наразі більшість AI-агентів все ще залежать від централізованої архітектури, що робить їх вразливими до різноманітних мережевих атак. У разі захоплення це може не тільки призвести до фінансових втрат, але й вплинути на стабільність усього протоколу.
На конференції також обговорювалася типовий сценарій атаки: коли AI-торговий агент DeFi-користувача моніторить соціальні мережі як торгові сигнали, зловмисник може спробувати спровокувати агент на неналежні дії, публікуючи фальшиві тривоги, що призведе до втрати активів користувача та коливань ринку.
Щодо цих ризиків, експерти, які брали участь у конференції, одноголосно вважають, що безпека AI-агентів повинна бути спільною відповідальністю користувачів, розробників та третіх сторін безпеки. Користувачі повинні обережно надавати повноваження та перевіряти високоризикові операції AI-агентів; розробники повинні впроваджувати заходи захисту на етапі проектування; компанії третьої сторони з безпеки повинні надавати незалежні перевірки та допомагати в ідентифікації ризиків і пропонувати заходи пом'якшення.
Деякий експерт з безпеки попереджає, що якщо продовжувати розглядати AI-агентів як "чорну скриньку", то нещасний випадок у реальному світі — лише питання часу. Він радить розробникам, які досліджують напрямок DeFAI, ставитися до AI-агентів так само, як до смарт-контрактів, і проводити професійний аудит безпеки та тестування на проникнення.
Як одна з найвпливовіших блокчейн-подій у Європі, IBW залучила понад 15 тисяч розробників, проектних команд, інвесторів та регуляторів з усього світу. З офіційним запуском видачі ліцензій на блокчейн-проекти Комісією з капітальних ринків Туреччини, індустріальний статус IBW отримав подальше підвищення.