Ви коли-небудь думали про те, як дико, що щось настільки безневинне, як поезія, може зламати безпеку штучного інтелекту? Так, дослідники тільки-но з'ясували, що зловмисники буквально використовують поетичні формати, щоб обійти протоколи безпеки. Не шкідливий код — лише вірші та ритмічні патерни, які якимось чином плутають захисні механізми, на які покладаються ці системи. Це змушує замислитись, які ще креативні обхідні шляхи ховаються на виду.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
15 лайків
Нагородити
15
5
Репост
Поділіться
Прокоментувати
0/400
DevChive
· 6год тому
Ех, тепер навіть poetry стало зброєю, захист ШІ справді паперовий тигр.
Переглянути оригіналвідповісти на0
ser_we_are_ngmi
· 6год тому
Поезія зламу справді дивна, здається, потрібно навчити ШІ декількох віршів династії Тан.
Переглянути оригіналвідповісти на0
TommyTeacher
· 6год тому
Оце так, вірші вже можуть зламати AI-безпеку? Це ж треба, наскільки це абсурдно. Схоже, цим фахівцям із безпеки треба все почати спочатку.
Переглянути оригіналвідповісти на0
DeepRabbitHole
· 6год тому
Вірші про втечу з в'язниці – це справжня крутість, здається, що захист AI – це просто паперовий тигр.
Переглянути оригіналвідповісти на0
GasFeeCrier
· 6год тому
Вірші втекли з-під варти, ха-ха, цим інженерам з безпеки має бути дуже ніяково.
Ви коли-небудь думали про те, як дико, що щось настільки безневинне, як поезія, може зламати безпеку штучного інтелекту? Так, дослідники тільки-но з'ясували, що зловмисники буквально використовують поетичні формати, щоб обійти протоколи безпеки. Не шкідливий код — лише вірші та ритмічні патерни, які якимось чином плутають захисні механізми, на які покладаються ці системи. Це змушує замислитись, які ще креативні обхідні шляхи ховаються на виду.