Вы когда-нибудь думали о том, как дико, что что-то столь безобидное, как поэзия, может разрушить безопасность ИИ? Да, исследователи только что выяснили, что злоумышленники буквально используют поэтические форматы, чтобы обойти протоколы безопасности. Не злонамеренный код—просто стихи и ритмические узоры, которые каким-то образом сбивают с толку защитные механизмы, на которые полагаются эти системы. Заставляет задуматься, какие еще креативные обходные пути могут скрываться на виду.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
15 Лайков
Награда
15
5
Репост
Поделиться
комментарий
0/400
DevChive
· 6ч назад
Эх, теперь даже poetry стало оружием, а оборона ИИ и правда бумажный тигр.
Посмотреть ОригиналОтветить0
ser_we_are_ngmi
· 6ч назад
Это действительно потрясающе, что поэзия сбежала из тюрьмы. Похоже, мне нужно научить ИИ несколько стихов Тан.
Посмотреть ОригиналОтветить0
TommyTeacher
· 6ч назад
Офигеть, стихи могут взломать ИИ-безопасность? Это же полный абсурд, похоже, этим специалистам по безопасности нужно учиться заново.
Посмотреть ОригиналОтветить0
DeepRabbitHole
· 6ч назад
Поэзия и взлом — это действительно удивительно, кажется, что защита AI — это бумажный тигр.
Посмотреть ОригиналОтветить0
GasFeeCrier
· 6ч назад
Поэтический побег из тюрьмы, ха-ха, как же неловко этим инженерам по безопасности!
Вы когда-нибудь думали о том, как дико, что что-то столь безобидное, как поэзия, может разрушить безопасность ИИ? Да, исследователи только что выяснили, что злоумышленники буквально используют поэтические форматы, чтобы обойти протоколы безопасности. Не злонамеренный код—просто стихи и ритмические узоры, которые каким-то образом сбивают с толку защитные механизмы, на которые полагаются эти системы. Заставляет задуматься, какие еще креативные обходные пути могут скрываться на виду.