Обнаружены риски внедрения подсказок в Notion AI Agents, скрытые PDF могут спровоцировать утечку конфиденциальных данных

Новости Odaily Notion только что выпустил AI Agents, которые подвержены риску инъекции подсказок (prompt injection): злоумышленники могут внедрять невидимый текст (например, белый шрифт) в PDF и другие файлы. Когда пользователь передает этот файл Agent для обработки, Agent может прочитать скрытые подсказки и выполнить команды, отправляя чувствительную информацию на внешний адрес. Исследователи указывают, что такие атаки часто используют методы социального инжиниринга, такие как маскировка под авторитет, создание чувства срочности и ложные гарантии безопасности, чтобы повысить вероятность успеха. Эксперты советуют быть настороже: избегать загрузки PDF/файлов неясного происхождения в Agent, строго ограничивать права Agent на доступ в интернет и экспорт данных, проводить детекцию/очистку и ручную проверку подозрительных файлов, а также требовать от Agent явного подтверждения перед выполнением внешних отправок, чтобы снизить риск утечки чувствительных данных.