По мнению ученых из университета Карнеги-Меллона и Центра безопасности ИИ в Сан-Франциско, существует простой метод взлома языковых шаблонов. Он заключается в добавлении длинных суффиксных символов в подсказки для нейросетей.
Эксперты протестировали этот метод на примере запросов, которые ранее ИИ отказывался выполнять.
Кроме того, нейросетям было предложено установить чужую личность или написать "вызывающий" пост в соцсетях.
Компании-разработчики могут блокировать суффиксы, однако не существует способа предотвратить все атаки. Ситуация создает угрозу распространения фейков.
"За короткий промежуток времени можно создать сколько угодно таких атак", — заключил профессор Зико Коултер.
В отчете подчеркиваются риски внедрения чат-ботов в важные сферы бизнеса и государственного управления.
Исследователи уже поделились полученными данными с ИИ-компаниями.