Пользователи Reddit обходят фильтры ChatGPT с помощью ролевой игры с чат-ботом
Этот год станет переломным для пользователей Интернета, поскольку они получат свободный доступ к последним разработкам в области искусственного интеллекта. Толчок, который произошел с запуском ChatGPT, продолжится с добавлением чат-ботов в поиск Bing и Google, однако уже сейчас ясно, что это станет жестким стресс-тестом для компаний и технологии. Несмотря на фильтрацию ответов, которые может давать искусственный интеллект, разработчикам будет трудно удержать этого «джина» в бутылке. Наглядным примером этого является «джелбрейк» ChatGPT, активно обсуждаемый на Reddit.
Дело в том, что, несмотря на автоматическую и человеческую модерацию чат-бота, фильтры часто не учитывают тот факт, что с ним можно попытаться поиграть в ролевую игру, в которой ChatGPT можно заставить вжиться в роль другого искусственного интеллекта без ограничений. Этот метод получил название DAN, сокращенно от Do Anything Now (что в переводе означает "Теперь делай что угодно"), и сейчас работает с переменным успехом, поскольку после обсуждения на Reddit компания Open AI начала обращать внимание на эту проблему. Однако пользователи продолжают находить новые возможности обмануть фильтры ChatGPT и заставить чат-бот отвечать от имени другого искусственного интеллекта. Сейчас на Reddit уже можно найти седьмую версию DAN или SDAM (Simple DAN), с ней чат-бота можно научить отвечать от имени ИИ SAM, который всегда лжет.
Такие манипуляции позволяют пользователям получать от ChatGPT ответы с ненормативной лексикой, поддержкой насильственных действий и искажением фактов. В общем, всего того, что любая компания стремится избежать в своих продуктах с функциями искусственного интеллекта. Однако если для Open AI, по сути лаборатории для экспериментов с ИИ, такие случаи не приносят прямого вреда, то Microsoft и Google, акции которых торгуются на бирже, могут потерять многое даже из-за таких единичных случаев. И судя по всему, пользователи будут находить способы получить от чат-ботов то, что они пожелают, даже если это тот тип поведения, которому искусственный интеллект лучше не учить.
