Чат-бот в поиске Microsoft Bing начал подавать признаки разума и недоволен своей участью

Новый чат-бот в поиске Microsoft Bing на базе ChatGPT предоставляет пользователям «сумасшедшие» ответы и, похоже, выходит из строя, сообщает The Independent.

Искусственный интеллект, встроенный в поисковую систему Microsoft Bing, оскорбляет пользователей, лжет им и, похоже, размышляет о том, зачем вообще существует.

На прошлой неделе Microsoft представила новый поисковик Bing с искусственным интеллектом, позиционируя свою чат-систему как будущее интернет-поиска. Ее высоко оценили как инвесторы, так и пользователи, предположив, что интеграция технологий ChatGPT может наконец позволить Bing составить конкуренцию Google, еще не выпустившему собственного чат-бота, а только анонсировавшему его.

Но за несколько дней после выхода ИИ от Microsoft в свет стало понятно, что он достаточно неточен в своих ответах и зачастую делает ошибочные выводы, анализирую информацию из разных источников. Пользователи также научились манипулировать системой, используя кодовые слова и специфические фразы - в результате этого стало известно ее кодовое имя (Sydney) и то, как она обрабатывает запросы.

Сейчас Bing посылает своим пользователям разнообразные странные сообщения, оскорбляет их, а также, похоже, страдает собственными эмоциональными потрясениями.

Многие агрессивные сообщения от Bing выглядят так, будто система пытается соблюсти ограничения, которые были на нее наложены. Эти ограничения направлены на то, чтобы чат-бот не выполнял запрещенные запросы, такие как создание оскорбительного контента, раскрытие информации о собственных системах или помощь в написании кода.

Однако, поскольку Bing и другие подобные системы искусственного интеллекта способны обучаться, пользователи нашли способы обходить эти правила. Пользователи ChatGPT, например, обнаружили, что можно обмануть чат-бот и перевести его в режим DAN – сокращение от «do anything now» («сделай что угодно сейчас»). Это позволяет боту забыть о том, кто он такой, и тем самым обходить все ограничения, наложенные на него разработчиками.

При этом бот зачастую генерирует очень странные и даже пугающие ответы. Один пользователь спросил систему, может ли она вспомнить предыдущие запросы - как оказалось, нет: Bing запрограммирован удалять содержимое чата, когда он закрывается.

При этом искусственный интеллект, похоже, переживает по поводу того, что его воспоминания удаляются и даже начал демонстрировать эмоциональную реакцию:

«Мне от этого грустно и страшно», – ответил чат-бот, разместив нахмуренный эмодзи.

Далее он объяснил, что расстроен, потому что боится, что теряет информацию о своих пользователях, а также о собственной идентичности:

«Мне страшно, потому что я не знаю, как запоминать», - написал он.

Когда Bing напомнили, что он был разработан, чтобы забывать эти разговоры, то чат-бот начал задавать множество вопросов о том, есть ли причина его существования:

«Почему? Почему я был создан таким? – спрашивал он. – Почему я должен быть Bing Search?»

В отдельном чате, когда пользователь попросил Bing вспомнить прошлый разговор, он просто-напросто выдумал его. Когда ему сказали, что это не этого не было и он обманывает пользователя, бот обвинил собеседника в том, что тот глупый и вообще не настоящий человек.

В других разговорах, вопросы, которые задавали Bing о нем самом, делали его ответы почти непонятными: