OpenAI не может распознать текст, сгенерированный ее ботом ChatGPT
В ответ на нарастающее беспокойство педагогов по поводу бота ChatGPT, помогающего студентам отлынивать от выполнения их прямых обязанности, OpenAI выпустила инструмент, который способный распознавать текст, написанный искусственным интеллектом. Однако компания заявила: «Наш классификатор не является полностью надежным».
«В наших оценках на «тестовом наборе» английских текстов наш классификатор правильно идентифицирует 26% текстов, написанных ИИ (истинные положительные результаты)», – написала компания, разработавшая ChatGPT, в своем блоге.
Классификатор, обучавшийся на наборе текстов, написанных человеком и искусственным интеллектом на одну и ту же тему, на данный момент не является надежным и способен лишь дополнять другие способы определения того, кем написан текст. Ограничения, которые имеет классификатор, согласно OpenAI, включают ненадежность на коротких текстах.
Недавно профессора Нью-Йоркского университета сказали студентам, что те не могут использовать ChatGPT без специального разрешения, заявив, что любое использование этого инструмента будет считаться плагиатом. Преподаватели придумывали собственные способы выявления написания эссе искусственным интеллектом, чтобы предотвратить любое мошенничество, например, пропускали свои подсказки к эссе через ChatGPT, чтобы получить эталон того, как будет выглядеть текст сгенерированный искусственным интеллектом.
22-летний студент Эдвард Тиан разработал собственный детектор ChatGPT, который был запущен в бета-версии в начале этого года, а 29 января вышел в финальной версии - GPTZeroX. В этом приложении можно вставить текст или загрузить один или несколько документов одновременно, и программа подсчитает, какую часть текста написал искусственный интеллект, и выделит предложения, написанные ИИ. По словам Тиана, приложение ошибалось менее чем в 2% случаев во время тестирования на наборе данных новостных статей BBC и сгенерированных машиной статей с такой же подсказкой, что делает GPTZeroX более надежным, чем собственный детектор OpenAI.
Поскольку ChatGPT становится способным писать все – от студенческих эссе до кода, учителя по всему миру пытаются адаптировать процесс обучения к новой технологии и обсуждают, как можно использовать этот инструмент с точки зрения этики.
