Meta закрыла публичный тест своего ИИ для научных задач, потому что он создавал псевдонаучные работы
Материнская компания Facebook Meta закрыла публичную демонстрацию своей модели искусственного интеллекта Galactica для выполнения «научных задач», после того как ученые доказали, что она генерирует фальшивую и обманчивую информацию, фильтруя целые категории исследований.
Ранее на прошлой неделе компания описала Galactica как языковую модель ИИ, которая может хранить, комбинировать и рассуждать о научных знаниях – обобщать научные работы, решать уравнения и выполнять ряд других полезных научных задач. Но ученые и академики быстро обнаружили, что ИИ генерирует потрясающее количество дезинформации, в том числе ссылаясь на несуществующих авторов научных работ.
«Во всех случаях это было неправильно или предвзято, но звучало весомо и авторитетно, – написал Майкл Блэк, директор Института интеллектуальных систем им. Макса Планка в Twitter после использования инструмента. - Я думаю, что этот ИИ опасен».
В сообщении Блэка зафиксированы различные случаи, когда Galactica генерировала научные тексты, которые вводят в заблуждение или просто ошибочны. В нескольких примерах ИИ генерирует статьи, звучащие авторитетно и правдоподобно, но не подкреплены реальными научными исследованиями. В некоторых случаях цитаты даже содержат имена реальных авторов, но ссылаются на вымышленные репозитории Github и научные работы.
Другие указывали на то, что Galactica не возвращает результаты для широкого круга исследовательских тем, вероятно, из-за автоматизированных фильтров искусственного интеллекта. Вилли Агню, исследователь компьютерных наук из Вашингтонского университета, отметил, что такие запросы, как квир-теория, расизм и СПИД, не дали никаких результатов.
Из-за таких отзывов Meta удалила демоверсию Galactica. Когда к ней обратились за комментарием, компания сослалась на заявление Papers With Code, проекта, ответственного за разработку этого ИИ.
«Мы ценим отзывы, которые получили в настоящее время от сообщества, и пока приостановили демонстрацию», – написала компания в Твиттере. «Наши модели доступны исследователям, которые хотят узнать больше об их работе и воспроизвести результаты».
Это не первый случай, когда Meta приходится оправдываться после выпуска ужасающе предвзятого ИИ. В августе компания выпустила демоверсию чат-бота под названием BlenderBot, делавшего «оскорбительные и ложные» заявления. Компания также выпустила большую языковую модель под названием OPT-175B, которая, по признанию исследователей, имела «высокую склонность» к расизму и предвзятости – так же, как и подобные системы, например, GPT-3 от OpenAI.
