OpenAI формирует команду, чтобы взять под контроль «сверхумный» ИИ
OpenAI формирует новую команду во главе с главным научным сотрудником и одним из соучредителей компании Ильей Суцкевером для разработки способов управления и контроля разумных ИИ-систем. Об этом пишет TechCrunch.
По прогнозам Суцкевера и руководителя группы контроля компании Яна Лейке, ИИ с превышающим человеческий интеллектом может появиться в течение десятилетия. Этот ИИ – если предположить, что он действительно когда-нибудь появится – не обязательно будет доброжелательным, что обусловит необходимость исследования способов его контроля и ограничения.
«Пока у нас нет решения, как управлять или контролировать потенциально сверхумным ИИ и не дать ему выйти из-под контроля, – пишут они. – Наши современные методы настройки ИИ, такие как обучение на основе обратной связи с человеком, полагаются на способность человека контролировать ИИ. Но люди не смогут полностью контролировать системы ИИ, которые намного умнее нас».
Новая группа получит доступ к 20% вычислительных мощностей компании. Команда будет работать над решением технических проблем контроля над сверхумным ИИ в течение следующих четырех лет.
Цель группы в том, чтобы научить ИИ-системы использовать человеческую обратную связь, научить ИИ помогать в оценке других ИИ-систем и в конечном итоге создать ИИ, который может проводить исследования по управлению подобных систем.
Напомним, по результатам опроса исследовательской компании Valoir, искусственный интеллект обладает потенциалом для автоматизации 40% среднего рабочего дня.
