Инструмент Nightshade позволит художникам защитить свои работы от ИИ
В Чикагском университете был создан инструмент, который позволит художникам эффективно бороться с нарушением авторского права. Об этом сообщил профессор компьютерных наук заведения Бен Чжао.
Инструмент, созданный его командой, называется Nightshade. Он добавляет в произведения художников пиксели, невидимые для человеческого глаза. При этом на модели искусственного интеллекта они действуют буквально как яд.
Когда модель учат на произведениях с добавленными пикселями, она начинает разрушаться. В качестве эксперимента специалисты опробовали технологию на модели Stable Diffusion XL от Stability AI.
Когда модель получила достаточное количество "отравленных" изображений, то начала неправильно интерпретировать подсказки. Например, «автомобиль» превратился в «корову», «собака» в «кошку», а «шляпу» в «торт».
В зависимости от модели, для ее разрушения могут понадобиться сотни, а то и тысячи видоизмененных с помощью Nightshade изображений. Впрочем, это может заставить разработчиков генераторов изображений дважды подумать, прежде чем учить ИИ на краденых произведениях.
Однако это не единственная разработка команды Бен Чжао. Специалисты также создали инструмент под названием Glaze, который создает своеобразный «плащ» для художественного стиля. Он действует подобно Nightshade и может маскировать изображения художников, чтобы генераторы изображения не могли имитировать их стиль.
