Инструмент “затеняет” изображения
Специалисты из Чикагского университета США разработали программный инструмент Nightshade, защищающий оригинальные работы художников от копирования ИИ. Программа “затеняет” изображения, изменяя данные файла так, что нейросеть, которая обучалась на данном методе, не сможет воспроизвести исходник, пишет портал Techcrunch.
Руководитель проекта профессор Бен Чжао сравнил программу с добавлением острого соуса в свой обед, чтобы его не украли из холодильника на работе. Nightshade работает на ассоциациях среди текстовых подсказов, тонко редактируя пиксели в изображениях, вынуждая нейросеть интерпретировать иной образ, нежели видит человек.
«Управляя этой ассоциацией и эффективно искажая ее, вы можете заставить модели думать, что у коров четыре круглых колеса, бампер и багажник. И когда им предложат нарисовать корову, они вместо коровы произведут большой грузовик Ford», — пояснил профессор Чжао.
По словам авторов разработки, их цель — не дать владельцам моделей искусственного интеллекта пользоваться работами художников на безвозмездной основе для обучения нейросетей.
Ранее мы писали о том, что нейросеть научилась разбирать врачебный почерк.
