Инженеры из Лаборатории компьютерных наук и искусственного интеллекта (CSAIL) при Массачусетском технологическом институте (MIT) представили технологию PhotoGuard. Она усложняет алгоритмам искусственного интеллекта задачу по изменению изображений.
Модели Dall-E и Stable Diffusion, основанные на ИИ, позволяют не только генерировать новые картинки, но и с высоким качеством редактировать существующие, открывая простор для потенциальных злоупотреблений в виде дипфейков. Разработчики из MIT надеются, что придуманная ими технология PhotoGuard станет сдерживающим фактором для подобных инцидентов и предотвратит кражу контента.
PhotoGuard работает на основе двух типов атак на ИИ-алгоритмы. Первый метод, названный «кодировщик» в MIT, изменяет отдельные пиксели изображения. Эти артефакты невидимы для человеческого глаза, но легко считываются нейросетями. Они предотвращают распознавание искусственным интеллектом изображения, тем самым исключают вероятность его редактирования.
Второй метод, «диффузионный», который является более продвинутым и ресурсоемким, маскирует одну картинку под другую для алгоритмов нейросетей. Итогом такой маскировки становится то, что при попытке ее редактирования нейросеть «видит» что-то другое, не затрагивая при этом исходник, в результате генерирует нереалистичную картинку.
В Хабре пишут, что ученые надеются начать сотрудничество с разработчиками ИИ-моделей, платформами социальных сетей и другими для обеспечения защиты от несанкционированных манипуляций с изображениями. Докторант MIT и ведущий автор статьи Хади Салман выразил свою мысль по этому поводу следующим образом:
Компании, которые создают эти модели, должны инвестировать в разработку надежных средств защиты от возможных угроз, которые создаются инструментами искусственного интеллекта.
Комментарии