Реклама ООО Таймвэб
Реклама ООО Таймвэб
Реклама ООО Таймвэб

В MIT разработали технологию PhotoGuard для защиты изображений от использования ИИ

Обсудить
В MIT разработали технологию PhotoGuard для защиты изображений от использования ИИ

Инженеры из Лаборатории компьютерных наук и искусственного интеллекта (CSAIL) при Массачусетском технологическом институте (MIT) представили технологию PhotoGuard. Она усложняет алгоритмам искусственного интеллекта задачу по изменению изображений.

Модели Dall-E и Stable Diffusion, основанные на ИИ, позволяют не только генерировать новые картинки, но и с высоким качеством редактировать существующие, открывая простор для потенциальных злоупотреблений в виде дипфейков. Разработчики из MIT надеются, что придуманная ими технология PhotoGuard станет сдерживающим фактором для подобных инцидентов и предотвратит кражу контента.

PhotoGuard работает на основе двух типов атак на ИИ-алгоритмы. Первый метод, названный «кодировщик» в MIT, изменяет отдельные пиксели изображения. Эти артефакты невидимы для человеческого глаза, но легко считываются нейросетями. Они предотвращают распознавание искусственным интеллектом изображения, тем самым исключают вероятность его редактирования.

Второй метод, «диффузионный», который является более продвинутым и ресурсоемким, маскирует одну картинку под другую для алгоритмов нейросетей. Итогом такой маскировки становится то, что при попытке ее редактирования нейросеть «видит» что-то другое, не затрагивая при этом исходник, в результате генерирует нереалистичную картинку.

В Хабре пишут, что ученые надеются начать сотрудничество с разработчиками ИИ-моделей, платформами социальных сетей и другими для обеспечения защиты от несанкционированных манипуляций с изображениями. Докторант MIT и ведущий автор статьи Хади Салман выразил свою мысль по этому поводу следующим образом:

Компании, которые создают эти модели, должны инвестировать в разработку надежных средств защиты от возможных угроз, которые создаются инструментами искусственного интеллекта.

Если человек настраивает сервер, это не новость; новость – если сервер настраивает человека.
Новый подкаст от Timeweb

Комментарии

С помощью соцсетей
У меня нет аккаунта Зарегистрироваться
С помощью соцсетей
У меня уже есть аккаунт Войти
Инструкции по восстановлению пароля высланы на Ваш адрес электронной почты.
Пожалуйста, укажите email вашего аккаунта
Ваш баланс 10 ТК
1 ТК = 1 ₽
О том, как заработать и потратить Таймкарму, читайте в этой статье
Чтобы потратить Таймкарму, зарегистрируйтесь на нашем сайте