Инженеры лаборатории CSAIL при Массачусетском технологическом институте (MIT) разработали инновационную технологию под названием PhotoGuard, предназначенную для усложнения процесса изменения изображений с использованием искусственного интеллекта, чтобы предупредить создание фейковых фото.

Сегодня такие мощные инструменты обработки графики, как Dall-E и Stable Diffusion, открыли перед нами новую эпоху возможностей в генерации и редактировании изображений с помощью ИИ. Однако, вместе с этим, появляется и потенциальная угроза — создание дипфейков.

Именно для предотвращения таких инцидентов была разработана технология PhotoGuard от MIT CSAIL. Она включает в себя методы «кодировщика» и «диффузии», которые позволяют скрыть и изменить пиксели изображения, делая его неразличимым для искусственного интеллекта и, следовательно, защищая его от нежелательных изменений.