Массачусетские инженеры защищают фото от ИИ-изменений
Публикация от 27 июля 2023 г.. Учитывайте её дату: возможности сервисов и условия доступа могли измениться.
Инженеры лаборатории CSAIL при Массачусетском технологическом институте (MIT) разработали инновационную технологию под названием PhotoGuard, предназначенную для усложнения процесса изменения изображений с использованием искусственного интеллекта, чтобы предупредить создание фейковых фото.
Сегодня такие мощные инструменты обработки графики, как Dall-E и Stable Diffusion, открыли перед нами новую эпоху возможностей в генерации и редактировании изображений с помощью ИИ. Однако, вместе с этим, появляется и потенциальная угроза — создание дипфейков.
Именно для предотвращения таких инцидентов была разработана технология PhotoGuard от MIT CSAIL. Она включает в себя методы "кодировщика" и "диффузии", которые позволяют скрыть и изменить пиксели изображения, делая его неразличимым для искусственного интеллекта и, следовательно, защищая его от нежелательных изменений.