Как определить, что изображение сгенерировано искусственным интеллектом: Лучшие методы

Вы видели этот вирусный Фотография Папы Римского в стильной белой куртке-пуховике в 2023 году?

Миллионы людей поделились этим снимком, новостные сайты сообщили о нем, и все говорили о том, как стильно выглядит Папа. 

Была только одна проблема - этого никогда не было. Изображение было полностью создано искусственным интеллектом. 

Или вы можете вспомнить шокирующий образ взрыв в Пентагоне которая на короткое время потрясла фондовый рынок. Подделка!

А как же фотографии Трампа схватили и арестовали? Опять же, они также были полностью придуманы ИИ.

Поддельные изображения ИИ причинили реальный вред. 

Люди теряли деньги, вкладывая их на основе фотографий из фальшивых новостей. 

Как знаменитости, так и обычные люди в неловких и неподобающих ситуациях накладывали свои лица на другие тела. 

Политиков показывают говорящими и делающими то, чего они на самом деле никогда не делали.

Когда мы не можем доверять собственным глазам, нам нужны новые способы разобраться, что реально, а что нет. 

В этом блоге я расскажу вам о том, как развивались технологии AI и DeepFake на протяжении многих лет, о важности определения AI и реальных изображений, о том, как определить, что изображение сгенерировано AI, и о лучшем инструменте для обнаружения AI-генерированных изображений. 

Как развивалось искусство искусственного интеллекта и технология глубокой подделки

Давайте поговорим о AI сначала...

Не так давно изображения, созданные искусственным интеллектом, были похожи на страшный сон - размытые лица, лишние пальцы и много всего странного. Но сегодня искусство ИИ потрясает своей реалистичностью. 

Все началось в 2014 году с GANs (Generative Adversarial Networks), где две модели искусственного интеллекта - одна создавала подделки, а другая их обнаруживала - постоянно улучшали друг друга. 

Ранние изображения GAN были довольно плохими - размытые лица со странными глазами и отсутствующими ушами. 

К 2020 году ситуация стала намного лучше. "Модели диффузии". 

Они начинают с грязной картинки, полной точек, и постепенно очищают ее, пока она не станет похожа на настоящую. 

Это был огромный скачок вперед. Внезапно ИИ смог создавать гораздо более четкие и реалистичные изображения.

Технология Deepfake работает аналогичным, но более хитрым образом.

В нем используются технологии искусственного интеллекта и глубокой подделки.

ИИ изучает, как выглядит лицо человека с разных ракурсов и выражений, изучая множество видеороликов и фотографий с его изображением.

Затем он может поместить лицо этого человека на тело другого в другом видео. 

Компьютер учится подбирать освещение, тон кожи и даже крошечные выражения, чтобы все выглядело по-настоящему.

Ранние глубокие подделки 2017 года выглядели очевидными и глючными. Сегодня глубокие подделки могут быть практически идеальными.

Чтобы увидеть сравнение, посмотрите видео ниже:

Deepfake в 2017 году - Поддельное видео Обамы 

Дипфейк в 2023 году - Эмма Уотсон в фильме "Выйти из игры (2017)"

В 2022 году люди создали около 6 миллионов изображений с помощью искусственного интеллекта. К началу 2023 года этот показатель подскочил до более чем 20 миллионов изображений в день.

Сегодня в Интернете существуют миллиарды изображений, созданных искусственным интеллектом, и большинство из нас видит их ежедневно, даже не подозревая об этом. 

Риски использования изображений, созданных искусственным интеллектом, для дезинформации

Ложные новости распространяются в социальных сетях в 6 раз быстрее, чем правдивые. 

Обычно ущерб наносится к тому моменту, когда кто-то указывает на то, что изображение поддельное. 

Риски, связанные с поддельными изображениями, таковы:

1) Манипуляция - Ложные образы создают ложные нарративы о других людях, включая выборы, лидеров и мировые события. Например, Сгенерированные искусственным интеллектом изображения ложно изображали арест президента США Дональда Трампа.

2) Диффамация - Поддельные изображения могут испортить репутацию. Например, В январе 2024 года в сети распространились сгенерированные искусственным интеллектом изображения Тейлор Свифт, на которых она была представлена в ложном свете.

3) Социальные волнения - Одно поддельное изображение может вызвать возмущение, беспорядки и даже насилие. Например, В мае 2023 года в социальных сетях широко распространилось сгенерированное искусственным интеллектом изображение взрыва вблизи Пентагона.

4) Мошенничество - Мошенники используют поддельные изображения, чтобы обманом заставить людей отправить деньги. Например; Майкл Хьюсон (финансовый аналитик) выдавал себя за человека, продвигающего мошеннические инвестиционные схемы.

В настоящее время существует еще одна проблема, называемая "Дивиденды лжеца". 

По мере того как подделки ИИ становятся обычным делом, люди, попавшие в настоящие скандалы, просто отвергают улики как "глубокая подделка" - даже если она подлинная. Политики уже начали использовать эту тактику.

Важность идентификации искусственного интеллекта и реальных изображений

Потребность в понимании того, что такое настоящий и поддельный образ, сейчас как никогда высока по нескольким причинам: 

1 - Эрозия общественного доверия 

Наше общество держится на доверии. Наш мозг принимает на веру то, что видит в новостях, в суде или от наших лидеров. 

Но теперь, когда искусственный интеллект создает такие убедительные поддельные изображения, это доверие рушится. 

Если мы и дальше будем такими подозрительными, это полностью изменит наши отношения с миром. 

2 - Правовые последствия и новые нормативные акты

Правительства пытаются понять, что делать с поддельными фотографиями ИИ. 

Например, 

• В Калифорнии только что приняли закон который делает незаконным создание фальшивых политических объявлений с помощью искусственного интеллекта во время выборов. 

• Сайт Закон ЕС о разведке налагает обязательства по маркировке требований к материалам AI & deepfake.

3 - Влияние на навыки цифровой грамотности

По мере того как искусственный интеллект все лучше справляется с созданием поддельных изображений, мы все должны лучше уметь их распознавать. 

В школах необходимо рассказывать ученикам об искусственном интеллекте и постоянно развивающейся технологии Deepfake.

Мы должны получить полное представление, чтобы не просто верить всему, что видим в Интернете.

4 - Поддержание цепочек аутентичности

Одним из решений может быть "Цепочки аутентичности." 

Это означает отслеживание того, откуда берется изображение - начиная с момента его создания и до того, как мы его увидим. 

Специальная технология позволяет добавлять к реальным фотографиям невидимые метки, которые показывают, кто и когда их сделал. 

Если мы воспользуемся этим, то сможем проверить историю изображения и его подлинность.

Как определить, что изображение сгенерировано искусственным интеллектом (основные признаки)

Изображения, созданные искусственным интеллектом, выглядят настолько реалистично, что новичку будет сложно найти разницу. 

Если вы пытаетесь понять, как определить, что изображение сгенерировано искусственным интеллектом, обратите внимание на эти ключевые детали: 

• 1. Неестественные или сюрреалистические детали

ИИ не может понять некоторые части тела, особенно руки. 

У нас по 5 пальцев на каждой руке, но ИИ часто дает людям 6-8 пальцев, сросшиеся пальцы или странно выглядящие большие пальцы. Посмотрите на руки.

Источник = Fltimes

Искусственный интеллект также не справляется зубы много. 

Обратите внимание на зубы, которые кажутся слишком идеальными, на слишком большое количество зубов во рту или на зубы, которые не выстраиваются в правильную линию. 

Иногда все зубы сливаются в одно белое пятно.

Изображение создано ChatGPT 

Другие ошибки тела включают:

• Глаза, которые не совпадают или смотрят в разные стороны
• Уши, которые не совпадают или расположены на разной высоте
• Очки, которые странно деформируются или слетают с лица
• Украшения, которые тают в коже или не повторяют движения тела.

• 2. Слишком гладкие или похожие на пластик текстуры

Настоящая кожа имеет текстуру (поры, морщины, мелкие недостатки). Однако AI часто делает кожу похожей на пластиковую куклу - слишком идеальной!

Волосы - еще одна подсказка. Настоящие волосы состоят из отдельных прядей, которые идут в разных направлениях. 

Волосы AI часто выглядят как один сплошной кусок, особенно там, где они соприкасаются со лбом. 

Волосяной покров может выглядеть нарисованным, а не отдельными волосками.

Источник = Микстуцци

Одежда в изображениях AI либо очень гладкие, либо имеют странные морщины, не имеющие физического смысла. 

Посмотрите, как складываются ткани - гнутся ли они, как настоящие материалы?

Часто искусственный интеллект создает впечатление, что ткань расплавлена или застыла немыслимым образом.

Почему так происходит? ИИ не понимает физику и материалы - он просто копирует уже виденные образцы. 

Например,

Он может знать как выглядит джинсовая тканьНо не то, как джинсовая ткань ведет себя, когда на нее садятся. Ищите эти подсказки. 

• 3. Размытый или тарабарский текст на изображении

Текст - самая большая слабость ИИ. 

Когда вы видите слова или буквы на изображении ИИ, они часто бывают размытыми, бессмысленными или просто неправильными. 

Изображение создано ChatGPT

Ищите:

• Слова, которые начинаются нормально, но превращаются в тарабарщину
• Буквы, которые смешиваются или меняют форму
• Невозможные комбинации символов
• Бессмысленный текст на вывесках или футболках

Это происходит потому, что ИИ понимает язык не так, как изображения. Тексты кажутся еще одним визуальным шаблоном.

• 4. Непоследовательное освещение и тени

Изображения, созданные искусственным интеллектом, не следуют правилам света и тени и не понимают их. 

Например, Иногда кажется, что на небе несколько солнц.

Или же на объектах (кожа, металл, стекло) будут появляться тени, которые просто не имеют смысла. 

ИИ не понимает физику света. Он просто пытается сопоставить увиденные ранее паттерны, а не вычисляет, как свет отражается и отражается.

Источник = Creator.nightcafe.club

Проблемы со светом становятся все лучше, но они все еще встречаются даже на высококачественных изображениях AI. 

• 5. Странные фоны или нереалистичное восприятие глубины

Фон на изображениях ИИ часто подсказывает, что что-то не так. Ищите:

• Здания с невозможной архитектурой (окна, которые не выстраиваются в ряд, двери, которые никуда не ведут) 
• Объекты, которые кажутся сливающимися друг с другом или с фоном
• Вещи, которые должны быть далеко, но выглядят такого же размера, как и вблизи 

Источник = Wallpaperaccess.com

Иногда край, где человек встречается с фоном, выглядит странно - либо слишком резко, либо слишком размыто. Это происходит потому, что искусственный интеллект создает человека и фон по отдельности, а затем пытается склеить их вместе. 

• 6. Проверьте метаданные и информацию об источнике

Каждая фотография, сделанная настоящей камерой, имеет "Метаданные" - информацию о том, когда и как была сделана фотография. 

Изображения AI не имеют метаданных или метаданных, указывающих на то, что они были сделаны программами вроде DALL-E или Midjourney. 

Вы можете проверить метаданные с помощью: 

• Щелкните правой кнопкой мыши на изображении и выберите "Свойства" или "Информация". 
• Используя такие сайты, как metadata2go.com
• На телефоне используйте такие приложения, как Photo Investigator

Если вы не уверены, попробуйте воспользоваться обратным поиском изображений.

• Перейти к Google Images
• Загрузите фотографию, чтобы посмотреть, не появлялась ли она где-нибудь еще в Интернете или в разных версиях.

Помните, что если кто-то утверждает, что сделал фотографию, это еще не значит, что она правдива.

Кто и зачем это разместил? Они хотят меня разозлить или напугать?

Это часто бывает признаком поддельных изображений. 

Лучший инструмент для обнаружения изображений, сгенерированных искусственным интеллектом

Удивительно, но у нас есть и другие инструменты, обученные ИИ, которые помогают в обнаружении ИИ. В данном случае речь идет об инструменте Детектор изображений AI.

Давайте посмотрим, чем отличается хороший детектор искусственного интеллекта.

1 - Точность: Некоторые детекторы в большинстве случаев работают правильно, а другие допускают ошибки. 

Лучший детектор на сегодняшний день делает это правильно примерно в 80-85% раз, что не идеально, но гораздо лучше, чем угадывание. 

2 - Какие генераторы ИИ он может обнаружить: Некоторые инструменты отлично справляются с обнаружением одного источника (например, изображения DALL-E), но пропускают другие (например, подделки Midjourney).

Этот инструмент обучен на всех основных инструментах искусственного интеллекта - DALL-E, Midjourney, Stable Diffusion и других.  

3 - Простота использования: Чтобы проверить, не является ли изображение поддельным, не нужно иметь степень по информатике. 

Просто загрузите фотографию и получите результат через несколько секунд.

4 - Конфиденциальность: Некоторые детекторы сохраняют все загруженные вами изображения, что может стать проблемой, если вы проверяете конфиденциальные фотографии. Этот инструмент удаляет изображения после проверки.

Вот как использовать наши Детектор изображений AI:

• Нажмите на эту ссылку, чтобы посетить веб-сайт.

• Выберите нужное изображение с компьютера или телефона. Инструмент принимает форматы JPEG и PNG размером до 4,5 МБ.

• Нажмите на кнопку и подождите несколько секунд.
• Общий балл от 1 до 100 показывает, насколько вероятно, что изображение сгенерировано искусственным интеллектом.

Для достижения наилучших результатов используйте изображения, не подвергавшиеся сильному сжатию или изменению размера.

Скриншоты и изображения из социальных сетей часто сжимаются, что может затруднить их обнаружение.

Иногда детекторы ошибаются двумя основными способами:

• Ложные срабатывания случается, когда детектор говорит, что изображение сгенерировано искусственным интеллектом, но на самом деле оно настоящее. Это может произойти с сильно отредактированными фотографиями, иллюстрациями или изображениями с необычным освещением. 

Ложные негативы случаются, когда детектор говорит, что изображение настоящее, а на самом деле оно сгенерировано искусственным интеллектом.

Чаще всего это происходит с сильно отредактированными изображениями ИИ или с изображениями, созданными более новыми моделями ИИ, о которых детектор еще не знает.

Если вы ищете простой способ анализа контента, созданного искусственным интеллектом, ознакомьтесь с нашими AI Detector и Humanizer в виджете ниже!

Часто задаваемые вопросы об обнаружении изображений, сгенерированных искусственным интеллектом

Последние размышления: Как распознать изображения, созданные искусственным интеллектом

На этом мы заканчиваем, и прежде чем мы завершим этот блог, у меня есть к вам вопрос.

Почему наш мозг так легко обмануть с помощью изображений искусственного интеллекта?

Ответ кроется в психологии человека.

Наш мозг следует за "Эффект превосходства картинки".

Согласно этому принципу, картинки застревают в нашем сознании лучше, чем слова.

Когда что-то выглядит реальным и соответствует тому, во что мы уже верим, мы не задаемся этим вопросом. К тому же мы часто слишком заняты, чтобы перепроверять, настоящая это картинка или подделка.

В этом случае вы можете искать подсказки, о которых мы говорили выше. Странные руки, странный текст и идеальная кожа помогут вам распознать подделки ИИ.

Самое главное, что нужно помнить, - это то, что ваши глаза можно обмануть. Если фотография выглядит как настоящая, это еще не значит, что так оно и есть.

Когда вы видите в Интернете что-то удивительное или шокирующее, потратьте минуту на то, чтобы подумать об этом, прежде чем поделиться или вынести какое-либо суждение.

Поскольку искусственный интеллект становится все более совершенным, мы все должны лучше уметь его распознавать. В следующий раз, когда вы увидите потрясающую фотографию, станете ли вы супердетективом и поищете подсказки?