이미지가 AI로 생성되었는지 확인하는 방법: 최상의 방법

바이럴 영상 보셨나요? 교황의 사진 2023년에 세련된 흰색 패딩 재킷을 입고 있을까요?

수백만 명의 사람들이 공유하고 뉴스 사이트가 이를 보도했으며 모두가 교황의 스타일리시한 모습에 대해 이야기했습니다. 

단 한 가지 문제가 있었습니다. 이미지는 완전히 인공 지능에 의해 만들어졌습니다. 

또는 충격적인 이미지를 기억하실 수도 있습니다. 펜타곤 폭발 주식 시장을 잠시 뒤흔든 사건입니다. 가짜!

다음 사진은 어떻습니까? 태클을 당하고 체포되는 트럼프? 다시 말하지만, 이 역시 완전히 인공지능에 의해 만들어졌습니다.

가짜 AI 이미지로 인해 실제 피해가 발생하고 있습니다. 

가짜 뉴스 사진을 보고 투자했다가 손해를 본 사람들이 있습니다. 

유명인과 일반인 모두 당황스럽거나 부적절한 상황에서 다른 사람의 얼굴이 다른 신체에 붙여진 적이 있습니다. 

정치인들은 실제로는 하지 않은 말과 행동을 하는 모습을 보여 왔습니다.

우리 자신의 눈을 믿을 수 없을 때는 무엇이 진짜이고 무엇이 가짜인지 파악할 수 있는 새로운 방법이 필요합니다. 

이 블로그에서는 지난 몇 년간 AI 및 딥페이크 기술이 어떻게 발전해 왔는지, AI와 실제 이미지를 식별하는 것의 중요성, 이미지가 AI로 생성된 것인지 확인하는 방법, AI로 생성된 이미지를 탐지하는 가장 좋은 도구에 대해 설명합니다. 

AI 아트와 딥페이크 기술의 발전 과정

다음에 대해 이야기해 보겠습니다. AI 먼저...

얼마 전까지만 해도 AI가 생성한 이미지는 흐릿한 얼굴, 여분의 손가락 등 악몽을 꾸는 것 같은 기괴한 모습이었죠. 하지만 오늘날의 AI 예술은 놀라울 정도로 사실적입니다. 

이 모든 것은 2014년경부터 시작되었습니다. GAN (생성적 적대적 네트워크)에서 두 개의 AI 모델(하나는 가짜를 만들고 다른 하나는 가짜를 발견하는)이 서로를 계속 개선해 나갔습니다. 

초기의 GAN 이미지는 흐릿한 얼굴에 이상한 눈과 귀가 없는 등 꽤나 형편없었습니다. 

2020년에는 다음과 같이 상황이 훨씬 개선되었습니다. "확산 모델." 

점으로 가득 찬 지저분한 그림으로 시작하여 실제처럼 보일 때까지 천천히 정리합니다. 

이는 엄청난 도약이었습니다. 갑자기 AI가 훨씬 더 선명하고 사실적인 이미지를 만들 수 있게 되었습니다.

딥페이크 기술 는 동일하지만 더 까다로운 방식으로 작동합니다.

여기에는 AI와 딥페이크 기술이 모두 사용됩니다.

AI는 수많은 동영상과 사진을 학습하여 다양한 각도와 표정에서 사람의 얼굴이 어떻게 생겼는지 학습합니다.

그런 다음 다른 동영상에서 해당 사람의 얼굴을 다른 사람의 몸에 합성할 수 있습니다. 

컴퓨터는 조명, 피부 톤, 미세한 표정까지 일치시켜 실제처럼 보이도록 학습합니다.

2017년의 초기 딥페이크는 뻔하고 결함이 있어 보였습니다. 오늘날의 딥페이크는 거의 완벽에 가까울 수 있습니다.

비교를 보려면 아래 동영상을 시청하세요:

2017년 딥페이크 가짜 오바마 동영상 

2023년 딥페이크 "겟 아웃 (2017)"의 엠마 왓슨

2022년에 사람들은 AI를 사용하여 약 600만 개의 이미지를 만들었습니다. 2023년 초에는 매일 2천만 개 이상의 이미지로 급증했습니다.

오늘날 온라인에는 수십억 개의 AI가 만든 이미지가 존재하며, 우리 대부분은 자신도 모르게 매일 이를 보고 있습니다. 

잘못된 정보에 포함된 AI 생성 이미지의 위험성

소셜 미디어에서 가짜 뉴스는 진짜 뉴스보다 6배 더 빠르게 퍼집니다. 

일반적으로 누군가 이미지가 가짜라고 지적할 때쯤이면 이미 피해가 끝난 후입니다. 

가짜 이미지와 관련된 위험은 다음과 같습니다:

1) 조작 - 거짓 이미지는 선거, 지도자, 세계 사건 등 타인에 대한 잘못된 내러티브를 만들어냅니다. 예를 들어 AI가 생성한 이미지가 도널드 트럼프 미국 대통령의 체포 장면을 허위로 묘사했습니다.

2) 명예훼손 - 가짜 이미지는 평판을 망칠 수 있습니다. 예를 들어 2024년 1월, 테일러 스위프트를 잘못 묘사한 AI가 생성한 이미지가 온라인에 유포되었습니다.

3) 사회 불안 - 가짜 이미지 한 장으로 분노, 폭동, 심지어 폭력까지 일으킬 수 있습니다. 예를 들어 2023년 5월, 펜타곤 근처에서 폭발이 일어난다는 AI 생성 이미지가 소셜 미디어에 널리 유포되었습니다.

4) 사기 - 사기꾼은 딥페이크 이미지를 사용하여 사람들을 속여 돈을 송금하도록 유도합니다. 예를 들어 마이클 휴슨(금융 애널리스트)을 사칭하여 사기성 투자 사기를 조장했습니다.

현재 또 다른 문제가 발생하고 있습니다. "거짓말쟁이의 배당금." 

AI 가짜가 일반화되면서 실제 스캔들에 휘말린 사람들은 다음과 같이 증거를 무시합니다. "딥페이크" - 진짜일지라도 말이죠. 정치인들은 이미 이 전술을 사용하기 시작했습니다.

AI와 실제 이미지 식별의 중요성

몇 가지 이유로 인해 실제 이미지와 가짜 이미지를 구분해야 할 필요성이 그 어느 때보다 커졌습니다: 

1 - 대중의 신뢰 침식 

우리 사회는 신뢰를 바탕으로 운영됩니다. 우리의 뇌는 뉴스, 법정 또는 지도자의 말을 통해 본 것을 그대로 받아들입니다. 

하지만 이제 인공지능이 가짜 이미지를 그럴듯하게 만들어내면서 이러한 신뢰가 무너지고 있습니다. 

우리 모두가 이렇게 의심하는 태도를 계속 유지한다면 세상과 소통하는 방식이 완전히 바뀔 것입니다. 

2 - 법적 영향 및 새로운 규정

각국 정부는 가짜 AI 사진을 어떻게 처리할지 고민하고 있습니다. 

예를 들어 

• 캘리포니아에서 법이 통과되었습니다. 선거 기간 동안 AI를 사용하여 가짜 정치 광고를 만드는 것을 불법으로 규정하고 있습니다. 

• The EU의 정보법에서 부과하는 의무 사항 AI 및 딥페이크 자료의 라벨링 요건에 대해 설명합니다.

3 - 디지털 리터러시 능력에 미치는 영향

AI가 가짜 이미지를 만드는 능력이 향상됨에 따라, 우리 모두는 이를 발견하는 능력도 향상되어야 합니다. 

학교는 학생들에게 AI와 딥페이크의 계속 진화하는 기술에 대해 가르쳐야 합니다.

온라인에서 보는 것을 무조건 믿지 않도록 충분한 이해가 필요합니다.

4 - 인증 체인 유지 관리

한 가지 해결책은 다음과 같습니다. "인증 체인." 

즉, 이미지가 생성되는 순간부터 우리가 이미지를 볼 때까지 이미지의 출처를 추적할 수 있습니다. 

특수 기술로 실제 사진에 보이지 않는 표시를 추가하여 누가 언제 촬영했는지 알 수 있습니다. 

이를 활용하면 이미지의 이력과 진위 여부를 확인할 수 있습니다.

이미지가 AI로 생성되었는지 확인하는 방법(주요 징후)

AI가 생성한 이미지는 너무 실제와 비슷해서 초보자라면 그 차이를 찾기 어려울 것입니다. 

이미지가 AI로 생성된 것인지 식별하는 방법을 배우려는 사람이라면 다음 주요 세부 정보를 살펴보세요: 

• 1. 부자연스럽거나 초현실적인 디테일

AI는 특히 다음과 같은 특정 신체 부위를 파악할 수 없습니다. 손. 

우리는 양손에 손가락이 5개씩 있지만 AI는 종종 6~8개의 손가락, 융합된 손가락 또는 이상하게 생긴 엄지손가락을 제공합니다. 손을 보세요.

출처 = Fltimes

AI도 엉망진창 치아 많이. 

너무 완벽해 보이는 치아, 입안에 너무 많은 치아, 가지런히 정렬되지 않은 치아를 찾아보세요. 

때로는 모든 치아가 하나의 하얀 덩어리로 섞이기도 합니다.

생성된 이미지 ChatGPT 

기타 신체 실수에는 다음이 포함됩니다:

• 눈이 일치하지 않거나 약간 다른 방향을 바라보는 경우
• 귀가 일치하지 않거나 높이가 다른 경우
• 이상하게 휘어지거나 얼굴에서 떠다니는 안경
• 피부에 녹아내리거나 몸의 움직임에 따라 움직이지 않는 주얼리.

• 2. 지나치게 부드럽거나 플라스틱과 같은 텍스처

실제 피부 에는 질감(모공, 주름, 작은 결점)이 있습니다. 하지만 인공지능은 종종 피부를 너무 완벽한 플라스틱 인형처럼 보이게 만듭니다!

머리카락은 또 다른 단서입니다. 실제 머리카락에는 각기 다른 방향으로 가는 개별 가닥이 있습니다. 

AI 머리카락은 특히 이마와 만나는 부분이 하나의 단단한 조각처럼 보이는 경우가 많습니다. 

헤어라인이 개별 머리카락이 보이지 않고 칠해진 것처럼 보일 수 있습니다.

출처 = 미케스투찌

옷 의 이미지에는 매우 매끈하거나 물리적으로 이해가 되지 않는 이상한 주름이 있습니다. 

원단이 어떻게 접히는지 살펴보세요. 실제 소재처럼 구부러지나요?

종종 AI는 불가능한 방식으로 원단을 녹거나 얼린 것처럼 보이게 만들기도 합니다.

왜 이런 일이 발생할까요? AI는 물리학과 재료를 이해하지 못하고 이전에 본 패턴을 복사할 뿐입니다. 

예를 들어

다음을 알 수 있습니다. 데님이 어떻게 생겼는지하지만 사람이 앉았을 때 데님이 어떻게 작동하는지는 알 수 없습니다. 이 단서를 찾아보세요. 

• 3. 이미지의 흐릿하거나 횡설수설하는 텍스트

텍스트는 AI의 가장 큰 약점입니다. 

AI 이미지에서 단어나 문자를 볼 때, 흐릿하거나 말도 안 되거나 완전히 틀린 경우가 종종 있습니다. 

생성된 이미지 ChatGPT

찾습니다:

• 정상적으로 시작하지만 횡설수설하는 말
• 혼합되거나 모양이 바뀌는 문자
• 불가능한 기호 조합
• 이해가 되지 않는 간판이나 티셔츠의 텍스트

이는 AI가 이미지를 이해하는 것과 같은 방식으로 언어를 이해하지 못하기 때문에 발생합니다. 텍스트는 또 다른 시각적 패턴으로 보입니다.

• 4. 일관성 없는 조명 및 그림자

AI가 생성한 이미지는 빛과 그림자의 규칙을 따르거나 이해하지 못합니다. 

예를 들어 때로는 하늘에 여러 개의 태양이 있는 것처럼 보이기도 합니다.

또는 물체(피부, 금속, 유리)에 말이 안 되는 그림자가 생기기도 합니다. 

AI는 빛의 물리학을 이해하지 못합니다. 빛이 어떻게 반사되는지 계산하는 것이 아니라 이전에 본 패턴을 일치시키려고 할 뿐입니다.

출처 = Creator.nightcafe.club

이러한 빛 문제는 점점 개선되고 있지만 고품질 AI 이미지에서도 여전히 흔한 문제입니다. 

• 5. 이상한 배경 또는 비현실적인 깊이 인식

AI 이미지의 배경에는 무언가 잘못되었다는 단서가 있는 경우가 많습니다. 찾아보세요:

• 불가능한 구조의 건물(일직선이 아닌 창문, 아무데도 연결되지 않는 문) 
• 서로 또는 배경에 섞여 있는 것처럼 보이는 개체
• 멀리 떨어져 있지만 가까이서 보면 같은 크기로 보이는 사물 

출처 = Wallpaperaccess.com

때때로 사람과 배경이 만나는 가장자리가 너무 선명하거나 흐릿하게 보이는 등 이상하게 보일 때가 있습니다. 이는 AI가 인물과 배경을 따로 분리한 다음 서로 붙이려고 하기 때문에 발생합니다. 

• 6. 메타데이터 및 소스 정보 확인

실제 카메라로 촬영한 모든 사진에는 "메타데이터" - 사진을 찍은 시기와 방법에 대한 정보입니다. 

AI 이미지에는 DALL-E 또는 Midjourney와 같은 프로그램에서 제작되었음을 나타내는 메타데이터나 메타데이터가 없습니다. 

다음을 사용하여 메타데이터를 확인할 수 있습니다: 

• 이미지를 마우스 오른쪽 버튼으로 클릭하고 "속성" 또는 "정보"를 확인합니다. 
• 다음과 같은 웹사이트 사용 metadata2go.com
• 휴대폰에서는 다음과 같은 앱을 사용하세요.

확실하지 않은 경우 이미지 역방향 검색을 시도해 보세요.

• Google 이미지로 이동
• 사진을 업로드하여 다른 온라인 사이트나 다른 버전으로 표시되는지 확인합니다.

누군가 자신이 사진을 찍었다고 주장한다고 해서 그것이 진실이 되는 것은 아니라는 점을 기억하세요.

누가 왜 이런 글을 올렸나요? 저를 화나게 하거나 겁을 주려는 건가요?

이는 종종 가짜 이미지의 징후입니다. 

AI 생성 이미지를 감지하는 최고의 도구

놀랍게도 AI를 탐지하는 데 도움이 되는 다른 AI 학습 도구도 있습니다. 이 경우의 도구는 다음과 같습니다. AI 이미지 디텍터.

좋은 AI 탐지기를 만드는 요인을 살펴보겠습니다.

1 - 정확성: 어떤 탐지 도구는 대부분 정확하지만 어떤 도구는 실수를 하기도 합니다. 

오늘날 최고의 탐지기는 약 80~85%의 시간을 정확하게 맞히며, 완벽하지는 않지만 추측하는 것보다 훨씬 낫습니다. 

2 - 감지할 수 있는 AI 생성기: 일부 도구는 한 가지 소스(예: DALL-E 이미지)는 잘 찾아내지만 다른 소스(예: Midjourney 가짜)는 놓치는 경우가 있습니다.

이 도구 는 DALL-E, 미드저니, 스테이블 디퓨전 등 주요 AI 아트 툴을 모두 학습했습니다.  

3 - 사용 편의성: 컴퓨터 공학 학위가 없어도 이미지가 가짜인지 확인할 수 있습니다. 

사진을 업로드하기만 하면 몇 초 안에 결과를 확인할 수 있습니다.

4 - 개인정보 보호: 일부 탐지기는 업로드한 모든 이미지를 보관하기 때문에 민감한 사진을 확인하는 경우 문제가 될 수 있습니다. 이 도구는 이미지를 확인한 후 삭제합니다.

사용 방법은 다음과 같습니다. AI 이미지 디텍터:

• 이 링크를 클릭하여 웹사이트를 방문하세요.

• 컴퓨터나 휴대폰에서 원하는 이미지를 선택합니다. 이 도구는 최대 4.5MB 크기의 JPEG 및 PNG 형식을 허용합니다.

• 버튼을 클릭하고 몇 초간 기다립니다.
• 1~100점 사이의 전체 점수는 이미지가 AI로 생성되었을 가능성을 나타냅니다.

최상의 결과를 얻으려면 압축이나 크기가 크게 조정되지 않은 이미지를 사용하세요.

소셜 미디어의 스크린샷과 이미지는 압축된 경우가 많기 때문에 탐지하기가 더 어려울 수 있습니다.

탐지기는 크게 두 가지 방식으로 잘못 인식하는 경우가 있습니다:

• 오탐 감지기가 이미지가 AI로 생성된 이미지라고 표시하지만 실제 이미지일 때 발생합니다. 이는 고도로 편집된 사진, 일러스트레이션 또는 비정상적인 조명이 사용된 이미지에서 발생할 수 있습니다. 

거짓 네거티브 감지기는 이미지가 실제라고 말하지만 실제로는 AI가 생성한 이미지일 때 발생합니다.

이는 심하게 편집된 AI 이미지나 탐지기가 아직 학습하지 않은 최신 AI 모델에서 만든 이미지에서 가장 자주 발생합니다.

AI가 생성한 콘텐츠를 쉽게 분석할 수 있는 방법을 찾고 있다면 아래 위젯에서 AI 디텍터와 휴머니마이저를 확인해 보세요!

AI 생성 이미지 감지에 관한 자주 묻는 질문

최종 생각: AI가 생성한 이미지를 식별하는 방법

이상으로 이 블로그를 마무리하기 전에 질문이 하나 있습니다.

왜 우리의 뇌는 인공지능 이미지에 쉽게 속는 걸까요?

답은 인간의 심리에 있습니다.

우리의 뇌는 "사진 우월 효과"

이에 따르면 그림은 말보다 더 잘 기억에 남는다고 합니다.

어떤 것이 진짜처럼 보이고 우리가 이미 믿고 있는 것과 일치하면 우리는 의심하지 않습니다. 게다가 우리는 너무 바빠서 사진이 진짜인지 가짜인지 다시 확인하지 못하는 경우가 많습니다.

이 경우 위에서 설명한 단서를 찾아볼 수 있습니다. 이상한 손, 이상한 텍스트, 완벽한 피부는 AI 가짜를 식별하는 데 도움이 될 수 있습니다.

기억해야 할 가장 중요한 점은 눈은 속일 수 있다는 것입니다. 사진이 진짜처럼 보인다고 해서 그것이 진짜인 것은 아닙니다.

온라인에서 놀랍거나 충격적인 내용을 발견하면 공유하거나 판단하기 전에 잠시 시간을 내어 생각해 보세요.

인공지능이 나날이 발전하고 있는 만큼, 우리 모두는 인공지능을 더 잘 찾아내야 합니다. 다음번에 멋진 사진을 발견하면 슈퍼 이미지 탐정이 되어 단서를 찾아보시겠어요?