윤리와 청렴성

첫 번째 주력 제품인 AI 휴먼라이저가 가장 인기 있습니다. 알고리즘이 사람이 쓴 것처럼 글을 다시 씁니다. 휴먼라이즈된 텍스트는 AI 생성으로 탐지될 가능성이 낮아집니다.

사용자는 콘텐츠가 딱딱하거나 로봇 같게 들리기를 원하지 않습니다. 선한 의도와 악한 의도가 모두 있습니다. 저희 휴먼라이저의 윤리적이고 허용되는 사용은 무엇일까요?아래 표에 몇 가지 예가 있습니다.

허용되는 모든 휴먼라이제이션 사용은 "AI 작성이 금지되지 않은 경우"에 해당해야 합니다. 휴먼라이저는 콘텐츠와 소통을 개선하고 신뢰를 쌓기 위한 것이지 배신하기 위한 것이 아닙니다.

그렇지만 저희가 허용된다고 보는 탐지 우회 사용 사례도 있습니다.

첫 번째 예에서는 "신뢰의 중대한 위반"이 없었습니다. 두 번째에서는 위반이 있었을 뿐 아니라 "AI 사용 금지" 정책을 우회하기 위해 휴먼라이제이션까지 했습니다 — 잘못입니다.

여러 이유로 AI 생성으로 표시되지 않는 콘텐츠를 만들어야 하는 사용자가 있습니다. AI는 쓸 수 있지만 품질은 사람 수준이어야 합니다.

사람들이 콘텐츠가 AI로 만들어졌다고 믿으면(그렇지 않아도) 덜 신뢰합니다.

뉘른베르크 시장결정연구소(NIM) 연구에 따르면 AI로 만들어졌다고 설명된 콘텐츠는 동일한 내용이 사람이 만든 것으로 제시될 때보다 더 부정적으로 받아들여졌습니다. 사람들은 AI 생성 광고에 나온 제품을 덜 클릭하려 했습니다.

텍스트에는 대중이 AI의 흔적으로 여기는 단어와 문체가 있습니다. 예를 들어 긴 대시 "—"나 "delve", "realm" 같은 단어입니다.

더 깊습니다. 길게 설명하지 않아도 AI 글쓰기를 나타내는 수백 가지 패턴을 찾아냈습니다.

인간의 글에도 이런 패턴이 나타납니다. 많은 작가는 문체 전체를 바꾸는 것보다 이런 패턴을 "휴먼라이즈해서" 없애는 편이 쉽다고 느낍니다. 주된 동기는 새로운 언어적 편견에도 불구하고 신뢰를 유지하는 것입니다.

저희 서비스 약관에 명시된 바와 같이 저희는 허용하지 않습니다 사용자가 "댓글이나 메시지를 보내기 위한 스크립트 사용, 데이터 마이닝, 로봇 또는 이와 유사한 데이터 수집·추출 도구 등 시스템의 자동화된 사용"에 해당하는 행위를 하는 것을.

스팸으로 7,000명 이상의 사용자를 차단했습니다. 여러 플랫폼의 챗봇 도구는 저희 휴먼라이제이션 API로 메시지를 보내지만 챗봇으로 표시되며 사람인 척하지 않습니다.

승인되지 않은 자동화와 자동화된 악용은 저희가 방어하고 집행하기 가장 쉬운 위반 중입니다. 에이전트형 AI 시스템(예: clawdbot)을 고려할 때, 서비스를 사용해 진짜 사람인 척하는 에이전트나 봇 시스템에 대해서는 절대적인 무관용 정책을 적용합니다. 감시하고 있습니다.

저희는 부정행위를 결코 용납하지 않습니다. 모더레이션 팀이 .edu 이메일 가입을 조사합니다.

개인 정보 보호를 중시합니다. 틀릴 가능성이 있으면 그런 비난은 하지 않습니다. 일부 학생은 AI로 에세이를 쓸 것입니다. 학생 여러분: 사고 과정 전체를 AI에 맡기면 본인만 해를 봅니다.

가끔 저희 소프트웨어가 "부정행위를 쉽게 한다"는 주장을 듣습니다. 하지만 부정행위는 더 큰 문제의 증상입니다. 저희 소프트웨어는 윤리적 사용자의 진정한 소통도 쉽게 합니다.

악의적인 사용자가 학업 부정에 악용하려 해도 휴먼라이저의 긍정적 사용을 무효로 하지는 않습니다.

학계와의 대화에는 항상 열려 있으며 피해를 가능한 한 줄이는 것이 목표입니다.

부정을 하려는 것이 아니라 부정확한 AI 탐지 시스템(오탐)으로 인한 억울한 비난에서 자신을 지키기 위해 휴먼라이저에 관심을 갖는 학생도 있습니다. 탐지기 섹션에서 더 다룹니다.

자동화 및 봇 콘텐츠와 .edu 이메일 가입을 탐지하는 안전장치가 있습니다. 내부 모더레이션 검문소로 정책을 준수합니다. 제한은 결국 개인 정보 보호로 귀결됩니다.

개인 정보 보호가 고려되지 않는 경우는 공공 안전에 직접적인 신체적 위험이 있거나 미국 법원 명령으로 개인 데이터를 제출해야 할 때뿐입니다. 저희 집행은 주로 불법 행위나 공공에 대한 직접적인 신체적 해를 대상으로 합니다.

AI 공개는 다층적입니다. 주요 요인은 요구 사항입니다(내부 거버넌스 정책, 규정, 법률, 이용약관).

모든 사람이 도덕적으로 AI 사용을 공개해야 한다고는 생각하지 않습니다.

AI 거버넌스 정책을 지지하며 모든 회사가 가져야 한다고 믿습니다. AI 사용 방식(AI 사용 공개 시기, 허용·비허용 사례 등)을 명확히 하는 내부 정책이 없으면 조직에 사각지대가 있습니다.

AI 도구에서 나쁜 데이터가 오거나 직원이 기밀을 보호하지 않는 시스템에 노출할 수 있습니다. 어느 쪽이든 AI 도구 사용의 긍정적·부정적 효과를 귀속할 수 있는 것은 논리적입니다. 지금은 붐이고 도구는 새롭습니다. 어떤 사람들은 도구에서 무엇을 얻고 무엇을 공유하는지 생각하지 않고 사용합니다.

도구의 허용·비허용 사용에 대한 외부 거버넌스 정책은 저희 서비스 약관에 정의되어 있습니다. 내부적으로 모든 부서에서 AI 거버넌스 정책을 유지합니다.

두 번째로 인기 있는 도구는 AI 텍스트 탐지기입니다. 휴먼라이저와 마찬가지로 옳은 방법과 그른 방법이 있습니다.

첫째, 현재 상태의 AI 텍스트 탐지만으로는 텍스트에서 인공지능 사용을 절대적 확실성으로 객관적으로 배제하기에 충분하지 않습니다. 현대 탐지기(저희 것 포함)는 서면 콘텐츠의 구조와 구문을 분석합니다.

텍스트에 부여된 AI 비율은 AI 생성 가능성 또는 확률 점수입니다. 조사에서 자기수법 분석을 사용하는 것과 마찬가지로 이 점수는 조사의 "출발점" 또는 "시작점"으로 여겨져야 합니다. 그래서 단일 AI 텍스트 탐지 점수만으로는 부정이나 기만을 배제하기에 충분하지 않습니다.

다음 예가 이를 보여 줍니다.

바라건대 이 예가 한 가지를 분명히 합니다. AI 텍스트 탐지기를 사용할 때는 조사의 보조 도구여야 합니다. 지금까지 단일 탐지 표시는 부당행위에 대한 합리적 의심을 넘는 증거로 쓸 수 없습니다.

학문적 또는 직업적 조사에서 텍스트 탐지는 부당행위 주장이나 결론을 뒷받침하는 이차적 또는 삼차적 증거여야 합니다. 점수 하나만으로는 부족합니다.

처음에는 "합의 기반" 탐지 모델을 출시했습니다. 2023년이었습니다. 탐지기는 새로웠고 당시 "블랙박스" 도구로 여겨졌으며 통일된 방법론이 없었습니다. 당시 주요 탐지기를 모방한 8개 모델을 만들었습니다. 사용자가 텍스트를 분석하면 각 모델이 어떻게 점수를 매겼는지 보여 주었습니다.

일부 탐지기가 전체 결과를 왜곡한다는 것을 발견했습니다. 처음에는 8개 중 5개가 텍스트를 AI 생성으로 표시하면 전체 합의가 텍스트가 그럴 가능성이 있다고 결론지었습니다.

머신러닝·연구 부서를 키우면서 부정확한 탐지 모델을 제거했습니다.

오늘날 탐지기는 하나의 점수만 보여 주지만 여전히 여러 탐지 층에 기반합니다. 바꾼 또 다른 이유는 사람들이 다른 탐지 도구를 모델링한 알고리즘 점수가 그 도구와 같은 결과를 낼 것이라고 생각하기 시작했기 때문입니다. 문제는 그중 일부 탐지 도구가 베타 모델을 바꾸며 저희 알고리즘과 다른 결과를 보였다는 것입니다.

사람들이 저희 탐지기를 다른 탐지 도구의 실시간 대리로 쓰게 하고 싶지 않았습니다. 공개적으로 이름을 말할 수는 없지만 어떤 탐지 모델이 과학적인지는 파악했고, 텍스트 탐지의 "블랙박스" 상태는 서서히 "이해 가능"하고 "정량화 가능"한 과학으로 옮겨가고 있습니다.

탐지기가 보는 주요 측면 중 하나는 언어 엔트로피입니다. 텍스트 블록이 얼마나 예측 불가능하거나 변동적인지. 엔트로피가 불확실성을 측정하는 곳에서는 평가 지표로 perplexity를 사용합니다.

대규모 언어 모델은 토큰 수준에서 예측 가능하게 작동하며 종종 더 낮은 perplexity의 출력을 생성합니다. 달라질 수 있지만 LLM은 일반적으로 예측 가능한 패턴을 따릅니다.

저희 휴먼라이저처럼 사람의 글쓰기 습관을 모방하도록 설계된 도구가 있다는 것은 텍스트 탐지기가 실패할 수 있음을 의미합니다.

AI 텍스트 탐지기는 오류가 있는 도구입니다. 갖추면 유용하지만 전지전능한 신탁은 아닙니다. 탐지만으로 누군가를 비난하는 것은 용납하지 않습니다.

어쨌든 신뢰할 수 있는 AI 텍스트 탐지기를 쓰는 것이 전혀 안 쓰는 것보다 낫습니다. 중요한 것은 도구만이 아니라 어떻게 쓰고 이해하는가입니다.