DetectGPTレビュー:正直な内訳と主な洞察

DetectGPTの精度は95%。スタンフォード大学によって裏付けられている。DetectGPTの論文には数百の引用がある。オープンソースはDetectGPT github。

しかし、これらの主張がどれほど正確なものなのか? 

このDetectGPTレビューでは、ZDNetの業界標準ベンチマークを使用してDetectGPTをテストし、実際のパフォーマンスを検証します。

DetectGPTレビュー:正直な内訳と主な洞察detectgptレビュー

DetectGPTがどのように機能するのか、他の検出ツールと比較してどうなのか、その精度、信頼性、実用的な使いやすさについて私たちの独自のテストで明らかになったことを説明します。

最後には、DetectGPTが誇大広告に値するかどうかがわかるだろう。

見てみよう。


要点

  • DetectGPT精度:5-10%。4つのテストサンプルのいずれも正しく識別できなかった。

  • DetectGPTはスタンフォード大学が開発したAI検出器で、確率曲率分析を使って機械が作成したテキストを識別する。単語がどの程度正確に組み合わさっているかを分析し、AIのパターンを発見する。 

  • DetectGPTは、新しいモデルの再トレーニングを必要としない先駆的なゼロショット検出法を紹介した。オープンソースのGitHub実装は、さらなる研究とイノベーションを奨励している。

  • Undetectable AIは、4つのテストサンプルすべてにおいて100%の精度を達成し、ZDNetの評価では、最大90%の実世界精度で常にトップ3にランクインしています。


DetectGPTディテクターのレビューとは?

DetectGPTはその名の通り、テキストが人間によって書かれたものなのか、GPTベースのモデルによって生成されたものなのかを検出するAIツールである。 

GPT = Generative Pre-trained Transformer。

これは、膨大な量のテキストデータで学習された大規模言語モデルの一種で、シーケンスの次の単語を予測する。例ChatGPT、GPT-3、GPT-4はすべてこのファミリーに属する。

AI検出 AI検出

もうAIがあなたのテキストを検出する心配はありません。 Undetectable AI あなたを助けることができる:

  • AIがアシストする文章を出現させる 人間らしい。
  • バイパス ワンクリックですべての主要なAI検出ツール。
  • 用途 AI 無事に そして 堂々 学校でも仕事でも。
無料で試す

DetectGPTはスタンフォード大学のコンピューターサイエンスの大学院生、エリック・アンソニー・ミッチェルと彼の研究チームによって開発された。 

彼らのDetectGPT論文、 "DetectGPT:確率曲率を用いた機械生成テキストのゼロショット検出" は2023年1月に出版され、その後ICML2023で発表された。

DetectGPT2023の論文は、AI検知分野における参照点となった。

DetectGPTレビュー:正直な内訳と主な洞察detectgptレビュー

当時はChatGPTの人気がピークに達していた時期で、世界中が人間の書いた文章と機械が作成した文章を見分けるのに苦労していた。 

ある意味、DetectGPTは新種の脅威に対する初期の防衛線となったのだ。では、当時はAIによるAIディテクターは存在しなかったということだろうか?違う。 

検出ツールはいくつかあったが、そのほとんどはラベル付きデータセットに大きく依存していた。推測を行うには、AIや人間のテキストの何千もの例で訓練する必要があった。 

DetectGPTはそうしなかった。 

パターンマッチングの例の代わりに、次のような数学的概念に頼った。 対数確率曲率

こう考えてみよう。

  • AIモデルが文章を書くと、あまりに完璧にフィットする言葉を選ぶ傾向があるため、常に「? 「安全地帯 確率の。 
  • 一方、人間の書く文章は、当然ながらばらつきがある。時にぎこちなく、予測不可能である。 

DetectGPTはその違いを見抜いている。

このプロセスは摂動不一致と呼ばれ、DetectGPTは事前の訓練なしに精度の高い判断を下すことができる。

このAI検出器はすぐに、当時最も高く評価され、学術的に引用されたAI検出器のひとつとなった。

DetectGPTの主な特徴

DetectGPTの主な機能は以下の通りです:

  • ゼロ・ショット検出エンジン: 新しいモデルがリリースされるたびに再トレーニングすることなく、AIが生成したテキストを検出します(つまり、確率曲線)。
  • ファストディテクトGPTスピード&スケール: アップデート版であるFast-DetectGPTは、オリジナル版よりも迅速かつ効率的な大量検出を可能にする。
  • オープンソース財団 そのフレームワークはオープンに共有されていたため、開発者はそれを複製し、適応させることができた。DetectGPTのオープンソース実装は、DetectGPT github上の多くのプロジェクトにインスピレーションを与え、開発者は検出モデルとAPIの構築と改善を続けている。 今日、DetectGPTのGitHubリポジトリは、世界中の研究者や開発者のためのリソースとなっています。
  • 高精度のクレーム: 最大99%の検出精度を達成し、DetectGPTの論文に記載されている95% AUROCというオリジナルの学術的ベンチマークを上回った。
  • バッチ検出とレポート: ドキュメントの一括スキャン(バッチあたり10~50ファイル)をサポートし、教育者や企業向けにダウンロード可能なPDFレポートを作成します。
  • APIの統合: 既存のプラットフォーム、アプリ、コンテンツワークフローにシームレスに統合するためのシンプルなAPIを提供します。
  • AIコンテンツ・ヒューマナイザー: AIが生成したテキストを、より自然で人間らしい響きに書き換える機能も追加。
  • 統合された剽窃とファクトチェック: テキストのオリジナリティと事実の正確性をチェックし、信頼性を確保する。
  • 読みやすさの採点: 文章の流れ、トーン、明瞭さを評価し、全体的な読みやすさを向上させる。

DetectGPT検出器はどのように機能しますか?

DetectGPTには2つの方法でアクセスできる:

  • ウェブアプリ
  • ブラウザ拡張機能

両バージョンの一般的な使い方をステップごとに紹介しよう:

  1. プラットフォームにアクセスする: DetectGPTのウェブサイトにアクセスするか、ブラウザの拡張機能が有効になっていることを確認してください。
  2. 入力内容: テキストをコピーして入力ボックスに貼り付けます。拡張機能を使っている場合は "リフレッシュ" または 「スキャン 分析したいページを見ながら
  3. 分析を開始する: クリック "内容を確認する。"その後、システムはDetectGPT 2023の論文に記載されている方法論に基づいてコンテンツをチェックします。
  1. レビュー結果 数秒以内に、DetectGPTは、テキストがAIによって生成された可能性を示す分析スコア(通常はパーセンテージ)を表示します。 

DetectGPTの精度をテストする

DetectGPTのテストは、ZDNetの広く認知されているベンチマーク手法を用いて行いました。

4つのサンプルブロックを使用した:

  1. ブロック1(人力、形式的)→→→(人力、形式的 研究論文
  2. ブロック2(人が書いた、非公式なもの)→→→。 ゲイリー・ハルバートの手紙より抜粋
  3. ブロック3(AI生成、ベーシック)→→→。 ChatGPT 3.5出力
  4. ブロック4(AIが生成した創造的なプロンプト)→→→。 詳細で複雑なAIテキスト

結果

サンプルブロック真の起源DetectGPT検出備考
ブロック1100% ヒト21%ミックス、0% AI部分的にAIと誤分類
ブロック2100% ヒト11%ミックス、0% AIわずかに混在のフラグ
ブロック3100% AI85% ヒト、15% 混合AIを正確に検出できなかった
第4ブロック100% AI14%ミックス、0% AIほとんどが人間である。

ブロック1の結果(人力、フォーマル)

DetectGPTレビュー:正直な内訳と主な洞察detectgptレビュー

ブロック2の結果(人力、非公式)

DetectGPTレビュー:正直な内訳と主な洞察detectgptレビュー

ブロック3の結果(AI生成、バニラ)

DetectGPTレビュー:正直な内訳と主な洞察detectgptレビュー

ブロック4の結果(AI生成、スタイリング済み)

DetectGPTレビュー:正直な内訳と主な洞察detectgptレビュー

4つのサンプルのうち、100%が正しく分類されたものはなかったが、2つ(ブロック1とブロック2)は小さな部分的認識(「混合」検出)があり、これは非常に小さな部分的成功とみなすことができる。

公正でデータに基づいた言い方をすれば、DetectGPTはこのテストで~5-10%の実用的な精度を達成したが、これは元のDetectGPTの論文で示された有望な結果にもかかわらず、プロの使用には本質的に信頼できない。

次に、次のテストを行った。 検出不可能なAI 先に適用したのと同じZDNetのベンチマーク手法を使用。

サンプル実際検出不可能なAI検出精度
ブロック1100% ヒト100% ヒト正しい
ブロック2100% ヒト100% ヒト正しい
ブロック3100% AI99% AI正しい
第4ブロックAI86% AI正しい

検出不可能なAI は4つのサンプルすべてを正確に分類した。 

ZDNetが独自の評価を行ったところ、Undetectable AIは常に検知ツールのトップ3にランクインしました。

多様な文体や複雑なレベルにおいて、AIと人間の両方のコンテンツを正しく識別できる数少ないプラットフォームとして際立っていた。

DetectGPTの長所と短所

DetectGPTの長所と短所を紹介しよう:

長所短所
確率曲率を用いてAIテキストを検出。新しいモデルの再トレーニングは不要。テストでは、4つのサンプルのうち2つを部分的に識別しただけだった。
トークン・レベルの分析により、340倍高速化され、リアルタイムで使用できるスケーラビリティを実現した。正式な、あるいは構造化された人間のテキスト(研究論文のような)を、AIが作成したものと見なすことがよくある。
スタンフォード大学の研究に裏打ちされ、DetectGPT 2023の論文を通じてICMLとICLRで発表された。ChatGPT-3.5と創造的なスタイルのGPT出力を識別するのに苦労した。
コアとなる研究とコードは、DetectGPT githubと様々なDetectGPTオープンソース実装プロジェクトを通じて一般に公開されています。性能にばらつきがあるため、教育、SEO、コンプライアンスなどのワークフローで専門的に使用するには適さない。

DetectGPTと未検出AIとの比較

ここでは、実際のテスト結果と検証された性能に基づく、シンプルで実用的な比較を紹介しよう:

基準検出GPT検出不可能なAI 
コア機能確率曲線を使用してAIテキストを検出します。AIのテキストを検出し、完全に人間的なものに書き換える。
精度95%+の精度を謳っているが、ZDNetスタイルのテストでは40-50%程度のスコアしか出なかった。85-90%の実測精度で、ZDNetにより常にトップ3にランクされている。
統合検出のみ。Humanizerは別途有料のアドオンです。内蔵ヒューマナイザー - コンテンツの検出と修正を一箇所で行うことができます。
使いやすさチェックと書き換えに別々のステップが必要。単一のワークフロー。検出、ヒューマナイズ、検証を瞬時に。
価格50,000ワードで$15/月。10,000ワードで$9.99/月(フレキシブルプラン)。

下のウィジェットでAIディテクターとヒューマナイザーをご覧ください!

よくあるご質問

DetectGPTとは?

スタンフォード大学で開発されたDetectGPTは、統計的予測可能性(対数確率曲率)を分析することで、AIが書いたテキストを検出する。

つまり、新しいAIモデルごとに再トレーニングすることなく機能する。

DetectGPTは無料で使用できますか?

コアとなる研究とオープンソース・コードはGitHubで無料公開されている。しかし、AIヒューマナイザー、剽窃チェッカー、より高い制限を備えた商用バージョンは、50,000ワードで月額$15です。

DetectGPTはGPT-3とChatGPTのコンテンツを検出できますか?

私たちのテストでは、ChatGPT 3.5の出力を識別できませんでした。それは、AIが生成したものではなく、85%人間として分類された。

最終評決

DetectGPTの論文では、スマートなゼロショット法が紹介されている。 "予測可能" AIが書いた文章を見抜くために、文章中の単語をチェックする。 

しかし、理論的にはうまくいっても、実際にはうまくいかないこともある。

我々のテストでは、DetectGPTは実世界で5-10%の精度にしか達しなかった。 

人間が書いた研究論文をAIと判定し、明らかにChatGPTが作成したテキストを見逃してしまうことがよくあった。 

教師が生徒の作品をチェックしたり、作家が自分たちの信用を守ったり、企業がコンテンツのコンプライアンスを守ったりする場合、このような矛盾は危険だ。

使用する前に知っておくべきことがある:

  • もしあなたが研究者や開発者なら:GitHubのコードは、学習や独自のAI検出ツールの構築に最適です。
  • 確実な検出が必要ならUndetectable AIは、実際のテストにおいてはるかに優れたパフォーマンスを発揮した。最大90%の精度を記録し、さらにフラグを立てたテキストを完全に人間らしく聞こえるように書き換える。
  • AI検知を研究しているならDetectGPTの論文は今でも読む価値があるが、覚えておいてほしい。 「95%の精度 は実験室でのテストに基づくもので、実際の結果ではない。

AI検知ツールは急速に進歩している。DetectGPTの研究は称賛に値するが、精度が重要な場合は、ラボの外でテストされ、証明されたツールを使用することだ。

試す 検出不可能なAI あなたのコンテンツが本物で、人間的で、確実に検出されるようにするために、今すぐご利用ください。

Undetectable AI (TM)