人工知能の進歩は驚異的です。 限界がどこにあるのかはまだわかりません。いつの日か、テキストやアートなどの主題において、AI によって作成された作品と人間の作品を完全に区別することが不可能になるかもしれません。
両者の境界が曖昧になるという仮説が生まれるまで、私たちにできることは、テキストが人間によって書かれたものなのか、それとも AI によって書かれたものなのかを調べることです。
AI が入力したテキストを検出する
OpenAI は、ChatGPT などの人工知能ツールを使用して入力コンテンツが生成されたかどうかを検出しようとする AI テキスト分類器をリリースしました。 「AI Text Classifier は、適合した GPT モデルです。 AI がテキストを生成した確率を予測します ChatGPT などのさまざまなソースから」 新しい OpenAI ブログ投稿について説明します。
OpenAI は、多くの大学や学区が同社の人気の AI 搭載チャットボットである ChatGPT を禁止した後、ツールを立ち上げました。 完全な学生 書評、エッセイ、さらには課題を完了するなどの課題。 プログラミング。
操作はとても簡単です。 あなたは単にに行く必要があります この検証ツールのウェブサイト ログインまたは登録します (ChatGPT を使用している場合は、アカウントで行います)。 この後、検証したいテキストを貼り付ける必要があります。ツールは、AI または人間によって書かれた可能性があるかどうかを示す結果を返します。
「100% 信頼できるわけではない」と OpenAI は警告する
教育者は、この新しい AI テキスト検証ツールを使用して、学生が割り当てられた課題でカンニングを行ったかどうかを確認する可能性が高いため、OpenAI は、学業上の不正を判断するための「唯一のテスト」として使用すべきではないと警告しています。
「私たちの分類器は完全に信頼できるものではありません。 英語のテキストの「チャレンジセット」の評価では、分類器 AI によって書かれたテキストの 26% を正しく識別 (真陽性) 「おそらく AI によって書かれた」として、人間が書いたテキストを AI によって書かれた 9% として誤ってラベル付けしている (偽陽性)。 分類器の信頼性は一般に、入力テキストの長さが長くなるにつれて向上します。 以前にリリースされた分類器と比較して、この新しい分類器は、最新の AI システムのテキストでの信頼性が大幅に向上しています。」
さらに、彼らは共有しました 一連の制限 テキスト分類子を可能な限り最も効果的な方法で使用できるようにします。
- 分類子は、短いテキスト (1,000 文字未満) では非常に信頼性が低くなります。 最長のテキストでさえ、分類子によって誤ってラベル付けされることがあります。
- 分類子は、人間が書いたテキストを AI が書いたものとして誤ってラベル付けすることがあります。
- 英語のテキストのみに分類子を使用することをお勧めします。 他の言語では動作が大幅に悪化し、コードの信頼性が低くなります。
- 予測可能性の高いテキストは、確実に識別できません。 たとえば、最初の 1,000 個の素数のリストが AI によって書かれたのか、人間によって書かれたのかを予測することは不可能です。正解は常に同じだからです。
- AI で入力されたテキストは、分類子をバイパスするように編集できます。 分類子は、成功した攻撃に基づいて更新および再トレーニングできますが、検出が長期的な利点をもたらすかどうかは不明です。
- ニューラル ネットワーク ベースの分類器は、トレーニング データの外部では調整が不十分であることが知られています。 トレーニング セット内のテキストと大きく異なる入力の場合、分類器は誤った予測に非常に自信を持っている場合があります。