AI検出ツールのせいで留学生が不正行為の疑いで誤って告発される

ジョンズ・ホプキンス大学の教授であるテイラー・ハンは、過去の春にコミュニケーションコースのための学生の論文を評価する際に警告を受けた。

Turnitinは、学生の論文の90%以上をAIによって生成されたものと標識付けました。Hahnは学生とZoomミーティングを開催し、論文を書くために使用されたノートやその他の材料を見るよう求めて、その発見を説明しました。

「この学生は、これがAIの問題であることを事前に通知せずに、すぐに、それらを強調した草案、PDFを私に示してくれました」とハンは言った。

別のケースでは、ハンは学生と直接、論文の概要と草案に取り組んだが、提出された論文の大部分をターニチンがAIによって生成したものとして表記するだけだった。

春の学期の間に、ハンはこれらの偽ポジティブのパターンを発見しました。ターニチンのツールは、AI生成として国際学生の書き込みを標識する可能性がはるかに高かった。ハンがこの傾向を見始めたとき、スタンフォードのコンピュータ科学者のグループは、ネイティブ英語を話す人以外の人の書き込みに関するAI検出器の信頼性をよりよく理解するための実験を設計しました。彼らは先月、明確な偏見を見つける

それと同時に、探知機は、英語の母語を話す人の書き方を評価する際に、ほとんどこのような過ちを犯さなかった。

AI検出器は、単語選択が予測可能で文句がより単純であるとき、AI生成として書くようにプログラムされる傾向があります。

人々は通常、より大きな語彙を持っており、最初の言語で複雑な文法をよりよく理解していることを意味します。これは、ネイティブな英語を話す人々が英語でより単純に書く傾向があることを意味します。ChatGPTはそうします。実際には、これまで処理したすべての文を解析し、最も一般的な単語やフレーズを使用して文句を作成することによって人間の書くことを模します。

Weixin Liangは、スタンフォード研究の著者の一人で、英語の前にカントン語とマンダリン語を学びました。彼はclaims of near-perfect a href="https://www.newswire.com/news/ai-content-detection-breakthrough-original-ai主張ほぼ完璧正確さ

「多くのGPT検出器の設計は、本質的に非ネイティブの著者、特に言語の多様性と単語選択の制限を示す著者を差別している」とLiang氏は電子メールで述べた。

ChatGPTが昨年11月にデビューした後、国の多くの学生は、同僚のように、影響を考慮してきました。教育者は、生成型AIを使用して課題を完了する学生の見通しについてパニックを抱いていました。そして、教育特有のビザでここで勉強することを許可された国際学生は、AI発電機と探知機の間で発生した武器競争で脆弱性をすぐに認識しました。ほぼ 950,000

オハイオ州オックスフォードのマイアミ大学の若者であるHai Long Do氏は、彼の論文の研究、作成、修正に費やした時間は、AI探知機の信頼性が低いため、疑問視される可能性があると考えるのは恐ろしいと述べた。

「もっとひどいのは、AIの旗が私の評判全体に影響を与えることだ」とド氏は述べた。

いくつかの外国人留学生は追加のリスクを見ます。大学と大学 routinely アドバイス彼らの国際留学生学問の不正行為の訴えは、彼らのビザの状態を損なう中止または追放につながる可能性があります。追放の脅威は正当な恐れのように感じることができます。ルートでアドバイス国際学生

シアム・シャルマは、ストニー・ブルック大学の副教授で、国際学生を教育するための米国のアプローチに関する本を書いています。彼は、大学は通常、そのキャンパスでこのサブグループをサポートしませんし、教授はしばしば彼らのユニークな状況を理解していません。

「なぜなら、ここで被害者は重要でないからだ」シャルマは言った。

しかし、このツールを疑問視してきた教育者たちは、Hahnと同様に、AI検出器の誤り性を発見し、Href="https://www.usatoday.com/story/news/education/2023/04/12/how-ai-detection-tool-spawned-false-cheating-case-uc-davis/11600777002/">不当な非難を指摘した> a href="https://www.usatoday.com/story/news/education/2023/04/12/how-ai-detection-tool-spawned-false-cheating-case-uc-davis/11600777002/">キャンパスが秋の学期に再開するにつれて、教員は、最新の研究がAI検出器を完全に削除するためのdiscovering, like Hahn, the fallibility 不当な非難

Liangの論文では、彼のチームは、詐欺の偽りの告発が学生の学術的キャリアと心理的福祉に悪影響を与える可能性があると指摘しました。

「GPT検出器の展開によって引き起こされる不信感と不安の潜在性を考慮すると、学習環境への負の影響が感知された利益を上回るかどうかについて疑問が生じる」と書いた。

フランス出身のDiane Larryeuは、今年ニューヨーク市のCardozo School of Lawで学んでいます。昨年、パリ近くの共通法の修士課程で、彼女の友人の英語のエッセイはAIによって生成されていると標識付けられ、彼女は言った。彼女は、彼女の友人のように、英語が彼女の2番目の言語であるため、同じことが彼女に起こるかもしれないと心配していると尋ねられると、彼女の答えは直接的でした「もちろん」彼女の出来ることは、それがすぐに解決されることを願うだけです。

OpenAI shut down its AI detector at the end of July due to low accuracy, and Quill.org and CommonLit did the same with their AI Writing Check, saying generative AI tools are too sophisticated for detection. Turnitin, however, has only doubled down on its claims of high accuracy.

シャットダウン AI書き込み指標を無効にするようにするため、ソフトウェアがAIの書き込みを評価し続けるにもかかわらず、その結論はインストラクターには表示されません。7月末時点で、ターニチンの顧客機関のわずか2%がこのオプションを利用していたと同社は述べています。AI書き込み指標を無効にする

ピッツバーグ大学は6月末の教員へのメモで、大学の教育センターはAI検出器の使用を支持しなかったとし、偽ポジティブは「学生の信頼、信頼と動機付けの喪失、悪い広報、および潜在的な法的制裁のリスクを伴う」という事実を引用した。

留学生の経験は彼らの意思決定の中心ではなかったが、ピッツバーグ大学の教師サポートの暫定ディレクターであるJohn Radziłowiczは、彼のチームは、利用可能なAI検出器の数台をテストし、偽ポジティブはそれらの使用を正当化するにはあまりにも一般的であると判断したと述べた。

「我々は、詐欺とプライジアムに焦点を当てることは少し誇張的で過剰なものだと考えている」とRadziłowicz氏は述べた。

あなたは詐欺で不正に非難されたことがありますか?

AI検出器が誤ってあなたの書き込みをAIで生成したものと識別した場合、私たちはそれを聞きたいです。[email protected]「hr」

クレジット

Tara Garcia Mathewson Investigative Reporter

Tara Garcia Mathewson レポーター

マッサージ・マッサージ

デザインとグラフィック

ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム > ホーム >

ジョエル・イーストウッド

イーストウッド

ハンガリー・ハンガリー