Международных студентов обвинили в мошенничестве благодаря инструментам обнаружения ИИ

Тейлор Хан, который преподает в Университете Джонса Хопкинса, получил тревогу, оценивая студенческую бумагу этой весной для курса по коммуникациям.Он загрузил задание на Turnitin, программное обеспечение, используемое более чем 16 000 академических учреждений по всему миру для обнаружения плагиатского текста и, с апреля, для флага искусственного интеллекта.

Турнитин обозначил более 90 процентов статей студента как генерируемые ИИ. Хан организовал встречу Zoom со студентом и объяснил результаты исследования, попросив просмотреть заметки и другие материалы, используемые для написания статей.

«Этот студент, сразу, без предварительного уведомления о том, что это проблема ИИ, показал мне проекты, PDF-файлы с их освещением», — сказал Хан.

В другом случае Хан работал непосредственно со студентом над очерком и проектами статьи, только чтобы большая часть представленной бумаги была обозначена Turnitin как генерируемая ИИ.

В течение весеннего семестра Хан заметил шаблон этих ложных положительных эффектов. Инструмент Турнитина был гораздо более вероятным, чтобы обозначить написание международных студентов как генерируемое ИИ. Когда Ханн начал видеть эту тенденцию, группа ученых-компьютеров Стэнфорда разработала эксперимент для лучшего понимания надежности детекторов ИИ при написании неиностранными англоговорящими. Они опубликовали бумагу в прошлом месяце, нахождение четкого предрассудка

В то же время детекторы почти никогда не совершали подобных ошибок при оценке письменности носителей английского языка.

ИИ-детекторы, как правило, запрограммированы для написания знака, когда выбор слов предсказуем, а предложения более просты.Как оказалось, написание не-носителями английского языка часто соответствует этой схеме, и в этом заключается проблема.

Люди, как правило, имеют больший словарный запас и лучше понимают сложную грамматику на своих первых языках. Это означает, что англоговорящие люди, не имеющие родного языка, склонны писать более просто на английском языке. Так же и ChatGPT. На самом деле, он имитирует человеческое письмо, анализируя все, что он когда-либо обрабатывал, и изготавливая предложения с использованием самых распространенных слов и фраз. Даже если детекторы ИИ не специально обучены менее сложному письму, инструменты учатся делать это, видя снова и снова, что написание, генерируемое ИИ, менее сложно.

Weixin Liang, один из авторов исследования Стэнфорда, выучил кантонский и мандаринский перед английским языком. Он скептически относился к требования от near-perfect требования близко к совершенству точность

«Дизайн многих детекторов GPT по своей сути дискриминирует авторов, не являющихся родственниками, особенно тех, кто демонстрирует ограниченное языковое разнообразие и выбор слов», — сказал Лианг по электронной почте.

After ChatGPT debuted in November of last year, many of the nation’s nearly 950,000 international students across the country, like their peers, considered the implications. Educators were panicking about the prospect of students using generative AI to complete assignments. And international students, allowed to study here with education-specific visas, quickly realized their vulnerability in the arms race that sprang up between AI generators and detectors.

почти 950 000

Хай Лонг До, подрастающий младший в Университете Майами в Оксфорде, штат Огайо, сказал, что страшно думать, что часы, которые он проводит в исследованиях, составлении и пересмотре своих статей, могут быть поставлены под сомнение из-за ненадежных детекторов ИИ.

«Много хуже, — сказал До, — это то, что знамя ИИ может повлиять на мою репутацию в целом».

Некоторые иностранные студенты видят дополнительные риски. Колледжи и университеты routinely советуют их международным студентам о том, что обвинения в неправильном академическом поведении могут привести к приостановке или высылке, что подрывает их визовый статус. Угроза выдворения может ощущаться какрутинно advise Международные студенты

Шайам Шарма является доцентом в Университете Стони Брук и пишет книгу о подходе Соединенных Штатов к обучению иностранных студентов.Он говорит, что университеты регулярно не поддерживают эту подгруппу на своих кампусах, а профессора часто не понимают их уникальных обстоятельств.Шарма видит продолжающееся использование дефектных детекторов ИИ в качестве примера того, как учреждения игнорируют иностранных студентов страны.

«Потому что жертва, именно здесь, менее важна, — сказал Шарма. — Жертва здесь менее достойна второй мысли, или оспаривания инструмента».

Были, однако, воспитатели, которые поставили под сомнение инструмент, открывая, как Хан, ошибочность детекторов ИИ и отмечая серьезные последствия необоснованные обвинения.открытие, как Hahn, ошибочность необоснованные обвинения

В статье Лианга его команда указала, что ложные обвинения в мошенничестве могут нанести вред академической карьере и психологическому благополучию студента.

«Учитывая потенциал недоверия и беспокойства, вызванный развертыванием детекторов GPT, это вызывает вопросы о том, перевешивает ли негативное влияние на среду обучения воспринимаемые преимущества», — написали они.

Диана Ларрьеу, уроженка Франции, в этом году учится в юридической школе Кардозо в Нью-Йорке.В прошлом году, в программе магистра в области общего права вблизи Парижа, эссе ее друга на английском языке было обозначено как генерируемое ИИ, сказала она.Когда ее спросили, беспокоилась ли она о том, что то же самое может произойти с ней, потому что, как и ее подруга, английский является ее вторым языком, ее ответ был прямым: «Конечно».

OpenAI shut down его детектор AI в конце июля из-за низкой точности, а Quill.org и CommonLit делали то же самое с их AI Writing Check, говоря, что генеративные инструменты AI слишком сложны для обнаружения.закрыть делал то же самоеАнни Чечителли, главный директор по продуктам Turnitin, сказала, что инструмент компании был подготовлен для писания англоязычными людьми в США и за рубежом, а также многоязычными студентами, поэтому не следует идентифицировать предвзятость Лианга.

Компания проводит собственное исследование, чтобы выяснить, является ли инструмент менее точным при оценке письма не-носителей английского языка.Хотя это исследование еще не было опубликовано, Чечителли сказал, что пока что ответ выглядит как нет.

Кредит: YouTube

Дэвид Адамсон, ученый по искусственному интеллекту в Turnitin, демонстрирует возможности Turnitin по написанию и обнаружению искусственного интеллекта в видеодемонстрации. Двадцать четыре из 24 предложений из этого образца эссе обозначены как исходящие из ChatGPT.

Однако она признала, что инструмент в конечном итоге учится тому, что более сложное письмо, скорее всего, будет человеческим, учитывая шаблоны между тренировочными эссе.

Хевон Ян, старший сотрудник Нью-Йоркского университета и корейка из Южной Кореи, разочарована детекторами ИИ и ее уязвимостью к ним. „Если ИИ подбирает наши языковые модели и автоматически принимает решения, я не знаю, как я могу предотвратить это“, - сказала она.

Именно поэтому Лианг сказал, что он скептически относится к тому, что детектор Турнитина может избежать предрассудков, выявленных его командой в своей статье.

«Хотя подход Turnitin кажется доброжелательным, - сказал он по электронной почте, - важно видеть результаты их текущих тестов и любых оценок третьих сторон, чтобы сформировать всестороннее понимание производительности их инструмента в реальных сценариях».

В июне Turnitin обновил свое программное обеспечение, чтобы позволить учреждениям отключить индикатор написания ИИ, так что даже если программное обеспечение будет продолжать оценивать написание для ИИ, его выводы не будут отображаться для инструкторов. По состоянию на конец июля, только два процента институтов-клиентов Turnitin использовали эту возможность, согласно компании.

отключить индикатор написания ИИ

В ноте преподавателям в конце июня учебный центр университета сказал, что он не поддерживает использование каких-либо детекторов ИИ, ссылаясь на тот факт, что ложные положительные «несут риск потери доверия студентов, уверенности и мотивации, плохой рекламы и потенциальных юридических санкций».

Хотя опыт иностранных студентов не был в центре их принятия решений, Джон Радзилович, промежуточный директор поддержки преподавания в Университете Питтсбурга, сказал, что его команда протестировала несколько доступных детекторов ИИ и решила, что ложные положительные признаки слишком распространены, чтобы оправдать их использование.

«Мы считаем, что фокус на мошенничестве и плагиате немного преувеличен и гиперболичен», — сказал Радзилович.По его мнению, использование детекторов ИИ в качестве контрмеры создает слишком большой потенциал для вреда.