Почему этот учитель принял открытую политику ChatGPT: NPR
«Все обманывают»: почему этот учитель принял открытую политику ChatGPT Доцент престижной школы Wharton не только разрешает своим ученикам использовать ChatGPT, они обязаны.
Технологии
«Все жульничают»: почему этот учитель принял открытую политику ChatGPT
Не все педагоги избегают использования искусственного интеллекта в классе. Джефф Пачуд/AFP через Getty Images скрыть заголовок
переключить заголовок
Джефф Пачуд/AFP через Getty Images
Не все педагоги избегают использования искусственного интеллекта в классе.
Джефф Пачуд/AFP через Getty Images
У Итана Моллика есть сообщение для людей и машин: разве мы не можем просто поладить?
В конце концов, теперь мы официально в ИИ. миру, и нам придется поделиться им, рассуждает доцент престижной школы Уортон Пенсильванского университета.
«Это было внезапное изменение, не так ли? Есть много хороших вещей, которые нам придется делать по-другому, но я думаю, что мы могли бы решить проблемы, связанные с тем, как мы учим людей писать в мире с помощью ChatGPT», Моллик сказал NPR.
С тех пор, как в ноябре был запущен чат-бот ChatGPT, преподаватели высказывали опасения, что он может способствовать мошенничеству.
Некоторые школьные округа запретили доступ к боту, и не без причины. Инструмент искусственного интеллекта от компании OpenAI умеет сочинять стихи. Он может писать компьютерный код. Может быть, даже сдать экзамен MBA.
Один профессор Уортона недавно скормил чат-боту итоговые экзаменационные вопросы по основному курсу MBA и обнаружил, что, несмотря на некоторые неожиданные математические ошибки, он поставил бы ему четверку или четверку с минусом в классе.
И все же не все педагоги сторонятся бота.
В этом году Моллик не только разрешает своим ученикам использовать ChatGPT, но и обязан. И он официально принял ИИ. политика в его учебный план в первый раз.
Он ведет занятия по предпринимательству и инновациям и сказал, что первые признаки того, что движение идет хорошо.
«Правда в том, что я, вероятно, не смог бы их остановить, даже если бы мне это не требовалось», — сказал Моллик.
На этой неделе он провел сессию, на которой студентов попросили придумать идеи для своего классного проекта. Почти у всех был запущен ChatGPT, и они просили его генерировать проекты, а затем допрашивали идеи бота с дальнейшими подсказками.
«И идеи до сих пор великолепны, отчасти в результате этого набора взаимодействий», — сказал Моллик.
Пользователи, экспериментирующие с чат-ботом, предупреждаются перед тестированием инструмента о том, что ChatGPT «может иногда генерировать неверную или вводящую в заблуждение информацию». OpenAI/Скриншот от NPR скрыть заголовок
переключить заголовок
OpenAI/Скриншот от NPR
Он с готовностью признает, что его энтузиазм чередуется с тревогой по поводу того, как искусственный интеллект может изменить оценки в классе, но он считает, что педагоги должны идти в ногу со временем.
«Мы научили людей считать в мире, где есть калькуляторы», — сказал он. Теперь задача педагогов состоит в том, чтобы научить студентов тому, как мир снова изменился, и как они могут адаптироваться к этому.
В новой политике Моллика говорится, что использование ИИ это «развивающийся навык»; что он может быть неправильным, и учащиеся должны сверить его результаты с другими источниками; и что они будут нести ответственность за любые ошибки или упущения, предоставленные инструментом.
И, возможно, самое главное, учащиеся должны признать, когда и как они его использовали.
«Невыполнение этого требования является нарушением правил академической честности», — говорится в правилах.
Моллик не первый, кто пытается установить барьеры для мира после ChatGPT.
Ранее в этом месяце 22-летний студент из Принстона Эдвард Тиан создал приложение для определения того, было ли что-то написано машиной. Названный GPTZero, он был настолько популярен, что когда он запустил его, приложение вылетело из-за чрезмерного использования.
«Люди заслуживают того, чтобы знать, когда что-то написано человеком или машиной», — сказал Тиан NPR о своей мотивации.
Моллик соглашается, но не убежден, что педагоги когда-нибудь действительно перестанут жульничать.
Он ссылается на опрос студентов Стэнфорда, который показал, что многие из них уже использовали ChatGPT на выпускных экзаменах, и указывает на оценки, согласно которым тысячи людей в таких местах, как Кения, пишут эссе от имени иностранных студентов.
«Я думаю, что все обманывают… Я имею в виду, это происходит. Поэтому я прошу студентов просто быть честными со мной», — сказал он. «Скажите мне, для чего они используют ChatGPT, скажите мне, что они использовали в качестве подсказок, чтобы заставить его делать то, что они хотят, и это все, что я прошу от них. Мы живем в мире, где это происходит, но сейчас это просто будет в еще большем масштабе».
«Я не думаю, что человеческая природа изменилась в результате использования ChatGPT. Я думаю, изменились способности.»
Радиоинтервью с Итаном Молликом было подготовлено Гейбом О’Коннором и отредактировано Кристофером Интальятой.
Сообщение спонсора
Стать спонсором NPR
Решение Turnitin по борьбе с мошенничеством с использованием ИИ вызывает обеспокоенность у преподавателей
Когда Turnitin был запущен в 1998 году, ранний стартап в области образовательных технологий обещал решить одну из самых насущных угроз академической честности в зарождающуюся эпоху Интернета: легкий плагиат из онлайн-источников .
Двадцать пять лет спустя вопрос, который крутится у каждого преподавателя в классе, изменился с «Как узнать, копирует ли мой ученик чужую работу?» на «откуда мне знать, что это эссе не было написано роботом?»
Этот вопрос задавали все чаще и чаще после мартовского выпуска четвертой эволюции ChatGPT, генеративного искусственного интеллекта, который продемонстрировал сверхъестественный талант к имитации человеческого языка и мышления. Новейшая модель уже успешно сдала экзамен на адвоката в Аризоне и прошла тест Wharton MBA.
Самые популярные
Завтра Turnitin выпустит «предварительную версию» своего недавно разработанного инструмента обнаружения ИИ Originality. При этом компания попытается убедить свою значительную базу подписчиков в высших учебных заведениях и за ее пределами, что у нее есть решение — или, по крайней мере, существенная часть решения — новейшей технологической угрозы академической честности.
«Педагоги просили инструмент, который мог бы надежно помочь им обнаружить письменные материалы, которые, вероятно, были написаны ИИ», — написал представитель Turnitin в электронном письме Внутри Высшего Эда .
«Turnitin отвечает на этот звонок».Но копипастный плагиат и генеративный ИИ — совершенно разные птицы. Некоторые преподаватели и специалисты по технологиям учреждений обеспокоены скоростью развертывания Turnitin, а также более широкими аспектами технологии обнаружения ИИ.
«Мы только начинаем беседовать с инструкторами о написании с помощью ИИ в различных контекстах, но внезапная и неожиданная доступность технологии обнаружения значительно меняет тон и цели этих дискуссий», — Стивен Уильямс, главный менеджер по продуктам в Bruin. Learn Center of Excellence Калифорнийского университета в Лос-Анджелесе, написал в электронном письме на
Другие эксперты говорят, что темпы развития технологии искусственного интеллекта быстро сделают любое предлагаемое на рынке решение устаревшим. Они опасаются, что оригинальность уже может отстать от времени — она не была обучена GPT-4, который был выпущен только в прошлом месяце, и не имеет опыта работы с Bard, новым шумным генеративным искусственным интеллектом Google.
«Это технологическая гонка вооружений. Появляется технология, и, конечно же, ed tech хочет выпустить обнаружение, а затем через несколько месяцев GPT будет обновлен», — сказал Майкл Миндзак, доцент кафедры образовательных исследований в Университете Брока. «Поэтому [детектор ИИ от Turnitin] на самом деле не является решением. Это скорее временная мера».
Представитель Turnitin признал темпы развития ИИ и сказал, что компания будет работать над частым обновлением Originality.
«При этом помните, что цель обнаружения ИИ Turnitin — дать преподавателям отправную точку для разговора», — сказали они. «Мы ожидаем, что преподаватели будут меняться в своем мышлении по мере развития этой технологии».
Быстрое развертывание и отсутствие возможности отключить TurnitOff
Когда Turnitin объявила о пробном запуске Originality в феврале, Уильямс сказал, что у него сразу появилось множество опасений. Главными среди них были неспособность факультетов и учебных заведений отказаться от услуги и скорость, с которой будет введена Оригинальность.
Он также был обеспокоен тем, что институциональным партнерам не была предоставлена возможность ознакомиться с технологией до того, как она была предоставлена их преподавателям.
«Поместив эту функцию в нашу учебную среду, она может легко создать у преподавателей впечатление, что она была проверена в нашем кампусе», — написал он. «Это не так — нашим командам по обеспечению конфиденциальности, безопасности, доступности и другим командам в кампусе не была предоставлена возможность просмотреть новую функцию, как мы сделали бы это для любой другой новой ИТ-услуги».
Он опубликовал свои опасения на Canvas R1 Peers Listserv, онлайн-форуме для сотрудников информационных служб исследовательских университетов по всей стране, и сказал, что многие из его коллег разделяют его опасения.
Представитель Turnitin сказал, что, хотя у подавляющего большинства пользователей «не было возможности отключить эту функцию», компания сделала исключение для «некоторого числа клиентов с уникальными потребностями или обстоятельствами».
Миндзак сказал, что распространение генеративного ИИ вызвало параноидальное безумие в высшем образовании, на которое технический сектор стремился наброситься. Он считает, что быстрое развертывание Originality вызвано не желанием предоставить своевременное решение насущной проблемы, а скорее желанием компании удовлетворить зияющий рыночный спрос до того, как потенциальные конкуренты опередят их.
«Оппортунизм образовательных технологий — большая часть этого», — сказал он. «Эти компании всегда ищут пути проникновения в институты и создания новых рынков».
Рахул Кумар, также доцент кафедры образовательных исследований Брока, сказал, что обеспокоен тем, что захват Turnitin доли рынка может негативно сказаться на способности высших учебных заведений вдумчиво решать проблемы, поднятые генеративным ИИ, особенно для преподавателей, которые незнакомы с технологией и жаждут простого решения.
«Боюсь, что профессора, идеологически настроенные против детекторов ИИ, опустят руки и вообще не будут использовать Turnitin, а тогда другие просто скажут: «Мне не нужно об этом беспокоиться, потому что Turnitin сказал, что это хорошо».
или нехорошо», — сказал Кумар, который также работал разработчиком программного обеспечения и системным администратором. «Я не думаю, что это поможет практически, но это немного утешит университеты и облегчит жизнь некоторым преподавателям. И это может предвосхитить любые инновации в учебной программе, направленные на решение проблемы ИИ».
Уильямс выразил аналогичные опасения, сославшись на планы Turnitin сделать Originality доступной только для клиентов с определенной подпиской после года широко доступной бесплатной пробной версии для платных подписчиков.
«Попытка создать спрос инструкторов на эту функцию сейчас, когда менее чем через год для многих учреждений появится платный доступ, кажется неуместной попыткой продать эту функциональность инструкторам и создать спрос, который необходимо будет удовлетворить с помощью расширенного институционального контракты», — написал он.
Представитель Turnitin не подтвердил сроки полного выпуска Originality, но Уильямс сказал, что первоначальный план состоял в том, чтобы пробный период истекал в январе 2024 года.
97 % сообщений создаются с помощью ChatGPT и GPT-3. Компания также заявляет, что ее инструмент имеет очень низкий уровень ложных срабатываний — Эрик Ван, вице-президент Turnitin по искусственному интеллекту, сообщил Market Insider , что он составляет около 1 процента.
«Генеративный ИИ использует математическую модель для идентификации и кодирования шаблонов данных, а затем предсказывает, какое слово должно быть следующим», — написал представитель Turnitin. «Вот почему обнаружение работает, потому что эта модель создает отчетливую статистическую сигнатуру, которая сильно отличается от того, что люди склонны создавать в своих письмах. Мы можем обнаружить эту разницу».
Кумар сказал, что не полностью доверяет утверждениям Turnitin о точности. В конце концов, по его словам, не было общедоступных рецензируемых исследований оригинальности, и не было представлений о том, насколько точными они будут при столкновении с более сложным ИИ, чем тот, на котором он обучался.
Между тем, GPTZero — еще один детектор ИИ — недавно определил, что большие куски Конституции США, вероятно, были написаны ИИ, что является очевидным ложным срабатыванием.
Уильямс сказал, что еще одна проблема, связанная с Originality, заключается в том, что, в отличие от флагманского инструмента для обнаружения плагиата Turnitin, он не предлагает объективных доказательств своих результатов, а только статистические вероятности. Оригинальность может утверждать, что существует 95-процентная вероятность того, что текст был сгенерирован искусственным интеллектом, например, но источники этого алгоритма не будут общедоступными, в то время как детектор плагиата Turnitin отображает источники, в которых он нашел сходство с текстом учащегося.
Это отсутствие прозрачности, по словам Уильямса, имеет значение для использования Originality в классе. По его словам, без объективных доказательств или доступа студентов инструмент рискует создать карательную культуру, основанную на спекулятивных алгоритмах, что является отходом от сообщений компании о детекторе плагиата.
«Исторически Turnitin поддерживала сообщение о том, что эти совпадающие отрывки не должны немедленно интерпретироваться инструктором как плагиат… [и] это сообщение помогло установить доверительные отношения», — написал Уильямс. «Природа новой функции обнаружения ИИ нарушает эту связь».
Представитель Turnitin сказал, что Originality не следует использовать в качестве наказания, и подчеркнул, что инструмент предназначен просто для «помощи преподавателям» в идентификации текста, созданного ИИ, или в разработке уроков, связанных с ним.
«Все решения Turnitin, связанные с обеспечением целостности, предназначены для выделения академической работы, которую преподаватель может решить заслуживать обсуждения со своим учеником», — написал представитель. «Никакое решение академической честности никогда не должно использоваться для единоличного решения вопросов о неправомерных действиях».
Анна Миллс, преподаватель английского языка в Колледже Марин и самопровозглашенная «защитница критической грамотности в области ИИ», сказала, что разработка политики в отношении того, как бороться с генеративным ИИ, является важным первым шагом для преподавателей, прежде чем внедрять инструменты обнаружения ИИ.
как Оригинальность. Но согласно недавнему опросу, проведенному Primary Research Group, большинству преподавателей еще предстоит сделать этот шаг.
«Вот почему это действительно должно быть чем-то, на что вы должны согласиться», — сказал Миллс. «Преподаватели, которые на самом деле не знают, что такое ИИ, или не говорили об этом со своими классами — я не думаю, что они готовы использовать такой инструмент при оценке студентов».
Она добавила, что особенно важно вовлекать студентов в процесс разработки политики, как это сделал один профессор Бостонского университета в своем классе «Данные, общество и этика». Политика, которую они разработали вместе, теперь является стандартом для всего отдела; Миллс сказал, что такой совместный подход может защитить от произвольного наказания и сохранить доверие в классе.
Миндзак считает, что идеальным решением, наиболее защищенным от устаревания, будет переход на полностью аналоговые устройства — только ручка и бумага, по старинке.
По его словам, отсутствие интернета в классе и ноутбуков означает бесполезность генеративного ИИ или его детекторов.
«Нужна ли вообще технология высшего образования? Я бы сказал, что нет; Я бы даже сказал, что без него нам было бы лучше», — сказал он. «Но я знаю, что это маловероятно… Сейчас это похоже на мчащийся поезд. Может, нам стоит притормозить и сделать шаг назад, но остановить инерцию сложно».
Миллс сказала, что генеративный ИИ еще не сделал из нее луддитку; она считает, что детекторы ИИ могут выполнять множество полезных функций не только для обеспечения академической честности, но и в качестве помощи для включения ИИ в учебную программу. Она добавила, что за пределами классной комнаты они могут иметь еще более важные преимущества, такие как выявление дезинформации, созданной ИИ.
«Разговоры в академических кругах слишком узко сосредоточены на академической нечестности и не связывают ее с более широкими социальными причинами, почему нам нужно такое программное обеспечение», — сказала она.