Прошлой осенью я опубликовал эссе в журнале «Нью-Йоркер» под названием «Какой же писатель — ChatGPT?». Моя цель заключалась в том, чтобы лучше понять, как студенты бакалавриата и аспирантуры используют ИИ для помощи в написании своих заданий.
На тот момент существовала озабоченность тем, что эти инструменты станут машинами для плагиата. («ИИ кажется почти предназначенным для списывания», — писал Итан Моллик в своей бестселлере «Совместный разум»). То, что я наблюдал, было немного сложнее.
Студенты не использовали ИИ для написания текста за них, а скорее для ведения бесед о своих работах. Если честно, такой подход казался менее эффективным и более растянутым, чем просто сосредоточиться и заполнить страницу. По результатам моих интервью стало ясно, что их цель была скорее не снизить общий объем усилий, а уменьшить максимальную когнитивную нагрузку при создании текста.
«Общение» с чатботом по поводу статьи было для них более увлекательным, чем тихая изоляция и мучительное писательство, я писал. Обычное письмо требует острых всплесков концентрации, тогда как работа с ChatGPT «смягчает опыт, сглаживая эти пики в волны синусоиды».
В последнее время я вновь думал об этом эссе, потому что новая исследовательская работа из Медиа-лаборатории MIT под названием «Ваш мозг и ChatGPT» подтверждает мою гипотезу. Исследователи попросили одну группу участников написать эссе без внешней помощи, другую — используя ChatGPT 4.0. Обе группы были подключены к ЭЭГ-аппаратам для измерения мозговой активности.
«Самое заметное различие выявилось в связности альфа-ритма: у группы, работающей только с мозгом, наблюдались существенно более сильные сети семантической обработки», — объясняют исследователи, добавляя далее: «у группы, использующей только мозг, также наблюдался более сильный поток информации от затылочной области к лобной».
Что это означает? Исследователи предлагают следующую интерпретацию:
«Более высокая связность альфа-ритма у группы, работающей только с мозгом, предполагает, что написание без помощи скорее всего вызывало более обширную внутреннюю обработку… их мозги, вероятно, участвовали в большем внутреннем мозговом штурме и семантическом воспроизведении. Группа, использующая LLM,…могла меньше полагаться чисто на внутреннее семантическое создание, что приводило к меньшей связности альфа-ритма, поскольку часть креативной нагрузки была перекладыванием на инструмент.» [подчеркивание мое]
Проще говоря, как я заметил прошлой осенью, использование ИИ в написании снижает максимальную нагрузку на ваш мозг. Для многих комментаторов, откликающихся на эту статью, эта реальность кажется очевидной и положительной. «Когнитивное разгрузка происходит, когда отличные инструменты позволяют нам работать чуть более эффективно и с меньшими умственными затратами ради того же результата», — объяснил один руководитель технологической компании в X. «Таблица не убила математику; она создала отрасли стоимостью миллиарды долларов. Почему мы должны хотеть, чтобы наш мозг использовал те же ресурсы для той же задачи?»
Мой ответ на эту реальность двоякий. С одной стороны, я считаю, что есть ситуации, в которых снижение нагрузки при написании однозначно полезно. Например, профессиональная коммуникация в письмах и отчетах. Здесь главное — передача полезной информации, и если есть более легкий способ достичь этой цели, почему бы его не использовать?
Но в контексте академической среды разгрузка когнитивных ресурсов уже не кажется столь безобидной. Вот сборник актуальных опасений, связанных с использованием ИИ для написания и обучения, из работы MIT [выделения мои]:
«Генеративный ИИ может создавать контент по требованию, предоставляя студентам быстрые черновики на основе минимальных данных. Хотя это может сэкономить время и вдохновить, это также влияет на способность студентов удерживать и воспроизводить информацию, что является ключевым аспектом обучения.»
«Когда студенты полагаются на ИИ при написании длинных или сложных эссе, они могут обходить процесс синтеза информации из памяти, что мешает их пониманию и запоминанию материала.»
«Это говорит о том, что хотя инструменты ИИ могут повышать производительность, они также могут способствовать форме «метакогнитивной лени», когда студенты перекладывают когнитивные и метакогнитивные обязанности на ИИ, что потенциально усложняет их способность к саморегуляции и глубокому освоению материала.»
«Инструменты ИИ… могут упростить избегание интеллектуальных усилий, необходимых для внутреннего усвоения ключевых концепций, что важно для долгосрочного обучения и передачи знаний.»
В учебной среде чувство нагрузки часто является побочным эффектом становления умнее. Минимизация этой нагрузки похожа на использование электросамоката для облегчения марша в военной подготовке; это поможет быстро, но вредит долгосрочной тренировке и формированию выносливости.
В этом узком споре угадываются намеки на более широкую проблему, частично определяющую эпоху ИИ: чтобы полностью овладеть этой новой технологией, нам нужно лучше понять как пользу, так и достоинство человеческой мысли.
####
Для более подробного обсуждения этой новой работы послушайте сегодняшний выпуск моего подкаста, где со мной вместе — Брэд Стулберг — поможет разобрать ее выводы и последствия [слушать | смотреть].
Прошлой осенью я опубликовал эссе в «Нью-Йоркере» под названием «Какого рода писатель такой ChatGPT?». Моя цель в этом материале — лучше понять, как ... Читать далее