Искусственный интеллект может подрывать навыки критического мышления и делать пользователей глупее, предупреждает новое исследование.
Исследование, проведённое Microsoft и Университетом Карнеги-Меллон среди работников сферы бизнеса, образования, искусства, управления и вычислительной техники, показало, что те, кто больше всего доверял точности помощников ИИ, менее критично относились к выводам этих инструментов.
Сама по себе эта информация не так уж и удивительна, но она выявляет ловушку, скрывающуюся в растущем присутствии ИИ в нашей жизни: по мере того как инструменты машинного обучения завоевывают больше доверия, они могут создавать опасный контент, который остаётся незамеченным.
Исследователи представят свои выводы на конференции CHI Conference on Human Factors in Computing Systems в конце этого месяца и опубликуют работу (PDF), которая еще не прошла рецензирование, на сайте Microsoft.
«При неправильном использовании технологии могут привести и приводят к ухудшению когнитивных способностей, которые должны быть сохранены», — пишут исследователи.
«Главная ирония автоматизации заключается в том, что, механизируя рутинные задачи и оставляя решение исключений на усмотрение человека, вы лишаете его возможности тренировать свои суждения и укреплять когнитивную мускулатуру. В результате он оказывается атрофированным и неподготовленным, когда исключения всё же возникают.»
Для проведения исследования учёные обратились к 319 работникам умственного труда через краудсорсинговую платформу Prolific.
Респондентов, чьи должностные обязанности варьировались от социальной работы до кодирования, попросили поделиться тремя примерами того, как они использовали инструменты генеративного ИИ, такие как ChatGPT, в своей работе.
Затем их спросили, задействовали ли они навыки критического мышления при выполнении каждой задачи и (если да), как они это делали. Их также спросили об усилиях, которые потребовались бы для выполнения задачи без ИИ, и об их уверенности в работе.
Результаты показали резкое снижение уровня критического мышления при работе с ИИ: участники заявили, что в 40 % задач они вообще не использовали критическое мышление.
Это далеко не единственное свидетельство, указывающее на пагубное влияние цифровой зависимости на когнитивные способности.
Было доказано, что самые частые пользователи ChatGPT настолько пристрастились к чат-боту, что отказ от его использования может вызывать симптомы «синдрома отмены», а короткие видеоролики, такие как на TikTok, снижают концентрацию внимания и замедляют рост нейронных связей, связанных с обработкой информации и исполнительным контролем.
Эти проблемы, по-видимому, более заметны среди молодых людей, среди которых внедрение ИИ более распространено, причём ИИ обычно используется как средство для написания текстов и избавляет от необходимости критически рассуждать.
Это не новая проблема — эффект Google, когда люди полагаются на поисковую систему вместо того, чтобы запоминать информацию, существует уже много лет. Однако это подчеркивает, как важно быть осторожными с теми задачами, которые мы доверяем машинам, которые могут ошибаться, иначе мы можем совсем разучиться их выполнять.
«Данные показывают сдвиг в когнитивных усилиях, поскольку работники умственного труда всё чаще переходят от выполнения задач к контролю при использовании генеративного ИИ», — пишут исследователи.
«Удивительно, но хотя ИИ может повысить эффективность, он также может снизить критическую вовлечённость, особенно в рутинных или менее ответственных задачах, в которых пользователи просто полагаются на ИИ, что вызывает опасения по поводу долгосрочной зависимости и снижения самостоятельного решения проблем».
Материалы: Livescience.com (Ben Turner)