Нейросети могут ослаблять умственные способности людей
Международная группа исследователей из Испании, Италии и США опубликовала работу, в которой сравнила большие языковые модели искусственного интеллекта с когнитивным вирусом. Нейросети не только могут нанести вред мыслительным способностям человека, но и создают эффект самоподкрепления, если люди вокруг активно их применяют. Информация опубликована на портале arXiv.
Что именно утверждают авторы
Работа носит теоретический, а не экспериментальный характер, но также обращается к полученным ранее данным о влиянии зависимости от ИИ на когнитивные функции. Применив методы эпидемиологического моделирования, которые используются для отслеживания распространения биологических вирусов, учёные пришли к выводу, что общество со временем переходит от одного состояния к другому: «независимое» сначала становится «привязанным», а затем превращается в «зависимое».
В первом случае люди не полагаются на ИИ-модели в процессе мышления; во втором используют их как часть когнитивного процесса; а в третьем уже перекладывают большую часть умственной работы на ИИ.
Почему это работает как вирус
Авторы исследования не ограничиваются утверждением, что ИИ разрушает мозг — это показали и предыдущие исследования. Когда человек обращается к машине, выполняющей за него мыслительные задачи, его способности мыслить самостоятельно ослабляются. Новое исследование указывает, что повсеместное применение ИИ-моделей может оказывать системное воздействие на общество в целом. Устойчивая практика делегирования умственных функций ИИ может действовать как биологический вирус: люди, которые выиграли от работы с ИИ, распространяют эту практику среди окружающих и, если не проявляют должной осмотрительности, постепенно впадают в зависимость от него.
Противниками ИИ авторы не являются
Исследователи подчёркивают, что не считают использование ИИ вредным само по себе, и приводят несколько примеров, как ИИ по-настоящему помогает человеческому мышлению, не подменяя его. В этом и ключ к иммунитету от «вируса» — не давать ИИ думать за себя. Отказываться от него не нужно: модели хороши в задачах глубокого анализа, сбора информации и даже обучения.
Вопрос не в том, применять ИИ или нет, а в том, как с ним взаимодействовать: важно, расширяет ли он компетентность человека или подменяет те умственные процессы, за счёт которых эта компетентность поддерживается. Авторы ссылаются на исследования, подтверждающие, что критический подход к ИИ без отказа от собственной умственной работы — ключ к предотвращению умственной деградации и способ выработать иммунитет к «вирусу».
Справка
Эпидемиологическое моделирование — стандартный метод в науке о здоровье, который ранее применялся и к другим «поведенческим» явлениям, например к распространению курения или привычек питания.