🤖 AI уже начинает «разучивать» профессионалов. Первые данные вызывают вопросы
Журнал Nature собрал несколько недавних исследований о deskilling — постепенной потере профессиональных навыков из-за постоянной опоры на AI и автоматизированные системы. Важны не мнения, а результаты экспериментов.
Врачи
В исследовании, проведённом в Польше, эндоскописты с опытом не менее 2000 колоноскопий работали с AI-системой, которая в реальном времени подсвечивала аденомы — предраковые образования кишечника.
До внедрения AI врачи обнаруживали хотя бы одну аденому в 28,4% процедур. После нескольких месяцев использования системы в дни, когда AI был недоступен, этот показатель снизился до 22,4%.
Исследователи предполагают, что часть специалистов начала полагаться на алгоритм настолько, что их собственная внимательность постепенно снизилась.
💻 Разработчики
Компания Anthropic провела рандомизированный эксперимент с участием 52 инженеров-программистов. Все выполняли одинаковую задачу, но только половина участников могла пользоваться AI-ассистентом.
После завершения работы инженеры проходили тест на понимание собственного решения. Средний результат составил 67% в группе без AI и лишь 50% в группе с AI.
Наиболее заметная разница проявилась в вопросах, связанных с поиском и диагностикой ошибок в коде.
📊 Бухгалтеры
Ещё до появления современных генеративных моделей исследователи наблюдали похожий эффект у специалистов, которые более десяти лет работали с автоматизированными бухгалтерскими системами.
Когда часть автоматизации была отключена, выяснилось, что некоторые рутинные операции сотрудники уже не могли выполнять самостоятельно на прежнем уровне.
🔬 Наука
Проблема может выходить далеко за пределы медицины и программирования.
По данным Nature, с 2012 по 2022 год использование AI в научных публикациях выросло в среднем примерно в четыре раза по двадцати исследовательским направлениям. Одновременно растут и риски методологических ошибок.
Например, обзор 415 исследований по диагностике COVID-19 на основе рентгеновских снимков и КТ показал, что лишь 62 работы соответствовали базовым стандартам качества. В отдельных случаях модели фактически различали взрослых и детей, а не пациентов с COVID и без него.
Главный вывод не в том, что AI вреден.
Во многих задачах AI действительно повышает производительность и качество результата. Однако существует риск, что часть компетенций постепенно переносится с человека на систему. Работа выполняется быстрее и эффективнее, но глубина понимания задачи может снижаться.
Поэтому вместе с внедрением AI всё чаще обсуждаются новые практики работы: регулярное выполнение задач без ассистента, независимая проверка результатов, обучение базовым навыкам без автоматизации и обязательный человеческий контроль там, где цена ошибки особенно высока — в медицине, инженерии, науке, праве и безопасности.
Особенно важно учитывать не только степень автоматизируемости задачи, но и последствия возможной деградации профессиональных навыков. Некоторые процессы действительно можно почти полностью передать AI, однако в отдельных сферах снижение компетентности специалистов может оказаться гораздо более дорогим, чем выигрыш от роста производительности. Тупеем...
Nature:
https://www.nature.com/articles/d41586-026-01947-1
#AI #ArtificialIntelligence #Science #Technology #Medicine #Programming
Журнал Nature собрал несколько недавних исследований о deskilling — постепенной потере профессиональных навыков из-за постоянной опоры на AI и автоматизированные системы. Важны не мнения, а результаты экспериментов.
Врачи
В исследовании, проведённом в Польше, эндоскописты с опытом не менее 2000 колоноскопий работали с AI-системой, которая в реальном времени подсвечивала аденомы — предраковые образования кишечника.
До внедрения AI врачи обнаруживали хотя бы одну аденому в 28,4% процедур. После нескольких месяцев использования системы в дни, когда AI был недоступен, этот показатель снизился до 22,4%.
Исследователи предполагают, что часть специалистов начала полагаться на алгоритм настолько, что их собственная внимательность постепенно снизилась.
💻 Разработчики
Компания Anthropic провела рандомизированный эксперимент с участием 52 инженеров-программистов. Все выполняли одинаковую задачу, но только половина участников могла пользоваться AI-ассистентом.
После завершения работы инженеры проходили тест на понимание собственного решения. Средний результат составил 67% в группе без AI и лишь 50% в группе с AI.
Наиболее заметная разница проявилась в вопросах, связанных с поиском и диагностикой ошибок в коде.
📊 Бухгалтеры
Ещё до появления современных генеративных моделей исследователи наблюдали похожий эффект у специалистов, которые более десяти лет работали с автоматизированными бухгалтерскими системами.
Когда часть автоматизации была отключена, выяснилось, что некоторые рутинные операции сотрудники уже не могли выполнять самостоятельно на прежнем уровне.
🔬 Наука
Проблема может выходить далеко за пределы медицины и программирования.
По данным Nature, с 2012 по 2022 год использование AI в научных публикациях выросло в среднем примерно в четыре раза по двадцати исследовательским направлениям. Одновременно растут и риски методологических ошибок.
Например, обзор 415 исследований по диагностике COVID-19 на основе рентгеновских снимков и КТ показал, что лишь 62 работы соответствовали базовым стандартам качества. В отдельных случаях модели фактически различали взрослых и детей, а не пациентов с COVID и без него.
Главный вывод не в том, что AI вреден.
Во многих задачах AI действительно повышает производительность и качество результата. Однако существует риск, что часть компетенций постепенно переносится с человека на систему. Работа выполняется быстрее и эффективнее, но глубина понимания задачи может снижаться.
Поэтому вместе с внедрением AI всё чаще обсуждаются новые практики работы: регулярное выполнение задач без ассистента, независимая проверка результатов, обучение базовым навыкам без автоматизации и обязательный человеческий контроль там, где цена ошибки особенно высока — в медицине, инженерии, науке, праве и безопасности.
Особенно важно учитывать не только степень автоматизируемости задачи, но и последствия возможной деградации профессиональных навыков. Некоторые процессы действительно можно почти полностью передать AI, однако в отдельных сферах снижение компетентности специалистов может оказаться гораздо более дорогим, чем выигрыш от роста производительности. Тупеем...
Nature:
https://www.nature.com/articles/d41586-026-01947-1
#AI #ArtificialIntelligence #Science #Technology #Medicine #Programming
Nature
Is AI ruining our skills? Early results are in — and they’re not good
Nature - Reliance on artificial-intelligence tools degrades the abilities of physicians and software engineers, studies show.
👀4👍2