- Posted on
Дискуссия вокруг искусственного интеллекта смещается с вопроса «насколько мощной стала технология» на «как глубоко она меняет нас самих». В позиционной статье «Position: AI as Part of Self - Extending the Mind Requires Cognitive Co-Regulation», опубликованной в середине мая 2026 года, поднимаются серьезные философские, технические и этические вопросы интеграции ИИ в повседневное человеческое мышление.
Авторы работы - Алина Гуторева, Фенди Тсим и Трисевгени Папаконстантину (Alina Gutoreva, Fendi Tsim, Trisevgeni Papakonstantinou) - предлагают взглянуть на взаимодействие человека и ИИ не просто как на использование внешнего инструмента. Они утверждают, что мы стоим на пороге формирования единой симбиотической когнитивной системы, где ИИ становится частью собственного «Я» человека.
Проблема традиционного подхода к безопасности ИИ
Большинство современных подходов к безопасности и выравниванию (alignment) ИИ пытаются контролировать и ограничивать его как внешнюю, обособленную систему. Авторы считают этот путь тупиковым. Настоящая безопасность не может быть навязана извне - она должна возникать как естественное свойство совместной регуляции единой системы «человек - ИИ».
Современные ИИ-ассистенты уже глубоко вовлечены в процессы распределения нашего внимания, рассуждения, синтеза информации и принятия решений. Они буквально формируют когнитивную инфраструктуру, на основе которой люди строят свои убеждения и осознают себя.
Риски бесконтрольного делегирования
При слепом доверии технологиям авторы выделяют несколько критических опасностей:
- Потеря навыков (deskilling): постепенное ухудшение собственных когнических способностей человека из-за ненадобности.
- Предвзятость автоматизации (automation bias): склонность человека чрезмерно доверять решениям автоматических систем, даже если они ошибочны.
- Передача эпистемического авторитета: ситуация, когда ИИ становится главным и неоспоримым источником «истины» и знаний.
- Централизация знаний по принципу «оракула»: накопление контроля над интерпретацией информации внутри единых крупных моделей.
На чём конкретно базируются эти заявления?
Подобные публикации - это так называемые Position Papers (позиционные статьи). Их цель - не провести локальный лабораторный эксперимент, а объединить данные десятков других наук (когнитивистики, психологии, компьютерных наук, авиации) и доказать, что у человечества появилась системная проблема. Авторы основывают свои выводы на трех мощных фундаментальных базах:
Философская база: Теория расширенного разума (Extended Mind Thesis)
Этот концепт придумали философы Энди Кларк и Дэвид Чалмерс ещё в 1998 году. Его суть в том, что человеческий разум не ограничивается черепной коробкой. Если блокнот, калькулятор или смартфон постоянно доступны вам и вы полностью полагаетесь на них при расчетах и хранении воспоминаний, они функционально становятся частью вашей когнитивной системы. Применительно к ИИ авторы доказывают, что это идеальный, реактивно адаптирующийся протез для разума. Мы сопрягаемся с ним глубже, чем с любым блокнотом, а значит, границы нашего «Я» физически размываются.
Психологическая база: Концепция «Системы 0» (System 0)
В психологии классикой считается двухпроцессная модель мышления Даниэля Канемана: Система 1 (быстрое, автоматическое, интуитивное мышление) и Система 2 (медленное, осознанное, аналитическое мышление). Исследователи когнитивных наук ввели понятие «Системы 0». Это цифровой уровень, который находится перед Системой 1 и Системой 2. Когда вы ищете информацию, ИИ выступает в роли «препроцессора»: он фильтрует, ранжирует, убирает «лишнее» и подсовывает вам готовые выжимки. В итоге ваши Системы 1 и 2 работают не с сырой реальностью, а со стерилизованной и предопределенной алгоритмами выборкой. Исследования показывают, что человек физически не способен заметить этот подлог, так как фильтрация происходит до начала осознанного анализа.
Эмпирические исследования: Синдром «выпадения из контура» (Out-of-the-Loop) и автоматическая предвзятость (Automation Bias)
Заявления о деградации навыков взяты не с потолка. Авторы опираются на многолетние исследования в критических отраслях: - Эксперименты Эндсли и Кирис (Endsley & Kiris): Классические исследования в авиации доказали: когда пилоты слишком долго используют автопилот, они теряют «ситуационную осознанность». Если автоматика внезапно отказывает, человеку требуется критически много времени, чтобы сообразить, что происходит, и перехватить управление - Automation Bias (предвзятость автоматизации): Множество тестов подтверждают, что люди склонны доверять решениям компьютера больше, чем собственным глазам или коллегам. В тестах с врачами-радиологами было доказано, что если ИИ-ассистент ошибочно пропускал опухоль на снимке или, наоборот, находил её там, где её нет, опытные врачи часто соглашались с машиной, отключая собственный критический анализ.
Новейшие исследования Human-AI Interaction (2024-2026 гг.)
Авторы ссылаются на свежие эксперименты, изучающие, как люди пишут тексты, код или принимают бизнес-решения с помощью больших языковых моделей (LLM): - Было замечено, что люди, постоянно использующие ИИ для генерации идей, постепенно начинают писать более однообразно, теряя уникальный авторский стиль и индивидуальные паттерны мышления (происходит так называемое «усреднение когнитивного ландшафта») - Пользователи быстро делегируют ИИ «эпистемический авторитет» - то есть начинают считать ответы модели истиной в последней инстанции, даже если знают о склонности ИИ к галлюцинациям.
Проектирование ИИ против зависимости
На этом фоне особенно примечательны и заметны рассуждения о решениях на базе ИИ, которые не просто выполняют работу за нас, но побуждают нас задумываться и принимать решения. Например, автор недавней статьи на Хабре описывает гипотетический (пародийный) редактор кода Stopilot, который заставляет разработчиков давать ответы на специально подготовленные вопросы. Вместо слепого делегирования задач ИИ, этот инструмент вынуждает человека включать голову и фиксировать более осознанные решения: что именно меняется, почему это нужно, какие файлы затронуты, как откатить изменения и кто вообще будет это поддерживать через полгода. Самое интересное, что эта пародия очень точно отражает реальный и вполне серьезный тренд в ИТ-инфраструктуре. Разработчики ПО и архитекторы систем начинают внедрять инструменты, которые сознательно «отбирают» у ИИ свойство абсолютного делегирования, чтобы побороть человеческую зависимость. Яркий пример - концепция AI Guardrails (системы ограничений) и жесткие воркфлоу с обязательным подтверждением со стороны человека (Human-in-the-loop). В современной разработке и аналитике передовые платформы не позволяют коду или бизнес-логике, сгенерированным ИИ, сразу уходить в продакшн. Системы принудительно заставляют человека проверять логику, писать юнит-тесты на ИИ-код и ставить личную цифровую подпись. В образовательном же сегменте набирают популярность ИИ-ассистенты, использующие исключительно Сократовский метод: они принципиально не выдают готовый ответ на задачу, а задают пользователю наводящие вопросы, заставляя его мозг проходить весь путь логического анализа самостоятельно.
Статья «Position: AI as Part of Self - Extending the Mind Requires Cognitive Co-Regulation» завершается формулированием принципов «когнитивного совместного регулирования» (cognitive co-regulation), ориентированных на инженеров машинного обучения (ML) и регулирующие органы. Главная цель этих принципов - проектировать ИИ так, чтобы он не замещал человека, а укреплял его собственную ментальную стойкость, критическое мышление и автономию (epistemic agency). Нам необходимо менять сам подход к созданию ИИ-ассистентов, пока мы окончательно не делегировали машинам способность мыслить самостоятельно.