Самая полезная фраза в эпоху ИИ, похоже, совсем не футуристичная: "я не знаю". Она не звучит как стартап. Её не покажут на презентации. Зато это маленькая педаль тормоза, которая мешает превратить правдоподобный ответ в уверенную ошибку.

Рабочий стол с AI-советом и запиской я не знаю

The Next Web пересказал новое исследование Валерио Капраро, Кьяры Маркоччиа и Вальтера Кваттрочокки. Участникам задавали сложные вопросы о визуальных деталях из фильмов. Одна группа отвечала сама, другая могла пользоваться AI-советом. Модель Step 3.5 Flash специально выбрали такой, что на этих вопросах она часто ошибалась: исследователей интересовало не "полезен ли ИИ вообще", а что делает человек, когда машина звучит уверенно, но говорит неправду.

Результаты неприятные. Без ИИ участники отвечали верно в 27% случаев и говорили "не знаю" в 44% случаев. С ИИ точность упала до 9%, а готовность признать незнание почти исчезла — до 3%. Уверенность, наоборот, выросла с 30% до 76%. Даже денежная мотивация помогла слабо: точность поднялась до 16%, но всё равно осталась ниже группы без ИИ.

Отсюда почти неизбежно рождается новая интернет-каста: ИИ-веганы, ИИ-ЗОЖники, ИИ-старообрядцы. Люди, которые уходят в свой тёмный интернет, признают только бубен, stack trace и подозрительного senior engineer, щурящегося в логи в два часа ночи.

Шутка смешная потому, что попадает в реальность. Уже появляется категория людей, чей принцип не "ИИ для всего", а "сначала думаю сам". Местами это будет поза. Но как гигиена мышления это вполне рабочая идея.

Исследование не говорит "никогда не пользуйтесь ИИ"

Важная оговорка: эксперимент был построен на вопросах, где модель ненадёжна. Это не доказательство, что любой AI-assisted task ухудшает результат. Калькулятор помогает считать. Спеллчекер ловит опечатки. Coding assistant может быстро написать скучный boilerplate, если человек уже понял, что именно нужно.

Сигнал уже: когда система даёт совет в области, где пользователь не может быстро проверить ответ, человек может отдать машине сам момент сомнения. Проблема не только в неправильном ответе. Проблема в потере привычки сказать: "стоп, я этого на самом деле не знаю".

Для AI Practice это практический вопрос. Большинство рабочих задач не похожи на викторину. Продакт просит краткий анализ рынка. Разработчик спрашивает, почему падают тесты. Студент просит объяснить статью. Основатель спрашивает, опасен ли пункт договора. Модель отвечает спокойно, складно, без пота на лбу. Если у пользователя нет проверки, ответ становится обходным путём вокруг мышления.

TNW называет это collapse of judgment suspension. По-русски проще: исчезает пауза перед уверенностью.

Опасность не в ошибке, а в уверенной ошибке

Неправильный ответ сам по себе неприятен. Неправильный ответ плюс уверенность — уже рабочий риск.

В этом исследовании интересна именно развилка: точность падает, уверенность растёт. Многие пользователи ИИ узнают этот сценарий. Модель пишет гладко, структурно, без колебаний. Сопротивление исчезает. Решение больше не выглядит как догадка. Оно кажется проверенным, хотя проверки не было.

Microsoft Research в работе CHI 2025 о generative AI и critical thinking опросил 319 knowledge workers и собрал 936 примеров использования GenAI в рабочих задачах. Там похожий вывод: чем выше доверие к GenAI, тем меньше усилий критического мышления; чем выше уверенность человека в собственной компетенции, тем больше критического мышления он включает. Одна и та же модель может помогать или усыплять в зависимости от роли, которую ей дали.

Один человек спрашивает, принимает и пересылает. Другой спрашивает, спорит, сверяет, тестирует и редактирует. Второй не против ИИ. Он против капитуляции.

Почему вопросы про фильмы — не игрушка

На первый взгляд детали из фильмов звучат несерьёзно. Но это хороший капкан для overconfidence. У людей есть смутные воспоминания. У языковых моделей есть статистические представления о поп-культуре. И те и другие могут звучать уверенно, когда вопрос касается цвета формы, предмета в кадре или конкретной сцены.

Похожая проблема возникает в работе. Модель знает общий API, но придумывает параметр. Помнит общий смысл политики, но пропускает исключение. Объясняет юридический риск, но не видит юрисдикцию. В таких задачах ответ ИИ — не конец процесса, а кандидат на проверку.

Если вопрос зависит от конкретного факта, даты, файла, строки кода, договора или источника, сгенерированный абзац не закрывает задачу. Он только открывает следующий шаг.

ИИ-отказники как полезная крайность

Культура технологий любит племена. Уже есть люди, которые не признают соцсети, умные колонки, облака, подписки, IDE, тёмную тему, светлую тему и вообще всё, что появилось после их любимого терминала.

У отказа от ИИ тоже будут версии. Кто-то из-за приватности. Кто-то из-за труда и авторских прав. Кто-то из-за религии. Кто-то просто потому, что один раз увидел hallucinated citation в презентации и решил: всё, роботы нечисты.

Но есть взрослая версия отказа: временные зоны без ИИ. Не звать модель до первого собственного тезиса. Не просить summary до чтения источника. Не использовать чатбот для первого прохода debugging. Не давать ИИ писать черновик аргумента, пока сам не понял позицию.

Это не луддизм. Это силовая тренировка. Бегун не садится в такси на среднем километре и не называет это тренировкой.

Практическое правило: сначала думай, потом спрашивай

Самое простое изменение — порядок действий. Перед запросом к модели напишите свой ответ в одну-две фразы. Если не знаете, напишите, что надо проверить. Потом спрашивайте ИИ. Теперь у вас есть точка сравнения, а не пустой экран, который модель заполнит за вас.

Так модель превращается из оракула в спарринг-партнёра. Её можно спросить: где слабое место в моём рассуждении? Какие есть контраргументы? Что здесь не проверено? Какие источники надо открыть руками?

Для команд это можно оформить как правило. AI-generated fix приходит с тестом или воспроизводимым объяснением. AI summary рынка остаётся гипотезой до проверки источников. AI advice в юридических, медицинских и финансовых вопросах не становится решением без специалиста и первичных документов.

Нужна не паника, а трение. Хорошее трение. То, которое заставляет человека остановиться до того, как вероятностный текст стал решением.

Мини-чеклист против уверенной ерунды

Перед тем как принять AI-совет, спросите себя три вещи.

Можно ли это быстро проверить? Если да, проверяйте: откройте источник, запустите команду, прочитайте файл, посмотрите данные. Если проверка дешёвая, а вы её пропустили, это уже не только проблема модели.

Что сделало бы этот ответ неправильным? Этот вопрос вытаскивает из режима восхищения и заставляет искать исключения, старые данные, недостающий контекст и двусмысленные формулировки.

Я использую ИИ, чтобы думать лучше, или чтобы не думать? Честный ответ обычно виден сразу.

Сохранить право на "я не знаю" трудно. В рабочих чатах и соцсетях неуверенность выглядит слабостью. ИИ усиливает это, потому что у него всегда есть ответ. Но человек, который умеет остановиться, часто полезнее человека, который выдаёт мгновенную уверенность по кнопке.

Так что да, ИИ-веганы уже здесь. Часть будет невыносима. Часть будет читать морали за ужином. Но под шуткой есть здравая практика: оставьте кусок процесса медленным, скептичным и человеческим.

Можно сказать "нет Скайнет". А можно проще: сначала сказать "я не знаю" самому, пока машина ещё не успела сказать что-нибудь красивое.