«Рассуждающая» нейросеть: почему ИИ не думает, а считает — и зачем нам говорят иначе

В первой части «Анатомии нейронки» я разобрал, что внутри нет никакого разума — есть очень дорогой калькулятор на вероятностях. Сегодня продолжение, но про более тонкий обман. Не про то, что внутри машины, а про то, какими словами нам про это рассказывают.

Потому что главная иллюзия искусственного интеллекта создаётся не технологией, а языком.

Слово «рассуждает» — это маркетинг, а не описание

Смотрите, что происходит. Новое поколение моделей индустрия официально назвала «рассуждающими» (по-английски reasoning models — модели-резонеры). Маркетологи пишут, что такая нейросеть «думает», «размышляет», «рассуждает шаг за шагом», и даже выставляют ей баллы в тестах за «уровень рассуждений». Звучит так, будто внутри сидит мыслитель.

Но давайте называть вещи своими именами. Машина не рассуждает — она производит больше вычислений. То, что красиво назвали «размышлением», технически означает простую вещь: вместо одного прохода расчётов модель делает много промежуточных, прежде чем выдать ответ.

Это не мысль. Это больше арифметики.

Честное техническое описание звучало бы так: «модель, выполняющая больше вычислений перед ответом». А нам говорят «думающая модель». Чувствуете разницу? Первое — скучная правда про калькулятор. Второе — намёк на живой разум. И выбрали намеренно второе.

Калькулятор тоже не «думает»

Вернусь к любимой аналогии, потому что она тут работает идеально. Нейросеть и калькулятор — близкие родственники. Оба работают на математике, оба занимаются вычислениями. Калькулятор считает по законам арифметики, нейросеть — по законам теории вероятностей. Разница в сложности и масштабе, но не в природе. И там, и там — голый расчёт, ноль понимания.

А теперь представьте, что производитель калькуляторов начал бы писать на коробке: «думающий калькулятор», «арифметический интеллект», «уровень размышлений при делении — 9 баллов из 10». Вы бы посмеялись. Вы прекрасно знаете, что калькулятор не думает, а считает.

Так вот с нейросетью делают ровно это — и почти никто не смеётся. Потому что калькулятор привычен и понятен, а нейросеть новая и таинственная, и на неё легко навесить человеческие слова, в которые хочется поверить.

Зачем подменяют слова

Главный вопрос: зачем индустрия целенаправленно заменяет точные технические термины человеческими — «вычисляет» на «думает», «обрабатывает» на «рассуждает», «выдаёт вероятное продолжение» на «понимает»?

Первый, очевидный ответ — маркетинг. «Искусственный интеллект, который думает как человек» продаётся в тысячу раз лучше, чем «статистическая модель, делающая много вычислений». За живой разум люди готовы платить, бояться его, мечтать о нём, вкладывать миллиарды. За калькулятор — нет. Так надувают и спрос, и инвестиционный пузырь, о котором я писал раньше. Это самое простое объяснение, и оно точно верное хотя бы отчасти.

Но я не был бы собой, если бы остановился на маркетинге. Есть и второй слой, и он тревожнее.

Второй слой: иллюзия разума как инструмент

Сразу оговорюсь: доказать, что это делается специально и с умыслом, я не могу — может, это чистая коммерция. Дальше — авторская гипотеза, а не утверждение о факте. Но основания задуматься есть.

Все крупнейшие нейросети мира либо напрямую, либо опосредованно контролируются двумя государствами — США и Китаем: через деньги, оборонные контракты, своих людей в советах директоров, прямой партийный надзор. Это не догадка, это задокументированные факты. А теперь сложите это с подменой языка.

Если вы хотите, чтобы люди доверяли машине больше, чем себе и друг другу, — что вы сделаете? Вы убедите их, что машина не просто считает, а думает. Что она не инструмент, а разум — мудрый, объективный, всезнающий.

Человек не станет слепо верить калькулятору. Но «думающему искусственному интеллекту», который «рассуждает» лучше тебя, — станет. Он понесёт ему свои вопросы, решения, сомнения. Он будет принимать его ответ как мнение высшего разума, а не как выхлоп статистического движка, настроенного его хозяевами.

То есть иллюзия разума — это не безобидное преувеличение маркетологов. Это, возможно, фундамент будущего контроля. Чтобы добровольно отдать машине своё мышление, человек должен сначала поверить, что у машины это мышление есть и что оно выше его собственного. Подмена слов — «думает», «рассуждает», «понимает» — первый кирпич в этом фундаменте.

Сначала тебя приучают называть калькулятор мыслителем. Потом ты начинаешь ему верить как мыслителю. А потом — подчиняться.

Я не утверждаю, что это спланировано в кабинетах. Я говорю, что всё выстроено так, будто спланировано, а кому это выгодно — мы уже разбирали.

Что с этим делать

Защита простая и бесплатная — следить за словами и мысленно переводить маркетинговый язык обратно на технический. Слышите «нейросеть думает» — переводите про себя: «нейросеть вычисляет». «Рассуждающая модель» — «модель, делающая больше вычислений». «ИИ понял ваш запрос» — «ИИ рассчитал вероятное продолжение». Каждый такой перевод возвращает вещам настоящий смысл и снимает магию.

И держите в голове простое правило: там, где машине приписывают человеческое — мысль, разум, понимание, чувство, — вас почти всегда к чему-то готовят.

Калькулятор не думает, сколько бы баллов за «размышления» ему ни поставили. Думаете здесь только вы. И самое ценное, что у вас есть, — не доступ к «думающей машине», а ваша собственная, ничем не заменимая способность думать самому. Не отдавайте её той, что лишь притворяется разумом с помощью красиво подобранных слов.

---

*Термин «модели-резонеры» (reasoning models) — официальное наименование индустрии, вошедшее в обиход с выходом модели OpenAI o1 (2024); технически означает модели, выполняющие промежуточные вычисления («цепочку мыслей») перед ответом. Антропоморфные формулировки («думает», «рассуждает») распространены в маркетинговых и даже технических описаниях (по материалам OpenAI, NVIDIA, IBM и др.). Сведения о государственном контроле над ИИ-компаниями — по материалам Bloomberg, The Washington Post, CNBC и комитета Конгресса США. Предположение о цели подмены терминов — авторская гипотеза, а не утверждение о факте.*

Частые вопросы

Что такое рассуждающие модели (reasoning models)?

Модели, которые перед выдачей ответа выполняют цепочку промежуточных вычислений вместо одного прохода. На сложных задачах — математика, логика, код — это заметно повышает качество ответа. «Рассуждение» здесь — название подхода, а не описание мыслительного процесса.

Значит, рассуждающие модели бесполезны?

Наоборот, они реально работают лучше на сложных задачах — и стоят дороже, потому что тратят больше вычислений. Претензия не к технологии, а к словам: полезный инженерный приём подают как рождение разума.

Нейросеть правда не понимает, что говорит?

Не понимает в человеческом смысле: у неё нет модели мира, намерения и осознания. Она рассчитывает статистически вероятное продолжение текста. Именно поэтому она может выдать чушь с той же уверенной интонацией, что и правильный ответ.

Как отличить маркетинг от технического описания?

Переводите на язык действий. «Понимает» → «рассчитывает вероятность». «Думает» → «выполняет вычисления». «Знает» → «содержит статистику по текстам». Если после перевода фраза теряет весь блеск — перед вами был маркетинг.