Человеку всегда был нужен окончательный ответ. Не просто работающий или удобный, а такой, после которого можно больше не спрашивать.
Сначала были шаманы и ритуалы — попытки договориться с миром, который казался непредсказуемым. Потом появились религии, позже на их место пришли идеологии. Каждый раз это была одна и та же попытка: найти точку, после которой можно остановиться и сказать — дальше объяснять не нужно.
Проблема в том, что все эти ответы строились внутри той же самой системы, которую они пытались объяснить. Это как пытаться увидеть собственные глаза без зеркала. Ответ всегда будет казаться убедительным, но никогда не будет окончательным. Но человек плохо переносит неопределённость. Если он не может получить окончательный ответ, он начинает его имитировать.
Сегодня у этой имитации новое имя: искусственный интеллект.
Внутри ИИ нет никакого «ума» — есть алгоритм, набор правил. Он ничего не объясняет. Он лишь последовательно воспроизводит следующий заранее заданный шаг. Но человеку этого мало. Ему нужен смысл. И тогда происходит подмена: продолжение начинают воспринимать как объяснение. Если система работает — значит, она права.
Именно здесь появляются проекты вроде Palantir.
Они прямо заявляют, что ИИ — это инструмент власти, что эффективность важнее консенсуса, а технологии — это прежде всего оружие. На первый взгляд это выглядит как прагматизм. Но за этой риторикой скрывается онтологическое мошенничество.
Суть этого мошенничества проста: они выдают инструмент (вычисления) за основание (смысл).
В систему закладываются скрытые предположения: какие культуры «прогрессивны», кто является «угрозой», что считать допустимым. ИИ работает внутри этих рамок, а результат выдается за «объективную истину». Ключевая иллюзия заключается в том, что решение якобы принимает система. На самом деле оно было принято в момент выбора критериев. Но этот момент спрятан за фасадом алгоритма.
Это идеальное «цифровое алиби». Теперь можно сказать: «Это не мы. Это данные. Это модель. Это искусственный интеллект». Ответственность растворяется.
Искусственный интеллект не проверяет реальность. Он проверяет то, что звучит правдоподобно. У него нет критерия истины, он лишь воспроизводит шаг за шагом. И чем лучше он это делает, тем труднее заметить, что основание потеряно. Это работающая иллюзия. А работающая иллюзия всегда выглядит убедительно.
Происходящее сегодня — это не просто технологический прорыв. Это ПостФашизм, где источник власти исчезает. В классических диктатурах источник был очевиден и оспорим в своей человеческой воле. Здесь решение принимается «само», а значит, оно непогрешимо в глазах масс. Это власть, которая делает сам вопрос «почему» избыточным.
Мой «Логико-философский трактат: Эра ИИ» был написан как предчувствие именно этого момента. Задача философии сегодня — это не просто описание мира, это возвращение к фундаменту.
У них вместо фундамента — животный инстинкт доминирования, упакованный в код. У человека фундаментом должна быть философская мысль, неразрывно связанная с этикой и моральными ценностями.
Только мораль устанавливает предел допустимого, который не может быть «вычислен». Возвращение к логике и мужество удерживать этическое основание — это единственное, что отделяет нас от превращения в придаток машины. Пока вопрос «почему» существует, остаётся возможность остановиться. Когда он исчезает, остаётся только движение вперёд — без основания, без проверки и без точки, в которой можно сказать «достаточно».
Автор: Барч (перевод с английского)
Оригинал https://substack.com/home/post/p-195274740