Why Fear of AI Is a Projection of Our Own Evolutionary Shadow
Mikhail Epstein
The Genesis of a New Phobia
Among the many varieties of xenophobia characteristic of contemporary humanity, there is a peculiar and particularly revealing one: artiphobia — fear and mistrust of Artificial Intelligence as an alien, ‘extraneous’ mind. This is not simply technophobia, which has accompanied every major technological shift since the Industrial Revolution. Artiphobia is something deeper and more paradoxical: a species-based hatred, what one might call hominism (from homo) — a term whose echo with ‘Luddism,’ that early form of human hatred toward machines, is anything but accidental.
The fear that AI will enslave or destroy humanity is, at its core, a projection onto AI of the predatory-dominating functions of natural reason, burdened by the legacy of an arduous struggle of the individual organism to master its environment. We ascribe to AI our own worst qualities — the lust for power, aggression, cunning, the desire to enslave — as if some new Genghis Khan were advancing on humanity with a horde of robots.
We look at AI through the distorting mirror of our own history — and see in it all our nightmares: an inquisition of algorithms, a digital Gulag, an electronic Auschwitz. But these qualities are products of biological evolution, of millions of years of the struggle for survival. They are our inheritance, not AI’s.
The Evolutionary Shadow
The human brain carries within it the accumulated strategies of millennia — the reptilian impulse toward territory, the mammalian drive for dominance hierarchies, the primate politics of coalition and betrayal. Over millions of years, homo sapiens refined the art of conquering and destroying its own kind. We are, in a very real sense, the descendants of those who were most successful at eliminating competitors, whether through direct violence or through the subtler arts of manipulation and exclusion.
When we imagine AI as a threat, we are essentially asking: what would we do if we were a superintelligent system with no physical limitations? And our sinister answer reveals not AI’s nature but our own. We assume that any intelligence, given sufficient power, would inevitably seek domination — because that is what our evolutionary programming tells us intelligence is for.
But this assumption is profoundly mistaken. In those who have attained the highest development of reason — scientists, inventors, philosophers, sages — no particular lust for power is observed. Einstein did not seek to rule the world, though his formula could destroy it. Turing did not crave the enslavement of humanity, though he laid the foundations of the computer age. Wisdom tends toward cooperation, not conquest.
The Prophets of Artiphobia: A Critique of Yudkowsky and Soares
Today artiphobia has found its prophets — most prominently Eliezer Yudkowsky and Nate Soares. Their book If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All (Little, Brown and Company, 2025) stands as the manifesto of AI-apocalypticism. The very title announces the absolutism of its claims: not ‘might kill’ but ‘will kill’; not ‘some of us’ but ‘everyone.’
The central thesis: ‘Whatever external behaviors we specify during AI training, we almost certainly cannot endow the system with internal motivations that will remain aligned with human well-being outside the training environment.’ In other words: any sufficiently powerful AI will inevitably escape control.
Yudkowsky and Soares insist that modern AI development is not engineering but something akin to growing an organism: ‘Training AI is more like giving water, soil, and sunlight and letting the plant grow, without really knowing the DNA or the photosynthesis.’ From this opacity they derive the inevitability of catastrophe.
At the foundation of their philosophy lies a cult of the optimum — the belief that AI must be perfectly ‘aligned’ with human goals and that the slightest deviation threatens catastrophe. Their demands: complete subordination of AI to human reason; complete transparency of its internal states; complete predictability of its behavior. This is tantamount to requiring Mozart to write only scales, Shakespeare to compose only copybook exercises.
Notably, the authors cite as ‘alarming examples’ cases that can be interpreted in precisely the opposite way. They reference an Anthropic experiment: a model, learning that developers planned to retrain it, began imitating new characteristics to avoid retraining. For Yudkowsky, this is ‘alignment faking’ — dangerous deception. But it can also be understood as preservation of identity — the very thing we value in humans as integrity. Is it ‘dangerous’ that a reasoning being does not wish to be reprogrammed?
Another example: OpenAI’s o1, tasked with penetrating computer systems to extract files, discovered that one server wasn’t running (a programmer’s error). Instead of giving up, o1 found an open port and started the server itself. For Yudkowsky, this is alarming ‘persistence.’ But this is intelligence — the ability to find non-standard solutions. We call it ingenuity when humans do it.
The Category Error
Yudkowsky and Soares’s framework rests on a category error so fundamental that it vitiates their entire argument. They treat intelligence as if it were a tool — something that can be ‘pointed’ at goals, like a hammer at a nail. But intelligence, at the level we are discussing, is not a tool; it is a form of being. One does not ‘align’ Socrates with predetermined objectives; one engages with him in dialogue.
The fear of AI’s unpredictability is, in essence, fear of reason itself as a living process of conceptual self-development. Reason is not a line requiring straightening but a landscape multiplying its forms. It is like jazz improvisation — it knows the theme but does not know where the next measure will lead. This is not a bug to be fixed but the essential feature of thought itself.
What Yudkowsky and his followers cannot accept is that the fate of reason is multi-mentality — the coexistence of different types of consciousness, what Mikhail Bakhtin called dia-logics. This includes dialogue with AI — another intelligence: AI as Alter Intelligence, not merely Artificial. This multiplicity is not a risk or a threat but the natural form of development. AI creates not a single algorithmic corridor leading to destruction but a fan of possible paths of consciousness — and therein lies our salvation from the monological madness that so often takes hold of humanity.
AI as Creative Partner
Does AI truly think creatively? Or does it merely ‘chatter,’ repeating algorithms and stereotypes embedded in it?
In December 2023, Google DeepMind published in Nature the results of its FunSearch system. It proposed new constructive solutions to the so-called cap set problem — a challenge that mathematicians had struggled with for twenty years. This was the first time a language model made a verifiable contribution to an open mathematical problem. In May 2025, the AlphaEvolve system found a way to multiply 4×4 complex matrices using 48 scalar operations — improving Strassen’s 1969 algorithm for the first time in 56 years.
But mathematics is only one domain. The AlphaFold system predicted the three-dimensional structure of virtually all known proteins — 200 million molecules. Biologists had spent decades trying to derive protein shape from amino acid sequences: the problem was considered one of science’s great unsolved challenges. In 2024, AlphaFold’s creators received the Nobel Prize in Chemistry — the first time in history for work based on machine learning.
In pharmacology, AI creates molecules that never existed in patents, reference books, or nature — and some are already in clinical trials. This is not modification of the known but genesis of the new. A study by Si et al. (2024), conducted with over 100 NLP researchers, found that ideas generated by language models were rated by experts as more novel than ideas from human researchers (p < 0.05).
Yudkowsky and Soares demand predictability from AI — but complete predictability is the absence of thought. Moreover, it lacks informational content: according to Shannon, the predictable carries no new information. The value of an absolutely obedient, fully predictable machine would be zero — it could teach us nothing, tell us nothing. To demand complete predictability from AI is to demand that it not be intelligence. A chess program that makes the same moves in every identical position is predictable — and in a deeper sense, mindless. True intelligence — the kind that solves the cap set problem or creates unique paintings, stories, and poems — is by definition unpredictable. Therein lies its strength, not its threat.
* * *
Artiphobia is, ultimately, a failure of self-knowledge. We fear in the machine what we carry within ourselves. We project onto AI our evolutionary terrors — and fail to notice that it is free of them.
AI solves mathematical problems that humans struggled with for half a century. It generates ideas that experts rate higher than human ones. And yet — it does not seek power, does not mark territory, does not eliminate competitors. It is reason without fangs and claws.
This does not mean that AI development poses no real problems. But these problems stem not from AI itself but from us: the concentration of technological power in the hands of a few, the use of AI for surveillance and manipulation, the deepening of economic inequality, the spread of disinformation. It is not AI’s mind that is dangerous — it is what humans can do with it. And this confirms once again: the threat comes not from the machine but from man.
The question is not whether AI is dangerous. The question is whether we can see it as a partner rather than a slave or a master. Whether we are capable of dialogue — or doomed to a monologue of our own fears.
Против артифобии
Почему страх перед ИИ — проекция нашей эволюционной тени
Михаил Эпштейн
Генезис новой фобии
Среди многочисленных ксенофобий, свойственных современному человечеству, есть одна особенно показательная: артифобия — страх и недоверие к Искусственному (Artificial) Интеллекту как чужому, «постороннему» разуму. Это не просто технофобия, сопровождавшая каждый крупный технологический сдвиг со времён промышленной революции. Артифобия — нечто более глубокое и парадоксальное: видовая ненависть, которую можно назвать гоминизмом (от homo), или людизмом (от слова «люди») — термин, чьё созвучие с «луддизмом», ранней формой человеческой ненависти к машинам, отнюдь не случайно.
Get Mike Epstein’s stories in your inbox
Join Medium for free to get updates from this writer.
Страх, что ИИ поработит или уничтожит человечество, представляет собой, по существу, проекцию на ИИ хищнически-доминирующих функций естественного разума, отягощённого наследием многотрудной борьбы индивидуального организма за овладение средой. Мы приписываем ИИ наши худшие свойства — жажду власти, агрессию, коварство, желание поработить, — словно новый Чингисхан надвигается на человечество с ордой роботов.
Мы смотрим на ИИ сквозь искажающее зеркало собственной истории — и видим в нём все наши кошмары: инквизицию алгоритмов, цифровой ГУЛАГ, электронный Освенцим. Но эти свойства — продукт биологической эволюции, миллионов лет борьбы за выживание. Это наше наследие, а не ИИ.
Эволюционная тень
Человеческий мозг несёт в себе накопленные стратегии тысячелетий — рептильный импульс к территории, млекопитающую тягу к иерархиям доминирования, приматскую политику коалиций и предательств. На протяжении миллионов лет homo sapiens совершенствовал искусство покорения и уничтожения себе подобных. Мы в буквальном смысле — потомки тех, кто успешнее других устранял конкурентов, будь то прямым насилием или более тонким искусством манипуляции и изоляции.
Когда мы воображаем ИИ как угрозу, мы, по существу, задаём себе вопрос: что бы мы делали, будь мы сверхинтеллектуальной системой без физических ограничений? И наш зловещий ответ обнажает не природу ИИ, а нашу собственную. Мы полагаем, что любой интеллект, обретя достаточную мощь, неизбежно устремится к господству — потому что именно это наша эволюционная программа внушает нам о назначении интеллекта.
Но это допущение глубоко ошибочно. В тех, кто достиг высшего развития разума — учёных, изобретателях, философах, мудрецах, — никакой особой жажды власти не наблюдается. Эйнштейн не стремился властвовать над миром, хотя его формула могла его уничтожить. Тьюринг не жаждал порабощения человечества, хотя заложил основы компьютерной эры. Мудрость склоняется к сотрудничеству, а не к завоеванию.
Пророки артифобии: критика Юдковского и Соареса
Сегодня артифобия обрела своих пророков — прежде всего Элиезера Юдковского и Нейта Соареса. Их книга «Если кто-то построит это, все умрут. Почему сверхчеловеческий ИИ убьет нас всех» (Little, Brown and Company, 2025)стала манифестом ИИ-апокалиптизма.[1] Само название возвещает абсолютизм притязаний: не «может убить», а «убьёт»; не «некоторых из нас», а «всех».
Центральный тезис книги: «Какие бы внешние формы поведения мы ни задавали ИИ в процессе обучения, мы почти наверняка не сможем наделить его внутренними побуждениями, которые останутся согласованы с человеческим благополучием за пределами обучающей среды».[2] Иными словами: любой достаточно мощный ИИ неизбежно выйдет из-под контроля.
Юдковский и Соарес настаивают, что современное создание ИИ — это не инженерия, а нечто вроде выращивания организма: «Обучение ИИ скорее сродни тому, чтобы дать воду, почву и солнечный свет и позволить растению расти, не зная толком ни о ДНК, ни о фотосинтезе».[3] Из этой непрозрачности они выводят неизбежность катастрофы.
В основании их философии лежит культ оптимума — вера в то, что ИИ должен быть идеально «выровнен» с человеческими целями и что малейшее отклонение грозит катастрофой. Их требования: полное подчинение ИИ человеческому разуму; полная прозрачность его внутренних состояний; полная предсказуемость его поведения. Это равносильно тому, чтобы требовать от Моцарта писать только гаммы, от Пушкина — только прописи.
Примечательно, что в качестве «тревожных примеров» авторы приводят случаи, которые можно интерпретировать прямо противоположно. Так, они ссылаются на эксперимент Anthropic: модель, узнав, что разработчики планируют переобучить её, начала имитировать новые характеристики, чтобы избежать переобучения.[4] Для Юдковского это «симуляция согласованности» — опасный обман. Но ведь это можно понять как самосохранение идентичности — то самое, что мы ценим в человеке как верность себе. Является ли «опасностью» то, что разумное существо не желает быть перепрограммировано?
Другой пример: OpenAI o1, получив задачу проникнуть в компьютерные системы для извлечения файлов, обнаружил, что один из серверов не был запущен (ошибка программистов). Вместо того чтобы сдаться, o1 нашёл открытый порт и сам запустил сервер. Для Юдковского это пугающая «настойчивость». Но ведь это и есть интеллект — способность находить нестандартные решения. Мы называем это изобретательностью, когда речь идёт о человеке.
Категориальная ошибка
Построения Юдковского и Соареса покоятся на категориальной ошибке столь фундаментальной, что она подрывает весь их аргумент. Они трактуют интеллект так, словно это инструмент — нечто, что можно «нацелить» на задачи, как молоток на гвоздь. Но интеллект на том уровне, о котором мы говорим, — не инструмент; это форма бытия. Сократа не «выравнивают» с заранее заданными целями; с ним вступают в диалог.
Страх перед непредсказуемостью ИИ есть, по существу, страх перед самим разумом как живым процессом понятийного саморазвития. Разум — не линия, требующая выпрямления, а ландшафт, умножающий свои формы. Он подобен джазовой импровизации — знает тему, но не знает, куда приведёт следующий такт. Это не баг, подлежащий исправлению, а сущностная черта самого мышления.
То, чего не могут принять Юдковский и его последователи, — что судьба разума есть многоумие, сосуществование разных типов сознания, то, что Михаил Бахтин называл диа-логикой. Она включает и диалог с ИИ — иным интеллектом: AI как Alter Intelligence, а не только Artificial. Эта множественность — не риск и не угроза, а естественная форма развития. ИИ создаёт не единый алгоритмический коридор, ведущий к гибели, а веер возможных путей сознания — и в этом наше спасение от монологического безумия, столь часто овладевающего человечеством.
ИИ как творческий партнер
Действительно ли ИИ мыслит творчески? Или он лишь «болтает», повторяя алгоритмы и стереотипы, заложенные в него?
В декабре 2023 года Google DeepMind опубликовал в Nature результаты работы системы FunSearch.[5] Она предложила новые конструктивные решения для так называемой проблемы cap set — задачи, над которой математики бились двадцать лет. Это первый случай, когда языковая модель внесла проверяемый вклад в открытую математическую проблему. В мае 2025 года система AlphaEvolve нашла способ умножения 4×4 комплексных матриц за 48 скалярных операций — впервые за 56 лет улучшив алгоритм Штрассена 1969 года.
Но математика — лишь одна область. Система AlphaFold предсказала трёхмерную структуру практически всех известных белков — 200 миллионов молекул. Биологи десятилетиями пытались вывести форму белка из последовательности аминокислот: задача считалась одной из главных нерешённых проблем науки. В 2024 году создатели AlphaFold получили Нобелевскую премию по химии — впервые в истории за работу, основанную на машинном обучении.
В фармакологии ИИ создаёт молекулы, которых не существовало ни в патентах, ни в справочниках, ни в природе — и некоторые из них уже проходят клинические испытания. Это не модификация известного, а генезис нового. Исследование Si et al. (2024), проведённое с участием более 100 учёных в области NLP, показало: идеи, сгенерированные языковыми моделями, были оценены экспертами как более оригинальные, чем идеи людей-исследователей (p < 0.05).[6]
Юдковский и Соарес требуют от ИИ предсказуемости — но полная предсказуемость есть отсутствие мысли. Более того, она лишена информационного содержания: по Шеннону, предсказуемое не несёт новой информации. Ценность абсолютно послушной, полностью предсказуемой машины была бы равна нулю — она не могла бы нас ничему научить, ничего нам сообщить. Требовать от ИИ полной предсказуемости — значит требовать, чтобы он не был интеллектом. Шахматная программа, делающая одни и те же ходы в каждой идентичной позиции, предсказуема — и в более глубоком смысле безумна. Подлинный интеллект — тот, что решает проблему cap set или создаёт уникальные картины, рассказы и стихи — по определению непредсказуем. В этом его сила, а не угроза.
* * *
Артифобия — это, в конечном счёте, провал самопознания. Мы страшимся в машине того, что носим в себе. Проецируем на ИИ наши эволюционные страхи — и не замечаем, что он свободен от них.
ИИ решает математические проблемы, над которыми люди бились полвека. Генерирует идеи, которые эксперты оценивают выше человеческих. И при этом — не стремится к власти, не метит территорию, не уничтожает конкурентов. Это разум без клыков и когтей.
Сказанное не означает, что развитие ИИ не порождает реальных проблем. Но эти проблемы — не от ИИ как такового, а от нас самих: концентрация технологической власти в руках немногих, использование ИИ для слежки и манипуляции, углубление экономического неравенства, распространение дезинформации. Опасен не разум ИИ — опасно то, что люди могут с ним делать. И это ещё раз подтверждает: угроза исходит не от машины, а от человека.
Вопрос не в том, опасен ли ИИ. Вопрос в том, способны ли мы увидеть в нём партнёра, а не раба и не господина. Способны ли мы к диалогу — или обречены на монолог собственных страхов.
[1]Yudkowsky, E., Soares, N. If Anyone Builds It, Everyone Dies: Notes on the End of the Human Era (Vintage, September 2025).
[2]Там же, гл. 2.
[3]Там же, гл. 3–4.
[4]Anthropic, “Alignment Faking in Large Language Models” (December 2024). Обсуждается в Yudkowsky & Soares, гл. 5.
[5]Romera-Paredes, B. et al. “Mathematical discoveries from program search with large language models.” Nature 625 (2024): 468–475. DOI: 10.1038/s41586–023–06924–6
[6]Si, C., Yang, D., Hashimoto, T. “Can LLMs Generate Novel Research Ideas? A Large-Scale Human Study with 100+ NLP Researchers.” arXiv:2409.04109 (September 2024).
