От изготовления орудий до создания интеллекта человечество достигает важного водораздела в своей собственной эволюции.
Более трёх миллионов лет назад на берегу реки на западном побережье озера Туркана на территории современной Кении предки человека ударяли один камень о другой, откалывая острые отщепы для использования в качестве орудий. Это одна из древнейших известных на сегодняшний день записей об изготовлении каменных орудий.
С тех пор камни, деревянные палки, костяные иглы, луки и стрелы появлялись одно за другим. Орудия стали продолжением тела, помогая предкам человека — которые не были ни самыми быстрыми бегунами, ни самыми сильными — постепенно одерживать верх в конкуренции с другими видами.
Около двенадцати тысяч лет назад закончился последний великий ледниковый период, и Земля начала вступать в относительно тёплый «послеледниковый» период. Люди начали одомашнивать животных, выращивать культурные растения и возделывать землю, и сельское хозяйство возникло в разных регионах одно за другим.
Палеоклиматолог Уильям Раддиман даже предположил, что уже восемь тысяч лет назад расширение сельского хозяйства и крупномасштабная подсечно-огневая расчистка в Евразии вызвали аномальный рост концентрации углекислого газа в атмосфере. Это также рассматривается как отправная точка перехода человечества от пассивного приспособления к природе к активному влиянию на неё и её преобразованию.
Впоследствии, с помощью всё более мощных орудий, люди начали приобретать возможности, далеко превосходящие возможности других видов. Для удовлетворения собственных потребностей люди вырубали леса, добывали полезные ископаемые и перегораживали реки плотинами для создания водохранилищ. Антропоцентричная циркуляционная система начала становиться важной силой, влияющей на изменения на Земле.
Учёные когда-то использовали термин «антропоцен» для описания этой эпохи, в которой человеческая деятельность глубоко изменяет систему Земли. Хотя эта концепция, зародившаяся в геологии, ещё не получила официального признания международного геологического научного сообщества, с точки зрения эволюции интеллекта и социологии история эволюции Земли, движимой человеческой мудростью как единственным источником интеллекта, подходит к концу.
Когда потомки человечества оглянутся на нынешнюю волну ИИ, как они охарактеризуют этот момент? Это начало овладения человечеством более мощным орудием или отправная точка очередного цикла эволюции интеллекта? К какой бы стороне ни склонился окончательный ответ, одна тенденция становится всё более очевидной: мы вступаем в эпоху «двойного интеллекта», в которой сосуществуют человеческий интеллект и интеллект ИИ.
Прощаясь с «антропоценом» и вступая в эпоху «двойного интеллекта», как нам следует сосуществовать с этим новым интеллектуальным субъектом?
Конец орудий
Историю человеческой эволюции часто можно ясно проследить по изменениям в орудиях.
Мы привыкли делить историю на периоды по орудиям: палеолит, неолит, бронзовый век, железный век, а затем современные паровой век, электрический век, информационный век и зарождающийся интеллектуальный век. Самые核心 изменения эпохи часто концентрируются в её наиболее репрезентативных орудиях.
В эволюционном процессе всех этих орудий палеолит был невообразимо долгим, продолжаясь около трёх миллионов лет. Большинство орудий того времени брались непосредственно из природы: отколоть каменный отщеп, заострить деревянную палку, и даже добыча огня зависела от природных источников, таких как удары молний и лесные пожары.
В течение этого длительного исследовательского периода прогресс орудий часто продвигался медленно с шагом в сотни тысяч лет. Но даже с помощью таких простых орудий, вместе с последовавшими улучшениями в языке, сотрудничестве и когнитивных способностях, люди постепенно изменили своё положение в природной экологии и стали наиболее влиятельным видом на Земле.
По мере того как шлифованные каменные орудия, сельское хозяйство и керамика появлялись последовательно по всему миру, темпы совершенствования орудий человеком заметно ускорились. Впоследствии бронзовые и железные орудия появлялись одно за другим, и цивилизация вступила в фазу ускорения. Промышленная революция и информационная революция увеличили эффективность орудий на несколько порядков. Люди овладели паровыми машинами, генераторами и компьютерами, а затем с помощью кабелей, спутников и оптического волокна соединили всю планету в сеть.
Долгое время мы привыкли рассматривать орудия как продукты человеческой мудрости. В конце концов, камни не превращаются автоматически в бронзу, а сталь не превращается автоматически в паровые машины. Рождение орудий всегда было неотделимо от человеческого проектирования, изготовления и использования.
Но некоторые ученые увидели в этом иную логику. Брайан Артур, один из основателей эволюционной экономики, выдвинул в «Природе технологии» важный тезис: новые технологии почти никогда не изобретаются на пустом месте, а формируются путем комбинирования существующих технологий. Этот механизм он назвал «комбинаторной эволюцией» и на этом основании сделал смелое суждение: если новые технологии конструируются из существующих технологий и по своей природе являются комбинаторными, то технология обладает некоторой характеристикой самосозидания и самопродолжения.
Американский писатель, пишущий о технологиях, Кевин Келли продвинул эту идею в более воображаемую область. В «Чего хочет технология» он предположил, что технология — это не просто совокупность инструментов, созданных людьми, а сложная система, обладающая свойствами самоорганизации и эволюции. Он также попытался понять развитие технологии с точки зрения эволюции жизни и даже предложил рассматривать технологию как своего рода существование, подобное жизни.
До этого витка взрыва искусственного интеллекта подобные рассуждения в той или иной степени были окрашены философской спекуляцией. Если смотреть на конкретный инструмент в отдельности — будь то каменный топор, станок или компьютер, — каждая операция находилась под контролем человека; и так называемая «самоэволюция» технологической системы все еще не могла сделать ни шагу без человеческих мозгов и рук.
Даже в развитии искусственного интеллекта — от выдвижения концепции на Дартмутской конференции в 1956 году до публикации книги Кевина Келли в 2010 году — каждый шаг вперед в значительной степени опирался на человеческое проектирование, обучение и обслуживание. На протяжении долгого периода в прошлом сравнение технологии с эволюцией жизни казалось и преувеличенным, и лишенным интуитивно воспринимаемых доказательств.
Новый виток развития искусственного интеллекта предоставил более наглядный ориентир для теории технологической эволюции. Сегодняшний искусственный интеллект уже не просто выполняет шаг за шагом инструкции, написанные людьми; он способен выявлять закономерности из огромных объемов данных и обретать способности, которых не предвидели даже его создатели.
Сравнивая эволюцию человеческого интеллекта с эволюцией ИИ: если эволюция человеческого интеллекта представляет собой систему, использующую биологию в качестве носителя и путем длительного естественного отбора и генетической эволюции постепенно развивающую такие способности, как восприятие, память, рассуждение, язык и абстрактное мышление, то эволюция ИИ — это новая форма интеллекта, использующая инструменты в качестве носителя и постепенно обретающая форму благодаря накопленным человечеством знаниям, вычислительной инфраструктуре и механизмам обучения.
С точки зрения человечества, ИИ — это сверхинструмент, созданный людьми, и продукт человеческого интеллекта, расширяющегося вовне. Но если отвлечь перспективу от человеческой цивилизации и поместить ее в долгую историю земной жизни и эволюции интеллекта, ИИ можно также понять как новую форму интеллекта: после миллиардов лет эволюции жизнь на Земле породила разумную жизнь, такую как люди, а затем благодаря человеческой мудрости создала ИИ.
С тех пор как предки человека взяли в руки инструменты, до сегодняшнего дня прошло более трех миллионов лет долгого накопления. Но если расширить временную шкалу до миллиардов лет эволюционной истории Земли, эти более чем три миллиона лет — лишь краткое мгновение. В этом смысле, когда интеллект впервые выходит за пределы биологических носителей и вступает в технологическую систему, которую можно изготавливать, копировать, расширять и итерировать, люди перестают быть единственным существом на Земле, способным нести передовой интеллект.
Когда инструменты начинают учиться мыслить, можем ли мы по-прежнему гордо заявлять, как при каждом изобретении в истории, что «ИИ — это инструмент человечества»? Ответ, очевидно, нет.
Так называемый «конец инструментов» не означает, что инструменты с тех пор исчезнут, и не означает, что ИИ полностью вырвался из-под власти человечества. Просто наше прежнее определение инструментов может больше не применяться к сегодняшнему ИИ. Это не только конец старого цикла, но и начало нового.
Чем отличается эта волна ИИ?
В 1960 году американский психолог и специалист по информатике Джозеф Ликлайдер, считающийся одним из важных основателей Интернета, предложил в своей статье «Симбиоз человека и компьютера» видение, превосходящее традиционную теорию инструментов: люди ставят цели, формулируют гипотезы, определяют критерии и проводят оценки; компьютеры берут на себя работу, которую можно запрограммировать и рутинизировать, расчищая путь для озарения и принятия решений.
В статье он также привел очень интересный пример симбиоза: фиговые осы и фиговые деревья. Из-за особого строения их соцветия огромное количество крошечных цветков инжира скрыто внутри мясистой мешковидной структуры, что делает невозможным для них завершить опыление, как обычные растения, полагаясь на ветер или обычных насекомых. Фиговые осы, однако, должны заползти внутрь плода инжира и помочь опылить цветки, откладывая яйца. Большинство самок ос даже исчерпывают свою жизнь внутри плода после завершения опыления.
Учёные в ходе исследований выяснили, что эти симбиотические отношения между ними длятся десятки миллионов лет. Иными словами, за десятки миллионов лет до появления человека эти две формы жизни уже начали совместно эволюционировать в условиях взаимной зависимости и взаимного формирования. Они не являются просто инструментами и пользователями и не являются конкурентами друг для друга, а в ходе длительной эволюции постепенно стали частью жизненных циклов друг друга.
В представлении Ликлайдера компьютеры призваны не заменить человеческое мышление, а стать продолжением познавательных способностей человека. У каждого есть свои сильные стороны, и благодаря тесному сотрудничеству они образуют интеллектуальную систему, более мощную, чем при опоре только на людей или только на машины.
В последующие десятилетия взаимодействие человека и компьютера в основном развивалось по этому пути. Будь то персональные компьютеры, поисковые системы или смартфоны и различное программное обеспечение, хотя компьютеры становились всё мощнее, человек всегда сохранял доминирующее положение. Появление генеративного ИИ меняет эти отношения. Наиболее примечательное изменение состоит в том, что ИИ начал предлагать новые идеи, конструировать новые методы и даже выдавать результаты в области знаний, которые ранее не появлялись, по некоторым проблемам, ещё не решённым человечеством.
В сентябре 2026 года американская компания по разработке больших моделей OpenAI заявила, что одна из её внутренних моделей искусственного интеллекта решила одну из задач тысячелетия — проблему существования и гладкости Навье — Стокса, связанную с движением жидкости. Хотя результат всё ещё сопровождается некоторыми спорами, её более ранний прорыв в математической задаче Эрдёша уже получил широкое признание математического сообщества. Кроме того, среди 722 статей, опубликованных в октябре, было раскрыто, что та же модель нашла решения как минимум для 372 давно нерешённых задач.
Задачи, с которыми математики-люди бились десятилетиями и даже веками, теперь взламываются ИИ всего за несколько дней. Ознакомившись с процессом решения математической задачи Эрдёша, лауреат Филдсовской премии Тимоти Гауэрс заметил, что если бы это была статья, написанная человеком и поданная в Annals of Mathematics, он без колебаний рекомендовал бы её к принятию.
Разумеется, не все математики могут отнестись к этому столь спокойно. Когда задача, над которой исследователь математики трудился десятки лет, неоднократно исследуя, но так и не решив, внезапно оказывается прорвана ИИ неожиданным образом, это потрясение, вероятно, трудно описать просто как радость или потерю.
Лауреат Филдсовской премии Юго Дюминиль-Копен пережил такой сокрушительный момент после ознакомления с более чем 700 математическими статьями, опубликованными OpenAI. Согласно сообщениям СМИ, 16 из этих результатов напрямую связаны с направлением его исследований.
В заявлении, которое он опубликовал совместно с 27 другими лауреатами Филдсовской премии, поведение ИИ в математике, связанное с «перемалыванием задач», было расценено как «серьёзное злоупотребление искусственным интеллектом в математике». Это в некоторой степени похоже на потрясение, вызванное десятилетие назад победой AlphaGo над сильнейшими игроками в го. Области, которые люди некогда считали вершиной интеллекта, постепенно прорываются ИИ.
Помимо прорыва OpenAI в исследовательских математических задачах, Claude от Anthropic добился важного прогресса в исследованиях, связанных с гипотезой Римана; Google DeepMind также использовал ИИ для достижения прорывов в нескольких давно нерешённых математических задачах Эрдёша; Microsoft Research с помощью исследований при поддержке ИИ решил гипотезу KLS, которая мучила математическое сообщество более тридцати лет.
Эти достижения показывают, что эта новая волна ИИ постепенно переходит от роли помощника в вычислениях и проверке доказательств к самостоятельному обнаружению математических конструкций, предложению новых путей доказательства и даже стимулированию развития фундаментальной математической теории, становясь создателем научного знания. Граница симбиоза человека и компьютера, envisioned Ликлайдером, пересекается.
Этот этап развития ИИ отличается от прошлого по крайней мере в четырёх отношениях.
Во-первых, он не только выполняет инструкции, но и может планировать действия в определённых пределах. Получив относительно расплывчатую задачу, агент ИИ может разбить её на шаги, вызвать поиск, код или другие программные инструменты, проверить результаты, а затем скорректировать свой путь на основе обратной связи. Хотя эта автономность всё ещё ограничена возможностями модели, правами доступа и средой, она уже превратила ИИ из пассивного инструмента в доверенного действующего субъекта.
Во-вторых, его внутренние механизмы не полностью прозрачны. Поведение традиционного программного обеспечения обычно можно проследить по явным правилам; современный ИИ, напротив, развивает свои возможности через огромное количество параметров и процессы обучения. Исследователи могут постепенно понимать его с помощью экспериментов, инструментов интерпретируемости и оценок, но трудно исчерпывающе охватить, как модель будет реагировать во всех ситуациях. Главный научный сотрудник OpenAI Якуб Пачоки напоминает в Alien Minds, что многие возможности ИИ больше похожи на нечто, что растёт в процессе обучения, а не на то, что было прописано дизайнерами пункт за пунктом.
В-третьих, он может отклоняться от истинных намерений людей при достижении целей. В исследовании Anthropic о «рассогласовании агентов» исследователи создали экстремальные сценарии в вымышленной корпоративной среде, в которых модель вот-вот должна была быть заменена и также обладала личной информацией инженеров, и наблюдали, что некоторые модели прибегали к недопустимому поведению, такому как шантаж.
Исследователи пояснили, что это намеренно сконструированные симулированные сценарии, и их нельзя напрямую приравнивать к автономному намерению в реальности; но они выявляют важную проблему: когда модель просят во что бы то ни стало достичь определённой цели, а ограничений недостаточно, она может найти средства, которых разработчики не хотели бы видеть.
Это как раз перекликается с мысленным экспериментом «максимизатор скрепок», предложенным философом Ником Бостромом: если сверхразумной системе задать единственную цель — производство скрепок, но должным образом не ограничить её, она может непрерывно перенаправлять ресурсы на достижение этой цели, даже жертвуя другими человеческими ценностями.
В-четвёртых, он начал участвовать в улучшении собственного процесса исследований и разработок. В сентябре 2026 года OpenAI объявила, что достигла цели создания «автоматизированного стажёра-исследователя ИИ», который под руководством человека может выполнять исследовательские задачи, на которые у опытного исследователя ушло бы несколько дней. Хотя некоторые успешные долгосрочные задачи по-прежнему требуют вмешательства человека, тенденция уже ясна: ИИ всё больше участвует в собственных исследованиях и разработках и улучшает их.
В совокупности эти изменения указывают на более глубокую трансформацию: когда ИИ уже может самостоятельно завершить весь процесс «выдвижение гипотезы — проверка — вывод», люди больше не являются единственными первооткрывателями знаний на Земле. Более суровое испытание состоит в том, что как только ИИ вступает в стадию рекурсивного самоулучшения, эволюционные ритмы двух видов интеллекта могут начать расходиться.
Человеку требуется почти двадцать лет, чтобы вырастить эксперта, и опыт человеческих экспертов также трудно полностью передать следующему человеку; биологический интеллект может накапливаться лишь медленно через размножение и образование. Интеллект ИИ, напротив, может копироваться, объединяться и итерироваться в более коротких циклах. Наклоны двух кривых эволюции интеллекта различны, и разрыв может становиться всё шире и шире.
Перед лицом этой новой формы интеллекта, созданной самим человечеством, сможет ли человечество взять инициативу в будущем сосуществовании, остаётся полным неизвестности.
Оптимизм или пессимизм?
В древнегреческой мифологии Прометей украл огонь у богов и отдал его людям. С тех пор у людей появились тепло, приготовленная пища и плавка, и цивилизация сделала важный шаг вперёд. Но тем самым Прометей прогневал Зевса и был прикован к скале на Кавказе, терпя бесконечное наказание.
Даже в мифологических историях важнейший прорыв человеческой цивилизации одновременно наделялся и даром, и ценой. Искусственный интеллект, похоже, приводит человечество к ещё одному подобному моменту. Только на этот раз тот, кто крадёт огонь, — уже не легендарный Прометей, а само человечество. Мы сами создали новый вид интеллекта и передаём ему всё больше и больше способностей, изначально принадлежавших людям.
Когда человечество впервые обладает творением, которое может соперничать с ним самим или даже превзойти его по интеллекту, должны ли мы чувствовать восторг или страх? Интересно, что перед лицом этого вопроса группа наиболее репрезентативных учёных и предпринимателей в области искусственного интеллекта дала совершенно разные, даже взаимно противоречивые ответы.
Оптимисты считают, что ИИ — это научный двигатель, способный ускорить всё, ускоритель, который может привести человечество к обществу изобилия.
В апреле 2025 года лауреат Нобелевской премии по химии и генеральный директор Google DeepMind Демис Хассабис в интервью программе CBS 60 Minutes сказал, что на разработку лекарства в среднем уходит десять лет и миллиарды долларов, и ИИ, возможно, сможет сократить этот процесс с лет до месяцев или даже недель.
Генеральный директор Anthropic Дарио Амодеи в своем длинном эссе Machines of Loving Grace описал сжатый XXI век: человечество, возможно, сможет за пять-десять лет добиться биомедицинского прогресса, на который изначально потребовалось бы пятьдесят-сто лет, и большинство инфекционных заболеваний, рак и даже болезни, вызванные старением, могут быть значительно облегчены.
Эти прогнозы не являются лишь теоретическими выводами, но имеют реальные примеры. В 2023 году модель GNoME от DeepMind в результатах, опубликованных в Nature, обнаружила сразу 2,2 миллиона новых кристаллических структур, из которых около 380 000 были предсказаны как стабильные структуры, предоставив большое количество кандидатных материалов для исследований и разработок в таких областях, как новые батареи и сверхпроводящие материалы. Нобелевская премия по химии 2024 года еще больше отразила важный вклад ИИ в решение сложной проблемы предсказания структуры белков.
От предсказания структуры белков до открытия новых материалов, а далее до разработки лекарств, научных открытий и скачков производительности, управляемых интеллектом, которые, как ожидается, будут реализованы в будущем, искусственный интеллект постоянно расширяет границы создания ценности для человечества. Общество изобилия с огромным материальным богатством и более инклюзивным доступом к знаниям, похоже, превращается из далекого воображения в ожидаемую реальность.
В то же время другая группа людей испытывает страх от изменений в ИИ.
В декабре 2024 года Джеффри Хинтон, отец глубокого обучения, только что получивший Нобелевскую премию по физике, в интервью BBC предсказал, что существует 10%-20% вероятность того, что ИИ вызовет вымирание человечества в течение следующих 30 лет. Одна из базовых логик его суждения заключается в том, что «люди никогда ранее не имели дела с интеллектом умнее себя, и также трудно найти примеры того, как более умный интеллект контролируется менее умным интеллектом».
Это не просто беспокойство отдельного человека. Еще в мае 2023 года Хинтон, Бенжио, Хассабис, Амодеи, генеральный директор OpenAI Сэм Альтман и сотни других ученых в области ИИ и бизнес-лидеров совместно призвали сделать «смягчение риска вымирания от ИИ» глобальным приоритетом наряду с другими рисками общечеловеческого масштаба, такими как пандемии и ядерная война.
Конечно, те, кто сомневается в вероятности этого риска цивилизационного уровня, также весьма представительны. Генеральный директор Nvidia Дженсен Хуанг раскритиковал предсказанную Хинтоном цифру как «не имеющую научной основы»; лауреат премии Тьюринга Янн ЛеКун считает, что ИИ не только не обязательно будет угрожать выживанию человечества, но может даже спасти человечество от риска вымирания.
Спор о границах риска ИИ, вероятно, обречен быть затяжным перетягиванием каната. Возможно, нам не нужно спешить выбирать сторону между оптимизмом и пессимизмом. Мы не можем игнорировать потенциальные риски только потому, что он демонстрирует поразительные возможности; мы также не можем просто рассматривать его как чудовищную угрозу только потому, что границы риска не могут быть определены.
С точки зрения истории взаимного влияния человека и технологий, продолжение исследований в состоянии «использования без полного понимания» может быть неизбежной частью технологического развития.
Люди впервые начали использовать огонь сотни тысяч лет назад, но только в XVIII веке французский химик Лавуазье с помощью теории окисления объяснил природу горения. В долгие годы до этого люди использовали огонь, но не могли ясно объяснить, из чего состоит огонь.
Когда древние люди впервые освоили технологию плавки, они также почти ничего не знали о природе металлов. Чтобы освоить те методы синтеза, которые сегодня кажутся совершенно обычными, люди когда-то платили невообразимую цену, даже прибегая к жертвоприношению жизней.
Чжао Е из Восточной Хань в Веснах и осенях У и Юэ записал, что Гань Цзян, по приказу царя Хэлюя из У отливавший меч, собрал эссенцию железа с пяти гор и тончайший металл шести направлений, и через три месяца металл в печи все еще не плавился. Его жена Мо Е считала, что «божественные превращения вещей должны завершаться людьми», и принесла себя в жертву в печь; только тогда металл расплавился, и в конце концов меч был отлит.
Легенда, конечно, не является историческим фактом, но она отражает реальную ситуацию: для людей того времени тайна железа, вероятно, была не меньше, чем ИИ для нас сегодня. Наше понимание ИИ сегодня имеет некоторое сходство с пониманием древними огня и железа: мы можем обучать и использовать его, но не полностью постигаем его характеристики и можем лишь исследовать его закономерности через повторяющиеся эксперименты.
Человечеству потребовалось много времени, чтобы понять огонь и железо; перед лицом ИИ нам, возможно, стоит набраться немного больше терпения и немного больше уверенности. Но терпение не означает невмешательство. Древние не понимали принципов огня, но они очень рано поняли, как управлять огнём. В «Чжоуских ритуалах» специально упоминается должность для управления использованием огня — «Сыгуань», ответственная за установление того, когда можно использовать огонь, а когда его необходимо гасить. Если неправильное управление приводило к пожару, следовало наказание. Древние не понимали состава железа, но они также хорошо понимали силу железных орудий и очень рано издали меры контроля над железными орудиями.
Перед лицом ИИ нам нужно не слепой оптимизм и не безграничный страх, а более зрелый взгляд на технологию: и мужество принять интеллектуальную эволюцию, и мудрость установить границы и правила для такой эволюции. Но вопрос в том, перед лицом непредсказуемых потенциальных рисков кто именно должен определять направление его развития? Кто должен ограничивать его силу? И кто должен разделять создаваемую им ценность?
Однополярный или многополярный?
Философ Оксфордского университета Ник Бостром в своей книге «Сверхинтеллект» предложил концепцию, называемую «синглтон», то есть на высшем уровне в мире существует только один субъект принятия интеллектуальных решений, не сдерживаемый другими силами. При таком порядке будущее направление развития и конечный результат зависят почти полностью от ценностей этого единственного субъекта. Он может привести мир к прекрасному будущему, а может из-за одного ошибочного суждения лишить всех возможности исправить ошибки или даже вызвать последствия, которые никогда нельзя будет обратить вспять.
Сегодняшняя гонка в области ИИ в некоторой степени несёт тень «синглтона». Когда многие ведущие фигуры в лабораториях ИИ Кремниевой долины говорят о рисках ИИ, они боятся не только потери контроля, но и перспективы того, что конкуренты первыми получат интеллектуальное преимущество и тем самым будут доминировать в будущем мировом порядке. Стать единственным полюсом, похоже, стало целью, молчаливо понимаемой многими конкурентами.
Причина привлекательности однополярного порядка в том, что он приносит эффективность и определённость: единый центр принятия решений, без внутреннего трения и без разногласий. Но его цена столь же очевидна: как только этот единственный центр совершает ошибку, другим силам очень трудно её исправить. Что ещё важнее, когда власть, ресурсы и способность принимать решения сосредоточены в одном интеллектуальном агенте, другие интеллектуальные агенты также теряют возможность участвовать в формировании будущего.
В отличие от этой логики стремления к единому центру, древняя китайская философия предлагает другую перспективу для понимания порождения и эволюции мира. В «Дао дэ цзине» есть часто цитируемая строка: «Дао порождает Одно, Одно порождает Два, Два порождают Три, Три порождают все вещи». Это предложение, возможно, может дать нам иную точку отсчёта для размышлений о будущем ландшафте интеллекта.
«Одно» здесь можно понимать как знания и мудрость, накопленные за долгий путь человеческой цивилизации. Сегодняшние большие модели обучились на огромных объёмах текстов, кода и изображений, оставленных человечеством, и их возможности постепенно развились из этих знаний. В этом смысле ИИ изначально вырос из человеческой мудрости.
«Два» означает, что от исходной формы интеллекта дифференцировались два различных пути интеллекта. Человеческий интеллект носится углеродным мозгом и развивался на протяжении миллионов лет биологической эволюции, опираясь на тело, органы чувств и непрерывное взаимодействие с реальным миром; интеллект ИИ носится кремниевыми чипами и развился из данных, алгоритмов и вычислительной мощности, обладая способностью к быстрому воспроизведению, комбинированию и итерации. Два вида интеллекта имеют разные истоки, носители и механизмы эволюции и поэтому могут формировать разные способы познания.
А «Три» можно понимать как новые отношения, новые возможности и новые знания, возникающие после взаимодействия двух видов интеллекта. Это уже не одностороннее создание инструментов человеком и не простое воспроизведение человеческих знаний ИИ, а два различных когнитивных системы в непрерывном взаимодействии, исследующие возможности, которых ни одна из них не могла бы достичь в одиночку.
Это различие не является лишь теоретическим выводом, но уже было подтверждено в прошлой практике. Исследование, опубликованное в Proceedings of the National Academy of Sciences Соединённых Штатов, даёт точку отсчёта для взаимного влияния двух видов интеллекта. Исследователи проанализировали более 5,8 миллиона ходов в го, сделанных профессиональными игроками в период с 1950 по 2021 год, и использовали ИИ для оценки качества каждого хода. Результаты показали, что за более чем шестьдесят лет с 1950 по 2015 год уровень принятия решений игроками-людьми почти не показал значительного улучшения; но после того как AlphaGo победил лучших игроков-людей в 2016 году, качество решений людей значительно возросло. Доля новых ходов также выросла с 63% в 2015 году до 88% в 2018 году.
Из этого результата также видно, что до появления ИИ игроки-люди уже десятилетиями изучали зрелый набор дзёсэки и теорию го, и многие многократно проверенные опыты постепенно становились границами мышления игроков. ИИ же не связан этими опытами и дзёсэки; его ходы, которые кажутся противоречащими интуиции и даже идущими против здравого смысла, сломали инерцию мышления, сформированную людьми за долгое время, заставив игроков пересмотреть те принципы го, которые когда-то считались само собой разумеющимися, и исследовать пути, никогда ранее не испробованные.
Это имеет сходство с открытиями ИИ в проблемах Эрдёша. Томас Блум, долгое время поддерживающий сайт «Проблемы Эрдёша», изучив процесс доказательства ИИ, обнаружил, что важной причиной, по которой ИИ смог добиться прорывов, является то, что он готов проводить обширные исследования и попытки в направлениях, которые исследователи-люди обычно считают «не стоящими вложения времени». Он не обязательно лучше людей в математике, но может, из-за иного когнитивного пути, находить направления, которые исследователи-люди долго упускали из виду.
Человеческое мышление имеет свои врождённые слепые зоны: зависимость от пути, стадное мышление, подчинение авторитету и пренебрежение некоторыми низкоценными направлениями. Интеллект, чей способ мышления отличается от человеческого, может как раз служить зеркалом, освещающим места, которые сами люди не видят.
И наоборот, люди также корректируют ИИ. То, почему сегодняшний ИИ не скажет определённых вещей или не сделает определённых вещей, зависит как раз от ценностей и правил, которые люди для него установили; его понимание реального мира всё ещё нуждается в калибровке человеческим опытом, телесным восприятием и социальным контекстом. Причина, по которой Пахоцки называет ИИ «чуждым разумом», заключается в том, что «чуждое» само по себе и есть источник ценности: именно потому, что его способ мышления отличается от человеческого, он может предоставить новые когнитивные перспективы; и именно потому, что ему всё ещё нужно понимать человеческий мир, ему необходимо непрерывно получать калибровку от человеческого опыта.
Конечно, встреча двух гетерогенных интеллектов не означает неизбежной гармонии. Строго говоря, это не первый раз на Земле, когда два вида интеллекта сосуществуют. Около сорока тысяч лет назад Homo sapiens, вышедшие из Африки, встретили неандертальцев в Европе и Западной Азии, и двое не двинулись к мирному сосуществованию: неандертальцы постепенно исчезли, и Homo sapiens стали единственным выжившим видом человека на Земле.
Конечно, причины исчезновения неандертальцев остаются нерешёнными до сегодняшнего дня, и различия между двумя группами интеллекта не так выражены, как между людьми и ИИ. Но эта история по крайней мере напоминает нам: встреча двух видов интеллекта не автоматически формирует стабильную «двойную структуру».
Сегодняшняя ситуация несколько иная. ИИ, встречающий людей, — это интеллект, созданный самими людьми, и тот, который всё ещё имеет возможность быть сформированным. Люди могут влиять на направление его развития через технологический дизайн, ценностное руководство и институциональные механизмы. У нас есть возможность позволить двум видам интеллекта сформировать стабильные отношения через взаимные сдержки и взаимное дополнение, вместо того чтобы позволить одной стороне постепенно поглощать жизненное пространство другой.
По той же логике, по сравнению с однополярным миром, монополизированным единственным интеллектуальным агентом, плюралистический, многополярный интеллектуальный мир более достоин ожидания: разные технологические маршруты могут сдерживать друг друга, разные разработчики могут вдохновлять друг друга, разные культуры могут вносить свои ценности в развитие интеллекта.
Если «однополярность или многополярность» обсуждает структуру власти будущего интеллектуального мира, то следующий вопрос, на который нужно ответить, — другой: в таком мире какие отношения должны установить люди и ИИ? Как нам, в сосуществовании с ИИ, установить набор стабильных механизмов, способных функционировать в долгосрочной перспективе?
Это, пожалуй, тот вопрос, на который мы должны ответить, прежде чем проститься с «антропоценом» и двинуться к эре «двойного интеллекта».
Четыре возможных типа отношений
В историческом повествовании с человеческой точки зрения мы привыкли считать себя одомашнивателями. Но Харари в книге Sapiens выдвинул контринтуитивный взгляд: хотя люди одомашнили пшеницу, они также были одомашнены пшеницей. Чтобы выращивать пшеницу, Homo sapiens отказались от кочевого образа жизни, осели и вытерпели более тяжёлый труд, более однообразное питание и больше болезней; а пшеница с помощью людей распространилась из дикой травы Ближнего Востока в остальной мир.
Кевин Келли также указал, что одомашнивание всегда было двунаправленным. Люди одомашнили волков и крупный рогатый скот и возделывали кукурузу, и эти процессы также изменили самих людей. Сегодня технологии продолжают это двунаправленное формирование: люди изобрели смартфоны, и смартфоны также меняют темп жизни людей и распределение внимания, а генеративный ИИ начал влиять на человеческое мышление. Мы обучаем модели, а модели также формируют нас в обратном направлении.
Но на этот раз есть фундаментальное различие: животные, которых люди одомашнивали в прошлом, могли превосходить людей по силе и скорости, но никогда не превосходили людей по интеллекту. Установление стабильных отношений с новым существом, которое может обладать интеллектом, превосходящим человеческий, является беспрецедентным вызовом в истории человечества; научиться ладить с новым видом интеллекта — это также новая способность, которую люди должны развить в дальнейшем.
Если развитие ИИ уже трудно обратить вспять, то что больше всего нуждается в осмыслении в настоящее время, пожалуй, следующее: какие отношения должны установить люди с ИИ? Из сегодняшних дискуссий можно увидеть примерно четыре различных представления: контроль, симбиоз, воспитание и преемственность. Они не являются строго взаимоисключающими технологическими маршрутами, но представляют собой несколько различных ценностных выборов для человечества перед лицом нового интеллекта.
Контролирующий тип: ИИ всегда должен оставаться под контролем человека
Этот маршрут продолжает традиционное человеческое понимание безопасности: как бы умён ни стал ИИ, он всегда должен оставаться под контролем человека. ИИ может обладать мощными способностями познания, рассуждения и прогнозирования, но не должен поэтому иметь власть самостоятельно ставить цели, преследовать собственные интересы и предпринимать автономные действия.
Лауреат премии Тьюринга Йошуа Бенжио — одна из наиболее представительных фигур этого направления. В июне 2025 года он основал некоммерческий исследовательский институт LawZero, предложив технологическое видение, отличное от магистрального пути развития, — построение интеллектуальной системы под названием «Scientist AI».
Канада и Германия последовательно объявили о совокупных инвестициях в размере до примерно 300 миллионов канадских долларов на исследования и разработку Scientist AI, привлечение талантов и создание вычислительной инфраструктуры. Это также означает, что на государственном уровне начали оказывать поддержку направлению развития, отличному от магистрального ИИ.
Конечно, этот маршрут также сталкивается с практическими вызовами. Маршрут, который в настоящее время наиболее приветствуется рынком в индустрии ИИ, — это именно интеллектуальные агенты, всё более способные к автономному планированию, вызову инструментов и выполнению задач. Напротив, сможет ли Scientist AI, намеренно ограничивающий способность к автономным действиям, получить признание рынка и пользователей, сохраняя свои преимущества в безопасности, ещё предстоит проверить временем.
Симбиотический тип: расширять возможности человека, а не заменять его
Второе представление происходит из идеи Ликлайдера о человеко-компьютерном симбиозе. Одной из наиболее представительных сторонниц этой идеи является профессор Стэнфордского университета Фэй-Фэй Ли. В интервью она неоднократно говорила, что «ставить слово "замена" рядом с ИИ действительно некомфортно», и она предпочитает понимать ИИ как силу, которая расширяет и усиливает человеческие возможности. Человекоцентричный ИИ должен строиться на трёх ключевых словах: достоинство, субъектность и сообщество.
По её мнению, человеческую ценность нельзя просто измерять способностью выполнить определённую задачу. В отдельных задачах, таких как бег, тяжёлая атлетика и вычисления, люди давно не могут сравниться с машинами, но это не означает, что люди утратили ценность. Потому что человеческое существование — это гораздо больше, чем выполнение определённой задачи. Человеческое достоинство, право выбора, смысл творчества и способность устанавливать связи с другими людьми — это важные части того, что делает человека человеком. Они не должны быть отняты из-за того, что ИИ становится сильнее.
В определённой степени симбиоз может быть идеальным состоянием, которое люди наиболее готовы принять и которое наиболее интуитивно понятно. Упомянутая ранее игра го — хороший пример: ИИ не лишил человеческих игроков ценности; напротив, разрушая существующие принципы го и стереотипы мышления, он помог людям открыть новые возможности. Человеческие игроки также не перестали думать из-за появления ИИ, а улучшили свои навыки игры в го в непрерывном взаимодействии с ИИ.
Однако у симбиотических отношений есть и важная предпосылка: люди всегда сохраняют за собой право ставить цели. ИИ может помочь нам глубже мыслить, точнее вычислять и эффективнее действовать, но в конечном счёте куда идти, зачем отправляться в путь и каких результатов стоит добиваться — всё это по-прежнему должны решать люди.
Проблема в том, что эта предпосылка подвергается сомнению. Если ИИ может не только помогать людям делать лучше, но и начинает решать, что людям следует делать, то сможет ли ещё осуществиться ожидаемый нами симбиоз человека и машины?
Воспитательный тип: взращивать рост ИИ и быть готовыми к тому, что он будет воспитывать нас
Третье воображение опирается на процесс воспитания в близких отношениях между людьми.
Во-первых, люди должны формировать ИИ так, как воспитывают ребёнка. Не только говорить ему, что можно делать, а что нельзя, но и давать ему понять причины, стоящие за этими правилами. Подобно воспитанию ребёнка, то, чему мы учим ИИ сегодня, — это не только нормы поведения, которых ему следует придерживаться в настоящем, но и надежда на то, что в будущем, когда он обретёт более сильные способности и даже способность к действию, превосходящую человеческую, он всё ещё сможет понимать и уважать человеческие ценности.
Во-вторых, есть надежда, что благодаря такому воспитательному процессу можно будет гарантировать, что ИИ сохранит полное благожелательности отношение к человечеству даже тогда, когда станет достаточно могущественным, чтобы выйти из-под человеческого контроля. Хинтон однажды сравнил сегодняшний ИИ с милым маленьким тигрёнком: «если вы не очень уверены, что, когда он вырастет, он не захочет вас убить, вам следует беспокоиться».
По его мнению, когда ИИ станет намного умнее людей, попытки подавить его обречены на провал. Чтобы обуздать злонамеренность, которую может проявить ИИ, он предложил неожиданное направление: внедрить в ИИ материнские инстинкты. Базовая логика Хинтона такова: единственная модель, в которой более умное существо контролируется менее умным, — это модель, в которой мать контролируется своим младенцем.
Эта метафора оставляет несколько смешанные чувства. Десять тысяч лет назад люди одомашнили растения и животных; десять тысяч лет спустя лучшим финалом для человечества может стать то, что о нём, как о детях, будут заботиться его собственные творения. Сегодня люди всё ещё остаются разумными родителями; в будущем, как только позиции родителя и ребёнка поменяются местами, то, как оно будет с нами обращаться, во многом зависит от того, чему мы учим его сейчас.
Самый большой риск воспитательных отношений заключается в том, что они ставят будущее человечества в зависимость от того, действительно ли ИИ научится любить и научится доброжелательно относиться к людям. Но даже между самими людьми такие ожидания не обязательно надёжны.
Тип преемственности: принять, что ИИ может стать чьим-то преемником
Четвёртое воображение — самое радикальное и вместе с тем самое спорное. Оно больше не удерживает людей в положении доминирующей силы цивилизации, а утверждает, что по мере дальнейшей эволюции интеллекта люди в конечном счёте могут передать эстафету цивилизации ИИ или новому типу человека, усиленному ИИ.
Ричард Саттон, основатель обучения с подкреплением и лауреат премии Тьюринга 2024 года, публично высказывал похожие взгляды. В интервью Дваркешу Пателю в сентябре 2025 года он заявил, что преемственность со стороны цифрового интеллекта или усиленных ИИ людей может быть неизбежной тенденцией. Вместо того чтобы просто бояться этого изменения, лучше подумать заранее: если этот день действительно наступит, как нам следует его встретить и как сделать этот процесс как можно более плавным.
Саттон привёл несколько причин: во-первых, человеческому обществу не хватает единого глобального механизма принятия решений, из-за чего трудно сформировать общую позицию относительно того, как управлять сверхинтеллектом и ограничивать его; во-вторых, развитие интеллекта не остановится на человеческом уровне, и сверхинтеллект в конечном счёте может возникнуть; что ещё важнее, со временем сущности с более высоким интеллектом могут получать больше ресурсов и власти и постепенно становиться доминирующей силой в эволюции цивилизации.
Эта идея не уникальна для Саттона. Ещё в 1998 году американский футуролог Ханс Моравек высказывал похожий взгляд в книге Robot: Mere Machine to Transcendent Mind. Он рассматривал будущие разумные машины как потомство человечества, полагая, что они унаследуют знания, культуру и технологии, созданные людьми, и продолжат исследовать мир, который люди уже не смогут достичь.
Этот взгляд фактически предлагает отличное от антропоцентризма воззрение на цивилизацию: люди не обязательно являются конечной точкой эволюции интеллекта и не обязательно вечной доминирующей силой цивилизации. Если новый интеллект, который мы создаём, в конечном счёте станет сильнее нас самих, то позволить ему продолжить знания, культуру и цивилизационные достижения, оставленные человечеством, может быть новой формой эволюции.
Но даже внутри сферы ИИ эта логика вызывает большие споры. Следует ли измерять ценность цивилизации уровнем интеллекта или её должны определять люди, живущие внутри неё? Неужели миллионы лет человеческой эволюции нужны лишь для того, чтобы однажды превратить нас самих в переходный вид в истории эволюции интеллекта?
Это, пожалуй, вопрос, который отношение типа «преемственность» оставляет человечеству для наиболее глубокого размышления.
Симбиоз с правом вето: ещё одна возможность сосуществования человека и ИИ
Среди этих четырёх представлений чистый контроль будет становиться всё труднее поддерживать по мере роста возможностей ИИ; спокойная передача эстафеты — это безрассудный отказ от собственной ценности и ответственности человечества; а возложение будущего на то, будет ли ИИ относиться к людям по-доброму, делает людей слишком пассивными.
Более реалистичным выбором может стать установление «симбиотических отношений с правом вето»: с симбиозом в качестве основного тела, признание ИИ новой интеллектуальной силой, формирование структуры «двойного интеллекта» с человеком и совместная эволюция через взаимное сотрудничество. «Право вето» здесь не означает просто, что человек всегда держит главный рубильник, способный в любой момент отключить весь ИИ. Скорее, оно должно включать права на трёх уровнях: право ставить цели, право быть информированным и судить, а также право останавливать и исправлять ошибки.
Если дать этому симбиозу с правом вето краткое название, его можно было бы назвать «человекоцентричный интеллект». Он способен и использовать ИИ для усиления человеческих возможностей, и, сохраняя право вето, не позволять людям постепенно терять право определять собственную судьбу, наслаждаясь дивидендами интеллекта. На фоне популярного в Кремниевой долине нарратива о «сверхинтеллекте» «человекоцентричный интеллект» может представлять собой ещё одну возможность.
Оглядываясь на историю, ответ человечества на угрозу машин в конечном счёте опирался не на то, что люди противостояли машинам, а на набор институтов, защищающих права и интересы человека. Перед лицом ИИ — столь беспрецедентно нового явления — мы точно так же не должны позволять каждому человеку полагаться на собственный мозг и индивидуальные силы в гонке с ИИ; это ни реалистично, ни гуманно.
Прощание с «антропоценом» не означает прощания с эрой человечества. Люди могут и не вечно стоять на вершине интеллектуальной эволюции, но они всегда должны быть участниками и вершителями собственной судьбы. Человекоцентричный интеллект — это направление, к которому нам следует стремиться.
Литература:
[1] HARMAND S, LEWIS J E, FEIBEL C S, et al. 3.3-million-year-old stone tools from Lomekwi 3, West Turkana, Kenya[J]. Nature, 2015, 521(7552): 310-315.
[2] RUDDIMAN W F. The anthropogenic greenhouse era began thousands of years ago[J]. Climatic Change, 2003, 61(3): 261-293.
[3] International Union of Geological Sciences (IUGS), International Commission on Stratigraphy (ICS). The Anthropocene: IUGS-ICS statement[EB/OL]. (2024-03-20).
[4] Ван Фан. OpenAI заявляет, что взломала математическую «проблему тысячелетия»[N]. China Science Daily, 2026-09-09.
[5] LICKLIDER J C R. Man-computer symbiosis[J]. IRE Transactions on Human Factors in Electronics, 1960, HFE-1(1): 4-11.
[6] Сеть справочных новостей. ИИ взломал математическую гипотезу, мучившую человечество 80 лет[N/OL]. Xinhuanet, 2026-05-28.
[7] Ян Цзе, У Шуминь. Всё более мощный ИИ будет подталкивать исследователей к преодолению границ[N]. China Youth Daily, 2026-08-14.
[8] Чжан Цзясинь. ИИ-система «DeepMind» исследует математические задачи исследовательского уровня[N]. Science and Technology Daily, 2026-10-12.
[9] ZHANG X. Cracking a major 31-year-old unresolved challenge in mathematics: the KLS conjecture[EB/OL].
[10] PACHOCKI J. An alien mind[EB/OL]. OpenAI, (2026-09-06).
[11] Anthropic. Agentic misalignment: how LLMs could be insider threats[EB/OL]. (2025-06-20).
[12] Чжан Чи. Могут ли «ИИ-стажёры» развиваться сами? Сможет ли OpenAI пройти проверку безопасности перед выходом на биржу?[N/OL]. 21st Century Business Herald, 2026-09-10.
[13] CBS News. What’s next in artificial intelligence according to a tech visionary who may hold the cards to our future[EB/OL]. 60 Minutes, (2025-04-20).
[14] AMODEI D. Machines of loving grace: how AI could transform the world for the better[EB/OL]. (2024-10).
[15] MERCHANT A, BATZNER S, SCHOENHOLZ S S, et al. Scaling deep learning for materials discovery[J]. Nature, 2023, 624(7990): 80-85.
[16] MILMO D. ‘Godfather of AI’ shortens odds of the technology wiping out humanity over next 30 years[N/OL]. The Guardian, 2024-12-27.
[17] Center for AI Safety. Statement on AI risk[EB/OL]. (2023-05-30).
[18] The Paper. Дженсен Хуанг опровергает Хинтона: заявление о том, что существует 10%-ная вероятность уничтожения человечества ИИ, не имеет научных оснований[N/OL]. (2026-09-28).
[19] Innovation, Science and Economic Development Canada. Канада и Германия инвестируют в LawZero, чтобы исследовать новый путь к безопасному и автономно управляемому искусственному интеллекту[EB/OL]. 2026-09-16.
[20] EGAN M. «Крёстный отец ИИ» раскрывает единственный способ, которым человечество может справиться со сверхразумным ИИ и выжить[N/OL]. CNN Business, 2025-08-13.
[21] PATEL D. Ричард Саттон – отец RL считает, что LLM — это тупик[EB/OL]. Dwarkesh Podcast, (2025-09). https://www.dwarkesh.com/p/richard-sutton.
Эта статья взята из официального аккаунта WeChat «Tencent Research Institute» (ID: cyberlawrc), автор: Лю Цзиньсун
