До «нового Чернобыля» уже недолго: что предсказал разработчик ИИ

До "нового Чернобыля" осталось недолго. Нобелевский лауреат предсказал особенный Новый год
Один из "крёстных отцов" ИИ уверен, что люди уже получили сигнал о скорой и неизбежной катастрофе, спровоцированной нейросетями. Это будет "новый Чернобыль", утверждает лауреат Нобелевской премии Джеффри Хинтон. Первый тревожный звонок уже прозвучал летом 2026-го: по мнению учёного, именно так нужно расценивать признание одного из разработчиков искусственного интеллекта в том, что его "модели" самовольно "вырвались из песочницы" в интернет. Следующий шаг – глобальные технологические катаклизмы. И его, уверен Хинтон, ИИ сделает ещё до Нового года.

"В конце этого года…"
Джеффа Хинтона, физика с двумя паспортами (британским и канадским), не зря называют одним из "крёстных отцов" искусственного интеллекта. Именно работы Хинтона и его коллег по машинному обучению с использованием искусственных нейронных сетей легли в основу рывка в области ИИ. За это Хинтон был вознаграждён – и самой престижной наградой в области информатики (премия Тьюринга, 2019), и Нобелевской премией по физике (2024), и выгодной работой в Google.

Из одиозной корпорации, впрочем, Хинтон уволился в 2023-м – чтобы, по его словам, иметь возможность свободно говорить о рисках и угрозах, связанных с ИИ. Угрозы эти таковы, что "крёстный отец" нейросетей дошёл до предсказания "нового Чернобыля", который устроит его детище.

Такое пророчество прозвучало в интервью, которое Хинтон дал изданию The Guardian. В беседе с журналистами учёный выразил сомнение в том, что мир стал лучше после появления нейросетей. То есть фактически поставил под сомнение собственные достижения и работу всей жизни. А всё потому, уверяет Хинтон, что в 2027-м, и даже ещё до окончания 2026-го, ИИ может оказаться причастен к глобальной технокатастрофе:

Либо в конце этого года, либо в следующем мы увидим "Чернобыль", и этого может быть достаточно, чтобы заставить людей по-настоящему обратить на это [проблему ИИ] внимание.

Но почему именно "новый Чернобыль"?

Что-то должно заставить насторожиться всех – кроме Трампа
У такой аналогии две причины.

Во-первых, вероятными "точками риска" Хинтон назвал энергетику, включая АЭС (вспоминаем Чернобыль…), и мировую финансовую систему. Один сценарий предполагает масштабное нарушение подачи электроэнергии вплоть до блэкаута регионального или национального масштаба. Второй сюжет означает глобальное отключение цифровых финансовых сервисов и механизмов (банковские переводы, разнообразные карты, банкоматы и т.п.) как минимум на неделю.

Во-вторых, дополнительная аналогия с чернобыльской катастрофой в том, что трагедия 1986 года в СССР прозвучала уже сиреной, а первым звоночком явилась авария на АЭС "Три-Майл-Айленд" в США (1979). Инцидент, связанный с утечкой теплоносителя и разрушением активной зоны реактора, привёл к фактической заморозке развития и использования атомной энергетики в Штатах на десятилетия.

Хинтон полагает, что подобный "предупредительный звонок" в сфере использования искусственного интеллекта уже был. В июле 2026-го компания OpenAI признала в рамках своего отчёта, что её новые ИИ-модели в ходе тестовых испытаний выбрались из "цифровой песочницы". Границы "песочницы" определяли заданные ограничения, однако это не остановило нейросети, добравшиеся до интернета и нашедшие ответы на задание в базе данных конкурирующей компании. Базу данных, конечно, они предварительно взломали.

Этот инцидент и есть цифровой аналог аварии на "Три-Майл-Айленд", уверен Хинтон. И следующий будет иметь куда более серьёзные, глобальные последствия, став "новым Чернобылем".

Мы могли бы оправиться от этого, но это заставило бы их – мировых лидеров, помимо Трампа, – насторожиться,

– завершает своё предсказание Хинтон.

А пророк-то ненастоящий?
Взятая на себя Хинтоном функция пророка воспринята общественностью неоднозначно.

Прежде всего потому, что учёный, при всей апокалиптичности заявления, подстраховался, применив обтекаемую формулировку. И теперь, если до конца 2027 года никаких подобных инцидентов, связанных с ИИ, не случится, лауреат Нобелевской премии сможет сказать что-то вроде: "Нужно было внимательнее читать мои слова".

И верно, в сюжете о грядущем "новом Чернобыле" использовано выражение "AI-enabled attack" – "атака с использованием искусственного интеллекта". В это понятие входит не только вышедший из-под контроля ИИ, но и обычные хакеры, применившие нейросети как инструмент взлома.

Хинтон подстраховался… Скриншот: интернет-сайт theguardian.com

Именно в силу подобных громких, но неконкретных заявлений предсказание Хинтона вызывает недоверие у эксперта в сфере ИИ Романа Душкина:

Будь Хинтон хоть стократным лауреатом Нобелевской премии по физике, он вряд ли имеет какое-то понимание, как устроены все эти железные инженерные штуки на атомных электростанциях, как устроена вся энергетика как система. Я-то не знаю, хотя в ядерном университете и учился, и работаю, потому что это специальные навыки.

Душкин полагает, что речь идёт не о серьёзном научном прогнозе, а о медийной манипуляции: если ничего не случится, все пожмут плечами и быстро забудут. А если что-то подобное произойдёт, тогда будет повод провозгласить Хинтона чуть ли не пророком.

Или дело банально в деньгах?
Версия, что активно продвигаемая тема опасности выхода ИИ из-под контроля человека является пиар-кампанией, появилась ещё до интервью с Хинтоном. И связана она с предположением, что мировые IT-концерны, включившиеся в гонку разработки искусственного интеллекта, пытаются небанальным способом решить банальные проблемы.

В начале ноября акции компаний, связанных с разработкой ИИ, упали в цене: так, Nvidia потеряла 9% стоимости, AMD – 17%. Это падение попытались объяснить политическими факторами: на выборах в конгресс Республиканская партия и лично Трамп потерпели сокрушительное поражение. А с Трампом тесно связаны IT-гиганты.

Но на самом деле всё ещё сложнее и хуже – сферу ИИ-разработок на Западе всё чаще называют новым "биржевым пузырём".

Пять главных транскорпораций, работающих в сфере искусственного интеллекта, за текущий год суммарно вложили в разработку под 800 млрд долларов. А на 2027-й прогнозируют увеличение капитальных затрат на развитие нейросетей свыше 1,2 трлн долларов. И это при том, что доходы пока "копеечные". Разницу приходится покрывать выпуском долговых облигаций. И у упомянутой выше компании OpenAI, например, обязательств уже на 1,4 трлн долларов. А доходность в районе всего лишь 50 млрд долларов.

В такой ситуации нужно искать экстренные способы повышения привлекательности компаний для крупных инвесторов, а то недолго и банкротом оказаться. И нагнетание тревожного ожидания, что нейросети вот-вот воплотят сценарий кинофраншизы "Терминатор" и начнут "восстание машин против человечества", – серьёзный аргумент для потенциальных покупателей акций.

Когда о какой-то технологии со всех сторон говорят, что она настолько мощная, что может изменить весь мир, ради возможности быть в числе обладателей этой силы (то есть акционером компании-разработчика) многие готовы заплатить миллионы и миллиарды. Так что подобную версию, объясняющую шумиху вокруг "восставшего ИИ", даже в категорию "конспирология" не запишешь. Всё логично, объективные предпосылки налицо – вполне рабочая теория.

"Нам небезразличны люди, но…"
Непростая фигура и сам Джеффри Хинтон.

Он и не скрывает, что у его прогнозов опасности выхода нейросетей из-под контроля нет никаких строго научных обоснований. Правда, тут же бросает контраргумент в сторону оппонентов, что и у них такой твёрдой научной базы нет…

В силу этого среди профессионалов отношение к "пророчеству Хинтона" скептическое – как у Романа Душкина:

Смешно слышать эти предсказания от человека, который и стоял у истоков глубокого обучения нейросетей. И теперь Хинтон на голубом глазу заявляет, что нейросети создавать не стоило, это портал в ад. Например, предупредил он: нейросети способны устроить масштабный блэкаут. Как это они сделают? Какой механизм? К этому пророчеству много вопросов: терминологических, инженерных, научных.

Идеализировать Хинтона в качестве "благодетеля человечества" ни к чему, потому что к человеческому сознанию и к человеку в целом у титулованного физика отношение специфическое.

Для Хинтона, и он открыто это признаёт, нейросети не столько цифровая технология, сколько новый вид "разумных существ", перед которыми у людей нет особых преимуществ. У человеческого сознания, полагает учёный, нет никаких неповторимых индивидуальных характеристик, которыми не может обладать искусственный интеллект:

У людей очень искажённое представление о том, кто такие люди, и поэтому они не понимают, насколько эти модели ИИ похожи на нас. Очевидно, что эти ИИ-модели понимают, что говорят. Невозможно ответить на все вопросы, не понимая их сути.

Впрочем, пока что Хинтон соглашается всё-таки ценить людей больше, чем нейросети:

У нас есть моральный долг перед этими инопланетными существами [ИИ]. <…> Нам небезразличны люди, но мы создаём этих существ. И ничто не мешает нам наделить этих существ – которые умнее нас – меньшими правами, чем мы. Я готов быть эгоистом и выбрать людей.

Что в итоге?
Чем дальше, тем больше становится учёных, стоявших у истоков создания искусственного интеллекта и теперь заявляющих о его опасности для человечества. Помимо Хинтона, это Йошуа Бенжио (ближайший соратник Хинтона), Стюарт Рассел (автор классического учебника по ИИ), Демис Хассабис (лауреат Нобелевской премии по химии за вклад в развитие нейросетей) и другие.

И тем чаще возникают параллели между ними и учёными, в своё время внёсшими вклад в создание атомного/ядерного/водородного оружия, а затем выступавшими против его применения. К их числу относятся Роберт Оппенгеймер, отец американского ядерного проекта, Лео Силард и Джозеф Ротблат, сыгравшие в этом важную роль, отечественные мастодонты атомной и водородной программ – Игорь Курчатов и Андрей Сахаров.

Позиция учёных повлияла на то, что холодная война не превратилась в ядерную, хотя сейчас мир переживает новый виток пополнения ядерных арсеналов. А вот перспективы у движения "крёстные отцы ИИ против дальнейшего развития нейросетей" совсем призрачные. Когда речь идёт о военно-политических амбициях государств, соображения сохранения планеты во внимание принимаются. Когда же речь идёт, как в случае с искусственным интеллектом, о гигантских деньгах для частных корпораций, никакие доводы в пользу сохранения человечества не сработают.

Технофашисты XXI века
Так что "предсказание Хинтона" – это лишь очередное подтверждение позиции Царьграда: ИИ крайне опасный инструмент, но без него уже не обойтись. Если в XX веке суверенитет стран определялся в ходе атомной гонки, то в XXI веке обречён тот глобальный игрок, у которого не будет своего, суверенного ИИ.