Попытки создать аналог человеческого мозга с помощью компьютерных технологий — это путь в никуда

Искусственный интеллект должен всегда находиться под контролем и не заменять деятельность человека, заявил генсек ООН Антониу Гутерриш, выступая в Генассамблее 7 февраля. По его словам, искусственный интеллект «уже создает риски, связанные с дезинформацией, конфиденциальностью и предвзятостью».

О наиболее эффективных областях применения суперкомпьютеров, о возможных рисках и о том, будет ли когда-нибудь создан компьютерный аналог человеческого мозга в интервью изданию «Эксперт» рассказал специалист в области вычислительных и управляющих систем, академик РАН Игорь Каляев.

—Искусственный интеллект — один из основных трендов мирового научно-технического развития. Каждое экономически развитое государство считает своим долгом сформировать национальную программу в области ИИ. Кто сейчас в этой области впереди?

— Лидером является Китай, на который приходится около 60% мировых инвестиций в исследования и разработки в области ИИ. По оценкам специалистов, внедрение технологий ИИ обеспечит к 2030 году удвоение темпов роста ВВП ведущих государств мира и увеличение мирового ВВП на 15 трлн долларов, причем на Китай придется 7 трлн, а на США 3,7 трлн. Россия тоже пытается не отстать от лидеров. В октябре 2019 г. утверждена национальная стратегия развития ИИ в стране, разработанная Минкомсвязи совместно со «Сбербанком». В федеральном проекте, утвержденном в 2021 г. для реализации стратегии, запланировано 24,1 млрд рублей из бюджета на работы в этой области, а 5,1 млрд рублей — из других источников.

—Если физической основой естественного интеллекта является человеческий мозг, то физической основой для создания ИИ являются компьютеры. Можете назвать перспективные на ваш взгляд направления развития технологий создания ИИ?

— В настоящее время процессы создания ИИ на базе компьютерных технологий развиваются по двум основным направлениям — логическому и нейроморфному. Логический подход направлен на создание компьютерных систем, предназначенных для решения одной или некоторого ограниченного множества «интеллектуальных» задач. Нейроморфный подход направлен на создание компьютерных систем, имитирующих работу человеческого мозга, и в конечном итоге на создание его искусственного аналога. Но надо четко понимать, что большинство достижений ИИ, в том числе особо разрекламированных, связано не с каким-либо повышением «интеллекта» машин, а в основном просто с ростом их быстродействия, и, как следствие, возможностями обработки все больших массивов данных за меньший промежуток времени.

—Смогут ли компьютеры когда-нибудь достичь производительности, достаточной для создания компьютерного аналога человеческого мозга?

— Теоретически это возможно, поскольку сегодня мы в общих чертах знаем, как работает отдельный нейрон мозга человека, как эти нейроны связаны друг с другом, как передаются сигналы между ними, что в свою очередь позволяет осуществить компьютерное моделирование всего человеческого мозга в целом.

В 2018 г. с помощью самого быстродействующего на тот момент в мире суперкомпьютера Sunway Taihulight (КНР) с производительность 10¹⁷ флопс было осуществлено моделирование одной секунды активности 1% мозга человека, причем это моделирование заняло около четыре минут машинного времени суперкомпьютера. Отсюда можно сделать вывод, что для моделирования 100% активности человеческого мозга в реальном времени необходим суперкомпьютер с производительностью около 10²¹ флопс. Исходя из темпов развития современных технологий можно предположить, что суперкомпьютер с такой производительностью появится после 2030 года.

Если исходить из возможностей сегодняшних технологий, то суперкомпьютер с производительностью 10²¹ флопс будет обладать габаритами, эквивалентными зданию 300 на 300 метров в основании и 50 метров высотой, и потреблять около 15 гигаватт электроэнергии, что сравнимо с ежесуточным потреблением города Москвы. В то же время человеческий мозг занимает всего лишь 0,0013 м³ объема и потребляет около 20 Ватт. Поэтому я считаю, что все попытки создания аналога человеческого мозга с помощью современных компьютерных технологий — это путь в никуда, поскольку мозг работает по совершенно другим, до сих пор непонятным нам принципам. И чем дальше мы идем по этому пути, тем дальше мы уходим от нашей конечной цели — создания аналога человеческого мозга. Это обстоятельство порождает необходимость поиска альтернативных путей реализации ИИ, в том числе на новых физических принципах, чем сейчас активно занимаются ученые во всем мире, в том числе и в нашей стране.

—В каких отраслях ИИ даст наибольший экономический эффект?

— В промышленности ИИ вполне может быть эффективен при прогнозировании спроса, оптимизации логистики поставок комплектующих, планировании и оптимизации производственных процессов, создании безлюдных производств. В транспортных и логистических системах его возможности позволят оптимизировать грузоперевозки, создавать беспилотный транспорт, обеспечивать водителей средствами виртуальной и дополненной реальности для снижения аварийности. В энергетике ИИ займется прогнозированием сетевых перегрузок и перераспределением мощности, снижением отказов оборудования. В финансовом и банковском секторе ИИ станет незаменим при прогнозировании динамики финансовых рынков, выявлении финансовых рисков и злонамеренного поведения. В обеспечение безопасности и противодействие терроризму, в области обороны ИИ тоже может внести бесценный вклад.

— Все чаще раздаются голоса людей, считающих ИИ огромной угрозой для всего человечества. Так, незадолго до смерти знаменитый английский ученый Стивен Хокинг сказал: «Развитие искусственного интеллекта может стать как наиболее позитивным, так и самым страшным фактором для человечества». А в прошлом году большая группа ученых и предпринимателей во главе с Илоном Маском и сооснователем Apple Стивом Возняком подписала коллективное письмо, в котором призывала все лаборатории ИИ приостановить обучение систем ИИ более мощных, чем GPT-4 из-за рисков утраты контроля над продуктом. Эти опасения оправданы?

— Чтобы понять, насколько оправданы эти опасения, надо разобраться, что же такое «искусственный интеллект». Хотя исследования в области искусственного интеллекта начались еще в 1950-х годах прошлого века, его четкое определение до сих пор отсутствует. Существует огромное количество различных определений ИИ, большинство из которых имеет очень неконкретный и расплывчатый характер.

Вот лишь некоторые из них:

• Научное направление, в котором решаются задачи аппаратного и программного моделирования тех видов человеческой деятельности, которые традиционно считаются интеллектуальными.
• Свойство систем выполнять функции, которые традиционно считаются прерогативой человека.
• Свойства автоматических систем брать на себя отдельные функции интеллекта человека.
• Программные системы, отличительным свойством которых является то, что они могут решать некоторые задачи так, как их бы решал человек.

Если исходить из этих определений, то можно сделать вывод, что даже стиральная машина обладает искусственным интеллектом, поскольку она «выполняет функции, которые традиционно считаются прерогативой человека».

В национальной стратегии развития ИИ в России используется следующее определение: «ИИ — комплекс технологических решений, позволяющих имитировать когнитивные функции человека (включая самообучение и поиск решения без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека».

Справедливость данного определения также, по крайней мере, у меня вызывает большие сомнения. Во-первых, под него, например, подпадает обычный калькулятор, поскольку он выполняет когнитивные функции человека — арифметические и тригонометрические вычисления, причем при их выполнении калькулятор получает результаты, во много раз превышающие результаты интеллектуальной деятельности человека. Следовательно, исходя из данного определения, калькулятор обладает искусственным интеллектом. Конечно же, нет.

Во-вторых, большое недоумение вызывает фраза «решения, позволяющие имитировать когнитивные функции человека». Попугай тоже может имитировать когнитивные функции человека, а именно человеческую речь, но обладает ли он при этом интеллектом — это большой вопрос. Кроме того, современные чат-боты так хорошо имитируют разумное человеческое общение, что очень трудно понять, с кем ты разговариваешь — с роботом или человеком.

Существует также классическое определение ИИ, предложенное еще в 1950 году математиком Аланом Тьюрингом в статье «Вычислительные машины и разум». Он предложил процедуру, которая, по его мнению, позволяет определить, когда вычислительная машина сравнивается по интеллекту с человеком. Ее суть в следующем: «Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить − с кем он разговаривает: с человеком или с компьютером. Задача компьютерной программы − ввести человека в заблуждение, заставив сделать неверный выбор». В 2014 году программа «Женя Гутман», имитирующая общение с 15-летним мальчиком из Одессы, впервые прошла тест Тьюринга. После получения этого результата, исходя из определения Тьюринга, можно сделать вывод, что ИИ уже создан.

В действительности это абсолютно не так, поскольку программа «Женя Гутман» — это просто очень хороший чат-бот, который «может ввести человека в заблуждение» и не более того.

В принципе все, что сегодня называется термином «искусственный интеллект» — это компьютерные программы, созданные человеком-программистом. Сам компьютер не принимает никаких собственных решений и тем более не обладает собственной волей в принятии решений, а просто реализует заложенную в него человеком программу. Поэтому бояться ИИ — это все равно, что бояться любой другой компьютерной программы, коих за время компьютерной эры создано, наверное, десятки, а то и сотни миллионов. Бояться надо людей, создающих эти программы, потому что именно от их воли зависит, к каким негативным последствиям может привести та или иная программа.

— Что лично вы понимаете под ИИ?

— С момента начала эры ИИ было предложено множество формальных и неформальных определений ИИ. Если обобщить все эти определения, то их можно разбить на два принципиально разных философских подхода. Согласно первому, искусственный интеллект — это способность компьютерной системы выполнять некую частную «интеллектуальную» задачу, то есть задачу, решение которой потребовало бы человеческого интеллекта, не хуже, чем сам человек. Системы, отвечающие такому определению, в научной среде принято называть системами со «слабым» ИИ.

Например, известный ученый Марвин Минский еще в 1968 году предложил следующее определение: «ИИ — это наука о создании машин, способных выполнять задачи, которые потребовали бы интеллекта, если бы их выполняли люди». Здесь очень важно обратить внимание на то, что исходя из этого определения вовсе не обязательно, чтобы сама машина обладала ИИ, а главное, чтобы она могла выполнять те задачи, которые бы потребовали интеллекта, если бы их решал человек.

Однако эта философия привела к поразительному результату — современные системы ИИ, решающие некоторые частные задачи зачастую лучше человека, никаким интеллектом, как правило, вовсе не обладают. Здесь можно привести пример игры в шахматы. Если человек играет в шахматы на гроссмейстерском уровне, то мы можем с уверенностью предположить, что этот человек обладает высоким интеллектом. Но того же нельзя сказать даже о программах, которые сегодня способны обыграть чемпиона мира по шахматам, поскольку они делают это не за счет какого-то своего собственного высокого интеллекта, а за счет запрограммированного в них интеллекта их создателей, а также за счет огромного быстродействия суперкомпьютеров, на которых они реализованы.

Согласно второму философскому подходу, искусственный интеллект — это способность компьютерной системы выполнять различные «интеллектуальные» задачи без помощи человека, в том числе те, к которым она не была подготовлена и обучена заранее. Системы, отвечающие такому пониманию, принято называть «сильным» ИИ. Французский исследователь Франсуа Шолле предложил следующее определение: искусственный интеллект — это способность системы к самостоятельному формированию навыков (алгоритмов) выполнения задач, к которым она не была подготовлена заранее, на основе имеющихся у нее ранее сформированных навыков, знаний и накопленного опыта.

И я в целом согласен с этим определением ИИ, поскольку оно подразумевает способность системы справляться с решением широкой категории заранее неизвестных задач без помощи человека, что, собственно, и требует от нее наличия собственного интеллекта, в то время как системы первого типа с «слабым» ИИ никаким собственным интеллектом не обладают, а просто реализуют интеллект своих создателей, формализованный в виде заложенных в ним программ.

Но при этом надо отметить, что в настоящее время не существует реальных систем, отвечающих такому определению ИИ, и поэтому говорить о «сильном» искусственном интеллекте, способном принимать самостоятельные решения и тем более «захватить весь мир», с моей точки зрения, пока рано.