Названа роль искусственного интеллекта в конфликте на Украине

Возможно ли восстание ИИ против человечества как в «Терминаторе»

Искусственный интеллект становится решающим фактором в международной технологической гонке. Примерно так же, как когда-то великие держа соревновались, кто из них станет первым обладателем ядерного оружия. Более того, уже сложилось мнение, что искусственный интеллект даже меняет глобальную динамику власти. Но во благо ли искусственный интеллект человечеству? О возможных угрозах и выгодах, которые может принести людям этот электронный разум, рассказал советник министра внутренних дел России, генерал-майор милиции в отставке, доктор юридических наук, заслуженный юрист РФ, почетный сотрудник МВД РФ, экс-руководитель российского Центрального бюро Интерпола, автор книг по борьбе с оргпреступностью Владимир Овчинский.

– Владимир Семенович, задам, возможно, наивный вопрос: действительно ли нам так необходим искусственный интеллект? Чем не угодил интеллект человеческий, естественный? Или это – тяга ученых к изобретательству, желание создать что-то новенькое и получить Нобелевскую премию?

– Искусственный интеллект (ИИ) нам действительно необходим. Так уж случилось, что естественный интеллект, то есть – природный человеческий мозг, банально не справляется сегодня даже с теми элементарными задачами, которые легко решает примитивный калькулятор. Да, человек в состоянии что-то посчитать в уме, зная таблицу умножения. Но как быстро?

Об этом говорит Пол Шарре — вице-президент и директор по исследованиям Центра новой американской безопасности. Он выпустил интересную книгу, которая вышла в США в самом конце февраля — «Четыре поля битвы: власть в эпоху искусственного интеллекта».

– О чем книга?

– Шарре — специалист по стратегическому планированию, трудился в канцелярии министра обороны США. Он участвовал в разработке применения беспилотных и автономных систем и новых оружейных технологий, определял политику Пентагона по разведке. Серьезный специалист.

Шарре исследует, как международная конкуренция за самую мощную технологию — искусственный интеллект, — меняет глобальную динамику власти. По его мнению, исход этой борьбы определит следующую глобальную сверхдержаву.

– Какие он приводит аргументы?

– Весьма убедительные. Он утверждает, что битва за мощь ИИ произведет революцию в мировых вооруженных силах и экономике. Он на днях в Insider дал интервью о проблемах, отраженных в его книге, в которой делается вывод о четырех ключевых полях битвы глобальной конкуренции: в области искусственного интеллекта или данных; вычислительного оборудования или вычислений; человеческого таланта; институтов, необходимых для успешного внедрения систем ИИ.

– Наверное, в первую очередь он подразумевает военную пользу от искусственного интеллекта?

– Да, причем он конкретно говорит о военном конфликте на Украине. Он откровенно признает: «Я думаю, вполне вероятно, что министерство обороны США и разведывательное сообщество используют ИИ для анализа изображений, полученных со спутников или дронов, и, хотя они не признают этого публично, вполне возможно, что это играет роль в информации, которой США делятся с Украиной. Мы видели и другие примеры использования технологий искусственного интеллекта непосредственно украинскими силами на местах, в частности, некоторыми операторами гражданских беспилотников. Мы также видим в войне на Украине важность логистики, например, и операций по техническому обслуживанию, и это то, что основная часть того, что военные делают изо дня в день, это перемещение людей и вещей из пункта А до пункта Б — это очень похоже на Walmart или Amazon. Это место, где военные могут улучшить свою логистику, боеготовность, финансы, персонал и техническое обслуживание».

– Пока звучит не очень убедительно. Прилежный выпускник Академии нашего – да и любого — Генштаба может на подробной карте за час нарисовать вам любую логистику. Да и вы, как генерал, хорошо знакомы с алгоритмом решения этой проблемы. Причем, это решение может быть оригинальным, нестандартным и даже остроумным. Зачем нужны механические мозги?

– В этом и заключается вся проблема – в скорости принятия правильного решения. Да, человек найдет решение, – но когда, как быстро? Сколько времени уйдет на дебаты, согласования с инстанциями, на проверки тех или иных вариантов? Измерить по той же карте расстояние курвиметром? Даже просто посчитать что-то в уме или в столбик? А зачастую все решают мгновения.

Шарре приводит такой аргумент: «Что касается военных достижений в области ведения войны, то также есть несколько примеров. В конкурсе DARPA Alpha Dog целью было создание агента ИИ, который мог бы достичь сверхчеловеческих характеристик в симуляторе против человека в воздушном бою. ИИ преуспел, вышел лицом к лицу с опытным пилотом ВВС и полностью разгромил пилота-человека со счетом 15: 0 — человек не сделал ни одного выстрела против ИИ.

В частности, выстрелы «лицом к лицу» фактически запрещены при обучении пилотов-людей, потому что существует высокий риск столкновения, если пилот пытается маневрировать летательным аппаратом, когда вы мчитесь друг за другом со скоростью сотни миль в час. И в любом случае это чрезвычайно сложно сделать и требует сверхчеловеческого уровня точности, но все это не было проблемой для агента ИИ. Он может делать эти выстрелы за доли секунды, избегая при этом столкновения. И агент ИИ научился делать все это сам — его этому не обучали. Система искусственного интеллекта, которая победила, была обучена на симуляторе и имела более 30 лет имитируемого времени полета. Это была одна из вещей, которые она просто выучила сама за все эти годы имитируемых воздушных боев». В этом вся соль ИИ – универсальный солдат.

– Впечатляет. Но ведь искусственный интеллект нужен не только на войне?

– Об этом Шарре и говорит: «Есть множество мест, где ИИ может со временем оказать довольно значительное влияние на экономическую производительность. Например, — специальные приложения, которые могут улучшить финансы, медицину, транспорт или другие отрасли. Автомобили с автоматическим управлением должны быть на том этапе, когда они действительно эффективны и жизнеспособны на дорогах. Использование ИИ в медицине, для визуализации, — такие вещи могут быть очень полезными для всего общества. Но одна из самых захватывающих вещей в ИИ — это его способность повышать производительность в самых разных местах».

– А что искусственный интеллект может сделать для обычного, отдельно взятого человека?

– Многое. Американские эксперты утверждают, что ИИ — это, собственно, не интеллект — это предсказание. С большими языковыми моделями наблюдается увеличение способности машины предсказывать и выполнять желаемый результат. Так, Пол Шарре считает, что «ИИ обладает огромным потенциалом для того, чтобы приносить пользу в различных секторах, включая образование, здравоохранение и борьбу с изменением климата. Например, FireAId — это компьютерная система на базе искусственного интеллекта, которая использует карты риска лесных пожаров. В здравоохранении ИИ используется для улучшения ухода за пациентами за счет более эффективной профилактики, диагностики и лечения. Повышение эффективности также снижает расходы на здравоохранение. Более того, искусственный интеллект должен радикально изменить — а в идеале — улучшить уход за пожилыми людьми».

И вот, что очень важно, – искусственный интеллект защищает людей от уголовщины, то есть, обеспечивает безопасность обычных людей. Шарре приводит китайский опыт: «В Китае находится половина из 1 миллиарда (!) камер наблюдения в мире, и они все чаще используют инструменты искусственного интеллекта, такие, как распознавание лиц или распознавание походки, чтобы определить, кем являются люди, на основе их моделей походки и того, как они ходят. И в соединении этого с другими типами данных, такими, как данные номерных знаков, звонки или данные геолокации на телефонах и покупательском поведении людей, чтобы отслеживать граждан Китая.

Китай экспортирует большую часть технологий за границу, поэтому 80 стран мира приобрели китайские технологии наблюдения».

– Не угрожают ли эти подобные полицейские сверхспособности искусственного интеллекта элементарным свободам человека? За каждым из нас теперь будет следить Большой Брат?

– Такие опасения есть. Но для этого нужны не только технологические ограничения, но и тщательно проработанные законодательные рамки. Ведь ИИ, каким бы совершенным не был, — пусть и самообучающийся, сам по себе — бездушный и лишенный понятия морали, религии и идеологии механизм. Все эти свойства в него вкладывают разработчики программы. То есть, в электронный мозг ИИ вполне может быть вложена ненависть к России или, скажем, к США или Китаю. И тут, увы, вся ответственность ложится на человека-разработчика.

Согласитесь, не важно, что пистолет-пулемет МП-40 (его ошибочно именуют «шмайссер») когда-то был сделан на заводе гитлеровской Германии. Важно, в чьих руках он находился. Одно дело – в руках эсэсовца, расстреливающего мирных заложников гетто. Другое — в руках советского партизана.

– Мне кажется, что вы весьма пессимистично относитесь к великим умам, создающим искусственный интеллект…

– Писатель Зощенко как-то заметил: «Чтобы не думать о людях плохо, лучше о них вообще не думать».

– И все-таки, может ли искусственный интеллект вдруг однажды взбунтоваться против своего создателя – человека?

Вы намекаете на голливудский блокбастер про терминатора? Вы не поверите, но я лично не исключаю так называемого «восстания машин», каким бы фантастическим это не казалось.

И об этом говорит тот же Пол Шарре: «Microsoft и Google совсем недавно публично развернули чат-боты с искусственным интеллектом, которые не были готовы. И проблема не в том, что Bing заявляет о своей любви к пользователям и говорит, что тот, с кем общается чат, должен оставить свою жену, чтобы быть с ним — я имею в виду, что это довольно странно».

Согласитесь, — действительно, странно. Ваш ноутбук на полном серьезе предлагает вам жить с ним вместо жены. Как тут не сойти с ума?

Но тут я согласен с тем же Шарре, который комментирует этот прогнозируемый ужас: «Для меня это то, что должно заставить нас задуматься, когда мы думаем о том, как мы используем эти системы ИИ в более реальных приложениях. В настоящее время риск того, что чат-бот заденет чьи-то чувства, не ошеломляет мир, но поскольку мы видим, что ИИ интегрирован в приложения с более серьезными последствиями, мы хотим убедиться, что эти системы будут делать то, что мы от них хотим».

То есть, опять же, все зависит от человека-разработчика.

– Перспектива выглядит, мягко говоря, не солнечно. Что предлагают американские эксперты?

– В отличие от вас, американцы не столь трагически настроены. Не надо всерьез воспринимать продукцию Голливуда.

Тот же Шарре бодренько заявил: «Я бы не сказал, что оптимистично отношусь к технологии. Я имею в виду, что я довольно оптимистичен в отношении того, куда движется ИИ с точки зрения возможностей. Я просто думаю, что мы наблюдаем огромный прогресс, и я думаю, что нет никаких признаков его замедления в ближайшем будущем. Но есть много рисков, связанных с ИИ. Я бы просто сказал, что с оптимизмом смотрю на способность общества справиться с этими рисками».

– Подход к проблеме – вдумчивый и серьезный. Вы согласны с Шарре, что искусственный интеллект открывает новую эпоху в жизни человечества?

– Хотим мы этого или не хотим, но это – так. Нам важно сделать, чтобы ИИ стал бы не новым оружием, типа ядерного, которое бы влияло на баланс сил, а инструментом созидания. Средство, чем уничтожить друг друга и, в частности, себя, – у нас уже есть. Давайте подумаем, как всех нас сохранить. Может, искусственный разум и подскажет правильный алгоритм?

Источник: www.mk.ru