Или искусственный, или интеллект: как миновать подводные камни ИИ-технологий

Минимизировать и упрощать: грани применения новых компьютерных технологий

27 августа 2020 года был утверждён национальный проект «Искусственный интеллект». В 2023 году президент России Владимир Путин поручил обновить Национальную стратегию развития искусственного интеллекта (ИИ) до 2030 года, а также обеспечить поддержку центрам исследований в сфере ИИ. В ноябре 2023 года вице-премьер РФ Дмитрий Чернышенко объявил, что использование ИИ будет обязательным для получения российскими компаниями субсидий из бюджета.

тестовый баннер под заглавное изображение

Хотелось бы разобраться, что такое искусственный интеллект, каковы его возможности и связанные с ним проблемы и опасности. Известно, что термин «искусственный интеллект» не определён с научной точки зрения. Есть разные мнения относительно его сущности и содержания. Если говорить о проекте «Искусственный интеллект», то есть разъяснения, что же это такое.

Нацпроект должен предусматривать создание инфраструктуры вычисления и хранения данных с использованием отечественного оборудования, технологий и программного обеспечения, в том числе облачных платформ, центров обработки данных и вычислительных мощностей.

То, что здесь написано, вполне понятно. Это важно и должно быть выполнено. Это главное. Менее важно, почему проект назван именно так. При чём здесь искусственный интеллект? Думаю, это просто дань моде, общим поветриям. А поветрия, так уж сложилось, веют из англо-саксонского мира. А уже потом становятся всеобщими, если им не сопротивляются.

Вспомним, например, что в советские времена у нас были электронно-вычислительные машины — ЭВМ. Термин совершенно точно характеризует устройство. И он русский. А на каком же ещё языке должно быть название современного устройства в стране с таким государственным языком?
Однако в 1990-х годах появилось заменяющее словосочетание ЭВМ английское слово в русской транскрипции – компьютер. И что бы оно могло значить? Да просто — вычислитель. То есть поменяли не шило на мыло, а русское шило на шило с английским названием. 

С тех смутных времён этот русофобский подход процветает. Хотя ситуация у нас изменилась в корне. Но не в этой области. Чиновники, журналисты и предприниматели могут иногда говорить фразы вообще без русских слов или с подстрочным переводом с английского. Например, вроде такой:

«Дорожная карта на полях саммита по креативной модернизации драйвера тренда сервиса когнитивного контента локального бренда». 

А вот американцы, да и все другие страны, почему-то не стали называть рукотворные орбитальные аппараты спутниками из-за того, что СССР первый запустил такой аппарат в космос. И зовут его по-своему — сателлит.

Но ведь импортозамещение должно начинаться не со станков, самолётов или электроники. Оно должно начинаться с импортозамещения в головах.

Искусственный интеллект 

Однако вернёмся к искусственному интеллекту. В 1968 году меня в институте за реферат по философии наградили фотоаппаратом «Зоркий-4». А тема была — сможет ли вычислительная машина стать настолько разумной, чтобы заменить человека. Изучив всё, что было доступно, я подтвердил свою точку зрения, что не сможет. И незыблемо стою на ней по сию пору.

Вот почему применение термина «искусственный интеллект» к работе ЭВМ считаю неправомерным. Этот термин пришёл к нам из США. Он был введён в оборот  несколькими выдающимися учёными в области информатики и стал академической дисциплиной в 1956 году.

Тем не менее, по прошествии времени, один из этих учёных, Джон Маккарти писал: «Проблема состоит в том, что пока мы не можем в целом определить, какие вычислительные процедуры мы хотим называть интеллектуальными. Мы понимаем некоторые механизмы интеллекта и не понимаем остальные. Поэтому под интеллектом в пределах этой науки понимается только вычислительная составляющая способности достигать целей в мире».

Многие подходы были опробованы, но к возникновению искусственного разума ни одна исследовательская группа пока так и не подошла. Вот и получается, что по-нашему правильнее было бы назвать ИИ автоматизацией или технической кибернетикой. Ведь кибернетика в современном понимании это наука об общих закономерностях процессов управления и передачи информации в машинах, живых организмах и обществе. Но пока приходится применять словосочетание ИИ.

Польза

ИИ основывается на сложных математических моделях и алгоритмах. В самом широком смысле ИИ относится к вычислительным системам, которые используют такие технологии, как машинное обучение, нейронные сети и схемы получения знаний для выполнения сложных задач, которые раньше были под силу только людям. 

Вот несколько примеров применения ИИ: голосовые помощники, которые распознают речь и отвечают на вопросы; поисковые системы;  рекомендательные системы, которые предлагают некое содержание на основе предпочтений пользователя; компьютерное зрение, позволяющее распознавать объекты на фото и видео. А создание реалистичных образов уже широко используется в кино и компьютерных играх. 

Однако, как бы ни называли это направление человеческой деятельности, пользы от него очень много. Сейчас главная функция ИИ — умный помощник. Такие технологии помогают передать вычислительным машинам большинство рутинных задач, для которых уже есть понятный план их выполнения и автоматизации.

Опасности 

Но, как почти всегда происходит, ИИ, как новая технология, может приносить, да уже и приносит, не только пользу. В некоторых сферах использование её опасно. Вот первый аспект, почему к применению ИИ надо относиться осторожно и ответственно. Дело в том, что, хотя и говорится, что решения принимает машина, но в результате всё равно получается, что ИИ думает так, как его научили думать люди.

А программисты имеют разный уровень подготовки и квалификацию, какие-то  предубеждения и своё мнение, или они работают по заказу и способны создавать тенденциозные программы. Все эти обстоятельства могут приводить к получению неправильных результатов.

Кроме того, поскольку специалисты умеют делать программы, создающие очень реалистичное содержание, такие алгоритмы могут  применяться для генерирования дезинформации, фальшивых видео и аудио записей.

Вот почему требуется ответственная проверка программного обеспечения до его применения различными организациями. Но это, при желании, возможно.

А вот второй аспект, гораздо более опасный, состоит в том, что использование такого «умного» помощника может превратиться в замену плодов собственных интеллектуальных усилий продуктами «творчества» электронно-счётной техники. О чём речь? 

Ни для кого не секрет, что уже в школе ученики в массе своей не делают домашние задания самостоятельно, а подключают ИИ. И просто списывают ответ, не вдумываясь в содержание. Такое же явление в средних и высших учебных заведениях. То есть студенты занимаются своими делами, не связанными с учебным процессом, а курсовые и дипломные работы за них делает «умный» помощник. И ещё большая проблема в том, кто сделал именно этого помощника, с какой целью, и насколько хорошо?

А по окончании учебного заведения один «специалист» называется врачом, другой – инженером, третий – журналистом, и так далее. И эти люди со временем будут работать в реальной экономике. Что же они натворят? Вопрос риторический, то есть такой, отвечать на который не надо.

Человеку, как и любому организму, свойственно минимизировать затраты в процессе своего существования. Поэтому при возможности упростить свою жизнь он её упрощает. И тем самым со временем лишается возможности быть человеком разумным. Но такое происходит только с теми, кто не способен думать своей головой и осознавать последствия своего стремления жить лёгкой жизнью.

Сейчас человечеству предложена альтернатива: либо сохраниться «человеку разумному», либо полным ходом идти по пути деградации, применяя вместо работы своих мозгов услуги «умного» помощника – искусственный интеллект. Насколько велики будут масштабы бедствия, зависит от тех, кто ещё способен думать своей головой. 

Источник: www.mk.ru