Искусственный интеллект (ИИ), разумеется, дает новые возможности для проектирования будущего, но при этом создает и вполне очевидные риски. Об этом 29 октября сообщил «Известиям» депутат Госдумы, член комитета по науке и высшему образованию Александр Асафов на круглом столе Экспертного института социальных исследований (ЭИСИ), который прошел по итогам конференции «Социальная архитектура: теория и практика социальных изменений».
«Это, безусловно, новые возможности. Это и анализ информации, и разработка сценариев, и объяснение сложных понятий, ну и научный поиск. Посмотрите, например, что в этой части происходит в математике. Мрачные краски безусловно, тоже присутствовали, потому что риски тоже существуют, эти риски наглядны», — считает депутат.
По словам парламентария, формулировать задачи для искусственного интеллекта следует с опорой на доверие к людям, умеющим критически оценивать такие задачи.
«Если собеседник может указать на ошибку, чтобы ее вместе поправить, то искусственный интеллект обладает определенной угодливостью. Конечно, это зашито в его коммерческую модель, и он будет стараться подобрать те самые ответы, которые пользователь готов впрягать без проверки. И тут второе основание — проверка человеком результатов человека», — заметил Асафов.
Значит, люди получат определенный продукт как итог совместной работы с генеративными нейросетями. Но после проверки окончательное решение должно оставаться за человеком. Асафов считает, что четвертая задача — взять на себя ответственность за результат работы ИИ. Если речь идет о проектировании будущего, алгоритм не может отвечать за то, что было получено в ходе работы нейросетей.
«Поэтому каким бы совершенным не был ИИ, на мой взгляд, он здесь неуместен, это важно учитывать. Ведь есть такие особенности как человеческое восприятие, которое, собственно, эту ответственность перекладывает и на алгоритмы, и в целом, на машину», — подытожил Асафов.
1 октября президент России Владимир Путин заявил, что в мире есть угроза появления цифрового тоталитаризма из-за возникших технологий ИИ. По его словам, эксперты все чаще с тревогой предупреждают: распространение ИИ способно привести всех к обезличиванию и общему знаменателю через использование извне кем-то настроенных алгоритмов. В итоге «цифровой тоталитаризм» оказался бы таким же тупиковым, мрачным и антигуманным путем, как и тоталитарные общества из прошлого.