И.С. Ашманов: «Начинается какая-то чудовищная антиутопия в реальности»

«Как ни странно, ИИ не освобождает труд, а закрепощает еще сильнее.

Одни люди используют электронный хлыст, чтобы хлестать других людей с целью выжать больше денег», – говорит президент компаний «Ашманов и партнеры» и «Крибрум» Игорь Станиславович Ашманов.

Он рассказал о том, что «уберизация» экономики лишает людей защиты, тотальная слежка – уже реальность, «цифровое бессмертие» – плохая идея, а через 15 лет Россию могут уничтожить сверхоружием на основе ИИ.
«В любом смартфоне десятки программ искусственного интеллекта»

– Игорь Станиславович, хочется начать нашу беседу с цитаты руководителя лаборатории машинного обучения «Яндекса» Александра Крайнова: «Про искусственный интеллект говорят и пишут очень много.

Заголовки почти всегда стараются сделать максимально эффектными, что, увы, приводит к неправильному пониманию того, что такое искусственный интеллект.

Для многих ИИ – это пока что-то вроде чуда, с ним связаны различные заблуждения, страхи, надежды и фантазии. Так что же такое искусственный интеллект?

– Если брать техническое определение, а не голливудские выдумки, то ИИ – это такой набор алгоритмов, программных правил, методов оптимизации, машинного обучения и так далее, который позволяет машине имитировать некоторые когнитивные (то есть умственные) функции человека. Именно имитировать.

При этом есть такая специфическая романтика ИИ, которую привносят разнообразные книги про ИИ, фильмы про человекоподобных роботов и так далее, которая обычно касается нерешенных задач искусственного интеллекта.

( Свернуть )

Как только задача имитации какой-то конкретной когнитивной функции решена, романтический флер с нее сдувается, ей тут же начинают пользоваться в быту, и большим художникам это становится уже не интересно, нет драмы. Вот робот, который совсем-совсем как человек…

Вообще, программой искусственного интеллекта можно назвать любую компьютерную программу, которая автоматически анализирует какие-то данные и принимает решения.

Например, если у вас жилой дом или офисное здание имеют много этажей и несколько лифтов, то ими, конечно, управляет программа искусственного интеллекта.

Ей надо понять, где какие лифты, где уже люди едут, какой вам лифт прислать, если вы нажали кнопку вызова, или какой и где остановить, чтобы оптимизировать время подачи и доставки. Вокруг нас уже есть своеобразное облако бытового искусственного интеллекта.

– Уже есть?

– Да, конечно, причем десятки лет, поскольку заниматься этим люди стали уже довольно давно. Лично я пришел после вуза в отдел искусственного интеллекта вычислительного центра Академии наук в 1983 году.

Вычислительный центр АН СССР – это был такой большой академический институт на 500 с чем-то сотрудников. Он и сейчас существует в Москве, находится по адресу: улица Вавилова, 40.

Там был отдел искусственного интеллекта, которым руководил Гермоген Сергеевич Поспелов – академик, глава совета по искусственному интеллекту при Академии наук. То есть к 1983 году ИИ уже разрабатывали много лет, и уже было довольно много сделано.

Движуха в нашем ВЦ шла вовсю: в соседней с нами комнате делали распознавание речи, в другой – диалоговый процессор, в третьей – развивали антивирус Dr. Web, в четвертой Пажитнов делал игру «Тетрис», в пятой Веселов писал редактор «Лексикон» и так далее.

В нашем отделе занимались, в частности, анализом речи, текстов и чертежей. Уже тогда в ВЦ АН была работающая система, которая находила размерные линии, считывала размер, отделяла друг от друга разные детали и так далее.

В это же время по всей стране делали системы управления, автоматической посадки и тому подобное.

То есть этим всем в нашей стране занимаются уже довольно давно. Вот Гермоген Сергеевич Поспелов, академик, боевой генерал, который участвовал в Великой Отечественной войне, ныне уже покойный, занимался ИИ еще в годы ВОВ, а именно автоматической посадкой самолетов на аэродром.

Если вы помните, наш космический челнок «Буран» в ноябре 1988 года летел и садился в полностью автоматическом режиме, с точностью до 1 секунды и 1,5 метра полосы, им управлял искусственный интеллект. В любой крылатой ракете с момента их появления есть искусственный интеллект.

Другое дело, что в некоторых случаях (например, в системе С-300) этот ИИ мог быть в некоторых подсистемах не цифровой, а аналоговый.

То есть, условно говоря, там вместо модных сейчас нейронных сетей, машинного обучения или каких-то цифровых алгоритмов, написанных на языке программирования, использовалось что-то другое – аналоговым способом решались дифференциальные уравнения.

Но не это важно, а то, что крылатая ракета вот уже 50 лет как распознает по фотографиям местность и летит на небольшой высоте туда, куда ей задано, а С-300 автоматически наводится на многие цели сразу.

– То есть не «пройдет время – и технологии искусственного интеллекта станут такой же привычной частью жизни, как лампочка и розетка», а они уже ими стали, просто мы об этом не задумываемся и воспринимаем как должное?

– Да. «Бытового» искусственного интеллекта уже очень много вокруг нас. Скажем, в любом смартфоне десятки программ искусственного интеллекта.

Там есть распознавание пальца, лиц по фотографии, сейчас в последней модели смартфонов от Huawei или Samsung вы наводите камеру, а она вам пишет: «Люди, зелень, снег, вода, зима, осень», – и так далее.

То есть там стоит «распознавалка» объектов, пейзажей, сезонов и тому подобное. Есть «болталка»: «Алиса», «Окей, Google» или какая-то другая. И так далее.

В каждом таком смартфоне или компьютере есть, к примеру, программа проверки правописания.

Я занимался этим довольно много. Как раз в вычислительном центре АН СССР мы сделали эту программу, которая сейчас работает в каждом русскоязычном Microsoft Office. Мы впервые ее выпустили в 1988 году.

Это иллюстрация того, что, когда нечто уже сделано, оно не вызывает никакого восхищения, трепета или ужаса, его просто перестают замечать. Работает, мы все пользуемся – ну понятно, что тут такого.

Алгоритм Т9, который есть у всех на смартфонах, сокращает время набора и мучает внезапными дурацкими подстановками слов – тоже довольно сложный искусственный интеллект. Поисковик «Яндекса» – мощнейший искусственный интеллект, гигантский, в который ежемесячно вкладывается труд 500-600 человек.

Антивирус Касперского – тоже искусственный интеллект, потому что вообще любая программа распознавания – это искусственный интеллект, а антивирусная программа должна распознавать разнообразнейшие вирусы и трояны, которых в год пишется несколько миллионов. Это очень сложный искусственный интеллект.

У каждого есть в смартфоне «Яндекс.Карты» и «Яндекс.Навигатор» – это сложные программы искусственного интеллекта, которые за человека выбирает маршрут.

Тут так же, как с проверкой правописания, – 50 лет назад это могли делать только очень образованные люди, а сейчас такое под силу любому устройству. То же самое с прокладкой маршрута.

Это довольно сложная задача даже для опытного водителя, знающего город, где какие пробки, возможные объезды, развороты и ремонты, а сейчас за секунду-две ИИ всё идентифицирует, и к этому все привыкли.


– Это уже решенные задачи ИИ, которые стали частью нашей жизни. Но есть же еще масса нерешенных.

– Да, на другой стороне, где еще сохраняются эта романтика и страх перед машиной, есть нерешенные задачи искусственного интеллекта, которые сейчас пытаются решить. Это происходит всю историю ИИ – переползание задачи с одной стороны на другую, в категорию решенных.

Скажем, распознавание лиц было такой совершенно непонятной и нерешаемой задачей 10 лет назад. Какие-то программы распознавания лиц делались, но они работали плохо, с большим количеством ложных тревог.

В 1990 и 2000 годах были попытки поставить камеры и распознавание лиц в аэропортах и по городу (в Лондоне, Атланте и так далее), их через несколько месяцев везде в ужасе отключили – было столько ложных обнаружений «преступников», что отделы полиции захлебнулись.

А сейчас, спустя 15–20 лет, после появления новой техники (графических карт) и глубоких нейронных сетей это делают повсеместно, все работает.

Распознавание тематики текста 20 лет назад было серьезной задачей. Распознавание объектов на фотографии – сейчас практически все интернет-сервисы и гигантское количество интернет-программ распознают живые и неживые объекты.

Узнают кошку, собаку, человека и так далее, и это уже кажется тривиальным. 10 лет назад, когда я пытался нанять лучших в России специалистов по распознаванию образов, они не решались такое сделать.

Брались распознавать лица, потому что известно, что такое лицо, а любую кошку автоматически назвать на фотографии кошкой они не брались.

Потом, где-то 8 лет назад, произошел прорыв в нейронных сетях и объекты на фотографиях и видео стали распознавать. Это в некотором смысле уже ширпотреб сейчас.

Сейчас не решена пока задача нормального диалога на естественном языке с машиной. Машина не может поддерживать связного диалога, держать фокус, понимать необычные вопросы.

Хотя тема чат-ботов модная, чат-ботов предлагают много, которые как бы говорят (в том числе голосом – задача синтеза и анализа речи в целом решена), но обменяйтесь с ботом хотя бы несколькими связанными репликами – и вы поймете, насколько он все еще тупой.

Не решена задача хорошего, настоящего перевода, машинного перевода с языка на язык, хотя сейчас за счет тех же нейронных сетей машинные переводы стали довольно гладкими. Они стали намного лучше, чем 25 лет назад, когда я этим занимался.

– Лично столкнулся с машинной расшифровкой диктофонной записи текста – это же просто ужас. Проще все это сделать вручную, чем потом исправлять ошибки за машиной.

– Это отдельная интересная история про порог использования системы ИИ. Когда мы делали проверку правописания, мы понимали, что у нее есть порог использования, потому что реальных ошибок на странице всего несколько – от 2-3 до 4-6.

Если у системы будет больше неизвестных слов, то есть ложных срабатываний, лишних «подсветок», чем реальных опечаток на странице, никто не будет использовать.

Нужно было преодолеть этот порог, добиться такой полноты словаря, чтобы у системы оказывалось не более 1-2 неизвестных ей слов на странице.

С машинным переводом такая же история. До какого-то момента переводить текст, например, с английского на русский было выгоднее просто с нуля, потому что переводчику нужно было нажать меньше клавиш при переводе с нуля, чем при исправлении корявого результата машинного перевода.

Но сейчас этот порог преодолен, и тут же произошла другая ужасная вещь – сейчас стало невозможно заказать чисто человеческий литературный перевод. Качество перевода резко упало.

Сейчас все, даже самые дорогие переводческие конторы, которые называют себя суперспециалистами, вначале дают текст перевести машине, а потом человек дорабатывает то, что получилось.

По сути, ты платишь только за качество «выглаживания» машинного перевода. Фрилансер подсунет вам сырой результат, прямо со всеми глупостями МП, переводчик из бюро все-таки как-то подчистит косяки МП. Все используют Google или «Яндекс», в результате в тексте всегда видны артефакты – следы машинного перевода.

И эти «косяки» плохого машинного перевода вылезают даже после перевода тех, кто утверждает, что от начала до конца текст переводил человек. МП все равно делает ляпы, заговаривается, подставляет не те значения, а те, кто выглаживает текст после МП, уже даже не заморачиваются полезть в словарь и проверить странное место.

Машинный текст перевода стал настолько относительно хорош (оставшись плохим), что его выгоднее «докрутить», чем делать перевод человеком от начала и до конца. В итоге этому искушению не может противостоять ни одно даже самое крутое переводческое бюро, даже самое пафосное.

Так экономика вместе с ИИ сожрала или «перепрошила» человеческих переводчиков.

Так вот, у упомянутых вами программ, которые транскрибируют свободную звуковую речь, пока этот порог, похоже, не преодолен.

Примерно каждое третье-четвертое слово не соответствует тому, что было действительно сказано (это легко видеть в автоматических титрах на YouTube), и править в итоге такой текст сегодня более трудозатратно и долго, чем обработать его вручную, без использования машины.

Такой порог использования в ИИ есть везде. В очень многих программах, которые как бы демонстрируют отличную работу, на самом деле этот порог не преодолен.

В диалоговых ботах он также не преодолен, как мне кажется, в дистанционном образовании то же самое. Он по многим параметрам не преодолен в беспилотниках. БЛА пока на улицы не выпускают.

«Произойдет дальнейшая монополизация, своего рода «Яндекс.всё» или «Сбер.всё»


– Я уже упоминал надежды и фантазии, связанные с искусственным интеллектом. Что в них имеет под собой реальную основу, а что нереализуемо в обозримой перспективе или в принципе?

– Про всех людей вообще, которые что-то думают и фантазируют себе по поводу искусственного интеллекта, я сказать не могу.

Есть, так скажем, категории людей, которые с искусственным интеллектом так или иначе соприкасаются, не считая массового пользователя.

Это разработчики ИИ, которые смотрят на него очень практически, скучно, прагматично, они делают системы искусственного интеллекта, понимают, что у данного продукта есть определенный уровень качества, условно говоря, полнота и точность того, что он делает, порог использования.

Почти все элементы ИИ – это системы распознавания, у них основные критерии качества – полнота и точность (то есть степень распознавания всех нужных явлений и уровень ложных срабатываний).

У этих людей нет особых романтических иллюзий по поводу того, что они делают, как в известном стихотворении Анны Ахматовой: «Когда б вы знали, из какого сора растут стихи, не ведая стыда», – потому что они знают, что там «под капотом».

Часто, если заглянуть внутрь работающей системы, которую прямо вот используют массово, там будет ужас-ужас-ужас. Огромное количество дыр, «заплат», «костылей», временных решений, тем не менее ИИ работает, результат какой-то дает и в целом выполняет свою задачу.

Есть так называемые «евангелисты» искусственного интеллекта (хотя это неудачное название, эти инфоцыгане с настоящими евангелистами не имеют ничего общего, но оно прижилось на Западе), которые рассказывают, как от ИИ все скоро заколосится, зацветет, как все будет идеально, как ИИ станет делать буквально все, вот тогда-то заживем и тому подобное.

Как правило, в этом амплуа выступают не технари, а журналисты, банкиры, маркетологи, всякие гуманитарии, которые некритично пересказывают басни своих технических подчиненных.

Есть еще более адекватные гуманитарии, которые пытаются все это осмыслить. Они пишут книги-утопии или антиутопии, снимают фильмы про ИИ, в первую очередь в Голливуде. Но почти во всем, что они делают, конечно, огромный разрыв с реальностью.

Там, к большому сожалению, еще есть разрыв вот в чем: очень умные люди, писатели-фантасты высокого класса, в 50-60-е годы все эти проблемы, связанные с искусственным интеллектом, уже разобрали.

Шекли, Брэдбери, Саймак, Азимов и другие всё возможное будущее систем ИИ уже принципиально разобрали и очень наглядно описали. К сожалению, современные «евангелисты», похоже, ничего этого в детстве и юности не читали и фантазируют с нуля, а ноль у них расположен довольно низко.

Скажем, есть типовые басни «ИИ-евангелистов» о том, как будет развиваться интернет и искусственный интеллект, которым уже, наверное, лет 30. Это уже просто маркер такого безграмотного «евангелиста», таких маркеров много.

Например: «Ура, холодильник скоро будет умным – его соединят с интернетом, он будет смотреть, когда у вас заканчиваются продукты, сам станет их через интернет заказывать, и вам их будут доставлять.

Таким образом, холодильник у вас будет всегда полон, потому что он будет умным и проследит за вашим питанием за вас». Эту дурацкую выдумку рассказывают уже лет 30. Таких холодильников по-прежнему нет (точнее, такие стартапы даже запускали, ничего не вышло), и я думаю, что их не будет.

Просто потому, что они никому не нужны. Большинство людей не захотят есть то, что им назаказывает искусственный интеллект.

Другая ИИ-басня – о том, как ваш персональный ИИ-агент сам подберет вам страну и отель для отдыха. Но большинство людей хотят сами все это подбирать и не хотят ехать куда-то по чужому, даже самому умному выбору.

Не взлетела виртуальная реальность, несмотря на крайнюю зрелищность и активность втюхивания. Очки с VR начиная с 90-х на рынок заходили трижды. Все три раза эти заходы провалились.

Подташнивает, неудобно, оббиваешь коленки о мебель, портится зрение и так далее. Похоже, это просто не очень нужно.

То же самое с дополненной реальностью. Вы надеваете очки, и вам там сбоку, по краю поля зрения, что-то пишут или показывают что-то, круто же! Прямо как у Терминатора в кино, вы имеете дополнительную информацию обо всем.

Умные очки Google Glass с такими функциями продвигали с большой помпой, если помните, но закрыли через несколько лет.

Во-первых, похоже, такое вообще не нужно.

Во-вторых, портится зрение, на обычные очки не наденешь, а в-третьих, окружающим людям не нравится, когда на них смотрят через компьютерные очки и что-то там про них себе смекают.

Когда IT-хипстеры стали покупать Google Glass и с гордостью носить везде, в целом ряде заведений, ресторанах, кафе в Калифорнии на входе стали писать: «Сюда с Google Glass нельзя». Потому что клиентов пугает, когда их кто-то снимает встроенной в очки камерой, распознает по лицу или делает что-то еще.

В общем, у «ИИ-евангелистов» очень много фантазий о том, что людям на самом деле оказывается не нужным: даже если технологии в рекламе и фильмах выглядят впечатляюще, вызывают ощущение «ух, круто!», они потом оказываются никому не нужными. Например, 3D-телевидение (да и 3D-кино) практически умерло.

Телевизоры с 3D сняты с производства всеми основными производителями, остались только немногие топовые модели с 4К. А ведь как это круто, казалось бы. Может быть, оживет на новом витке технологии, когда не будут нужны очки.

Вот еще пример: во всех фантастических фильмах есть видеофон. Большие экраны по всем комнатам, рубкам кораблей, в офисах и т. п.

Ну вот, технологии доросли, передача видео есть, скорости есть: казалось бы, и что, у нас такой видеофон есть? Как бы есть, но на самом деле нет.

У нас есть видеосвязь, которая используется достаточно узко – для удаленной работы, для видеоконференций в офисе, чтобы поговорить с далекими родственниками. Никто не ставит себе в спальню и на кухню огромный экран и камеру, чтобы было видно, в каких трусах вы сегодня сидите.

– Сейчас, кстати, «удаленка» в связи с карантином активно заставляет людей всем этим пользоваться.

– Да, и она уже вызывает все большее раздражение. Всем этот эффект присутствия 24×7 начальника и коллег у себя в доме надоел, никто этого не хочет. Общие отзывы таковы, что в удаленном режиме качество работы падает.

Многие люди не в состоянии наладить нормальную продуктивную коммуникацию исключительно по компьютерной сети.

В образовании, мне кажется, «удаленка» показала крайнюю неэффективность. И это будет катастрофа, если продолжать в том же духе.

Отличники останутся отличниками, хотя и получат значительно меньше знаний, а отстающие вообще перестанут учиться в принципе. По-моему, всем стало ясно, что учиться на «удаленке» нельзя. Это профанация.

Многие работники образования говорят, что такие проблемы даже во благо – произошла своеобразная вакцинация от удаленного образования.

– Сегодня тестируются самые разные беспилотные автомобили, самолеты, надводные и подводные суда. Как скоро это все массово войдет в нашу жизнь и мы станем ездить на работу, летать и плавать в отпуск и деловые поездки на транспорте без управления человеком?

– Уже сейчас довольно много летает этих беспилотников. Они пока что в основном управляемые, но есть и автоматические, которым вы можете задать маршрут и они будут летать и снимать посевы, или полетят вдоль трубы «Газпрома» в тайге, чтобы найти утечки газа. Будут беспилотные автомобили на улицах. Беспилотные поезда уже есть, лично на них уже много раз ездил.

В Нью-Йорке, Мюнхене и в Шанхае между терминалами аэропорта ездят поезда без машиниста. Там небольшое расстояние, все понятно, нужно только не придавить дверью какого-нибудь пассажира, что достигается датчиками, и всё.

Про авиацию уже сейчас говорят, что 90-95 процентов всех посадок Airbus и Boeing на полосу осуществляется автопилотами, а не людьми.


– Если весь транспорт станет беспилотным, то куда девать людей, которые сейчас им управляет и обслуживает? Их ведь многие миллионы, а с учетом семей – десятки миллионов.

– Про искусственный интеллект постоянно говорят, что он может лишить работы миллионы людей, что создаст социальные проблемы. Это не так, это «замыливание» реальной социальной и общественной проблемы. Ведь искусственный интеллект сам никого не увольняет, не крадет рабочие места.

Социальные проблемы не создаются техническими устройствами. Они порождаются теми кадровиками и управленцами, которые увольняют людей ради дешевой экономики по приказу акционеров.

Если в какой-то стране считается приемлемым (с точки зрения закона и общественной морали) увольнять десятки миллионов людей ради грошовой экономии, то это вопрос к социальному строю и к обществу, а вовсе не к ИИ.

Да, наверное, искусственный интеллект может сделать какие-то процессы более эффективными, но когда, взяв это за основу, говорят: «Давайте тогда всех работников уволим», – то вот здесь начинается проверка этого социального строя.

Он вообще чем занимается, он только на оптимизацию и эффективность извлечения прибыли настроен?

Вообще говоря, государственный и социальный строй не должен быть настроенным на бизнес-эффективность (притом не для всех, а для собственников предприятий), он должен быть настроен на то, чтобы составляющим его людям жилось лучше, а не хуже.

И в этом смысле, даже если бы у нас было идеальное государство и была бы возможность всех уволить и всех заменить роботами, государством и обществом было бы принято решение этого не делать.

Возьмем конкретную проблему массового беспилотного транспорта. Сейчас только у «Яндекс.Такси» (только что они его зачем-то переименовали в нелепый лексический гибрид «Яндекс Go») по стране ездят 500 тысяч водителей. У него этих «как бы работников» больше, чем у «Газпрома».

Почему «как бы»? Потому что «Яндекс», по сути, являясь их работодателем, всячески от своей роли открещивается, заявляя, что его функция состоит в исключительно информационном посредничестве.

Почему? Если ты являешься работодателем, то несешь социальную ответственность, а «Яндекс» не хочет ее на себя брать. И он не единственный в своем роде. Все это разделение на гигантских инфопосредников и «независимых» исполнителей называется «уберизацией» экономики и социальных процессов, потому что первым это делать стал мировой сервис такси Uber.

Что это значит? Подобные Uber компании перевели массы людей в положение как бы индивидуальных предпринимателей, которые социально не защищены.

Они работают, по сути, за такую же зарплату, как если бы они были просто наемными водителями, но отпусков, бюллетеней, социального пакета, защиты от несправедливых увольнений и штрафов работодателя у них нет. Устал, заболел, семейные неприятности – твои проблемы, деньги перестают поступать в ту же минуту, пожалуйте на улицу или биржу труда.

А сами эти гигантские информационные посредники, зарабатывающие огромные деньги, за социальное положение и права работников не отвечают. На мой взгляд, это просто такой бизнес-трюк, который должен быть запрещен.

Сейчас эти информационные посредники говорят: «А теперь мы научим машину саму ездить, причем обучим ее на примерах (дата-сетах) работы этих самых рабов навигатора».

А потом эти миллион водителей станут ненужными. Компании втянули миллионы людей в этот бизнес, а потом, когда выгонят на улицы беспилотники и уволят этих бедолаг через 4-6 лет, те уже ничего другого уметь не будут.

Они будут только уметь водить машину, а этот навык станет никому не нужным.

Они и сейчас довольно сильно социально подавлены. Ими управляет искусственный интеллект, который рассчитывает их доход, накладывает все больше ограничений, считает социальный рейтинг водителя (что само по себе нехорошо). Положение работников не улучшается.

В России уже есть несколько общественных движений и организаций, которые борются с «Яндекс.Такси» и другими аналогами. Там, на самом деле, очень серьезная эксплуатация с искусственным интеллектом в качестве надсмотрщика. Не очень хорошая история.

Это первые предвестники грядущего так называемого суперкапитализма, перед которым текущий капитализм покажется нам детским садом.

– Получается, искусственный интеллект помогает одним людям более эффективно эксплуатировать других?

– Да. Как ни странно, он не освобождает труд, а закрепощает еще сильнее. Есть много примеров этому. Взять хотя бы историю с американской компанией Amazon, которая частично перевела свои склады на автоматическое обслуживание.

Там ездят такие большие быстрые плоские таблетки типа роботов-пылесосов и перевозят товар. Все равно кто-то должен товары на эти таблетки грузить, а этих и так уже социально достаточно ущемленных и подавленных людей, в основном мексиканцев, поставили под контроль ИИ.

Там установили камеры, которые научили распознавать перекуры, перерывы в работе, хождение, не связанное с выполнением прямых служебных обязанностей, и так далее.

Сейчас людей непрерывно гоняют электронным хлыстом, штрафуют, наказывают, увольняют за мельчайшие нарушения, делают из них роботов, короче говоря.

Про это было уже достаточно много публикаций. Более того, кто-то даже уже в суд подавал.

В такой конфигурации ИИ не облегчает труд людей, а становится электронным надсмотрщиком, который не знает жалости, не ведает усталости, не отворачивается, с которым нельзя договориться, упросить или разжалобить.

Начинается какая-то чудовищная антиутопия в реальности. При этом никакого собственного интеллекта в искусственном интеллекте нет. Просто одни люди используют электронный хлыст, чтобы хлестать других людей с целью выжать больше денег. У них нет другой цели.

При этом есть еще такое соображение: позволить себе создать собственный беспилотник смогут не все службы такси.

В нашей стране, скорее всего, – только одна. Не все электронные магазины смогут поставить себе роботизированный склад, это очень дорого, таких будут единицы, вроде Amazon.

Это значит, что произойдет дальнейшая монополизация, своего рода «Яндекс.Всё» или «Сбер.Всё»: собственно, Греф только что нам это пообещал, как обычно, с энтузиазмом IT-евангелиста, как будто мы должны этому радоваться вместе с ним.

Во всех сферах всё будет во власти несколько частных, огромных, безжалостных «платформ» или, как они сами любят говорить «экосистем», которые будут иметь одну задекларированную цель – прибыль.

Эта монополизация, естественно, также будет происходить со все возрастающей степенью эксплуатации и ущемления прав людей.

Как бы не пришлось государству эти разные экосистемы, в конце концов, национализировать, чтобы эти социальные проблемы, монополизацию и ужесточение ИИ прекратить.

Вот когда «Яндекс» всех этих людей, «которых он приручил», через 5-7 лет выгонит на улицу, потому что выкатит на улицы свои беспилотные такси, что мы будем делать? Непонятно. Я не знаю, думает ли наше государство на эту тему вообще.

Полагаю, в Европе или США из государственных людей на эту тему никто особенно-то не думает и не тревожится в принципе, поскольку в неолиберальной экономике и социальном устройстве это же естественный процесс: ты не вписался в рынок – ну извини, каждый сам за себя.

Может, дадим тебе безусловный базовый доход (очень модная на Западе тема), чтобы на жилье, еду и пиво как-то тебе хватало. И не бухти, не высовывайся.

Хотя нам в 1991 году тоже объявили, что теперь каждый сам за себя, но мы исторически, ментально все-таки несколько другие: у нас Цивилизация «Мы», по Александру Зиновьеву. Ответственность друг за друга, за свой ближний круги и за общество в целом у нас пока еще развита больше, чем в Цивилизации «Я» на Западе.

Мы должны предвидеть и «стерилизовать» надвигающиеся социальные проблемы, связанные с цифровизацией всего. Но вот как это делать в новых условиях, я пока не очень понимаю.

Вообще на это все должна быть направлена напряженная деятельность государства и законов, потому что остается мало времени, все слишком быстро развивается, но пока непонятно, кто бы мог и был бы должен этим заниматься.

Мы недавно разговаривали в совете по правам человека при президенте России о том, что нам нужен некий цифровой кодекс, который защищает человека, попавшего в эту цифровую круговерть.

Нужно защитить цифровую идентичность, приватную жизнь и так далее, в частности, необходимо закрепить на законодательном уровне, что нельзя использовать цифровые технологии для ухудшения жизни граждан. Не должны системы искусственного интеллекта, работающие в автоматическом режиме, принимать жизненно важные решения относительно людей.

Я надеюсь, что этот цифровой кодекс когда-нибудь появится. Рассчитывать на «саморегулирование бизнеса» нам не стоит. У владельцев новых технологий возникает очень много соблазнов использовать искусственный интеллект там, где он будет дискриминировать человека.

Например, ИИ банка проанализирует все данные о вас (купленные у разных платформ), и банк откажет вам в кредите, а поскольку это «черный ящик», он даже не объяснит вам (да и своему владельцу), почему не дал кредит. Та же история может быть с приемом в ВУЗ и так далее.

Если мы всё про вас знаем, то цена для вас на товары и услуги может быть другой. Уже сейчас, когда вы летите в самолете, сидящий рядом с вами человек мог заплатить за такое же место в три раза больше или меньше, чем вы, потому, что цена билетов все время меняется.

Сейчас она нестабильна в связи с заполненностью рейса, еще чего-то, но обязательно будет меняться исходя также из того, какой толщины у вас кошелек. Та же история с медициной – с тех, у кого острые заболевания, можно брать больше денег, они все равно в отчаянии.

Еще один очень важный аспект – это ошибки искусственного интеллекта, за которые никто пока не несет ответственности, потому что ответственность «размазана» по разработчику системы, производителю, владельцу и оператору.

Упомянутые «ИИ-евангелисты» в своем вдохновенном камлании выкрикивают, что если искусственный интеллект хорошо работает, то он функционирует лучше, чем человек на этом месте.

Он лучше ставит диагноз и делает операции лучше, чем врач, он может судить лучше, чем судья, он неподкупный, у него нет пристрастий и так далее. Но с судьи или врача можно хотя бы спросить за неудачное решение, ведь они отвечают репутацией, карьерой, даже свободой.

А что вы спросите с ИИ? Вам в ответ скажут: «Да, это была недоработанная версия, мы уже поставили новую, не переживайте, в следующий раз будет все нормально», – но для кого-то следующего раза уже не будет!

В данный момент цена ошибки искусственного интеллекта почти никем из тех, кто отвечает за развитие нашего общества и государства, не осмысливается, из-за огромного хайпа вокруг «ништяков», которые обещает ИИ.

Сейчас есть попытки некоторых разработчиков ИИ развить что-то вроде теории игр для ИИ, называемой лукавой «этикой ИИ», но это довольно нелепые и гуманитарно слабые попытки ставить и решать задачки типа «кого давить беспилотнику – двух бабушек-пенсионерок или красивую юную блондинку».

Естественно, все в итоге сведется к деньгам – кто и кому будет платить за пострадавших бабушек, – потому что другого критерия на Западе нет, да и в ИИ нет другой ответственности, ведь там нет внутри человека.


Этого не должно быть. Надо как-то защищаться от наступления эпохи тотального (тоталитарного) искусственного интеллекта.

Вадим Бондарь