К чему ведет развитие искусственного интеллекта?

Специалисты международной консалтинговой компании McKinsey подсчитали, что к 2030 году автоматизация производства оставит без работы от 400 до 800 млн человек по всему миру. Согласно прогнозам ученых Оксфордского университета, через несколько лет не будет вакансий для специалистов по телефонному маркетингу и страховых андеррайтеров (сотрудник страховой компании, который анализирует, принимает на страхование или отклоняет все виды рисков — прим. +1).

В группе риска — спортивные судьи, кассиры в магазинах, официанты, помощники юриста, туристические гиды и водители. При этом среди тех, кто работу в ближайшем будущем не потеряет, — археологи. В большей степени это связано с тем, что в автоматизации этой профессии нет заинтересованных сторон.

Как человеческим способностям соревноваться в гонке с искусственным интеллектом, чтобы не потерять доход? В 2017 году Билл Гейтс предложил облагать налогами применение роботов в компаниях. Это, по мнению Гейтса, в ряде случаев будет стимулировать работодателя нанимать людей.

Современный израильский мыслитель, историк и автор трех бестселлеров Юваль Ной Харари в своей книге «Homo Deus: Краткая история будущего» выразил другую идею — заставить технологические компании платить высокие налоги.

Из этих средств будет формироваться бюджет для безусловного базового дохода для групп людей, которых искусственный интеллект сделает бесполезными на рынке труда. В некоторых случаях вырученные средства можно будет инвестировать в их переобучение.

Харари включает искусственный интеллект в список главных вызовов для современного человека — наравне с ядерной войной и изменением климата. Цифровая революция способствует «цифровому» разрыву между богатыми и бедными странами.

В богатых государствах жители будут одеваться при помощи «Echo Look» (IT-разработка для создания «луков» от Amazon на основе искусственного интеллекта) и проходить медицинские диагностики у доктора-робота IBM Watson.

В то же время жители бедных стран не только утратят работу на фабриках, но и рискуют стать «цифровыми» неучами — например, не будут знать, как совершать онлайн-переводы через смартфон.

Цифровая грамотность включает информированность пользователей о том, как гаджет или приложение использует их данные. Согласно исследованию компании Deloitte, «Условия использования» не читают 91% потребителей в Америке.

Исследователи Коннектикутского университета провели эксперимент: они создали фальшивую социальную сеть NameDrop — наподобие Facebook — и включили в «Условия использования» пункт о том, что пользователь согласен передать разработчикам своего ребенка в качестве платы за сайт.

Кроме того, в тексте говорилось, что вся информация аккаунта, включая личные переписки и фотографии, будет передана Агентству национальной безопасности США. В результате 98% участников эксперимента согласились на «Условия использования» при регистрации.

По мнению Харари, главная угроза будущего заключается в том, что массив данных о человеке будет в руках узкого круга людей из технологических компаний. Данные будут включать информацию о том, в какой кинотеатр вы ходите, в каком интернет-магазине заказываете одежду и какое блюдо предпочитаете в пятничный вечер.

Палитра данных может включать даже такую приватную информацию, как сексуальная активность. Так, приложение Bedpost мониторит сексуальную жизнь пользователя, давая рекомендации на основе предоставляемых данных — в зависимости от того, как часто человек занимается сексом и сколько времени на это тратит.

Самое опасное, по мнению израильского историка, — если круглосуточный доступ к мониторингу жизни человека окажется в распоряжении диктаторского правительственного режима.

Революция в информационных технологиях сделает диктатуру более эффективной. Государство будет обладать массивами данных, на основе которых человеку будет подсказано, какие решения принимать, какие чувства и эмоции испытывать.

Британский сериал «Черное зеркало», в котором исследуется влияние информационных технологий на жизнь человека, уже не покажется ужасающей антиутопией.

Оборотная сторона технологической медали — автономное оружие. Это системы, способные открывать огонь без приказа человека. Такое вооружение можно взломать и заставить выполнять любую задачу. Таким оружием могут стать дроны, гусеничные автономные роботы, автоматические пушки.

Подобные установки — автономные турели — применяются сегодня в Южной Корее на границе с КНДР в качестве «часового». Они способны открывать огонь без участия человека. В 2004 году Центральное разведывательное управление США впервые использовало дроны с бомбами в операции в Пакистане. Сегодня активные разработки в сфере автономного оружия ведут многие страны мира, в том числе Россия и США.

В 2017 году Илон Маск вместе с разработчиками искусственного интеллекта потребовал запретить разработку подобного оружия. Бизнесмен выступил с петицией к ООН.

Подписантами стали 116 человек. Среди них — руководитель лаборатории Google по разработке искусственного интеллекта Мустафа Сулейман, глава стартапа по исследованию искусственного интеллекта Geometric Intelligence (принадлежит компании Uber) Гэри Маркус. В списке также значится руководитель российской компании NaviRobot Игорь Кузнецов и основатели Promobot — Алексей Южаков и Олег Кивокурцев.

В письме отмечается, что смертельное автономное оружие грозит произвести революцию в военном деле. Действия необходимо предпринимать незамедлительно. «Как только ящик Пандоры будет открыт, закрыть его будет трудно», — подчеркивается в письме предпринимателей и экспертов. Впрочем, Марк Цукерберг вволю посмеялся над Илоном Маском и назвал его страхи «абсурдом».