Искусственный интеллект: опасно для жизни?

Искусственный интеллект в частности и информационные технологии в целом – те немногие области, прогресс которых как минимум не отстает от прогнозов футурологов XX века. Писатель и изобретатель Артур Кларк в книге 1962 года «Черты будущего» ожидал появления «машинного обучения» лишь в 2050-м, а «машин, более умных как люди» – в 2080 году, всего лишь на пару десятилетий раньше бессмертия и лет на 80 позже межзвездных полетов, контактов со внеземной цивилизацией и рождения разумных животных.

Инопланетян пока не видно и на горизонте, колонии на Луне и Марсе в далеких планах, а умными машинами человечество пользуется уже не одно десятилетие. Можно ли сказать, что они умнее людей? Они думают быстрее, принимают более точные решения и выполняют свою работу намного аккуратнее человека. Но пока действуют только по алгоритмам, разработанным умными людьми, и на основе заложенных этими людьми данных. То есть промышленные роботы, беспилотные автомобили, системы сбора и анализа информации, цифровые помощники – это достижения в области узконаправленного искусственного интеллекта (ИИ, или AI, от artifical intelligence в английском варианте).

Так называемый общий ИИ (General AI) – сопоставимый по когнитивной способности с человеческим, попросту говоря, способный работать в совершенно непредвиденных ситуациях, экспериментировать и изобретать новые сценарии, обладающий самосознанием, появится не раньше 2050 года. Об этом говорит ряд опросов среди ученых, специализирующихся в области ИИ, напоминает младший партнер консалтинговой компании Bain & Co. Ростислав Хоменко. И при таком сценарии ученые опередят ожидания Кларка. При условии если развитие искусственного разума специально не затормозят. Почему? Даже тот уровень интеллекта, который роботы демонстрируют сейчас, сильно тревожит общество.

Этот опасный искусственный ум

Цифровыми услугами все пользуются с большой охотой. Причем Россия вошла в топ-10 передовых в этой области стран, но развитие искусственного интеллекта тормозится из-за больших опасений на его счет, подтвердило исследование консалтинговой компании BCG «Взгляд населения на использование ИИ в работе государства: сравнительный анализ цифровых госуслуг».

Чтобы узнать, как люди относятся к ИИ, BCG опросила более 14 000 интернет-пользователей из 30 стран мира. Больше всего они боятся сокращения рабочих мест из-за применения ИИ – об этом переживает 61% опрошенных. На втором месте – опасения в этичности применения систем ИИ (32%). На третьем – боязнь непрозрачности его решений (31%).

В России искусственному разуму верят еще меньше. Так, 44% опрошенных россиян обеспокоены возможными этическими проблемами против 32% в среднем по миру. Еще 35% тревожатся из-за непрозрачности решений ИИ (против 31% в среднем по миру). В целом 49% россиян усомнились в способности ИИ формировать точные результаты и корректный анализ.

Страх россиян перед прогрессом в сфере искусственного интеллекта на втором месте после страха перед военными разработками, убедился Институт современных медиа (MOMRI). Что удивительно, искусственный интеллект в большей степени пугает молодежь: они опасаются как проблем с анонимностью и правом на приватность, так и сложностей с трудоустройством.

Работа не для роботов

Потерять работу из-за ИИ боится половина россиян, показало исследование. Оправданны ли эти опасения? «Чего мы обычно боимся? Непонятного. Сама постановка вопроса свидетельствует о том, что в обществе есть проблема коллективного непонимания, что такое искусственный интеллект», – говорит Илья Стечкин, основатель агентства вовлекающего маркетинга для ИТ-компаний TechComLab.

Машина действительно скоро сможет потеснить тех, кто занят монотонной, рутинной работой: регистраторов, ресепшионистов, уже забирает некоторые функции персональных помощников, операторов контактных центров, упаковщиков, супервайзеров и мерчандайзеров, референтов и рерайтеров, предупреждает он. Но все это актуально для стран «золотого миллиарда». Даже там, пока есть доступ к дешевой рабочей силе из развивающихся стран, массовое внедрение интеллектуальных систем под вопросом, потому что обучение нейросети стоит дорого. Так что бояться не надо, лучше внимательно присмотреться к этим технологиям и быстро воспользоваться новыми открывающимися возможностями. Если больше времени тратить на самообразование, то страхи пропадут, резюмирует Стечкин.

Умные технологии произвели революции в производстве и потреблении, и они здесь не для того, чтобы отнять вашу работу, рассказывают в статье для Harvard Business Review Майкл Портер, профессор гарвардской школы бизнеса, и Джеймс Хаппельманн, президент и гендиректор компании РТС, разработчика программного обеспечения. С развитием ИИ появятся новые отрасли, услуги и роли, и это поможет большему количеству людей найти свое место в экономике, выполняя более интеллектуальные задачи. В перспективе влияние умных технологий на занятость, скорее всего, будет положительным, уверены авторы.

Согласно исследованию компании Accenture, посвященному влиянию ИИ, в 12 странах с развитой экономикой эта технология может удвоить годовые темпы экономического роста к 2035 году. Эксперты ждут, что влияние искусственного разума повысит производительность труда на 40% и позволит людям более эффективно использовать свое время.

И все же для сохранения рабочих мест от воздействия ИИ необходимо подключить механизмы государственного регулирования, уверены 58% участников глобального исследования BCG.

Полезный и удобный ИИ

Внедрение искусственного интеллекта в деятельность человека выглядит позитивно, ведь ИИ помогает оптимизировать процессы, улучшать качество продукции, находить и применять знания в правильных областях, дает человеку больше времени для исследовательской деятельности, уверена гендиректор компании «Верваг Фарма» в России Ольга Стрельцова.

Сегодня жители мегаполисов каждый день используют сервисы, базирующиеся на алгоритмах и моделях (AI), напоминает Кирилл Николаев, предприниматель и соавтор книги «Интеллектуальный инсульт – как в мире роботов остаться человеком и не потерять себя». Искусственный интеллект может, например, управлять транспортом, программировать систему отопления, исходя из прогноза погоды, распознавать ваших гостей (как стартап Nest, приобретенный Google), записывать «хозяина» в парикмахерскую, динамически рассчитывать себестоимость металлургической продукции, учитывая качество определенной партии руды (как программа Магнитогорского металлургического комбината и «Яндекса»), подбирать лучшие удобрения для конкретного поля (как сервис Microsoft Cortana Intelligence Suite, анализирующий состояние почвы), читать рентгеновские снимки (как программа в клинике Doctor Smart).

ИИ необходимо задействовать для быстрого и правильного диагностирования болезней, формирования плана лечения, считает Ольга Стрельцова из «Верваг». Сегодня в здравоохранении программы с ИИ активно используются в кардиологии (диагностика стеноза), онкологии (выявление рака на ранних стадиях), неврологии (предотвращение инсультов). Пациентам ИИ помогает контролировать состояние здоровья: приложения следят за различными лабораторными показателями в динамике, оперативно передают данные лечащему врачу, дают советы по улучшению самочувствия.

Правда, есть и ряд рисков, признает Стрельцова: для эффективной работы ИИ необходимо обрабатывать огромное количество персональных данных пациента, и есть риск утечки этих данных в открытые источники. Возможное разглашение личной информации – одна из реальных проблем ИИ, признают все эксперты.

Многие говорят, что персональные данные – самое ценное, что у вас есть. И высказывают опасения, что, например, умный пылесос узнает план вашей квартиры, а камеры будут подсматривать. Учитывая эти страхи, Google объявил, что будет делать блок управления Home Hub без камеры – в таком случае люди с большей вероятностью поставят их в спальню. Угроза приватности – это проигранная битва, по крайней мере в среднесрочной перспективе, считает Ростислав Хоменко из Bain & Co.

Будем объективными: для большинства потеря личной свободы – не проблема, соглашается Кирилл Николаев. Многие не стремятся управлять своей жизнью и предпочитают, чтобы их решения и поступки контролировали извне: муж, руководитель, правительство, технические устройства. Их будущее связано с высокой степенью зависимости от цифровых технологий, причем гораздо большей, чем нам кажется.

Нечеловеческая этика

Главное, что не готово доверить ИИ общество, – это принятие этически сложных решений, показало исследование BCG. Респонденты согласны, чтобы ИИ помог им разобраться с вопросами налогообложения и соцобес­печения, оказывал услуги или выявлял мошенничество и несоблюдение законов. Но уровень доверия резко снижается, если речь идет о применении ИИ в правосудии или здравоохранении. 71% одоб­рили использование ИИ при оптимизации дорожного движения, но 51% не согласны с применением ИИ для определения виновности в уголовных процессах. 40% россиян не хотят, чтобы искусственный разум определял методы лечения.

Вопросы этики тормозят прорывы в применении искусственного интеллекта и в сфере автомобилестроения, в частности в повсеместном использовании беспилотных автомобилей, соглашается управляющий директор «Хендэ мотор СНГ» Алексей Калицев.

Беспилотники сейчас разрабатывают и все крупнейшие автоконцерны, и ведущие IT-компании мира. Такие автомобили уже ездят по дорогам, но пока в тестовом качестве. Массовое их появление аналитики предсказывают к 2025 году. До этого предстоит решить несколько важных проблем. Есть проблемы технические: одно дело, когда тестовый автомобиль едет по дорогам Южной Кореи в хорошую погоду, а другое – по занесенной снегом темной российской дороге. Как себя поведет автомобиль в последнем случае, надо проверять, рассказывает Калицев. Надо разобраться и с ошибками в алгоритмах. Например, тестовый беспилотник Uber на базе Volvo в одном из городов США задавил велосипедистку. Как показало расследование, сенсоры автомобиля «увидели» женщину, перевозившую велосипед через дорогу, но из-за темноты и неожиданности ее появления система не распознала ее как человека и не стала тормозить. Был случай, когда беспилотник врезался в автобус. ИИ смутила рекламная надпись на его борту: система решила, что это плакат на обочине.

Не менее важная проблема – этическая обоснованность решений беспилотника. Опрос, проведенный в 2016 году учеными Массачусетского технологического института (MIT), казалось бы, поставил крест на перспективах массового производства беспилотных автомобилей. Большинство респондентов считают, что беспилотник должен прежде всего заботиться о пешеходах, даже если в результате этого сильнее пострадают пассажиры автомобиля. Проблема в том, что те же самые участники опроса заявили, что сами не будут покупать машины, запрограммированные подобным образом!

Искать выход из тупика ученые MIT решили при участии психологов, антропологов и экономистов из разных стран. Они создали онлайн-тест Moral Machine. Любой может пройти его на сайте http://moralmachine.mit.edu/hl/ru. Здесь предложено выбрать вариант действий в дюжине гипотетических аварийных ситуаций. Авторов теста интересовали моральные приоритеты. Кого респондент спасет с большей вероятностью – беременную женщину или старушку? Одного ребенка или нескольких взрослых? Пять собак или одного мужчину?

Результаты эксперимента, опубликованные через полтора года в журнале Nature, показали: выбор будет сильно зависеть от страны проживания человека. Для него будут важны укоренившиеся культурные аспекты. В странах, условно отнесенных к «западным», предпочитали спасать более молодых и успешных с виду людей, в «восточных» – пожилых. В «южных» странах старались сберечь жизнь детям и женщинам. В успешных законопослушных государствах вроде Японии или Финляндии гораздо меньше заботились о пешеходах, вышедших на дорогу в неположенном месте, чем о пассажирах автомобиля. Так что в глобальном плане вопрос остался нерешенным. Пока разработчики беспилотников сошлись в одном: автомобиль должен в первую очередь заботиться о человеческой жизни и меньше – об материальном ущербе или животных.

Этическая проблема есть и в другой области: людей раздражает, когда вместо человека с ними разговаривает робот, напоминает Ростислав Хоменко из Bain&co. Когда абонент распознает, что ему звонит робот, в 90% случаев он прекращает общение, подтвердил «КП» менеджер одного из крупных российских колл-центров. Много жалоб на «тупость» их роботов поступает от клиентов в банки.

В марте стало известно, что фонды инвестора Леонида Богуславского вложили $2 млн в российского робота для колл-центров Dasha.AI. Он умеет поддакивать и даже перебивать собеседника – то есть пытается притвориться человеком и снизить вероятность того, что собеседник бросит трубку.

Но многих имитация человечности раздражает еще больше. В 2018-м Google представила тестовый вариант системы ИИ – Duplex, способную, например, позвонить в ресторан и зарезервировать столик от имени владельца телефона. Причем Duplex может работать на стороне как клиента, так и заведения. «Когда я слушал тестовые звонки, то зачастую не угадывал, кто из собеседников был человеком, а кто машиной», – признается Хоменко. Разработчики все прошлое лето потратили, чтобы узнать, достаточно ли этичным сочтут применение роботов в таком качестве владельцы парикмахерских и ресторанов. Выяснилось, что не очень. В итоге Duplex заставили представляться, рассказывает Хоменко.

«Искусственный интеллект способен трансформировать государственную политику, изменить структуру оказания услуг и принести огромную пользу гражданам, – считает Мигель Карраско, старший партнер Bain&co и один из авторов отчета. – Однако, чтобы полностью реализовать преимущества ИИ, требуется больше усилий, направленных на завоевание и укрепление доверия к ИИ среди населения. Добиться успеха можно, только если государство, граждане и бизнес будут вместе вырабатывать механизмы ответственного и этичного применения ИИ».