AAAS: "Искусственный интеллект: благо или угроза безработицы"

Инвестиции в технологии искусственного интеллекта, куда сегодня включают системы распознавания лиц, беспилотные автомобили, самоуправляемые дроны, промышленные роботы и пр., достигли в 2015 году рекордных масштабов – более миллиарда долларов. Такие данные названы на собрании ученых Американской ассоциации содействия развитию науки (AAAS) ( http://www.aaas.org/news/increasing-use-autonomous-systems-could-threaten-jobs ) в феврале в Вашингтоне.

Ученые отметили сильно возросшее влияние умных машин на жизнь граждан. В США в настоящее время насчитывается 250 тысяч промышленных роботов, и темпы роста рынка измеряются десятками процентов. Применение интеллектуальных машин ведет к тому, что сокращается число «средних» специальностей, где человеческий интеллектиспользуется по минимуму. Все это может привести к значительному расслоению общества, его поляризации – когда остаются лишь высокоинтеллектуальные специальности и рабочие места для неквалифицированных рабочих, предупреждают ученые.

«Мы должны начать думать очень серьезно: что делать людям, когда машины смогут делать почти всё [вместо них]? Мы должны пересмотреть понятие «хорошая жизнь», не связывая его с работой (We have to redefine the meaning of good life without work)», — сказал Моше Варди (Moshe Vardi), профессор компьютерных наук института информационных технологий университета Райса. Например, 10% рабочих мест в США так или иначе связаны с управлением транспортным средством. «Мы можем предположить, что большинство из этих рабочих мест просто исчезнет», — говорит Варди.

Во благо ли прогресс

Согласно исследованию компании Accenture, ведущие компании активно используют роботов и технологии искусственного интеллекта (ИИ): из 3100 опрошенных компаний в 11 странах мира 70% сказали ( https://www.accenture.com/us-en/insight-technology-trends-2016 ), что в 2014-2015 годах они увеличили инвестиции в ИИ, а 55% респондентов намерены активно внедрять технологии ИИ и машинного обучения.

В то же время в научных и технологических кругах разгораются споры по поводу того, готово ли человечество к столь резким переменам в этой области. Технологические компании убеждают нас, что за ИИ будущее — он упростит нашу жизнь, освободит от рутины, сэкономит время. В то же время оппоненты бьют тревогу – рост числа умных машин может привести к массовой безработице, правовым и этическим проблемам.

Позиция технологических компаний, проводящих разработки в области ИИ, в целом такова, что он должен избавить нас от монотонных дел: готовки, уборки, поездок на работу, поиска и структурирования информации — все это могут взять на себя машины. Кроме того, технологии ИИ могут помочь в формировании «правильной» (адаптированной ко вкусам пользователя) ленты новостей в социальных сетях, в борьбе с банковскими мошенниками (системы распознавания голоса, лиц, биометрия ( http://d-russia.ru/mastercard-v-britanii-budet-identificirovat-klientov-s-pomoshhyu-fotografii-ili-skanov-otpechatkov-palcev.html )). А голосовые помощники вроде Apple Siri или Microsoft Cortana станут экономить время, быстро выискивая важную информацию по запросу голосом.

Однако не все согласны с тем, что ИИ ведет лишь к светлому будущему. В открытом письме ( http://futureoflife.org/ai-open-letter/ ) волонтёры организации «Институт будущего жизни» (Future of Life Institute) призывают власти изучить риски, связанные с ускоренным развитием технологий искусственного интеллекта и робототехники. Это исследование, по мнению авторов, должно затрагивать экономические аспекты, правовые, философские, информационную безопасность, в разных сферах использования ИИ.

«Потенциальные преимущества ИИ огромны, поскольку все, что предлагает цивилизация, является продуктом человеческого интеллекта. Мы не можем предсказать, чего достигнем, когда этот интеллект усилится с помощью технологий ИИ, но искоренение болезней и нищеты – это не фантастика. Важно исследовать, как воспользоваться преимуществами ИИ, избегая потенциальных ловушек», — говорится в письме.

Под обращением уже подписалось более 8,5 тысяч человек, включая соучредителя SpaceX, руководителя Tesla Motors Илона Маска (Elon Musk), соучредителя Apple Стива Возняка и др.

По мнению ученых из AAAS, умные автономные системы будут внедряться в общество в течение ближайших двух-трех лет. На собрании ученых в феврале было предложено направлять 10% от общего финансирования исследований ИИ на изучение социальных последствий от внедрения умных машин.

В октябре 2015 года всемирно известный физик-теоретик Стивен Хокинг назвал ( https://www.reddit.com/user/Prof-Stephen-Hawking ) ИИ серьезной опасностью для человечества, поскольку он может, помимо прочего, привести к безработице и росту социального неравенства.

Интернет вещей как часть ИИ

Согласно данным ( http://d-russia.ru/mse-vypustil-otchet-o-globalnom-regulirovanii-ikt-2015-vklyuchayushhij-dannye-po-internetu-veshhej-socsetyam-i-big-data.html ) международного союза электросвязи, в 2015 году на мировой рынок в общей сложности поставлен один миллиард различных видов беспроводных устройств Интернета вещей (IoT), что на 60% больше показателей 2014 года. Как следствие, к концу 2015 года создана база развития IoT из 2,8 миллиарда соединенных устройств.

В дальнейшем сетевой трафик будет всё больше определяться межмашинным трафиком (M2M), генерируемым миллиардами соединенных устройств, продуктов и датчиков, при этом межмашинная связь по сотовым сетям подвижной связи уже становится наиболее быстро растущей услугой ИКТ в отношении трафика.

Ожидается, что к 2019 году объем рынка IoT достигнет 1,7 триллиона долларов США, что сделает его крупнейшим рынком технических устройств в мире.

МСЭ выражает обеспокоенность этим — помимо рекомендаций правительствам и предприятиям развивающихся стран воспользоваться возможностями Интернета вещей, его эксперты считают необходимым ( http://d-russia.ru/mse-internet-veshhej-mozhet-stat-faktorom-ustojchivogo-globalnogo-razvitiya.html ) разработать политические принципы и нормативно-правовую базу, которые создадут благоприятную среду для развития IoT.

Между тем исследования ( http://d-russia.ru/issledovaniya-interneta-veshhej-opasnost-uzhe-realna.html ), проведенные компаниями HP и Open DNS, принадлежащей Cisco, показали, что опасность, исходящая от подключенных к Сети устройств, уже в большей степени реальна, чем это можно было ожидать. Основные выводы таковы: устройства IoT дают новые возможности для удаленного управления корпоративными сетями; инфраструктура, используемая устройствами IoT, зачастую остается вне контроля пользователя и IT-персонала; 70% исследованных устройств не шифруют данные при передаче между собой и Интернетом или локальной сетью, и почти все устройства собирают личную информацию; 80% исследованных устройств имеют проблемы с паролями — они не требуют пароли достаточной сложности и длины.

Случаи проникновения в промышленные и корпоративные IT-системы уже имеются.Об одном из них сообщила ( http://d-russia.ru/novyj-produkt-lk-instrument-dlya-znaxarej-ot-ib.html ) в феврале «Лаборатория Касперского», представляя новый продукт: преступники добрались до серверов, используя незащищённость протоколов и каналов, по которым шли данные от пожарных датчиков.

Потенциальная опасность Интернета вещей осознавалась ещё на начальной стадии его развития. В отчёте ( http://fas.org/irp/nic/disruptive.pdf ) Национального разведывательного совета США (National Intelligence Council) 2008 года IoT фигурирует как одна из шести потенциально разрушительных технологий, и указывается, что повсеместное и незаметное для потребителей превращение в составные части глобальной сети таких распространённых вещей, как товарная упаковка, мебель, бумажные документы, может нанести урон национальной информационной безопасности.

Аналогичные формулировки можно применить и к концепции «умного города», как некоего царства Интернета вещей. Одной из составляющих концепции «умного города» (SmartCity), напомним, является массовый сбор разнообразных данных, в том числе коммерческими компаниями: данные эти поступают с датчиков, видеокамер, носимых устройств, из мобильных сетей и пр. «Умный город» по сути — это IoT, в который «вживляются» жители города.

Зависимость благополучия человека от того, насколько надёжно защищены его ПД, в «умном городе» возрастает многократно, поскольку окружающие устройства протоколируют – буквально – каждый его шаг, любое перемещение и очень часто – его коммуникации. Огромные массивы накопленных данных о гражданине допускают извлечение из них нетривиальной информации, которая может не просто скомпрометировать, а позволяют точно смоделировать поведение человека, и вообще многими способами сделать его уязвимым для преступников.

В момент сбора данные могут не быть персональными, но анализ их совокупности способен «персонализировать» информацию. Примером служит упомянутая уже прогрессирующая с каждым днём технология распознавания лиц, которая помогает поисковым машинам найти человека в Сети по изображению.

Популярность темы ИИ возрождается в последнее время в связи с технологиями обработки больших данных (big data). По словам директора Facebook по искусственному интеллекту Яна Лекуна (Yann Le Cun), возрождение исследований ИИ происходит, по большей части, из-за революционных достижений, связанных с явлением, известным как «свёрточные нейронные сети», которые обещают прогресс в таких областях, как машинное зрение, распознавание речи, обработка текстов на естественном языке. Со свёрточными нейронными сетями связан термин «глубинное обучение», благодаря которому машина может корректировать поведение, т.е. «учиться». Глобальные IT-компании стоят на пороге очередного технологического рывка и готовы вот-вот переступить его.

Неизвестно, готова ли к этому популяция homo sapiens.

Искусственный интеллект эволюционирует

Характерная особенность нынешней стадии развития ИИ состоит в том, что, во-первых, машины управляют сложными техническими системами (такими, например, как авиапассажирские перевозки, включая продажи билетов, обслуживание самолётов и составление расписаний рейсов) без участия людей, и отказ от компьютеров в таких системах принципиально невозможен. Во-вторых, компьютеры и компьютерные сети «решают» интеллектуальные задачи, за которые человек никогда и не брался. Последнее почти всегда имеет место в случае IoT – для примера можно взять управление отоплением зданий в зависимости от температуры воздуха, направления и скорости ветра. Иными словами, ИИ перестал быть объектом лабораторных исследований и экспериментов, он внедрился в промышленность.

Надежда на то, что всякий технический прогресс есть благо, всё же велика и обоснована. Область «естественного интеллекта» по мере развития ИИ в правильно устроенном обществе просто смещается в другие сферы, куда человеку прежде добраться было просто недосуг.

Выдающийся российский инженер Михаил Донской (1948-2009), соавтор «Каиссы», выигравшей в 1974 году первый чемпионат мира среди шахматной программы, говорил: «Шахматное программирование перестало быть искусственным интеллектом, как только компьютер стал обыгрывать гроссмейстеров».