ИИ. Как обмануть нейронную сеть. Безработица. Прогнозы от человека и машины. Что делать?

0
333
Проблемы людей при внедрении искусственного интеллекта

Есть мнение, что чем больше информации собрано, тем точнее задачу решит алгоритм. Некоторое время назад к моему сыну пришел школьный приятель, и уходя вспомнил, что его родители попросили купить собаке корм. И он зашел через наш домашний Wi-Fi, чтобы посмотреть, где он продается. И вот где-то полгода, во что я не войду – я получаю предложения по собачьему корму. Я уже знаю, чем он отличается друг от друга, какая его цена. У меня в жизни собаки не было, и я не собираюсь ее заводить. Вот насколько верное решение от этого объема информации принимает в таком случае компьютер и вообще верно ли это, что является критерием истины? И действительно ли объем данных решает эту задачу?

Отрывок из обсуждения проблем искусственного интеллекта на finopolis 2018, сообщает портал Искусственный интеллект вокруг Ai360

— Иван Оселедец: Эта история про собачий корм. Я, скорее всего, представляю себе, какой алгоритм там реализован и почему он так неправильно работает. Это вопрос как раз к алгоритму. Там использован простой алгоритм, а не сложный. А вообще, по поводу сбора данных. Т.е. чем больше данных мы собираем, тем точнее становимся, но здесь возникает другая проблема. Все равно количество возможных картинок, возможных изображений, оно огромно. Все данные, все возможные картинки мы не соберем никогда.  И сейчас очень важная тема, которая является ключевой с научной точки зрения, это вопрос того, насколько эти нейронные сети, которые мы сейчас тут обсуждаем, работают устойчиво. Так называемые универсальные возмущения, т.е. мы берем картинку, чуть-чуть ее изменяем. Человек этого не видит, а нейронная сеть сходит с ума. Она начинает считать, что это слон, например, всегда, или собака. Т.е. ее очень легко обманывать. Каждый думает, где это можно использовать. Если у вас есть система распознавания лиц, вы сделали универсальную биометрию на всю страну, после этого пришел злоумышленник и модифицирует все картинки и теперь у него есть доступ ко всем сразу. Вы ему сделали прямой вход. Начнется такая вот гонка вооружений, она уже, в принципе началась. Google объявил конкурс, как раз по этой теме, по поводу обманывать нейронные сети и защищаться от обмана. И прежде, чем внедрять это массово на всю территорию страны, надо понять, не будет ли у нас таких вот эффектов. Поэтому, конечно важно, сначала в этой песочнице поиграться и посмотреть. На маленьких масштабах не выгодно создавать такие большие приложения, а чем больше мы будем масштабироваться, тем быстрее надо быть готовым. Это делается очень быстро. И реагировать надо очень быстро. Поэтому если, условно говоря, банк купит готовую технологию и пойдет такая атака, и нет внутри банка специалистов, которые способны, грубо говоря, по такой вот безопасности в области искусственного интеллекта, которые могут быстро отреагировать, то это большая проблема. Т.е. сколько бы данных мы ни собирали, всегда: а – будет мало; б – можно эту нейронную сеть обмануть и это та самая научная проблема, которую сейчас люди решают, не знают, как решить.

Если уж заговорили о терминах, тогда давайте новые изобретем. Начинают ли люди уже опасаться находиться так много в сети, как они это делают сегодня. Например: если эта реклама собачьего корма немного раздражает, но они начинают понимать, что и более важные решения в отношении них принимаются кем-то, где-то, кто-то за ними постоянно смотрит. Не возникнет ли такое желание платить больше наличными, потому что каждое движение по карточке – это означает о том, какие у меня предпочтения. Давайте термин даже придумаем – тетранcпоризация.

— Иван Оселедец: Я думаю, если ставить себе такую цель, то это сделать можно, но если это делать так: заклеить веб-камеру, не регистрироваться в соц сетях, вы наоборот будете на картах такой черной точкой, вы будете очень хорошо заметны. Вы будете очень подозрительны, если вы прячетесь. Если вы ведете себя как обычный среднестатистический человек, платите карточкой, постите посты в Фейсбуке, вы как бы один из миллиардов, вы не очень интересны. Мне кажется, это безопаснее.

Хорошо. Т.е. мы анонимизируемся просто тем, что сами становимся частью этих больших данных.

К Сьюзан теперь вопрос. Вот мы говорим: давайте еще один риск возьмем. Каждая промышленная революция: изобретение парового двигателя или введение электричества или компьютеризация, а теперь и внедрение искусственного интеллекта, очень сильно влияет на рынок труда, а это никогда не безобидно. И когда люди говорят: ну и что, пережили ведь однажды, конечно что-то заплатили. Сьюзан, как это будет влиять на занятость? Что делать людям, которые будут терять свою работу? Например, в банках, из-за того, что они уже больше не работают в Call-центре, из-за того, что они не работают в юридическом отделе. Потому что председатель Сбербанка недавно сказал, что сократит существенное количество работников юридической службы из-за того, что там по стандартным кейсам искусственным интеллектом будут создаваться иски в судебные органы. Сьюзан, это большая проблема? И что делать этим людям?

— Сьюзан Атей: Это очень спорный вопрос. Серая зона в споре между экономистами и политиками. Озабоченность действительно существует, но многие из моих коллег-экономистов не согласны. Давайте, я попытаюсь объяснить, почему не должны быть чрезвычайно озабочены этой проблемой. Представьте себе простой мир, где мы производим один какой-то товар и мы все являемся совладельцами этого завода. И чем меньше используется усилий при произведении большего количества товаров, тем больше наша выгода. Поэтому нет ничего плохого, в том, чтобы делать больше при помощи меньших ресурсов. Вот почему многие экономисты не выражают свои опасения в связи с этими изменениями. И если мы не все владеем этим заводом и все не живем в одном и том же месте, вот здесь уже возникают сложности. Недавно экономисты Массачусетского университета стали исследовать последствия роботизации. Они заключили: если будет больше роботов, то в целом вес мир от этого только выиграет. То есть, чем больше роботов, тем больше автомобилей будет производиться, цены упадут во всей стране и люди часть денег, которые раньше использовали на машины, потратят на рестораны, что-нибудь купят.

Но если взять конкретный завод, Детройт в Мичигане, если там будет больше роботов, то концентрированное влияние роботизации приведет к потере работы людьми. Люди потеряют работу на заводе, они перестанут ходить в рестораны, они не будут делать покупки и вся экономика в этом районе пострадает, поэтому, если в банке есть огромный Call-центр, то обычно Call-центры размещаются в таких регионах, которые не являются экономически процветающими, чтобы платить меньшую заработную плату там. И если вы крупный работодатель в небольшом регионе и вы закроете Call-центр, то, я считаю, возникнет большая проблема для этого региона. И это действительно происходит уже во всем мире. Один из серьезных вопросов в мире, вот подошел ко мне банковский работник и сказал, что мы закроем Call-центр, мы собираемся через год или через два или через три года закрыть Call-центр. И я слышала, что это происходит во многих странах мира.

И, конечно, люди испытывают определенное опасение, потому что они знают, что это вызовет определенные проблемы с человеческими ресурсами и определенные проблемы региона. И никто не знает пока ответа, и это действительно серьезная проблема. И ни научный мир, ни политики не знают ответа на этот вопрос. Мы не знаем, как помочь этим регионам, может быть, людям придется переселятся в новый город. Но люди не всегда охотно переезжают. Они хотят стабильности, жить со своими семьями. Нужно заранее, уже сейчас предпринимать какие-то действия для того чтобы анализировать, в каких регионах будет внедряться автоматизация, роботизация.

Мы должны заранее предвидеть это и подумать, какие осуществить мероприятия, чтобы помочь людям переселиться. Нужно позаботиться о жилье, о транспорте. Может быть много рабочих мест в Москве или в кремниевой долине. Но людям же нужно приехать в эти места. Если они останутся там, где они жили раньше, то нужно придумать тогда, чем они будут заниматься в этих местах. Конечно, автоматизация повлияет на все сектора экономики, но, в первую очередь, меня интересуют места, где работу может потерять сразу много людей: это Call-центры, это люди, которые работают во фронт-офисе, это кассиры, работники ресторанов, розничной торговли, магазины. Все эти рабочие места вдруг пропадут одновременно, и у людей не будет работы. Я не хочу, конечно, быть алармистом, но мы, как все общество должны все вместе подумать об этом, потому, что люди не будут счастливы, если они будут жить там, где и раньше и у них там не будет работы. Возникнут политические проблемы и другие проблемы.

Безусловно, серьезный вызов, потому что иногда для человека даже самое неэффективное занятие лучше, чем никакого. Даже притом, что жизнь свою он сохраняет, способность существовать, пособие по безработице, но это совсем другое ощущение личности.

Наталья, теперь другой вопрос к вам. Тоже риск следующий. Затраты: вот вы предлагаете RP-системы, которые помогают в решении, может даже кто-то использует их просто для решений. Делает такое делегирование решений в эту RP-систему. Скажите, пожалуйста, вот их кастомизация, которая требуется всегда, для каждого отдельного бизнеса – это тоже определенный расход. Потому что нельзя один пакет раздать абсолютно всем. Это тоже серьезный вызов. Значит ли это, что выживут только сильнейшие, потому что, чтобы хорошо сэкономить, надо сначала как следует потратиться.

— Наталья Парменова: Тоже очень философский вопрос, как говорил товарищ Дарвин: выживут не сильнейшие, а те, которые лучше приспосабливаются. Мне кажется, что это совершенно универсальный закон. Мне кажется, что выживут самые умные, самые ловкие и самые хорошо приспосабливающиеся к обстоятельствам. Вот такой вот ответ. Я хотела бы еще привести один пример, может быть не напрямую связанный с вашим вопросом. Я очень внимательно слушала коллег и приходит в голову такое использование искусственного интеллекта, которое применяется сейчас в нашей компании. Просто для того, чтобы чуть-чуть расширить дискуссию.

Известно, что SAP – это публичная компания, она котируется на фондовой бирже. Фондовая биржа живет нашими предсказаниями. В начале года мы должны сказать, сколько мы произведем дохода и маржи. В зависимости от того, как мы хорошо предсказали акции либо падают, либо растут. Поэтому для двадцатимиллиардной компании, в евро, это большая задача и большая проблема. Процесс предсказания у нас организован следующим образом: от самого маленького человечка в организации, которого по понедельникам спрашивают, сколько ты принесешь дохода? Это поднимается до пятницы до члена совета директоров, который аккумулирует предсказания на квартал. Квартальный форкаст, можно так сказать.

В прошлом году мы начали применять системы искусственного интеллекта для предсказания форкаста, т.е. так как мы пользуемся своей собственной обувью, сапожник, который пользуется своими сапогами, мы пользуемся своей RP-системой и CRM последние 45 лет, что мы существуем, у нас накопился огромный массив данных. Какие у нас были предсказания, какие получились контракты, сколько по каким странам, по каким типам доходов мы получили доходы. Плюс, в эту машину была зашита информация о курсах валют, естественно, т.к. мы оперируем во многих странах, ну, и еще некоторые скажем так, внешние, внешнеэкономические параметры. И вот в прошлом году мы предсказывали на уровне компаний и регионов, и машина лучше предсказала, сколько мы получим дохода, нежели предсказали люди. В этом же году опустили на уровень стран.

Т.е. теперь, когда нас каждый квартал спрашивают, сколько же вы получите дохода? Рядом с этим стоит цифра, сколько нам предсказала машина.

И, я очень много над этим думала. И, на самом деле, одна из проблем с людьми, в том, что они поддаются влиянию других людей. Когда мы выдаем прогноз, когда меня спрашивают, сколько будет прибыли, сколько ты получишь дохода, я нахожусь под влиянием того человека, который меня спрашивает. В зависимости от того, как он на меня влияет, хочет ли он, чтобы я сказала: я сделаю бюджет, или хочет ли он, чтобы я сказала честно, что может отличаться в любую сторону? Мой ответ будет разным. В течение квартала, в зависимости от того, какая ситуация у нас внутри компании – эта игра в ответы и вопросы может меняться. Когда-то от меня хотят честности, когда-то от меня хотят, чтобы я по бюджету ответила.

На машину не влияют внешние факторы, мы на нее не влияем своими интеррогативными способностями. И поэтому уже в течение четырех кварталов мы получаем ответ о прогнозировании нашей же, собственной работы, намного более точный, чем от нас самих. Потому что на машину нельзя повлиять. Тут говорили о том, что, конечно, можно туда залезть и что-то там поломать, но пока у нас это работает по-честному. И вот тут мен кажется большая область применения искусственного интеллекта – это в тех местах, где люди могут повлиять на людей. И ответ человека может зависеть от того, как задан вопрос, кем он задан и когда. И, мне кажется, к банкам это имеет очень прямое отношение, в тех же скорингах, в том, как я заполняю какие-то документы на кредиты. Т.е. мы оказываем влияние на получаемый ответ. И это большая область для применения искусственного интеллекта.