Доктор наук Арлазаров: IT-компании за гроши нанимают людей работать под видом ИИ
А ведь вас предупреждали, что искусственный интеллект поработит человечество! Даже фильмы снимали. И вот это порабощение уже началось: десятки тысяч (если не сотни тысяч) людей по всему миру попали в рабство новому господину. Они работают за него день и ночь и получают жалкие гроши. Правда, в реальности цифровое рабство выглядит совсем не так, как его представляли создатели блокбастеров про Терминатора.
Афера с “умными” магазинами
О существовании таких “невольников искусственного интеллекта” широкая публика узнала, когда разразился скандал с участием интернет-ритейлера Amazon, который инвестирует миллиарды в технологии ИИ. Не так давно компания запустила сеть “умных” магазинов, использующих инновационную технологию Just Walk Out («Взял и иди»). В этих супермаркетах нет касс и продавцов. Человек просто берет с полки нужные ему товары и уходит. А искусственный интеллект, анализируя показания камер и датчиков, составляет список покупок, распознает личность покупателя и списывает деньги с его банковской карты. Эти футуристические магазины должны были произвести революцию в торговле. Но потом выяснилось, что вся эта хитроумная система датчиков и алгоритмов работала плохо, поэтому Amazon тайно нанял тысячу индийских рабочих, которые вкалывали под видом искусственного интеллекта. То есть по камерам следили за покупателями и вручную пробивали их покупки. В итоге счета выставлялись долго — по несколько часов, что нехарактерно для ИИ. А кроме того, эти рабочие ошибались, ведь ничто человеческое им не было чуждо. Когда афера всплыла, компания вынуждена была официально объявить о закрытии чудо-магазинов. И таких случаев, когда под видом ИИ работу алгоритмов выполняют люди, становится все больше.
Невольники ХХI века
Это полностью переворачивает наше представление о цифровом будущем. На заре развития технологий ИИ мы мечтали о том, что он освободит человека от однообразной рутинной работы и даст ему возможность реализовать себя в творчестве и созидании. На деле же оказалось, что человек вынужден выполнять за роботов их работу.
— Чем объяснить такой парадокс? — поинтересовались мы у доктор технических наук Владимира Арлазарова, генерального директора Smart Engines.
— Это связано с тем, что создать качественный искусственный интеллект, который будет автономно выполнять поставленную задачу, – значительно сложнее и дороже, чем нанять низкоквалифицированную (и потому дешевую) рабочую силу. Тысячи, а в отдельных случаяхи десятки тысяч людей в сложной жизненной ситуации согласятся выполнять работу буквально за копейки. Поэтому получается, что не ИИ обслуживает человека, а наоборот человек вынужден обслуживать ИИ. К сожалению, такой подход практикуется IT-компаниями достаточно регулярно. И даже имеет свое название – HITL (human-in-the-loop, то есть “человек в петле”). Разумеется, имеется в виду, что человек участвует в цикле обработки, но из песни слов не выкинешь. Сторонники этого подхода уверяют, что привлечение людей позволяет страховать работу ИИ и добиваться более высокого качества выполнения задач.
— Звучит логично.
— В теории — да. Но реальности это игры с огнем. Если взять нашу сферу — распознавание документов, то нередко IT-компании, под видом ИИ поручают примитивную работу по вводу данных из документов пользователям с краудсорсинговых платформ. Нюанс в том, что гонорар за выполнение одного подобного задания составляет от 1 до 5 копеек на отечественных платформах и от 1 цента — на иностранных. Несложно подсчитать: чтобы заработать на прожиточный минимум, человеку требуется работать по 12-14 часов в сутки без выходных. Чем эти люди отличаются от рабов?
На заре развития технологий ИИ мы мечтали о том, что он освободит человека от однообразной рутинной работы и даст ему возможность реализовать себя в творчестве и созидании. На деле же оказалось, что человек вынужден выполнять за роботов их работу.
ТЕЛЕФОННЫЕ МОШЕННИКИ БУДУТ РАЗГОВАРИВАТЬ С ВАМИ ОТ ИМЕНИ ИИ
— Но если люди хватаются даже за такую возможность заработать, значит это им действительно надо?
— Проблема в том, что работа на краудсорсинговой платформе за копейки — это еще и криминогенная среда. За любыми псевдоинтеллектуальными сервисами скрывается вполне реальная угроза. Вы думаете, что ваши тайны знает только нейросеть, но под маской ИИ доступ к вашим персональным данным могут без труда получить посторонние люди. А сбыть на черный рынок чужую личную информацию — например данные паспорта или банковских карт — значительно выгоднее, чем перепечатывать ее за символическое вознаграждение. Тем более, что владельцы IT-сервисов зачастую не знают, кто именно на них работает: на краудсорсинговых платформах пользователи могут быть анонимны. Кстати, если полулегальное сотрудничество ИИ и краудсорсеров будет развиваться, несложно догадаться в какую сторону эволюционирует телефонное мошенничество.
— В какую же?
— Если сейчас жулики представляются вам сотрудниками банка, то затем клиентам будут навязывать ненужные товары и услуги от имени искусственного интеллекта. В принципе, то что сейчас происходит, можно назвать новой форме рабства — рабством XXI века. И это не будет преувеличением. Потому что у каждого из нас помимо существования в реальном мире есть и своя личная цифровая жизнь. И к сожалению все, что мы ищем в интернете, читаем, смотрим, лайкаем, покупаем и говорим — все это становится товаром. Зачастую без нашего ведома. Полная потеря тайны частной жизни и суверенитета позволяет нами манипулировать, превращает нас в рабов искусственного интеллекта.
НАСТОЯЩИЙ ИИ ОСТАНЕТСЯ НЕ У ДЕЛ?
— Может быть, тогда имеет лучше загнать этого ИИ-джина обратно в лампу?
— Самое печальное, что активным использованием человеческого труда под видом ИИ, блокируются попытки создать искусственный интеллект, который действительно мог бы улучшить жизнь человека. Если угодно — “ИИ мечты”. Потому что получается так: одни компании с помощью найма “людей по объявлению” искусственно повышают эффективность своих систем, пуская пыль в глаза инвесторам. А в это время разработчики, которые действительно занимаются наукой, остаются в заведомо невыгодном положении. Если ничего не поменять, подобная практика будет развиваться. А это означает, что потребность в новых “людях в петле” будет только расти: ведь модель уже показала свою выгодность с точки зрения экономии финансовых ресурсов. И я опасаюсь, что такие механизмы принуждения людей будут расширяться. Что делать? Во-первых, государство должно принять законы, которые усилят защиту персональных данных пользователей. Во-вторых, практика использования человеческого труда для корректировки работы алгоритмов ИИ должна быть ограничена. И в-третьих, необходимо стимулировать разработки реального искусственного интеллекта, который сделает нашу жизнь комфортнее.