Как граничные вычисления сделают революцию в ИИ

0
302
Граничные вычисления с ИИ

Централизованные решения ИИ часто борются с большими задержками и проблемами конфиденциальности. Поэтому необходимо переместить искусственный интеллект ближе к источнику данных.
Искусственный интеллект открывает новые возможности для использования огромного количества данных, которые генерируются каждый день как в домашних условиях, так и в бизнесе.

Согласно текущему «Cisco Global Cloud Index», в 2016 году было создано 220 зеттабайт данных, созданных людьми, машинами и вещами, а на 2021 год прогнозируется огромное количество в 850 зеттабайт. Все эти данные могут быть использованы для создания новых технологий на основе ИИ, что может значительно улучшить нашу повседневную жизнь и многие бизнес-процессы.

Однако новые возможности также вызывают новые проблемы. «Большинство сервисов ИИ, которые мы используем сегодня, в основном разработаны как монолитные, централизованные системы», — сказал Ной Шварц, основатель и главный исполнительный директор американской компании Quorum AI. «Это означает, что одна модель обучается с использованием одной записи для выполнения конкретной задачи». Чем сложнее задача, тем сложнее архитектура и чем больше требуется набор данных. Однако типичные системы, в которых эти алгоритмы используются впоследствии, имеют такие ограниченные вычислительные и запоминающие способности, которые, по словам Шварца, «они служат только для сбора данных».
Однако постоянная передача данных центральному ИИ и обратно сопряжена со многими рисками. Высокие задержки являются одним из них. «Даже небольшая задержка обработки данных в приложениях, которые используют алгоритмы ИИ для принятия важных решений, например, в автомобилях с автопилотом, может означать разницу между жизнью и смертью», — предупреждает Джем Дэвис, директор по компьютерному обучению в ARM.

Другим аспектом является безопасность персональных данных: «Чем больше информации перемещается, тем выше вероятность того, что её целостность будет скомпрометирована», — продолжил Дэвис. Ной Шварц из Quorum AI также рассматривает требования нового Общего регламента защиты данных в связи с системами ИИ в регионе ЕС.
В то же время, многие случаи использования данных требуют больших мощностей на краю сети. Например, Филипп Карнелли (Philip Carnelley), заместитель руководителя европейского исследования программного обеспечения в исследовательской фирме IDC, указывает, что многие потенциальные развертывания искусственного интеллекта, такие как машины, которые могут выполнять интеллектуальное обслуживание самостоятельно, зависят от того, находится ли ИИ на краю сети.

Аналогичным образом, Шамик Мишра, заместитель начальника технологической инновации в Aricent, глобальная проектно-конструкторская фирма, предлагающая SDK и периферийную инфраструктуру для поддержки ускорения протоколов и алгоритмов на основе графического процессора и процессора, например: «Примеры приложений Компании, такие как оптимизация процессов, обнаружение аномалий, эффективность и производительность, процессы обслуживания и операционная безопасность, нуждаются в AI на краю сети».
«До сих пор искусственный интеллект существовал только на центральных серверах», — добавляет Павел Черкашин, управляющий партнер GVA Capital, американской венчурной компании, специализирующейся на ИИ. Будущее за использованием ИИ прямо на устройствах где возникают данные.

Граничные вычисления — это обработка данных максимально близко к источнику их создания. 

Ответ на этот вопрос может быть обеспечен кросс-вычислениями, подход, при котором обработка данных не находится в облаке из-за увеличения возможностей локального хранилища и производительности, а может выполняться непосредственно на краю сети.

Сантош Рао (Santhosh Rao), главный аналитик исследовательской фирмы Gartner, на самом деле полагает, что технология граничных вычислений необходима для эффективного решения многих проблем, с которыми сталкиваются ИТ сегодня: «Необходимость в реальном времени и немедленных действиях, существующие сетевые ограничения, большие объемы данных и скорость, с которой эти данные генерируются сенсорами и конечными точками, заставляют ИТ-лидеров использовать решения краевых вычислений, чтобы приблизить данные к тому месту, откуда они были созданы».

Edge AI — граничные вычисления с применением ИИ  на устройствах без подключения к облаку.

Во-первых, краевые вычисления могут положительно повлиять на внедрение технологий ИИ: «Если мы также поддерживали развертывание AI на краю сети, мы могли бы расширить возможности ИИ, добавив несколько аспектов и создав новую ценность для бизнеса» — подчеркивает Джим Лю, генеральный директор тайваньской компании Adlink.

С другой стороны, Edg AI обеспечивает большую безопасность и прозрачность данных — критерии, которые также играют критическую роль. Ной Шварц из Quorum AI: «Центральные облачные системы ИИ используют данные миллионов людей. В этих обстоятельствах отслеживание данных для отдельных лиц и отслеживание того, как именно эти данные использовались, чрезвычайно сложно». Однако, если обучение и анализ проводятся параллельно со сбором данных непосредственно в устройстве, тогда большинство данных не должны передаваться в другое место.
Таким образом, конечные пользователи, а также компании могут воспользоваться искусственным интеллектом без необходимости делиться своими конфиденциальными данными с сторонними поставщиками или «потенциально уязвимой облачной средой», добавляет Гэри Бротман, директор по управлению продуктами для KI, Qualcomm.

Кроме того, краевые вычисления также оказывают положительное влияние на время отклика. Если анализ проводится во время сбора данных, то системы на основе краев могут изучать и получать выводы из данных. «Это сокращает время между сбором данных и получением полезных идей», — сказал Ной Шварц. Кроме того, требования к хранению и производительности снижаются, поскольку эти данные больше не нужно хранить, «по крайней мере, не в количествах, требуемых традиционными методами ИИ».

Облачные и граничные вычисления

Хотя перемещение ИИ на край сети имеет смысл во многих отношениях, это не делает облако устаревшим: «У пограничных вычислений и облачных вычислений разные и дополнительные функции», — утверждает Филипп Карнелли. Джим Лю знает, что аналитик IDC имеет в виду: «Облачные вычисления имеют свои преимущества, такие как масштабируемость, глобальная доступность». Однако облако также имеет системные недостатки, такие как латентность, стоимость, пропускная способность, безопасность и конфиденциальность.

Кроме того, облачный искусственный интеллект требует высокой степени интеграции для импорта и доступа к данным для анализа, согласно Carnelley IDC. Однако в сложных пограничных средах соединение с AI в облаке может быть либо несуществующим, либо ненадежным. У Benjamin Lui, основателя стартапа BabbyCam, есть пример: «Программное обеспечение AI в беспилотном режиме также должно работать в областях без облачного соединения». Edge Computing предлагает преимущества стабильности в этом отношении. Edge Computing также играет важную роль в приложениях, требующих низкой задержки и экономии трафика, добавляет Shicik Mishra из Aricent.

По этим причинам, по мнению аналитика Gartner Сантхоша Рао, инфраструктуру обучения ИИ можно продолжать развертывать в облаке или центрах обработки данных, в то время как полученные модели реализовать в пограничной вычислительной среде, чтобы обеспечить возможности анализа в реальном времени близко или напрямую с источника сбора данных.

Правильное аппаратное и программное обеспечение

Внедрение анализа и анализов на основе ИИ на месте, несомненно, будет иметь большие преимущества. Однако внедрение не должно быть легким, потому что искусственный интеллект в сочетании с краевыми вычислениями предъявляет собственные требования к оборудованию. «Когда мы говорим о алгоритмах глубокого обучения, например, высокая производительность вывода и скорость особенно важны», — говорит основатель BabbyCam Луи.
Тем не менее, разработанные до сих пор процессоры Edge и Mobile не обязательно предназначены для обработки такой нагрузки, которую требуют современные приложения для ИИ, по словам Реми Эль-Уазане, вице-президента и генерального директора дочерней компании Intel Movidius.

По его словам, многие приложения AI требуют высокой вычислительной мощности облака и, следовательно, связаны с постоянным обменом данными. Генеральный директор ARM Дэвис считает это серьезной проблемой. Критически важные для безопасности процессы не должны зависеть от стабильности подключения к Интернету.
Поэтому одним из ключевых требований является способность локально выполнять часть того, что облако делает на машине или устройстве, — говорит главный исполнительный директор Vuzix Пол Борис. Многие производители периферийных устройств признали бы, что, как заметил Ной Шварц из Quorum AI, «компании работают над процессорами, которые потребляют меньше энергии и могут выполнять такие вычисления, которые чаще всего выполняются системами ИИ».
Программная часть также нуждается в существенных улучшениях, чтобы включить AI в Edge. «Сегодня большинство систем ИИ, особенно глубоких систем обучения, используют алгоритмы, требующие огромных объемов данных для вывода», — говорит основатель Quorum AI Шварц. Поэтому, согласно Lui BabbyCam, должны быть предусмотрены новые алгоритмы обучения, которые могут обеспечивать быстрые и правильные ответы на основе как можно меньшего количества данных.
Эксперты согласны с другим моментом: разработчикам, которые работают непосредственно над решениями Edge AI, нужен большой выбор аппаратного и программного обеспечения для работы. «Нет общей аппаратной архитектуры, которая может поддерживать все алгоритмы AI», — говорит директор Qualcomm Гэри Бротман. Каждый вариант использования отличается и имеет собственный профиль производительности.

Преимущества искусственного интеллекта в граничных вычислениях увеличит его применение

По словам Джима Лю из Adlink, эта технология будет играть особую роль, когда критически важны низкая латентность, оптимизация затрат, надежность, высокие объемы данных, безопасность и защита данных. По словам генерального директора Movidius El-Ouazzane, использование Edge AI в беспилотных летательных аппаратах, смарт-камерах, интеллектуальных домашних устройствах, роботах и ​​в умной розничной торговле является многообещающим.
В IDC-Analysten Carnelley утверждают, что многие потенциальные варианты использования Edge AI вращаются вокруг интернета вещей. Гэри Бротман также считает, что он знает причину этого, потому что нет простого способа обеспечить связь между устройствами IoT. Поэтому Brotman видит большой потенциал в сочетании краевых технологий с лучшей связью, особенно с 5G.

Таким образом, вероятно, вряд ли будет отрасль, которая не выиграет от взаимодействия искусственного интеллекта и краевых вычислений. Среди секторов, которые принесут наибольшую пользу, Филипп Карнели включает в себя автомобильные, медицинские, производственные и промышленные компании, умные города, такие как средства контроля безопасности или управления движением, энергетика и коммунальные услуги, торговля и телекоммуникации, а также мобильная индустрия.

Когда появится Edge AI?

В настоящее время ажиотаж по поводу искусственного интеллекта и краевым вычислений может дать ложное впечатление о том, что слияние этих двух технологий по-прежнему далеко, отмечает Пол Борис Vuzix. Действительно, по словам директора ARM Дэвиса, определенные выводы, сделанные AI, уже имеют место в пограничных устройствах. Тенденция будет только возрастать с увеличением количества генерируемых данных. По словам генерального директора Movidius Remi El-Ouazzane, технологии, основанные на ИИ, приобретут достаточность и масштабируемость.
Когда речь заходит о том, чтобы точно предсказать, когда Edge-KI будет широко использоваться, мнения немного расходятся. Например, Филипп Карнелли из IDC и Сантош Рао из Gartner утверждают, что развитие и технологии все еще находятся на очень ранней стадии. Тем не менее, оба аналитика уверены, что этот сектор получит мощный импульс менее чем за три года и станет основным.
Qualcomm’s Gary Brotman ожидает еще более раннюю дату: «Edge-KI — одна из самых быстрорастущих технологических областей. Скорость разработки в области алгоритмов ИИ, растущая вычислительная мощность устройств, подавляющее количество данных и современная аналитика сегодня показывают, что это произойдет гораздо раньше, чем мы ожидаем».

Примеры применения ИИ и приграничных вычислений

BabbyCam: BabbyCam использует алгоритмы распознавания лица AI непосредственно в своем решении для монитора ребенка. Она изучает различные выражения мимики младенца в связи с его эмоциями и регулярно посылает информацию об эмоциональном состоянии родителям.
Cherry Home: камера безопасности на базе AI использует алгоритмы для запоминания не только лиц, но и пропорций тела, чтобы люди могли быть идентифицированы сзади.

С помощью Edge-based Artificial Intelligence камера оценивает различные события быстрее, чем через облако. Кроме того, конфиденциальные данные хранятся только локально.

Видеокамера от Google: интеллектуальная камера предназначена для автоматического фотографирования, когда ожидается хороший снимок. Для задачи на основе ИИ камера оснащена микросхемой Movidius Myriad-X от Intel, которая позволяет обрабатывать данные на устройстве. Это позволяет использовать камеру полностью автономно и сохраняет записи на устройстве.

В июле 2018 AI360.COM.UA уже сообщал о Move Mirror от Google, которая запускает модели машинного обучения прямо на устройстве, а изображения не сохраняются и не отправляются на сервер.