Чому AI переходить від Cloud до Fog-обчислень

Технології штучного інтелекту і IoT тісно пов'язані і доповнюють один одного. Сама топологія IoT-рішень передбачає аналітичну обробку інформації на стороні Cloud. Саме з аналізу даних, отриманих з багатьох джерел інформації, ми маємо синергетичний ефект всього програми. Однак більшість сьогоднішніх IoT-рішень застосовують аналіз даних лише на рівні Cloud, збираючи величезну кількість сирих даних від багатьох тисяч, а іноді і мільйонів периферійних пристроїв.

У цій статті я постараюся показати переваги впровадження штучного інтелекту на можливо більш ранніх етапах передачі інформації, застосовуючи концепцію переходу від Cloud computing в бік Fog computing.

Мій досвід розробки — понад 30 років, з них 17 років — в HighTech-індустрії Ізраїлю. В даний час працюю в компанії GlobalLogic на позиції Senior Solution Architect. Керівник напрямку компанії в області штучного інтелекту у вбудованих системах.

ІоТ сьогодні: використання та переваги

Коли в середині 90-х років до нас в компанію «Телрад» прийшли представники Java з їх першим продуктом Java 1.2, у нас, embedded-програмістів, був шок. Ми зрозуміли, що тепер код з сервера може виконуватися на будь-якому периферійному пристрої під контролем єдиного центру і навіть незалежно від конкретної платформи периферійного пристрою. З тих пір пройшло багато часу до появи по-справжньому пов'язаних через мережу пристроїв, які сьогодні ми називаємо IoT.

Напрямок потоку даних

Ще одна суттєва зміна, яка відбулася з того часу, цей напрямок потоку даних. Якщо раніше ми намагалися більше віддалено керувати пристроями, то тепер нам важливіше збирати інформацію з периферійних пристроїв, обробляти її за допомогою програмних алгоритмів, приймати рішення без залучення людини і тільки потім автоматично управляти пристроями. Фактично, виконувати повний цикл програми без участі людини.

Сьогодні IoT застосуємо в будь-якій сфері бізнесу. Деякі з областей я намагався розібрати у моїй попередній статті .

Прогноз

Ще одним істотним розвитком технології, вдало застосованої IoT, є побудова екосистеми рішення. Це передбачає об'єднання пристроїв, вироблених різними вендорами і використовуваними в єдиній програмі. Також екосистема об'єднує пристрої, Cloud і людей з різними функціями. Однією з найбільш важливих категорій рішень є передбачення. Цього типу рішень взагалі не існувало раніше. Пророкування подій надзвичайно важливо, оскільки економить величезні фінансові ресурси. Це зменшує необхідний запас складських активів та економить виконання різних процесів. Тому, обмін даними, як до/з центру, так і між пристроями, це тільки перший видимий перевага IoT-систем.

ІоТ завтра: перспективи

Ця індустрія розвивається лавиноподібним чином. За прогнозами Business Insider Intelligence, до 2025 року буде більше 55 мільярдів IoT-пристроїв у порівнянні з 9 мільярдами в 2017 році.

Які шляхи монетизації синергетичного ефекту штучного інтелекту і IoT видимі сьогодні:

Прийняття складних рішень на базі AI і автоматизація процесів з допомогою IoT.
Скорочення витрат на зберігання, оскільки AI здійснює прогнозування споживання.
Низька вартість реалізації. На сьогоднішній день готове пристрій з камерою, контролером, AI-прискорювачем коливається в межах $100-$300.
AI є каталізатором інших рішень і технологій. Привертаючи увагу і дивуючи своїми можливостями, повне рішення вимагає Cloud і Mobile-частин.
Більш ефективне побудова бізнесу за рахунок заміни людей на інтелектуальні автомати. Наприклад, боти на основі розпізнавання мовлення, скорочують кількість співробітників колл-центру.
Застосування на рухомих об'єктах дає можливість швидкого, недорогого і безпечного методу контролю важкодоступних і небезпечних місць. Наприклад, розміщення на квадрокоптере пристроїв AI дозволяє проводити діагностику висотних споруд і застосовується в зонах підвищеної небезпеки, таких як пожежі, бойові дії.
Периферійний пристрій IoT на базі AI не вимагає переустановлення для рішення зовсім іншої задачі. Перепрошивка пристрою або заливка нової моделі кардинально вирішує завдання переорієнтації кінцевого пристрою на іншу задачу.

За даними Forbes, штучний інтелект забезпечить збільшення прибутку на 38% до 2035 року.

Від інформації — до знань

Тенденція IoT із застосуванням AI — це рух від збору даних до агрегації знань.

Типові рішення IoT до цього часу мали наступну логіку. Фізичні датчики вимірюють аналогову величину, мікропроцесор периферійного пристрою переводить її в цифрову форму, перетворює в задану модель і передає в локальний концентратор. Звідти дані з декількох периферійних пристроїв в пакетному режимі передаються в Cloud, де обробляються механізмами аналізу великих даних. Приймається рішення по управлінню, яке передається назад в периферійні пристрої для управління виконавчими механізмами, як показано на рисунку. Паралельно, дані в аналітичному вигляді можуть надходити до користувачів.

З появою Embedded AI ситуація кардинально змінилася. Тепер замість того, щоб передавати величезні кількості сирих даних хмара, проводиться первинний аналіз прямо на периферійному пристрої. Фізичні датчики стали значно більш складними пристроями, наприклад, відеокамерами.

Разом з цим додалося ще одна суттєва перевага рішення: можливість приймати базові рішення локально, без участі хмари. Останнє додає цілий ряд переваг, таких як:

Робота в реальному часі — хмарні рішення не можуть гарантувати високу швидкість реакції на події в реальному часі від всіх периферійних пристроїв.
Секретність даних за рахунок опрацювання їх на локальному пристрої без передачі по мережі в хмару.
Можливість роботи з тимчасовою відсутністю зв'язку як між собою, так і з хмарою — higher level of service availability.
Фільтрація шумів і випадкових сигналів.
Інтеграція різних ІоТ-пристроїв peer-to-peer (без необхідності посередництва Cloud-частини) створює «smart facility», added value якого на порядок вище простої суми функцій окремих пристроїв.

Звичайно, залишаються і примітивні датчики, такі як контроль температури, вологості, швидкості та інші. Але навіть з такими датчиками, сукупність їх показань може оброблятися на локальному концентраторі без участі хмарних сервісів.

Така топологія рішення дає якісно новий результат для локальної обробки даних та прийняття рішення в критично важливих випадках. Але і це ще не все. Є більш складний рівень організації рішення в цілому, з використанням інтелектуальних потужностей хмари, здатних перебудовувати і адаптувати локальні моделі штучного інтелекту. Змінювати ці моделі на льоту і порівнюючи отримані результати, вибирати найбільш підходящі моделі. Виникає природне запитання: чи можна проводити коректування навчання на периферійному рівні без участі хмарних сервісів? Відповідь на це питання неоднозначна. Модель розпізнавання, в цілому, може робитися тільки спеціалізованими сервісами з великими комп'ютерними потужностями. Існують дві моделі машинного розпізнавання, що використовуються сьогодні в периферійних пристроях:

K-nearest сусідів.
Weight imprinting.

Обидві моделі тренуються датасетами на потужних обчислювальних мережах. Але навчання останнього рівня може і повинно проводитися на самому периферійному пристрої. Типовим додатком є модель розпізнавання осіб і останній рівень, натренований на конкретну людину.

Самооптимизация системи

Взаємодія різних пристроїв в загальному рішенні може дати додаткові вигоди як безпеки, так і по продуктивності агрегатів системи. Наприклад, при збільшенні температури батареї живлення, можуть знижуватися допустимі обертів робочого інструменту.

Таким чином, кожен пристрій може мати унікальні, властиві тільки їй характеристики. Такі як час обслуговування з урахуванням необхідних процедур, фактичні експлуатаційні дані пристрої, найбільш ефективні характеристики роботи. Пристрої стають схожі на живі організми, також унікальні в межах свого виду. Досвід навчання одного пристрою, історія його життєвого циклу, допоможуть застосувати це до нових моделей, автоматично програмуючи їх виробничі цикли для найбільш ефективного використання.

Фактично, IoT-рішення повинні застосовувати AI-компоненти на кожному рівні обробки і передачі даних. Таким чином, вся система стає самооптимизирующейся.

Принцип побудови AIoT-систем

Ми можемо сформулювати основний принцип побудови AIoT-систем наступним чином: кожен вузол системи, який може бути виділений фізично або логічно в незалежну одиницю, повинен прагнути обробити отриману інформацію таким чином, щоб передати іншим вузлам системи формалізовані дані у вигляді абстракцій, а не сирої інформації. З іншого боку, повинна бути можливість передачі оригінальних даних за запитом вузлів більш високого рівня для перевірки правильності створеної абстракції будь-яким з нижніх вузлів. Навчання моделей вузлів проводиться компонентами більш високого рівня ієрархії системи.

Таким чином, ми можемо говорити про обмін об'єктами знань між вузлами замість обміну інформацією. На малюнку представлена тільки ієрархічна частина обміну інформацією, але в реальному топології обмін інформацією може відбуватися і горизонтально на одному рівні абстракції. Такий тип комунікації дає два головних переваги: підвищення надійності передачі на більш високий рівень і облік даних «сусідів» для правильного вибору AI-моделі.

Fog Computing

Друга перевага не настільки очевидно, але може бути пояснено на наступному прикладі.

Припустимо, ми маємо кілька камер спостереження на території приватного будинку. Дві камери зареєстрували присутність людини, проте одна камера побачила обличчя і, зіставивши його з мешканцями будинку, встановила, що людина не член родини. Вона передала цю інформацію іншій камері, яка змінила модель розпізнавання осіб на модель реєстрації небезпечної активності.

Архітектура з частковим обчисленням і прийняттям рішення на проміжному рівні між датчиками і хмарою вже відома і отримала назву Fog Computing. З появою embedded AI-електронних пристроїв стало можливим її широке застосування. На графіку представлений функціонал AI в залежності від місця його реалізації. Чим ближче ми знаходимося до периферійного пристрою, тим більше ми зайняті визначенням ситуації та об'єктів, доступних до аналізу на цьому рівні. І по мірі збору інформації від суми об'єктів, ми можемо проводити аналіз, заснований на кореляції об'єктів даних від різних пристроїв. У відповідності з цим, чим ближче ми знаходимося до периферійного пристрою, тим більше модель AI відноситься до задачі класифікації об'єктів, таких як зображення, характерний звук, фільтрація перешкод. Чим ближче ми до Cloud, тим більше задача розпізнавання зводиться до розпізнавання відео і аудіо послідовностей (video and audio sequence detection), прогнозування подій майбутнього (прогнозування використання електроенергії в межах міста або країни) і симуляцій розумною інформації, такої як чат-боти, відео-генерація «говорящая голова».

Підсумки

AI-акселератори можуть бути використані як універсальний сенсор в системах IoT.
Краще передавати знання, ніж сирі дані.
Необхідно прагнути обробити інформацію на можливо більш низькому в загальній ієрархії рівні для подання абстракції на більш високий рівень.
Настав час переходити від хмарних до нечітких обчислень.
Взаємодія однорангових вузлів доповнює інформацію про реальності і якісно змінює алгоритм поведінки системи в цілому.

Опубліковано: 19/07/19 @ 07:00
Розділ Різне

SEO Блог