Дослідник нейромереж — про півсотлітню історію штучного інтелекту, свідомість АІ та розвиток людства - SEO Blog - все про пошукову оптимізацію та веб розробку українською.

Дослідник нейромереж — про півсотлітню історію штучного інтелекту, свідомість АІ та розвиток людства

Олександр Різник — доктор технічних наук, завідувач відділу нейротехнологій Інституту проблем математичних машин і систем НАН України і піонер нейромереж, якими займається ще з початку 60-х років минулого століття.

Олександр — спец з гідроакустики. У наукових колах світового масштабу він відомий завдяки глибоким досліджень у темі комунікації дельфінів та дешифрування їхньої мови. У Радянському Союзі працював в «поштовому ящику», секретному підприємстві оборонного напрямку, де йому навіть доводилося шукати під кригою північного полюса субмарини Сполучених Штатів. Паралельно він займався нейротехнологіями та штучним інтелектом, а в очолюваній ним лабораторії з гідробіоніки було створен перші в Європі експериментальні перцептрони.

У голові вченого — півстолітня картина розвитку нейронних мереж, штучного інтелекту та суперкомп'ютерів. Чому в розвитку нейромереж немає особливих результатів ще з минулого століття, а захоплення темою спад у найближчий час, чи може штучний інтелект мати свідомість та як комп'ютерній комп'ютери вже керують людьми — Олександр Різник розповів в інтерв'ю для DOU.

Надійні vs безнадійні

— Як ви вперше познайомились з нейронними ятерами?

На початку 60-х в пресі почали з'єднання являтись публікації про машини, які здатні до самонавчання. Я цим зацікавився. Згодом спало на думку, чому б не використати ці машини в гідроакустиці та як це зробити. Протягом 1969-71 рр. в лабораторії гідробіоніки Київського НДІ гідроприладів, яку я очолював, було створен перші в Європі експериментальні перцептрони АДАМ (адаптивні динамічні асоціативні моделі), призначені для досліджень з навчання розпізнаванню складних звукових сигналів. Один з них — Адам-А — мав 16 асоціативних елементів (нейронів), побудованих з використанням електрохімічних елементів пам'яті (мемісторів). Інший — Адам-Д представляв собою перший в світі повністю цифровий нейроком'комп'ютер, що складався з 512 асоціативних елементів, кожен з яких мав 8 входів. Завдяки гнучкій системі комутації ця модель дозволяла формувати складні багатошарові нейронні мережі. Для введення звукових сигналів використовувалась електронна модель внутрішнього вухан людини, яка забезпечувала перетворення звуків у послідовності 64-мірних векторів, що відтворювали реакції на вході слухового нерву.

У 60-х ми вже систематично працювали в цьому напрямку. Вважаю, що ми тоді все ж змогли наздогнати американців. Але у владної верхівки, яка керувала грошовими потоками, була інша думка щодо суті нашої діяльності. Вона заморозила роботу. Правда, ця тенденція була по всьму світу. Навіть у США були припинені великі дослідження з нейрокомп'комп'ютерах. Захоплення цією темою згасло вперше. Усього таких загасань було два.

— З чим це було пов'язаність язано вперше?

Десь з кінця 60-х й 15 років по тому роботи у напрямку нейронних мереж та штучного інтелекту вважались безперспективними. Фундатор штучного інтелекту Марвін Мінський у співавторстві з Сеймуром Папертом в 1969 році написав книжку під назвою «Перцептрони». Перцептрон — це назва першого прототипу нейромережі, яка була запропонована американським дослідником Френком Розенблатом в 1957 році. Це була перша нейромережа, яка здатна навчатись будь-чому. Перцепція — штука, яка може пристосовуватись. У Розенблата нейрокомп'комп'ютер був заснований на знанні того, як побудована нервова клітина у людини. Він вважав, що за таким принципом можна конструювати обчислювальні машини. Їх застосовували для розпізнавання звуків, зображень та іншого. Лише в Києві тоді було близько п'яти організацій, у яких розробникі створювали моделі пристроїв для розпізнавання чого-небудь. Наша група була найсильніша.

— Чому тоді згодом почався занепад?

Марвін Мінський розчарувався у своїх дослідженнях, що спричинило довготривалий спад зацікавлення в цій тематиці. Ті, хто займався моделюванням біологічних процесів, нейронними ятерами, мовою дельфінів, штучним інтелектом, що потрапили під скорочення, як я, й залишились без роботи.

Не було розроблено математичних методів, які б пояснювали, чому перцептрон, що працює як нервова клітина, не здатен навчитись робити багато завдань. Тобто не було математичної теорії, яка б могла довести, що це правильні методи. Дефіцит теоретичного обґрунтування давши можливість Мінському сказати, що насправді має все бути зовсім інакше.

Я був відсторонений від робіт приблизно на двадцять років. У 80-му році я перейшов до Інституту кібернетики. Тоді якраз створювався радянський суперкомп'комп'ютер, під який нікого спеціальну лабораторію. Там займались керуванням, системи, в якій було близько 500 різних обчислень, і всі вони повинні були працювати в унісон, як єдиний мозок. Мене якраз туди запросили цим займатись.

— Це вже було ближче до початку нового життя у галузі. Як ви сприйняли відродження після одного покоління застою?

Так. Інформація про відродження мене вразила. Це було пов'язаність язано з американським вченим Джоном Хопфілдом. Він розробляв спосібі захисту очей солдатів, яких уражав промінь з лазерної зброї. Ця тема була популярною, оскільки спінове скло являло собою квантову систему, що мала кілька стабільних станів і миттєво змінювала прозорість, якщо промінь лазеру діставав деякої її ділянки. Геніальним було дійти висновку, що пов'язані між собою/нейрони діють як молекули спінового скла, а їхні стабільні стани є аналогом асоціативної пам'яті мозку.

Оскільки Хопфілд був непоганим математиком, він знайшов рівняння, яке прописує поведінку групи цих нейронів. Це було відкриття, яке повернуло увагу світової спільноти до нейронних мереж, які тепер видавались не такими даремними, як про це свого часу казав Мінський. Він зумів описати колективну поведінку великої кількості нейронів: як у них формується пам'ять, яким чином в цій пам'яті залишається різна інформація та як її відтворювати. Якщо нейронна мережа знаходить щось схоже на те, що вона вже пам " ятала, у неї миттєво відновлюється інформація по всіх каналах. Це і є асоціація. Коли ми згадуємо щось за певними аналогіями, у нас відтворюється весь образ. Хопфілд зміг весь цей механізм описати, чим повернувши довіру до нейронних мереж почався нейрокомп'ютерний бум.

До Радянського Союзу він дійшов десь під кінець 80-х років. У 1989 році я поїхав у тодішній Ленінград на всесоюзну конференцію нейронників, які ще залишилися в галузі. Ми обмінювались думками й міркували, що робити з програмами зі створення нейрокомп'ютерів, бо в Штатах вже кипіла робота й виділяли мільярдне фінансування. За важливістю вона наближався до проекту «Мангеттен» зі створення атомної бомби. Тоді вважали, що нейрокомп'комп'ютери, які здатні до навчання, можуть вирішити проблему нестачі програмістів.

— Як далі розвивалась тема нейронних мереж?

Зі свого досвіду скажу, що захоплення нейромережам — це періодичний процес, який відбувається хвилями. У середині 90-х стало зрозуміло, що ми можемо робити непогані нейрокомп'комп'ютери. Але надії на те, що вони здатні вирішувати завдання на рівні людей, були перебільшені, адже вони навчаються не так добре й ефективно, як всі очікували. Почалась друга хвиля спаду інтересу до цієї галузі й розмови, мовляв, нейромережі — це невдала ідея, яка потребує багато грошей, а результат — не такий, як треба.

Лише в 2007 році група дослідників з Канади зробила прорив, застосувавши програму з дуже великою кількістю нейронів. Вона показувала рекордні результати за якістю є ятовування та розпізнавання даних. З того часу почалась нова ера — deep learning.

1983 р. Інститут кібернетики НАН України. Проект багатопроцесорного суперкомп'ютера ЕС-1766. Бесіда з головним конструктором проекту, доктором технічних наук С. Б. Погребинським

Відсутність результатів та взаємодія зі Всесвітом

— Ви читаєте зарубіжну літературу на тему штучного інтелекту та нейронних мереж, слідкуєте за останніми тенденціями. Що з останніх досягнення в цій сфері вас вразило?

Відсутність результатів.

— А проекція облич на інших людей, «творчість» нейромереж та багато іншого?

Все це було і в 90-х роках у перших нейрокомп'комп'ютерах. Не можна сказати, що сьогодні це принципові досягнення. Робите сильніше фінансове вливання й збільшуєте потужності — вирішуєте більше завдань. Проблема в іншому. Має бути інший принцип роботи з цими даними. З глибокими нейронними ятерами проблема в тому, що зараз здешевшав обчислювальний ресурс — обсяг пам'яті на комп'ютерній комп'ютерах за останні десять років виріс у десятки разів. Все те, що було недоступним взагалі десять років тому, зараз є у вашому мобільному телефоні. Альо не з'єднання являється нова якість.

З великими даними щось відбувається не так, як ми собі уявляли. Наші моделі, методи й уся наука базується на антропному принципі. Вважається, що всі наші дії — це правильно, в цьому напрямку треба рухатись, і тільки це є добре. Решта — нікому непотрібно. У Радянському Союзі вимальовувалась теза, що нам не потрібно чекати милості від природи, ми маємо підкоряти, захоплювати, завойовувати, наче ми завжди праві. Але виявилось, що жива природа навколо нас стає все слабшою тоді, як ми є «праві». Всі техногенні катастрофи — результат нашої діяльності. Люди часто не враховують, що мають працювати в межах, які дозволяє природа.

Сьогодні суспільство оперує набагато більшою кількістю інформації, ніж реально може осягнути людина. Ніхто не знає усього, ми знаємо лише якусь частину від того, що потрібно знаті. Наприклад, мобільний телефон — забавка, яка коштує певну кількість грошей. Але насправді — це досвід тисяч людей й матеріалізована наука. Люди залежні від оточення й считают собі вершиною всього й такими, яким усе повинно підкорятись. А ось звідки взялося це життя, як воно функціонує й чому?

— Ви скептик?

Я не дивлюсь скептично. Я дивлюсь активно. Моє завдання — зрозуміти, що відбувається в нейронних мережах: чому вони діють саме так, чому у нас такі результати, а не інші. Багато людей приймають будь-який результат, наче це добре й так повинно бути. А коли повторюють ті самє й отримують інший результат, то кажуть, мовляв, яка прикрість.

— Чого нейронні мережі не зможуть зробити найближчим часом?

Відтворити реальний людський інтелект, тобто свідомість. Є певні обмеження. У 1945-1946 роках Норберт Вінер придумавши назву «кібернетика». За його означенням — це управління технічними, діалогічними та соціальними системами. Цей підхід дуже був схожий на загальну теорію систем, яка розроблялась багатьма вченими. Вони передусім приділяли велику увагу процесах управління, зворотного зв'язку. На шкода, послідовники кібернетики звернули увагу лише на одну сторону — методи обчислень. Ви маєте передбачити результати свого управління. Інакше можуть бути погані наслідки. Проблема в тому, що цей зворотній зв'язок, з яким ми пов'язані, ставити нас в залежність від оточення. А наше оточення яке? Ми є маленькою частинкою Всесвіту.

— Що ви маєте на увазі?

Ті, що фундаментальні поняття, на яких ми базуємось, є зовсім не такими, як вони в природі виглядають. Наприклад поняття простору-часу. Смороду виникло завдяки Айнштайну та іншим науковцям ХХ століття. Виявилось, що ми існуємо не в такому тривимірному світі, який бачимо. Є ще годину. А можливо, й інші виміри, які поки що не можемо осягнути. Все, що відбувається й всі наші дії, — елемент певного безперервного процесу. А отже, взаємодіючи з усім, маємо розраховувати, як ми впливаємо на ті, що нас оточує. Це й про атмосферу, зміну погоди, катаклізми, клімат, озонові діри та інше. У тієї ж годину ми маємо доступ до величезної бази даних, наприклад, Google, адже тепер не треба шукати енциклопедію Брокгауза і Єфрона в бібліотеці, бо у вас набагато потужніша є в Інтернеті — це майже безмежний досвід.

— Згадалось, у фільмі «Людина-павук» була фраза: «Чим більша сила, тим більше відповідальність».

Саме так. Вона, мабуть, повинна проектуватись на гармонію у світі. Візьмемо навіть наш парламент. Думаєте, там щось відбувається з глобального кута зору й на перспективу людства?

Ми всі є членами дуже потужної системи, яку не розуміємо. Тому ми схильні підкорятись тім, хто представляє цю загальну систему — держава, корпорація тощо. Ми всі стаємо рабами цієї системи. Це є головна загроза сьогоднішньої ситуації. Віра в те, що штучний інтелект щось зробить. Нічого він не зробить. Він може повторювати наш власний інтелект, дуже непогано виконувати деякі завдання, дещо робить гірше, але в нього немає цілісного сприйняття і можливості робити щось своє.

Що про себе думає AI та природа інтелекту

— Що ви думаєте про робота Софію ?

Чудовий робот. Вона дуже добре може імітувати людську поведінку, непогано розпізнає звуки мови, можливо, вона навіть розпізнає обличчя.

Все залежить від того, що ми називаємо інтелектом. Якщо інтелект — це вміння імітувати людську діяльність, тоді так, це штучний інтелект. В дечому він навіть кращий за нас. Але є одна річ. Що цей інтелект буде казати про самого собі й кім собі вважатиме, якщо ми наділимо його свідомістю?

— І ким він може себе вважати?

А це проблема. Усе, що ми робимо, має бути прийнятне для світу. Інакше ми не виживемо. Якщо створимо машину, яка так чинитиме й так житиме, тоді це чудово. Можливо, вона претендуватиме на безсмертя. Це теж непросте питання.

Тривалий час здавалось, що людина створює ефективний інструмент для інтелектуальної обробки інформації. Зараз потужність комп'ютерній ютерів і всієї галузі, зокрема з появою хмарних обчислень, вийшли на рівень тієї, що людина не здатна контролювати зміст діяльності, яку виконують комп'ютерній комп'ютери. Системи штучного інтелекту можуть непогано виконувати дії, що виконує людина. Альо смороду не мають мети.

Ми, люди, існуємо, щоб бути більш досконалими. У нас є конкуренція, ми намагаємось бути кращими. Думаю, ця здатність поступово переходити від розробників до технічних пристроїв, яких ми наділяємо інтелектом. Подальший розвиток техніки складає враження, що люди не планують розвиток комп'ютерній ютерів, а комп'ютерній комп'ютери роблять це самі. Тобто світ перейшов у стадію, коли інтелект від людини переходити до матеріального комп'ютера. Ці комп'ютерній комп'ютери вдосконалюються, використовуючи людство як інструмент, що дозволяє їм розвиватись далі.

Ті, що Софія та інші антропоподібні комп'ютерній комп'ютери ззовні нагадують людину, не означає, що вони думали, як людина. А в них в голові вже сидять досить потужні комп'ютерній комп'ютери. Ми дуже залежні від них, тому вимушені їх виробляти. Незабаром настане час, думаю, за одне покоління, коли виробництво комп'ютерній ютерів відбуватиметься зовсім без людей. І навіть проектувати нові моделі теж будуть самі машини. Що ця автоматизована індустрія матиме на меті й до чого рухатиметься — гадки не маю.

— Про що це говорити, на вашу думку?

Думаю, що поступово ми самі стаємо рабами свого інтелекту. Наші гібридні війни — це якраз продукт втрати контролю. Коли ніякі моральні принципи вже не є перепоною, щоб робити будь-що.

— Ви написали статтю «Про природу інтелекту» . Що ви вважаєте інтелектом?

Це надто складна річ для однозначного визначення. Потоки нейронних імпульсів у мозку перетворюються на звуки мови, зображення. Ми їх сприймаємо відповідними органами чуття. Всі ми разом обмінюємось між собою інформацією. Фактично кожен з нас є такою собі клітиною, яка взаємодіє з іншими такими ж клітинами, й таким чином спільною роботою всіх мізків щось створюється. Це ми завантажуємо у віртуальна реальність — наш досвід, наше життя. Все це разом утворює якусь велику спільноту та є втіленням того інтелекту.

А взагалі не знаю, навіщо природі було вигадувати життя. Невдовзі щось точно має відбутись.

— Що ви маєте на увазі?

Через простір-час протікає нескінченний потік енергії. У ньому можуть виникати турбулентності, які ми сприймаємо як матеріальний світ. Тобто ми самі. Цей процес призвів до утворення планет, появи життя, інтелекту й нарешті — комп'ютерній ютеризованого штучного інтелекту. Зараз іде процес передачі інформації від біологічного носія — людей, до технічного — комп'ютерній ютерів. Ми спостерігаємо за цим процесом, але ми самі є продуктом цього процесу. Ми не можемо ззовні подивитись на процес. Та й не маємо цілісної картини світу. Як воно буде продовжуватись — ніхто не знає.

А може, ми визнаємо, що еволюція людини закінчилась, весь наш розум віддамо комп'ютерній комп'ютера, створимо супермегакомп'комп'ютер, який сам відтворюється, й нехай собі існує. А може, з'явиться якась така машина, яка захоче позбутися людей, бо вони здаватимуться їй загрозою свого існування. Все може бути.

Що саме буде — сказати неможливо. Але існує вірогідність, що протягом найближчих 1000 років Земля неодмінно зіткнеться з якимось астероїдом. Маск хоче переселити людей на Марс. Альо Марс нічим не кращий.

Словом, ми не знаємо, чим закінчиться тієї Всесвіт, у якому ми існуємо. Завдяки зокрема Гокінгу та іншим науковцям, ми знаємо про це набагато більше. Проте я дивлюся, які наші можливості заразом, й можу сказати, що ми починаємо гратися в дуже ризиковані ігри. Атомної зброї достатня для того, щоб зникло все живе з нашої планети.

Працювати день-ніч протягом кількох років та нові дисципліни

— Ви випали з тими на двадцять років. Минуло ціле покоління. Як це — повертатись в тему через стільки років?

По суті, нам довелося навчатися заново. Десь у 1990-му році я був на конференції, де міркували, мовляв, що робити з нейрокомп'ютерами. Увесь світ тоді почав грандіозні програми у цій темі, а в Союзі так і не розібрались, з чим їдять нейрокомп'комп'ютери.

На щастя, на цій конференції був учасник з США. Я у нього випросив роботи з конференції в Сан-Дієго 1986 року. Я зробив копії, й ми всім відділом їх вивчали, щоб надолужити те, що втратили. Десь до 1995 року ми це все освоїли. Я нарешті закінчив докторську дисертацію, яка була готова ще з початку 70-х років. Коли у тебе все це є і тобі викидають... Можете уявити, як це пережити. Не підберу слова. Ми були на передку і одразу стали позаду. Наче повернулися з того світу.

Як перенавчатись? Берете літературу й працюєте день-ніч протягом кількох років. Так і наздоганяли.

Пам'ять пам'ятаю, читав студентам КПІ лекції й відчував себе динозавром. Це цікаво — бачіті всю цю історію й сприймати її інакше, ніж свіжі люди, які приходять до вже готового.

Важливо відвідувати різні наукові конференції. Коли туди потрапляєш, то відчуваєш тренді, думки, вектори розвитку. Їх багато відбувається у світі. Але у нас немає грошей туди їздити. Іноді когось вдається направити якось з роботою. Але ми маємо мало контактів, щоб працювати в тому середовищі.

Пригадую, як був на конференції у Вашингтоні в 1999 році. І це лише завдяки тому, що ми розробляли нейрокомп'комп'ютер для однієї компанії, яка взяла витрати на собі. Там я виступивши, отримав навіть приз за найкращу доповідь. Це і всі мої контакти. Добре, що мої співробітники зараз частіше бувають на конференціях. Якось намагаємось підтримувати рівень. Але цього, звісно, недостатньо.

Словом, час не стоїть на місці. Зараз мені доводиться освоювати дисципліни, які раніше, здавалось, не мали відношення до якихось інженерних справ.

— Наприклад?

Як ми функціонуємо, де ми живемо, що таке думки, що таке інтелект, кого вважати живим та інше. Зараз читаю «Пізнання складного» Іллі Пригожина, лауреата Нобелівської премії. Це про ті, чим я зараз займаюсь — інтелект та інше. Там цілий напрямок так званих неврівноважених систем.

На полиці в мене айнштайнівський збірник фундаментальних основ, зокрема теорії відносності, «Фізика і філософія. Частина і ціле» Гейзенберга — це один з фундаторів квантової теорії, теж лауреат Нобелівської премії. Інженерні думки сьогодні надто поверхові, тому змушений знайомитись з іншою сферою та іншими думками, щоб глибше подивитись на ті, чим я займався останні років тридцять. Проблеми треба глибоко вивчати, бо ми рухаємось далеко, правда, самі не знаємо, куди.

2004 р. Відділ нейротехнологій Інституту проблем математичних машин і систем НАН України

Одна з головних рекомендацій — немає ніяких рекомендацій

— Чим пишаєтесь та за що шкода в своїй роботі?

Шкода, що нам крила врізали на початку 70-х років. Як по дельфінам, так і нейрокомп'ютерам. Мій колега, Олег Рогозовський, з яким я колись працював в одному відділі, переїхав до Німеччини. Там він написав книжку «Записки ящикового єврея», де йому добре вдалося змалювати атмосферу того часу й описати свої відчуття, коли нас закрили.

Основною проблемою з потужними нейромережам булі методи їхнього навчання. Ми тоді підходили до так званого методу зворотного поширення, який був винайдений десь за кілька років — у 1975 році. Альо не дійшли.

Дослідник на прізвище Вербос запропонував цей алгоритм, що вирішує ту проблему, над якою ми працювали. У мене була схожа ідея під кінець десятиліття. Правда, його роботу ніхто не помітив. Її зауважили лише за десять років, але на той час вже це перевинайшли. Весь цей поступ дуже складний. І є дуже багато паралельних робіт, непомічених, не підтриманих.

Я не можу сказати, що у мене є якісь великі досягнення. Є робота про дельфінів. Так, на неї досі посилаються багато американських вчених, хоч я написавши її більш ніж два десятиліття тому. Вісь пишатись чи не пишатись? Не знаю. У Сполучених Штатах я відомий лише за дельфінній тематиці — дельфінолог. Була навіть цікава історія, пов'язана з цим.

— Розкажіть.

Пригадую ситуацію на початку 70-х. Якось мені дають лист, що прийшов на моє ім'я із США. В адресі вказана назва нашої організації, її номер, номер поштової скриньки. А всі ці комбінації були засекречені. Мене питають, звідки я знаю цю людину. Я дивлюсь — Доктор Норіс, директор гавайського центру ВМС США. Вони займались тоді дельфінами. Доктор Норіс пишучи, що буде в Радянському Союзі й хотів би познайомитись зі мною та моєю лабораторією. Він був упевнений, що це працює дуже солідна фірма, якщо дослідження виконуються на такому рівні. До листа додав ще кілька своїх робіт. На шкода, так з ним і не побачився.

Я казав, що це відомий вчений, альо мене періодично викликали на допити, вимагали пояснень, намагались завербувати в КДБ. Мені доводилося вигадувати різні версії, наче, я не здатен, не можу. Згодом мене полишили — сказали, що зрозуміли, як американці дізнались нашу адресу. Як вони це нікого, я досі не маю гадки.

— Ви працюєте в цій темі понад п'ятдесят років. Як, з вашої точки зору, виглядає розвиток галузі за півстоліття?

На початку 60-х років обчислювальна техніка була одним з прикладних напрямків кібернетики. Весь наш Інститут кібернетики виріс на лабораторії, яка у нас була. Там витворили одну з перших у Європі обчислювальних машин під керівництвом Лебедєва — «МЭСМ». Вона дуже примітивна на сьогодні, альо головне — обчислювала автоматично.

Коли почав працювати з перцептронами, довелося читати великий пласт біологічної літератури, яка пов'язана з нервовою системою людини.

У 60-х роках, як мені здається, було дуже бурхливе наукове життя. Принаймні в напрямку кібернетики та обчислювальної техніки. Я бував кілька разів на рік на всесоюзних конференціях. Зараз бачу багато схожого на тій період. Для молодих програмістів створюють конкурсні програми, видають гранти.

Все ж глибокого проникнення в цю дисципліну мало. Готуються непогані ремісники. Альо це ремесло, науково-технічна діяльність — це зовсім інше. Це прикро. Якщо ми на рівні ремесла вписуємось у світовий потік, тоді у нас мало шансів займати провідні позиції в майбутньому.

Коли я працював, для нас взірцями були вчені світового рівня. У нас була мета — перегнати Штати, де у тій годину створювався перцептрон для розпізнавання звуків. Ми горіли своєю справою. Зараз я не бачу таких устремлінь у молодих. Можливо, я насправді просто їх не бачу. Альо поки враження, що молоді люди не надавати перед собою високу планку. Багато людей мають за мету лише створити красивий запис до свого портфоліо.

— Яку б дали пораду молодим розробникам на майбутнє?

Одна з головних рекомендацій — немає ніяких рекомендацій та надійних шляхів, а всі мейнстримні напрямки швидко вичерпуються.

Опубліковано: 17/04/18 @ 07:22
Розділ Різне

SEO Блог