Згорткові нейромережі: що це і для чого вони потрібні?

• Згорткові нейронні мережі (Convolutional Neural Networks, CNN) – особливі типи нейронних мереж, які допомагають комп’ютерам бачити та розуміти зображення та відео.
• Такі мережі мають кілька шарів, які називаються згортковими. Вони дозволяють CNN вивчати складні особливості та робити більш точні передбачення про вміст візуальних матеріалів.
• Згорткові нейромережі застосовуються в тому числі для розпізнавання осіб, автопілотування, медичного прототипування та обробки природної мови.

Як влаштовані згорткові нейромережі?

CNN працюють, імітуючи людський мозок, та використовують набори правил, які допомагають комп’ютеру знаходити особливості у зображеннях, розуміти та інтерпретувати інформацію.

Кожен шар такої мережі обробляє дані та спрямовує виявлені особливості наступного шару для подальшої обробки. Вони використовуються фільтри, які допомагають виділити важливі особливості, наприклад краю чи форми об’єктів на зображенні.

Коли до візуального матеріалу застосовуються фільтри, ми отримуємо згорнуте зображення. Потім CNN його аналізує та виявляє важливі особливості. Цей процес називається вилученням ознак.

Крім згорткових шарів, CNN включають:

• шари пулінгу, які зменшують розмір зображення, щоб мережа могла працювати швидше та краще узагальнювати дані;
• шари нормалізації, які допомагають запобігти перенавченню та покращити продуктивність мережі;
• солозв’язні шари, які використовуються для класифікації.

Як вони працюють?

Згорткові нейронні мережі працюють таким чином:

• вхідні дані, такі як зображення або відео, надходять на вхідний шар;
• згорткові шари отримують різні ознаки з вхідних даних. Вони використовують фільтри виявлення меж, форм, текстур та інших характеристик;
• після кожного згорткового шару застосовується функція активації ReLU. Вона додає нелінійність та допомагає покращити продуктивність мережі;
• далі слід шар пулінгу. Він зменшує розмірність карт ознак, вибираючи найважливіші значення кожної області;
• повнозв’язні шари приймають вихідні дані з шару пулінгу і використовують набір ваги для класифікації або передбачення. Вони об’єднують виділені ознаки та приймають остаточне рішення.

Приклад виконання завдання.

Припустимо, згорткової нейронної мережі необхідно класифікувати зображення кішок та собак. Операція буде проведена за таким алгоритмом:

• вхідний шар: отримує кольорові зображення собаки або кішки у форматі RGB, де кожен піксель представлений значеннями інтенсивності червоного, зеленого та синього кольорів;
• згортковий шар: застосовує фільтри до зображення, щоб виділити характеристики, наприклад краю, кути та форми;
• шар ReLU: додає нелінійність, застосовуючи функцію активації ReLU до виходу згорткового шару;
• шар пулінга: Зменшує розмірність характеристик, вибираючи максимальні значення у кожному ділянці карти ознак;
• повторення шарів: безліч згорткових та пулінгових шарів об’єднуються для вилучення все більш складних характеристик із вхідного зображення;
• шар розгладжування: перетворює вихід попереднього шару одномерний вектор, що представляє всі характеристики;
• повнозв’язковий шар: приймає розгладжений вихід та застосовує ваги для класифікації зображення як собаки чи кішки.

Згорткова нейромережа навчається на прикладах із зображеннями, які вже мають ярлики, що вказують, що на них зображено. У процесі навчання вага фільтрів та повнозв’язкових шарів змінюється, щоб знизити ймовірність помилок між прогнозами мережі та правильними відповідями.

Коли навчання закінчено, CNN може точно визначити, що зображено на нових, ще знайомих, зображеннях кішок і собак. Вона використовує отримані знання про ознаки та шаблони, щоб ухвалити правильне рішення про класифікацію.

Які існують типи згорткових нейронних мереж?

• традиційні CNN , також відомі як «звичайні», складаються з серії згорткових та субдискретизуючих шарів, за якими слідують один або кілька повнозв’язкових шарів. Кожен згортковий шар у такій мережі виконує згортки з використанням фільтрів, що навчаються, для вилучення ознак з вхідного зображення. Прикладом традиційної CNN є архітектура Lenet-5, яка була однією з перших успішних нейронних згорткових мереж для розпізнавання рукописних цифр. Вона складається з двох наборів згорткових та субдискретизуючих шарів, за якими йдуть два повнозв’язні шари. Архітектура Lenet-5 продемонструвала ефективність CNN в ідентифікації зображень, і вони стали широко застосовуватися в галузі комп’ютерного зору;
• рекурентні нейронні мережі (Recurrent Neural Networks, RNN ) можуть обробляти послідовні дані з огляду на контекст попередніх значень. На відміну від звичайних нейронних мереж, які обробляють дані у фіксованому порядку, RNN можуть працювати з входами змінної довжини та робити висновки, що залежать від попередніх входів. Рекурентні нейромережі широко використовуються для обробки природної мови. Працюючи з текстами вони можуть лише генерувати текст, а й виконувати переклад. Для цього рекурентна нейромережа навчається на парних реченнях, складених двома різними мовами. RNN обробляє пропозиції по одному, створюючи вихідну речення, яка на кожному кроці залежить від вхідної. Завдяки цьому рекурентна нейромережа може правильно перекладати навіть складні тексти, оскільки вона враховує попередні входи та виходи, що дозволяє їй розуміти контекст;
• повністю згорткові мережі (Fully Convolutional Networks, FCN) – широко використовуються в задачах комп’ютерного зору, таких як сегментація зображень, виявлення об’єктів та класифікація зображень. Вони навчаються від початку до кінця з використанням методу зворотного розповсюдження помилки (backpropagation) для категоризації чи сегментації зображень. Backpropagation допомагає нейронної мережі обчислити градієнти функції втрат за вагами. Функція втрат використовується для вимірювання того, наскільки добре модель машинного навчання передбачає очікуваний результат для заданого входу. На відміну від традиційних згорткових нейронних мереж, FCN не мають повнозв’язкових шарів і повністю базуються на згорткових шарах. Це робить їх більш гнучкими та ефективними для обчислень;
• мережа просторових трансформацій (Spatial Transformer Network, STN) — застосовується у завданнях комп’ютерного зору поліпшення здатності нейронної мережі розпізнавати об’єкти чи візерунки на зображенні незалежно від розташування, орієнтації чи масштабу. Це називається просторовою інваріантністю. Прикладом використання STN є мережа, яка застосовує перетворення вхідного зображення перед його обробкою. Перетворення може включати вирівнювання об’єктів на зображенні, виправлення перспективних спотворень або інші зміни, що покращують роботу мережі у конкретній задачі. STN допомагає мережі обробляти зображення, враховуючи їх просторові особливості, та покращує її здатність розпізнавати об’єкти у різних умовах.

Які переваги у CNN?

Однією з головних переваг згорткових нейронних мереж є інваріантність до зсуву. Це означає, як уже було сказано вище, що CNN може розпізнавати об’єкти на зображенні незалежно від їхнього розташування.

Ще одна перевага – загальне використання параметрів. Це означає, що той самий набір параметрів застосовується для всіх частин вхідного зображення. Такий підхід дозволяє мережі бути більш компактною та ефективною, оскільки вона не повинна запам’ятовувати окремі параметри для кожної області матеріалу, що вивчається. Натомість вона узагальнює знання про ознаки на всьому зображенні, що особливо корисно при роботі з великими обсягами даних.

Інші переваги CNN включають ієрархічні уявлення, які дозволяють моделювати складні структури даних та стійкість до змін, що робить їх надійними для різних умов зображень. Крім того, згорткові мережі можуть бути навчені end-to-end, тобто навчання моделі відбувається по всьому шляху від вхідних даних до висновку, що прискорює процес навчання і підвищує загальну продуктивність мережі.

CNN можуть вивчати різні рівні параметрів вхідного зображення. Верхні шари мережі вивчають складніші характеристики, такі як частини та форми об’єктів, а нижні шари – простіші елементи, наприклад межі та текстури. Ця ієрархічна модель дозволяє розпізнавати об’єкти на різних рівнях абстракції, що є особливо корисним для складних завдань, таких як виявлення об’єктів та сегментація.

Крім того, CNN можуть бути навчені по всій мережі відразу. Це означає, що градієнтний спуск (алгоритм оптимізації) може одночасно оптимізувати всі параметри мережі для покращення її продуктивності та швидкої збіжності. Градієнтний спуск дозволяє моделі коригувати параметри з урахуванням інформації про помилку, щоб мінімізувати втрати у процесі навчання.

А які недоліки?

Для навчання CNN потрібен великий обсяг розмічених даних, і він часто займає багато часу. Це з високими вимогами до обчислювальної потужності.

Архітектура CNN, що включає кількість та тип шарів, може впливати на продуктивність мережі. Наприклад, додавання більшого числа шарів дозволяє підвищити точність моделі, але й збільшує складність мережі, а з нею вимоги до обчислювальних ресурсів. Глибокі архітектури CNN також страждають від перенавчання, коли мережа зосереджується на тренувальних даних та погано застосовує отримані знання до нових, невідомих даних.

У завданнях, де потрібне контекстне розуміння, наприклад, в обробці природної мови, згорткові мережі можуть мати обмеження. Для таких завдань найкращі інші типи нейронних мереж, які спеціалізуються на аналізі послідовностей та враховують контекстуальні залежності між елементами.

Незважаючи на ці недоліки, згорткові нейронні мережі все ще широко застосовуються і демонструють високу ефективність у глибокому навчанні. Вони є ключовим інструментом у галузі штучних нейромереж, особливо у завданнях комп’ютерного зору.

Матеріал підготовлений за участю мовних моделей розроблених OpenAI. Інформація, представлена ​​тут, частково ґрунтується на машинному навчанні, а не на реальному досвіді чи емпіричних дослідженнях.