1. Введение
Глобальный рост населения и увеличение спроса на сельскохозяйственную продукцию диктуют необходимость повышения эффективности агропроизводства без ущерба для качества продуктов и окружающей среды
[1][2][1][3]
Развитие информационных технологий, включая Интернет вещей (IoT), облачные вычисления и дистанционное зондирование Земли с помощью беспилотных летательных аппаратов (БПЛА), революционизирует понимание агроэкосистем
[4][5][4][1][3][1][6]
Современные исследования подтверждают, что методы DL статистически значимо превосходят традиционные подходы в задачах выявления болезней растений (точность до 97,8% на моделях VGG19 для картофельных листьев
[4][1][7][8][9]
Архитектуры искусственных нейросетей (ИНС), например, Inception и ResNet, успешно решают часть этих задач за счет многоуровневой абстракции и специфических функций активации
[4][10]
Проблема исчезающего градиента может решаться в сетях с рекуррентными слоями, например, «Long Short-Term Memory» (LSTM), представленными на рис.1-а. Комбинация сверточных слоев со слоями подвыборки, например в архитектуре Inception, обеспечивает более релевантные результаты.
Элементы архитектуры слоев ИНС:a) LSTM; b) ячейка Inception
Цель исследования — математическое обоснование архитектуры комбинированной сверточной нейронной сети и разработка детерминированного метода параметризации её весов для обеспечения робастной мультиклассовой классификации дефектных участков агроценозов по RGB-изображениям высокого разрешения, получаемым с БПЛА в составе мобильных киберфизических систем.
Предполагается, что замена стохастической инициализации весов детерминированной (нормализованной) инициализацией, математически согласованной с полулинейной функцией активации ReLU, позволяет:
1) аналитически нивелировать дисперсию активаций на прямом и обратном проходах сети;
2) исключить попадание траектории градиентного спуска в локальные минимумы целевой функции;
3) статистически значимо повысить точность классификации минорного класса (дефицит питательных веществ) на заведомо несбалансированном агрономическом датасете без применения ресурсоёмких процедур предварительного обучения и многократных перезапусков.
Задача автоматизированного выявления дефектных участков посевов по цветным аэрофотоснимкам формализуется как задача мультиклассового распознавания образов.
Пусть [LATEX_FORMULA]X \subset \mathbb{R}^{H \times W \times C}[/LATEX_FORMULA]
Y = {A, B, C, D} = {(1,0,0,0), (0,1,0,0), (0,0,1,0), (0,0,0,1)},
где A — оптимальное развитие, B — локальное компенсаторное развитие, C — среднее развитие, D — дефицит питательных веществ и микроэлементов.
Задана обучающая выборка
причём распределение классов
P(yDMissing Mark : sub) << P(yAMissing Mark : sub).
Требуется построить параметрическое отображение
где(K-1)-мерный вероятностный симплекс, а [LATEX_FORMULA]\theta \in \mathbb{R}^{P}[/LATEX_FORMULA]
Отображение fθMissing Mark : sub реализуется как композиция
где φl Missing Mark : sub — операции свёртки (Conv2D), пакетной нормализации (BatchNorm), подвыборки (MaxPooling) и регуляризации (Dropout); σ — функция
Целевая функция обучения — категориальная кросс-энтропия:
Оптимальный вектор параметров определяется как:
При стандартной стохастической инициализации [LATEX_FORMULA]\theta_{0} \sim \mathcal{U}(0,1)[/LATEX_FORMULA] траектория обучения [LATEX_FORMULA]\left\{\theta^{(t)}\right\}_{t=0}^{T}[/LATEX_FORMULA] определяемая правилом обновления оптимизатора Adam:
обладает высокой дисперсией сходимости: [LATEX_FORMULA]\operatorname{Var}\left[\mathcal{L}\left(\theta^{(T)}\right)\right] \gg 0,[/LATEX_FORMULA]
Требуется найти такую детерминированную инициализацию
при одновременном выполнении условия повышения метрики F1-score для минорного класса D:
[LATEX_FORMULA]F_{1}\left(y_{D} \mid \theta_{\text {det }}\right)>F_{1}\left(y_{D} \mid \theta_{\text {stoch }}\right) .[/LATEX_FORMULA]
2. Методы и принципы исследования
Исходные RGB-изображения агроценозов высокого разрешения (4К) получены с помощью мультиспектральных камер, установленных на квадрокоптерах DJI Phantom 4, в период вегетации сельскохозяйственных культур
[2][5][11][12]
Предобработка данных включает:
1. Приведение пространственной размерности к 300 х 300 пикселей;
2. Нормализацию интенсивности по каждому RGB-каналу:
где mcMissing Mark : sub, σcMissing Mark : sub — выборочное среднее и стандартное отклонение по
3. Разбиение датасета в соотношении 80/10/10 (обучающая / валидационная / тестовая выборки);
4. Аугментацию данных (повороты, отражения) для расширения обучающего множества.
Архитектура сети. Разработана комбинированная ИНС из 14 слоёв, включающая блоки пакетной нормализации, сверточные слои вида Conv2D(32, (3 х 3), padding = 'same', activation = 'ReLU',
слои подвыборки MaxPooling2D(2 х 2), слои регуляризации Dropout(p = 0,25) и выходной полносвязный слой Dense(4, activation = 'softmax'. Общее число обучаемых параметров - P ≈ 43 106Missing Mark : sup.
В качестве функции активации использовалась полулинейная зависимость (ReLU)
[4][5]
Обучение проводилось с использованием оптимизатора Adam и целевой функции L(θ) = categorical_crossentropy и детерминированной инициализации весов, математическое обоснование которой приведено в разделе 4.
3. Основные результаты
Экспериментально исследуемые изображения анализируемых участков агрополей были получены с помощью камер с разрешением 4К, установленных на квадрокоптерах DJI Phontom 4.
Поскольку качество и производительность проектируемой нейросети существенно зависят не только от архитектуры ИНС, но и от параметров обучающего датасета, то применялись различные способы предварительной обработки исходных цветных изображений, включая корректировку их размерности. Типичные изображения, получаемые с помощью БПЛА, представлены на рисунке 2.
Исходные изображения для нейросетевого анализа:a) нормальное развитие растений; b) изреженные всходы
чередующиеся со слоем подвыборки вида
а также слои регуляризации
Выходной полносвязный слой
с 4-мя нейронами по числу выявляемых классов (без учета сорняков).
Диаграммы обучения разработанной ИНС комбинированного типа, решающей сформулированную выше задачу, приведены на рисунке 3.
Процессы обучения ИНС при распознавании состояния посевов:а) базового; б) оптимизированного
Анализ диаграмм процессов обучения разработанных ИНС показывает рост значений долей верных классификаций, представленные на рисунке 3, показывают их рост в пределах 0,1…0,95.
Особенностью обучения глубоких сетей является стохастический выбор начальных весов, что часто приводит к неопределенности траектории обучения и необходимости многократных запусков (до 10 раз) для достижения глобального минимума
[8][9][5]
Для проверки выдвинутой научной гипотезы в работе был применен детерминированный подход к инициализации весов, основанный на нормализованном распределении начальных параметров. В отличие от стандартной инициализации
[5]
где
При использовании полулинейной функции активации (ReLU) веса определялись по зависимости He
[9]
Применение формул (11) и (12) позволило:
- ускорить обучение без необходимости предварительного обучения (pre-training);
- исключить многократные перезапуски процедуры обучения;
- обеспечить устойчивую сходимость модели к глобальному минимуму целевой функции (5).
Тестирование разработанной ИНС проводилось с оптимизатором «Adam»
[11]
Получены следующие значения метрик качества:
Полученные значения точности обучения ИНС
| Выборка | Средняя точность | Максимальная точность |
| обучающая | 0,958 | 0,967 |
| проверочная | 0,912 | 0,921 |
Матрицы рассеяния для базового варианта на обучающей и проверочной выборках представлены на рис. 4.
Матрицы рассеяния для базового варианта:а) на обучающей выборке; b) на проверочной выборке
4. Обсуждение
Анализ матриц рассеяния показал, что предложенная комбинированная архитектура успешно справляется с задачей мультиклассового распознавания плотных сцен, что согласуется с данными мировых исследований, отмечающих превосходство CNN над традиционными методами в задачах выявления стрессовых состояний растений
[1][3][6][1] [13], [14], [15].
Представляются целесообразными следующие научные направления продолжения исследований:
- расширение датасета за счет аугментации и балансировки классов для повышения робастности модели на минорных классах агрономических аномалий
[12]
- усиление архитектуры за счет трансфера обучения (Transfer Learning) с использованием предобученных сетей (VGG16, ResNet50, MobileNet);
- количественная оценка уверенности модели с применением метрик Maximum Softmax Probability (MSP), Mutual Information (MI) и энтропии распределения вероятностей:
где низкие значения энтропии указывают на высокую уверенность нейросети, что критично для принятия агрономических решений в режиме реального времени
[1][3]
5. Заключение
1. Разработана и математически обоснована архитектура комбинированной нейронной сети, включающей 14 функциональных слоёв (блоки нормализации, свёртки, подвыборки и регуляризации), которая успешно решает задачу мультиклассовой классификации цветных изображений характерных участков сельскохозяйственных полей с общим числом обучаемых параметров 43⋅106Missing Mark : sup.
2. Научная гипотеза подтверждена, при этом применение детерминированного метода инициализации весов (формулы (11) и (12)), математически согласованного с полулинейной функцией активации ReLU, позволило:
- аналитически нивелировать влияние стохастичности начальных параметров;
- исключить попадание траектории градиентного спуска в локальные минимумы целевой функции;
- обеспечить высокую точность (0.912 на проверочной выборке) при работе с несбалансированным датасетом, включая сложную диагностику минорного класса «Дефицит питательных веществ».
3. Результаты исследования могут быть использованы для построения нейросетевых моделей, ориентированных на мобильные киберфизические системы и БПЛА. Разработанная архитектура обеспечивает высокую точность при ограниченных вычислительных ресурсах, что критично для систем точного земледелия реального времени.