1. Введение

Современная промышленность, особенно металлургическая отрасль, сталкивается с необходимостью обеспечения высокого уровня качества выпускаемой продукции. Дефекты материалов могут привести к серьезным последствиям, таким как аварии, утрата имущества и даже человеческие жертвы, поэтому контроль качества и выявление дефектов являются критически важными этапами производственного процесса. Традиционно для этих целей используются различные методы дефектоскопии, такие как рентгенография, ультразвуковые и магнитопорошковые методы. Однако эти методы обладают рядом ограничений, включая высокую стоимость оборудования, необходимость высококвалифицированных специалистов и низкую скорость обработки больших объемов продукции. Современные технологии машинного обучения открывают новые перспективы для автоматизации процессов дефектоскопии. Нейронные сети демонстрируют высокую эффективность в решении задач распознавания образов и классификации, но создание новой модели с нуля требует значительных временных и вычислительных затрат. Трансферное обучение [1], [2] предлагает возможность использовать уже обученные модели для решения новых задач путем дообучения на специализированных данных. Это позволяет сократить время и ресурсы, необходимые для разработки новых решений, однако одной из проблем, возникающих при использовании трансферного обучения, является то, что одна модель может не всегда обеспечивать необходимую точность для всех аспектов задачи [16], [17]. Для преодоления этого недостатка предлагается комбинация нескольких моделей, каждая из которых специализируется на определенных характеристиках данных. Такой подход может значительно повысить общую точность и надежность системы.

Целью настоящего исследования является разработка эффективного трансферного алгоритма комбинирования обученной и дообученной архитектур нейронных сетей для задачи дефектоскопии в металлургическом производстве. Данный алгоритм должен обеспечить высокую точность обнаружения дефектов при минимальных затратах времени и ресурсов на обучение и адаптацию моделей. Для достижения этой цели были определены следующие задачи: проведение обзора современных методов дефектоскопии и технологий машинного обучения, определение оптимальной архитектуры нейронной сети для предобучения, разработка алгоритма дообучения и методика комбинирования предсказаний от различных моделей.

Дефектоскопия в металлургической промышленности играет ключевую роль в обеспечении безопасности и надежности производимой продукции. Традиционные методы контроля качества, такие как рентгенография, ультразвуковая диагностика и магнитопорошковый метод, имеют свои ограничения, включая высокую стоимость оборудования, необходимость квалифицированного персонала и ограниченную скорость обработки больших объемов продукции. Современные технологии машинного обучения предлагают новые возможности для автоматизации процессов дефектоскопии, однако существующие подходы часто требуют значительных ресурсов для создания новых моделей с нуля для каждой конкретной задачи. В этой связи актуальным становится использование трансферного обучения, которое позволяет эффективно применять уже обученные модели для решения новых задач путем дообучения на специализированных данных. Комбинирование нескольких моделей, каждая из которых специализируется на разных аспектах задачи, может значительно повысить точность и надежность выявления дефектов. Разработка и внедрение таких комбинированных подходов могут существенно улучшить качество контроля в металлургическом производстве, снизить затраты и ускорить процессы диагностики.

Для достижения поставленной цели необходимо решить следующие задачи:

1. Провести обзор современных методов дефектоскопии и технологий машинного обучения, применяемых в этой области.

2. Определить наиболее подходящую архитектуру нейронной сети для базового предобучения.

3. Разработать эффективный алгоритм дообучения предобученной модели на данных, специфичных для задачи дефектоскопии.

4. Разработать методику комбинирования предсказаний от обученной и дообученной моделей для улучшения общей точности обнаружения дефектов.

5. Провести экспериментальную проверку предложенного алгоритма на реальных данных и сравнить его эффективность с традиционными методами и другими современными подходами.

6. Проанализировать ошибки и выявить возможные пути улучшения предложенного алгоритма.

2. Методы и принципы исследования

Математическое представление классификации дефектов изделий металлопроката с использованием обученной сети RESNET50 [3], [4] с введением нечеткого слоя.

Алгоритм включает глубокое обучение и нечеткую логику для классификации дефектов, разделения фона и маркировки изделий. RESNET50 используется для извлечения признаков, а нечеткий слой — для обработки неопределенности в изображениях (переходные зоны между дефектом и фоном).

Извлечение признаков формируется через среднее и стандартное отклонение набора данных:

где [LATEX_FORMULA]\sigma, \mu[/LATEX_FORMULA] — среднее и стандартное отклонение набора данных. [LATEX_FORMULA]I_{\text{norm}}[/LATEX_FORMULA] должно быть размером 224*224*3.

Тогда сверточный слой примет следующий вид:

Остаточные блоки:

Тензор признаков становится [LATEX_FORMULA]$F \in \mathbb{R}^{7 * 7 * 2048}$.[/LATEX_FORMULA]

Формирование нечеткого слоя осуществляется для обработки неопределённости между фоном и дефектом и состоит из трех шагов:

1. Глобальный средний пуллинг:

2. Нечеткие функции принадлежности для класса  включая фон задается [LATEX_FORMULA]\mu_c(f)[/LATEX_FORMULA], которая будет определять степень соответствия признаков треугольному распределению с параметрами [LATEX_FORMULA]a, b, c[/LATEX_FORMULA]. Это упрощает вычисления и делает модель более интерпретируемой.

где a — левая граница (начало треугольника), b — вершина треугольника (максимум функция), c — правая граница (конец треугольника).

3. Нормализация нечетких оценок:

где K — число классов включая фон.

Этот подход позволяет более гибко настраивать зоны неопределенности между дефектами и фоном, что особенно полезно для задач классификации металлопроката с нечеткими границами дефектов, используя градиентно-взвешенную активационную карту (Grad-CAM) [5], [6] для выделения областей дефекта. Изображение проходит через модель f и получается выход для класса [LATEX_FORMULA]c = y^c[/LATEX_FORMULA]. Для обратного прохода вычисляются градиенты [LATEX_FORMULA]$\frac{\partial y^c}{\partial A^k}$[/LATEX_FORMULA] для каждого канала k последнего сверточного слоя. Для каждого k вычисляются веса

Далее вычисляется взвешенная сумма активаций:

Нормализация тепловой карты приводится к диапазону [0,1].

Выделение областей дефекта на основе Grad-CAM:

 [LATEX_FORMULA]$M=R E L U\left(\sum\limits_k \alpha_k F_k\right)$,[/LATEX_FORMULA]

где ak — веса важности каналов.

Следовательно, бинарная маска рассчитывается:

где [LATEX_FORMULA]\tau[/LATEX_FORMULA] — порог задаваемы на основе нечеткой уверенности (при исследование установлен 0,35).

Функция потерь для обучения сформируется следующим образом:

где [LATEX_FORMULA]$L_{C E}=\sum_{\mathrm{c}=1}^K y_c \log \left(p_c\right)$[/LATEX_FORMULA] – кросс энтропия, [LATEX_FORMULA]$L_{F u z z y}=\sum_{c=1}^K\left(1-\mu_c(f)\right)^2$.[/LATEX_FORMULA] — регуляризация для классификации, [LATEX_FORMULA]\lambda[/LATEX_FORMULA] — гиперпараметр.

Адаптация нечеткого слоя происходит через EMA (Exponential Moving Average) [7], [8] — это метод сглаживания параметров модели, который уменьшает колебания их значений во время обучения, присваивая больший вес последним обновлениям. В контексте нечеткого слоя EMA можно использовать для стабилизации параметров функций принадлежности), что особенно полезно в условиях шума на изображениях. На каждом шаге обучения параметры нечеткого слоя [LATEX_FORMULA]\theta_{e m a}[/LATEX_FORMULA] обновляется следующим образом:

где [LATEX_FORMULA]\theta^{(t)}[/LATEX_FORMULA] — текущее значение параметра на шаге [LATEX_FORMULA]t[/LATEX_FORMULA],  — EMA-[LATEX_FORMULA]\theta_{e m a}^{(t)}[/LATEX_FORMULA]версия параметра после шага [LATEX_FORMULA]t[/LATEX_FORMULA],  [LATEX_FORMULA]$\beta \in[0,1)$[/LATEX_FORMULA] — коэффициент сглаживания.

Границы функций принадлежности обновляются следующим образом:

Нечеткий слой обрабатывает размытые границы между дефектом и фоном. Оценка pc показывает степень уверенности модели, Grad-CAM визуализирует локализацию дефекта. Такой подход предобученной модели позволяет улучшить классификацию дефектов металлопроката, особенно когда граница между дефектом и фоном размыта.

3. Математическое описание слоев дообученной модели YOLOv10 с интеграцией нечеткой логики дефектов и кусочно-постоянной модели фона

Предлагаемая модификация переформулирует стандартную архитектуру через математическую модель нечеткой логики для моделирования поверхностного дефекта или маркировки металлургических изделий и кусочно-постоянной функции для фона.

Входной слой. Входное изображение представляется следующим образом: первая часть не

где: [LATEX_FORMULA]$\mu_D(x, y) \epsilon[0,1]$[/LATEX_FORMULA] — функция принадлежности дефекта к нечеткому множеству, [LATEX_FORMULA]D(x,y)[/LATEX_FORMULA] — интенсивность дефектов в точке [LATEX_FORMULA](x,y)[/LATEX_FORMULA], [LATEX_FORMULA]B_k[/LATEX_FORMULA] — константа [LATEX_FORMULA]k[/LATEX_FORMULA]- той области фона [LATEX_FORMULA]$\Omega_k,\chi \Omega_k$[/LATEX_FORMULA] — индикаторная функция (1 внутри [LATEX_FORMULA]\Omega_k[/LATEX_FORMULA], 0 иначе).

Сверточный слой представляет две свертки (нечеткая логика и кусочно-постоянный пулинг).

Для ядра [LATEX_FORMULA]$ W \in \mathbb{R}^{m * n}$[/LATEX_FORMULA] и входа I:

где [LATEX_FORMULA]\sigma[/LATEX_FORMULA] — функция активации Swish, усиливающая нечеткие границы.

Кусочно-постоянный пулинг.

где K — локальная область соединяет признаки разного масштаба, учитывая нечеткость дефектов.

Кусочно=линейная интерполяция фона определяется как:

Проектирование нечетких ограничивающих рамок для предсказания. Координаты центра [LATEX_FORMULA](C_x, C_y)[/LATEX_FORMULA] моделируются как треугольные нечеткие числа:

где [LATEX_FORMULA]\widehat{C_x}[/LATEX_FORMULA] — центр, w — ширина области неопределенности.

Классификация дефекта.

Вероятность класса pc заменяется на степень принадлежности:

где [LATEX_FORMULA]f_c[/LATEX_FORMULA] — признаки класса [LATEX_FORMULA]c[/LATEX_FORMULA].

Функция потерь с регуляризацией фона.

где: [LATEX_FORMULA]\mathcal{L}_{Y O L O}[/LATEX_FORMULA]  — стандартная потеря YOLO при классификации, [LATEX_FORMULA]\operatorname{Var}\left(B_k\right)[/LATEX_FORMULA] — дисперсия интенсивности фона в области [LATEX_FORMULA]\Omega_k[/LATEX_FORMULA], [LATEX_FORMULA]\lambda[/LATEX_FORMULA] — коэффициент регуляризации, задающий гладкость фона.

Методика «Двухэтапное обучение» формируется из трансферного обучения и тонкой настройки:

- загрузка весов предобученной модели EfficientNet-B3;

- инициализация нечеткого сверточного слоя, где [LATEX_FORMULA]\mu_D[/LATEX_FORMULA] инициализируется равномерно;

- обучение только верхних слоев на гибридных данных;

- происходит оптимизация [LATEX_FORMULA]Adam $=10^{-4}$[/LATEX_FORMULA], а снижение веса=0,01

- функция потерь рассчитывается как: [LATEX_FORMULA]$\mathcal{L}=\mathcal{L}_s=\mathcal{L}_{\text {YOLO }}+0.1 *\left(\mu_D, \mu_{G T}\right)$[/LATEX_FORMULA], где [LATEX_FORMULA]\mu_{G T}[/LATEX_FORMULA] — бинарная маска дефекта.

- разморозка всех слоев;

- оптимизатор [LATEX_FORMULA]l_r=10^{-5}[/LATEX_FORMULA], импульс 0,9;

- регуляризация: выпадение (p = 0,3) перед классификатором, штраф за вариативность фона: [LATEX_FORMULA]$\lambda * \sum \operatorname{Var}\left(B_k\right),-\lambda=0.05$[/LATEX_FORMULA].

Гибридное представление данных снижает шумы фона, нечеткие признаки улучшают детектирование частичных дефектов, а регуляризация фона предотвращает переобучение модели.

4. Методика трансферного обучения для детектирования и классификации дефектов металлопроката

1. Подготовка, сбор и аннотация данных:

Для YOLOv10 [9], [10], [11] размечаются ограничивающие рамки вокруг дефектов в формате COCO и создаются метки классов для ResNet50 (0 — фон,1 — трещина, 2 — царапина).

2. Предобработка заключается в нормализации и аугментации, где изображения приводятся к стандартным размерам: YOLOv10 - 640×640, ResNet50 — 224×224, применяются повороты, отражения, изменение яркости/контраста, добавление шума.

3. Разделение данных: обучающая выбор — 70%, валидационная — 15% и тестовая — 15%.

4. 

5. EMA  обновление: после каждого шага оптимизации вызывается функция обновления сглаживания параметров модели.

6. Интеграция YOLOv10 и ResNet50:

Шаг 1: YOLOv10 детектирует дефекты и возвращает ограничивающие рамки.

Шаг 2: для каждой рамки извлекается область изображения и приводится к размеру 224×224, затем пропускается через ResNet50 для классификации.

Шаг 3: объединяются результаты:

7. 

[12][13]

8. 

9. 

10. 

[14]

11. 

[15]

Трансферный алгоритм комбинирования обученной и дообученной архитектуры нейронных сетей (рисунок 1) показывает взаимодействие архитектур разработанной методики и совмещение математического аппарата.

Выбирается базовая архитектура, в которой все сверточные слои остаются замороженными для сохранения способности извлекать общие признаки дефектов, а исходные полносвязные слои удаляются. Добавленные новые слои адаптированы для детекции и веса инициализируются случайным образом. После прохода каждой эпохи вычисляется точность на валидационном наборе данных. Если точность больше 91% — обучение завершено, меньше — активируется цикл дообучения, размораживаются сверточные слои базовой модели и происходит перенастройка гиперпараметров.

5. Тестирование и сравнение результатов

В тестировании участвовал набор данных изделий металлургического производства, состоящий из 37000 изображений. На графиках представлены фрагменты процесса обучения нейронной сетью YOLOv10 и разработанным трансферным алгоритмом.

Процесс обучения YOLOv10 (рисунок 2) показал невысокие показатели качества, полученные на исследуемом наборе данных изделий металлопроката. Причинами этого стала высокая составляющая сигнал-шум на изображениях и ложные всплески, как показано на рисунке 4. Модель пытается сдетектировать область, которая обучалась ранее как дефект на валидационном наборе.

Разработанный алгоритм апробирован также на данном наборе данных (рисунок 5). Графики показывают, что качество детектирования увеличилось на 20% от классической модели, а ограничивающие рамки четко выделяю результирующую область дефекта (рисунок 7) даже на тестовой выборке. Это дает гарантию, что ложное срабатывание будет минимально (<5%) во всех исследуемых данных в режиме реального времени.

6. Заключение

Нечеткая логика позволила смоделировать степень частичного дефекта, а кусочно-постоянный фон снизил ложные срабатывания на изображениях. Для обучения требуется совместная оптимизация параметров сети, функций [LATEX_FORMULA]\mu_D[/LATEX_FORMULA] и областей [LATEX_FORMULA]\Omega_k[/LATEX_FORMULA]. Измененная архитектура YOLOv10 состоит из нечеткого слоя свертки.

Разработанная методика позволила достичь точности более 92% на тестовых данных металлургических дефектов, что на 15% выше классической архитектуры YOLOv10. Комбинация трансферного обучения и адаптивных архитектур с интеграцией нечеткой логики для детектирования дефектов и кусочно-постоянного фона снизила уровень ложных срабатываний на изображениях в 20%.

Описанный алгоритм подходит для задач применения машинного зрения, где критична высокая точность обнаружения поверхностных дефектов изделий металлопроката.

Предложенный подход демонстрирует, что комбинация трансферного обучения, нечеткой логики и CPU — оптимизация позволяет создать эффективное решение для промышленной дефектоскопии. Результаты исследования открывают путь к внедрению AI-инструментов в металлургическую отрасль, снижая затраты на контроль качества и минимизируя брак.

The additional file for this article can be found as follows: