DEVELOPMENT OF AN ANALYTICAL SYSTEM FOR ASSESSING THE EMERGENCE OF PUBLIC HEALTH RISKS ON THE BASIS OF MACHINE LEARNING ALGORITHMS

Проблема автоматизации процессов анализа разнородных и больших объемов экологических данных приобретает все большую актуальность и востребованность, что во многом связано с необходимостью внедрения эффективных мер превентивного препятствия развитию человеческих заболеваний, вызванных различными антропогенными факторами

В настоящее время проблеме анализа данных в области оценки рисков здоровья населению в контексте экологического загрязнения посвящено значительное число научных трудов, рассмотрим популярные практики и подходы, нацеленные на автоматизацию процессов решения интеллектуальных задач.

В статье

Исследование

Авторы

В другом исследовании

В работе

Таким образом следует отметить, что в настоящее время в научной среде много внимания уделяется специфике применения методов МО и ГО для задач автоматизации анализа экологически значимых для здоровья населения данных, в связи с чем данная тематика является актуальным и востребованным направлением.

Цель работы заключается в разработке аналитической системы оценки возникновения рисков здоровью населения на базе алгоритмов машинного обучения.

Рассматриваемая нами задача сводиться к многоклассовой классификации. Задача многоклассовой классификации в машинном обучении – это задача предсказания, где модель должна определить, к какому из нескольких возможных классов принадлежит наблюдаемый объект. Математическая постановка этой задачи в рамках оценки рисков нанесения вреда здоровью населения может быть выражена следующим образом. Наш входной набор данных может быть представлен как X={x1, x2, ...,xn}, где каждый объект xi является вектором признаков из пространства ℜd. Каждому объекту xi сопоставляется метка класса yi∈{1,2,...,K}, где K – количество классов (6 классов в рамках нашей задачи).

Требуется построить функцию f:Rd→{1,2,...,K}, которая для любого входного объекта x будет предсказывать метку класса y (риск здоровью населения). Модель МО строится с использованием обучающей выборки {(x1,y1),(x2,y2),...,(xn,yn)}, которая может быть сформирована из информативных входных признаков и ее задача — найти аппроксимацию функции f на основе этих данных. Если P(y=k|x) – вероятность принадлежности объекта x классу k, то функция f(x) предсказывает класс с максимальной апостериорной вероятностью:

(1)

Для обучения модели используется функция потерь, которая измеряет расхождение между предсказанными классами и реальными метками классов.

Одной из часто используемых функций потерь является кросс-энтропия:

(2)

где yk – бинарный индикатор (0 или 1), указывающий, относится ли объект к классу k, y'=P(y=k|x) – вероятность того, что объект принадлежит классу k, предсказанная моделью. Модель оптимизируется путем минимизации функции потерь L с использованием методов оптимизации, таких как градиентный спуск. Итоговое предсказание выполняется как выбор класса с максимальной вероятностью на основе обученной модели. Общий пайплайн работы системы для проведения исследований приведен на рис.1.

Рисунок 1 - Общий пайплайн работы системы

DOI:10.60797/COMP.2025.5.3.1

Импортированные наборы данных из датасета посредством функций библиотеки Pandas сохраняются в виде объектов dataframe, после чего осуществляется процедура препроцессинга (предварительной обработки данных посредством поиска аномалий, выбросов и устранения дисбаланса выходного класса), затем осуществляется набор процедур разведывательного анализа данных (статистический, корреляционный и факторный анализ, а также опциональное снижение размерности данных в случае большого числа входных признаков), после чего в рамках этапа моделирования создаются отдельные модели машинного обучения, формируется ансамбль моделей и реализуются глубокие полносвязные модели ИНС на базе разделенных на обучающие и тестовые выборки данных, подвергнутых процедуре кроссвалидации.

Дисбаланс классов реализован на базе подхода, основанного взвешивания классов, т.е. путем расчета значений весов в виде обратной величины частоты класса в выборке (фактически возрастает уровень штрафа модели для менее распространенных классов в датасете). Генерация синтетических данных не предусмотрена, что положительно сказывается на достоверности классификации. Сформированные модели оцениваются по выбранным метрикам оценки качества (точности) их работы, тестируются и их итоговые объекты сериализуются в отдельные файлы для последующей загрузки для использования на новых данных с целью оценки рисков вреда населению.

В процессе осуществления процедуры поиска доступных наборов данных для проведения исследований влияния различных антропогенных факторов на здоровье населения выявлено, что в свободном доступе отсутствуют комплексные датасеты, отражающие разные аспекты экологической загрязненности. В большей степени на платформах анализа данных и в открытых репозиториях превалируют наборы данных по загрязнению воздушных масс различных регионов мира, в том числе в странах Индии. В качестве базового набора данных возьмем Air Pollution Dataset from India and Nepal (APD)

Особенность набора данных заключается в том, что изображения сделаны с разными уровнями загрязненности и могут быть использованы для анализа с применением методов компьютерного зрения и МО. Размер выборки составляет около 12 000 записей, распределение целевых классов приведено в примерно равных пропорциях (от 13 до 21%). Также данные агрегированы на базе сбора информации из 2 разных государств с отличными друг от друга экологическими и социально-экономическими условиями (Индия и Непал), что позволяет проводить сравнительный анализ данных по локациям.

Следует отметить, что в этом наборе данных предусмотрен потенциал анализа не только данных, полученных с измерительных средств состава воздуха, но и анализ визуальных признаков загрязнения (что позволяет сформировать большее признаковое пространство и учесть сложноформализуемые факторы), что может быть полезно для более комплексной оценки. Т.е. данные могут использоваться совместно с метеорологической информацией и измерениями здоровья населения для комплексной оценки рисков. Структурно датасет разделен на два каталога: Combined_Dataset и Country_wise_Dataset. Датасет включает информацию о городе Биратнагар Непала и о городах Индии: Дели, Нагаленд, Бангалор, Большая Нойда, Фаридабад, Мумбаи, Тамил Наду. Входные признаки датасета хранятся в файле формата csv и содержат информацию о расположении локации, имени файла (изображении), дате (год, месяц, день, час), а также показателях загрязненности воздуха (PM2.5, PM10, O3, CO, SO2, NO2) и целевом классе AQI_Class. В качестве целевого признака предусмотрено 6 разных классов загрязнения воздуха, которые представлены в наборе данных:

1. Хорошее (Good), соответствует числовому диапазону (0-50), в этом случае качество воздуха считается удовлетворительным, а загрязнение воздуха представляет небольшой или нулевой риск населению.

2. Умеренное (Moderate), соответствует числовому диапазону (51-100), для данного класса качество воздуха приемлемое, однако для некоторых загрязняющих веществ может быть умеренная проблема со здоровьем для очень небольшого числа людей, которые необычно чувствительны к загрязнению воздуха, т.е. риски населению в целом минимальны.

3. Нездорово для чувствительных групп (Unhealthy_for_Sensitive_Groups), соответствует числовому диапазону (101-150), в этом случае люди, относящиеся к чувствительным группам, могут испытывать последствия для здоровья, но маловероятно, что население в целом будет испытывать высокий риск развития хронических заболеваний, можно интерпретировать класс как низкий уровень риска.

4. Нездоровый (Unhealthy), соответствует числовым значениям в диапазоне (151-200), для данного класса выходного признака более половины представителей общественности может испытывать проблемы со здоровьем, обострением заболеваний, а у представителей уязвимых групп могут возникнуть серьезные проблемы со здоровьем. Средний уровень риска.

5. Очень нездоровый (Very_Unhealthy), соответствует числовому диапазону (201-300), в данном случае риск необратимых пагубных последствий для здоровья населения высок для всех групп.

6. Опасный/тяжелый (Severe), соответствует числовым значениям в диапазоне (301-500), характерно для критических и чрезвычайных ситуаций, в том числе аварий, высокая вероятность необратимого вреда здоровью населения, уровень риска критический.

Первоначально осуществлен импорт библиотек для обработки данных, создания структур (коллекций numpy, pandas) с целью обеспечения необходимых манипуляций с входными признаками, визуализации данных (matplotlib, seaborn), а также ряда пакетов библиотеки sklearn для выполнения процедур преобразования категориальных данных (строковых или текстовых меток) в числовые значения, нормализации данных, подключения метрик оценки моделей и объектов для их непосредственного создания (например, DecisionTreeClassifier). Проведем корреляционный анализ признаков, результат приведен на рис.2.

Рисунок 2 - Таблица оценки корреляции между входными признаками набора данных

DOI:10.60797/COMP.2025.5.3.2

Как можно отметить, кроме неинформационного признака имени файла изображения, высокие значения корреляции свойственны для признаков, характеризующих загрязненность воздуха вредными примесями (PM2.5 и PM10), что обусловлено характером их оценки и близостью подходов к измерению оборудования. В рамках проведения предварительного анализа, очистки и предобработки данных в контексте рассматриваемой задачи принято решение удалить из объекта dataframe не информативный признак Filename.

В контексте проведения исследований данных получаем статистическое описание по входным признакам с помощью функции Pandas describe(), которая выводит количество, среднее значение, стандартное отклонение и диапазон данных, результат приведен на рис.3.

Рисунок 3 - Результат оценки статистических показателей

DOI:10.60797/COMP.2025.5.3.3

В контексте подготовки данных выполнена процедура преобразования - кодирование меток посредством класса LabelEncoder, посредством которой категориальные данные преобразуются в числовые значения, чтобы сделать их совместимыми с математическими операциями и моделями.

На базе проведенных манипуляций установлено, что признаки месяц и год обладают высокой корреляцией и некоторой противоречивостью, в связи с чем они исключены из итогового набора данных. В процессе реализации процедуры анализа пропусков посредством вызова метода isnull() установлено наличие более 2000 пропусков в признаках O3, CO, SO2, NO2, в связи с чем было выполнено заполнение пропущенных значений путем расчета и подстановки средних значений посредством вызова функции mean().

Для разработки моделей МО использован язык программирования Python, библиотеки sklearn, matplotlib, seaborn, keras, tensorflow

Выполнено разделение выборки данных на обучающее и тестовое подмножество в пропорции 75% для обучения и 25% для тестирования моделей МО. С целью выделения значений метрик в отдельные логи принято решение реализовать их сохранения в соответствующие переменные. В связи с необходимостью проведения сводного анализа результатов оценок моделей на предмет точности решения задачи классификации использована визуализация в форме матрицы ошибок средствами seaborn, результаты построения таких матриц для всех созданных моделей МН приведены на рис.4. Для удобства выходные классы рисков преобразованы в числовой диапазон от 0 до 5 по порядку.

Рисунок 4 - Матрицы ошибок моделей дерева принятия решений (а), SVM (б), случайного леса (в), XGBoost (г), рекуррентной (д) и сверточной (е) ИНС

DOI:10.60797/COMP.2025.5.3.4

Сводные результаты отражают высокую точность моделей, при этом наиболее эффективной моделью с точки зрения точности классификации является XGBoost. С целью дополнительного анализа моделей разработана визуализация для сопоставления точности классификации всех моделей в мультиклассовой форме. Усредненные зависимости по ROC кривым моделей на диаграмме в виде обособленной визуализации приведены на рис.5. Как можно отметить, характер кривых изменчив в разных диапазонах, наиболее близкими к идеальным значениям (более сглаженным и приближенным к 1) являются оценки моделей ансамблей (случайный лес и XGBoost).

Рисунок 5 - Усредненные зависимости по ROC кривым моделей

DOI:10.60797/COMP.2025.5.3.5

Для детального исследования характера обучения моделей ИНС сформированы графические зависимости с оценками Accuracy и Loss (рис.6 и рис.7).

Как можно заметить, в целом модели ИНС достигают высоких значений точности, при этом модель LSTM быстрее достигает значений точности около 0,98 (до 15й эпохи) в сравнении с CNN (после 25й эпохи), после чего рост фактически замедляется, периодически наблюдаются незначительные колебания, что свидетельствует о рисках переобучения, однако подобранные значения регуляризации препятствуют данному негативному явлению. Первоначальные значения ошибок у модели также являются более высокими для модели CNN, при этом скорость обучения сверточной модели существенно быстрее чем у LSTM.

Рисунок 6 - Зависимости значений Accuracy и Loss от эпох обучения рекуррентной ИНС

DOI:10.60797/COMP.2025.5.3.6

Рисунок 7 - Зависимости значений Accuracy и Loss от эпох обучения сверточной ИНС

DOI:10.60797/COMP.2025.5.3.7

Результаты сравнительного анализа метрик созданных моделей МО приведены на рис.8.

Рисунок 8 - Гистограмма сравнения метрик моделей МО

DOI:10.60797/COMP.2025.5.3.8

Для дополнительного анализа результатов использования моделей сформирована гистограмма оценки значимости признаков датасета, приведенная на рис.9. Оценка значимости признаков (feature importance) позволяет определить, какие из них наиболее влияют на предсказания модели. Это помогает улучшить качество модели, исключив неинформативные или избыточные признаки, и понять, какие факторы наиболее важны для прогнозирования целевой переменной.

Как можно заметить наибольший уровень значимости характерен для признаков AQI, PM2.5 и PM10, что позволяет сделать вывод о необходимости формирования на них акцента при построении моделей и дальнейшей их оптимизации.

Таким образом, следует отметить, что наиболее быстрой и одновременно наименее точной является модель дерева решений, модель опорных векторов является наиболее точной одиночной моделью, однако ее временные затраты в 5-6 раз выше, чем у дерева решений и в 2 раза выше, чем у моделей на базе ансамблей.

Рисунок 9 - Гистограмма оценки значимости признаков датасета

DOI:10.60797/COMP.2025.5.3.9

Модели ИНС являются точными, однако требуют значительно больше ресурсов для обучения по причине сложности их структуры и наличия вложенных (скрытых) слоев и большого числа нейронных связей, при этом более ресурсоемкой является LSTM модель. При этом наиболее эффективными с точки зрения соотношения точности и быстродействия являются модели на базе ансамблей, среди которых положительным образом выделяется модель XGBoost.

В результате проведенных исследований установлена практическая целесообразность применения разных моделей МО и ГО для решения задачи классификации по оценке рисков вреда здоровью населения от загрязнений воздуха. В целом точность сформированных моделей является достаточно высокой и составляет более 90%, однако скорость их обучения и использования на тестовых данных является разной, с точки зрения наилучшего соотношения по точности и производительности следует отметить модели ансамблей (Random Forest и XGBoost).

В настоящий момент система ограничена рядом аспектов, в частности на данный момент процессы обучения и настройки моделей выполняются только в последовательном режиме, отсутствует поддержка распределённой архитектуры CUDA и входные данные могут вводиться посредством текстового файла (без интерактивного интерфейса пользователя). Следует отметить необходимость подбора моделей и значений их гиперпараметров под конкретные наборы данных, одни из перспективных путей в данном направлении является применение алгоритмов оптимизации, в том числе grid search подхода, что может быть рассмотрено в последующих исследованиях в данной области.