ПОБУДОВА БАГАТОРІВНЕВИХ АНСАМБЛЕЙ В ЗАДАЧАХ МАШИННОГО НАВЧАННЯ
DOI:
https://doi.org/10.34132/mspc2025.01.14.09Ключові слова:
Машинне навчання, багаторівневі гетерогенні ансамблі, зміщення, дисперсія, bagging, boosting, staking, дворівнева архітектура ансамблю.Анотація
Анотація. Розглянуто підхід до розв’язання задач машинного навчання, побудований на основі багаторівневих гетерогенних ансамблів. Підхід дозволяє зменшувати помилки прогнозів за рахунок одночасного зменшення зміщення та дисперсії на основі використання багаторівневих гетерогенних ансамблів прогнозних моделей. Розглянуто основні особливості та передумови створення ансамблів. Проведено аналіз загальної помилки алгоритму машинного навчання. Вона складається з трьох компонентів: шум, зміщення та дисперсія. Досліджено та визначено складові цих компонентів. Розглянуто процес створення гетерогенного ансамблю. Проаналізовано найбільш поширені методи агрегування прогнозних значень: bagging, boosting і staking. Подано обґрунтування вибору типу моделей для створення гетерогенної багаторівневої ансамблевої структури. Запропоновано дворівневу архітектуру системи класифікації на основі методів staking та bagging. Для побудови багаторівневого ансамблю моделей з урахуванням різних базових методів розроблено алгоритм. Проаналізовано результати роботи ансамблів. Доведено ефективність багаторівневих гетерогенних ансамблів при вирішенні завдань класифікації.
Посилання
P. Bidyuk, I. Kalinina, O. Zhebko, A. Gozhyj and T. Hannichenko, “Classification System Based on Ensemble Methods for Solving Machine Learning Tasks”. CEUR- WS. vol. 3426, 2023, pp. 1-11. CEUR-WS.org/Vol-3426/paper5.pdf.
V. Pandey, “Ensemble Methods in Practice: Combining the Strengths of Multiple Models and Making Decisions,” 2023. [Online]. Available: https://www.linkedin.com/pulse/ensemble-methods-practice-combining-strengths-multiple-pandey (application date: 15.08.2024).


