Методи машинного навчання у задачах регресійного аналізу та розробка інтелектуальної системи прогнозування

Abstract

Кваліфікаційна робота складається зі вступу, чотирьох розділів, висновків та пропозицій, списку використаних джерел (18 найменувань) та додатків. Основний текст викладено на 35 сторінках. У роботі досліджено методи машинного навчання для задач регресійного аналізу – від лінійних параметричних моделей до ансамблів і нейронних мереж. На прикладі датасету California Housing, реалізовано та порівняно п'ять алгоритмів: Ridge-регресію, поліноміальну регресію, дерево рішень, XGBoost і багатошаровий перцептрон. За результатами 5-кратної кросвалідації та оцінювання на тестовій вибірці встановлено ієрархію якості моделей – найкращі показники продемонстрував XGBoost (RMSE = 0,4312, R² = 0,857 після оптимізації гіперпараметрів). Розроблено модульну інтелектуальну систему прогнозування з Pipeline-архітектурою, веб-інтерфейсом Streamlit.

This work studies machine learning methods for regression tasks, ranging from linear parametric models to gradient boosting ensembles and neural networks. Five algorithms were implemented and compared on the California Housing dataset (20,640 observations, 8 features): Ridge Regression, Polynomial Regression, Decision Tree, XGBoost, and Multilayer Perceptron. Five-fold cross-validation and hold-out testing established a quality hierarchy – XGBoost achieved the best results (RMSE = 0.4312, R² = 0.857 after hyperparameter tuning). A modular forecasting system was developed with a Pipeline architecture and a Streamlit web interface.