PROJECT DOCUMENTATION
House Price Predictive Model
Machine Learning Regression — House Price Prediction
Prediksi harga properti, khususnya rumah, merupakan salah satu tantangan menarik dalam dunia nyata yang kini banyak diselesaikan dengan pendekatan machine learning. Model regresi digunakan untuk mempelajari hubungan antara fitur-fitur rumah — baik numerik maupun kategorikal — dengan harga jual sebagai target.
Studi ini membandingkan empat algoritma regresi: Linear Regression, Decision Tree, Random Forest, dan Gradient Boosting, dievaluasi menggunakan metrik MAE, RMSE, dan R² Score. Dataset mencakup fitur penting seperti GrLivArea, GarageCars, TotalBsmtSF, dan 1stFlrSF, yang diproses melalui pembersihan data, transformasi, serta encoding fitur kategorikal.
Dataset terdiri dari 1460 baris dan 81 kolom dengan tipe data yang beragam. Beberapa kolom seperti PoolQC, Alley, dan Fence memiliki jumlah nilai hilang yang sangat tinggi, sehingga memerlukan pembersihan dan imputasi sebelum pemodelan.
Distribusi SalePrice dan fitur numerik penting (GrLivArea, GarageCars, GarageArea, dst) menunjukkan pola right-skewed — sebagian besar rumah berharga rendah dengan sedikit outlier mahal.
Heatmap korelasi menunjukkan GrLivArea, GarageArea, TotalBsmtSF, dan 1stFlrSF punya korelasi tinggi terhadap SalePrice — dipakai untuk menyeleksi fitur paling berpengaruh.
Data mentah dibersihkan dan disiapkan sebelum digunakan model, melalui beberapa tahapan:
Menghapus kolom tidak relevan (ID, kolom dengan missing value sangat tinggi, duplikat).
Mengisi missing value sesuai konteks — median untuk numerik, mode untuk kategorikal.
Mengubah fitur kategorikal menjadi numerik dengan One-Hot Encoding.
Menstandarkan skala fitur numerik dengan StandardScaler dan menghapus outlier ekstrem.
Dataset dibagi menjadi data latih dan data uji dengan proporsi 80:20 (train_test_split, random_state=42). Empat model dilatih dan dievaluasi dengan metrik yang sama untuk perbandingan yang adil.
| Model | MAE | RMSE | R² Score |
|---|---|---|---|
| Linear Regression | 20,434.22 | 52,298.87 | 0.6434 |
| Decision Tree | 27,380.95 | 41,785.80 | 0.7724 |
| Random Forest | 17,465.54 | 28,795.95 | 0.8919 |
| Gradient Boosting | 17,434.82 | 28,039.01 | 0.8975 |
Proses training dan evaluasi keempat model, dijalankan otomatis lewat loop for untuk membandingkan performa secara konsisten.
Gradient Boosting Regressor memberikan performa terbaik dengan MAE dan RMSE paling rendah serta R² paling tinggi. Random Forest juga dituning lewat RandomizedSearchCV (best params: n_estimators=100, min_samples_split=5, max_depth=30) namun belum melampaui performa Gradient Boosting.
Kesimpulan: Model Gradient Boosting Regressor memberikan performa terbaik dalam memprediksi harga rumah. Hasil praktikum ini menegaskan pentingnya preprocessing data, analisis korelasi, dan seleksi fitur untuk menghasilkan model prediksi yang akurat dan mampu melakukan generalisasi dengan baik.
Saran: Eksplorasi model tambahan seperti XGBoost atau LightGBM, lakukan tuning pada semua model agar evaluasi lebih adil, tingkatkan seleksi fitur dengan pendekatan statistik, dan sajikan hasil melalui visualisasi interaktif seperti dashboard feature importance.