Regresi Linear secara Matematis: Geometri Kuadrat Terkecil, Teorema Gauss–Markov, Inferensi, dan Regularisasi
Regresi Linear secara Matematis: Geometri Kuadrat Terkecil, Teorema Gauss–Markov, Inferensi, dan Regularisasi Oleh Andi Illa Erviani Nensi | Magister Statistika dan Sains Data Artikel ketiga dalam seri: (1) Statistik Deskriptif: Fondasi Matematis untuk Memahami Struktur Data; (2) Dari Deskripsi ke Inferensi; (3) Regresi Linear secara Matematis Abstrak Regresi linear sering diajarkan sebagai resep: pasang garis, baca koefisien, lihat nilai-p. Artikel ini membahasnya sebagai objek matematis yang utuh. Penaksir kuadrat terkecil diturunkan, ditafsirkan secara geometris sebagai proyeksi ortogonal di ruang ℝⁿ, dan dikarakterisasi sifat samplingnya, termasuk bukti teorema Gauss–Markov dan distribusi eksak di bawah normalitas. Pembahasan kemudian bergerak ke sisi yang jarang disentuh kuliah pengantar: kondisi numerik dan dekomposisi nilai singular, diagnostik berbasis leverage, galat baku robust terhadap heteroskedastisitas, regularisasi (ridge dan lasso) sebagai pengelolaan trad...