Algebra Essentials
Manipulasi Ekspresi, Factoring, dan Tricks yang Sering Muncul
Algebra adalah “grammar” dari math. Banyak derivasi econometrics dan ML yang pada dasarnya hanyalah manipulasi aljabar yang panjang. Kalau kamu tidak fasih dengan operasi-operasi ini, kamu akan kehilangan alur derivasi di tengah jalan.
Contoh: Derivasi OLS dengan completing the square, atau manipulasi logarithm dalam log-likelihood function — keduanya membutuhkan fluency aljabar yang baik.
1 Expanding & Factoring
1.1 Binomial Expansion
\[(a + b)^2 = a^2 + 2ab + b^2\] \[(a - b)^2 = a^2 - 2ab + b^2\] \[(a + b)(a - b) = a^2 - b^2 \quad \text{(difference of squares)}\] \[(a + b)^3 = a^3 + 3a^2b + 3ab^2 + b^3\]
Binomial Theorem (general): \[(a + b)^n = \sum_{k=0}^{n} \binom{n}{k} a^{n-k} b^k\]
di mana \(\binom{n}{k} = \frac{n!}{k!(n-k)!}\) adalah binomial coefficient.
1.2 Completing the Square
Teknik ini crucial di banyak derivasi — termasuk dalam OLS dan distribusi normal.
Bentuk umum: \(ax^2 + bx + c\)
Langkah-langkah: \[ax^2 + bx + c = a\left(x^2 + \frac{b}{a}x\right) + c = a\left(x + \frac{b}{2a}\right)^2 - \frac{b^2}{4a} + c\]
Problem: Selesaikan \(x^2 - 6x + 5 = 0\) dengan completing the square.
Solution: \[x^2 - 6x + 5 = 0\] \[x^2 - 6x = -5\] \[x^2 - 6x + 9 = -5 + 9 \quad \text{(tambahkan } (6/2)^2 = 9 \text{ kedua sisi)}\] \[(x - 3)^2 = 4\] \[x - 3 = \pm 2\] \[x = 5 \text{ atau } x = 1\]
Metode ini lebih dari sekadar mencari akar — completing the square dipakai dalam derivasi distribusi normal dan OLS!
2 Logarithm & Exponential Rules
Ini sering muncul dalam MLE:
\[\ln(ab) = \ln a + \ln b\] \[\ln\left(\frac{a}{b}\right) = \ln a - \ln b\] \[\ln(a^b) = b \ln a\] \[e^{a+b} = e^a \cdot e^b\] \[\frac{d}{dx} \ln x = \frac{1}{x}, \quad \frac{d}{dx} e^x = e^x\]
Dalam MLE, kita maximize likelihood \(L(\theta) = \prod_{i=1}^{n} f(x_i; \theta)\).
Karena products sulit dioptimasi, kita ambil log: \[\ell(\theta) = \ln L(\theta) = \sum_{i=1}^{n} \ln f(x_i; \theta)\]
Transformasi ini valid karena \(\ln\) adalah monotone increasing function — maximizer-nya sama!
3 Fractional & Negative Exponents
\[x^{-n} = \frac{1}{x^n}, \quad x^{1/n} = \sqrt[n]{x}, \quad x^{m/n} = \sqrt[n]{x^m}\]
4 Key Takeaways
4.1 Poin Utama
- Hafal: \((a+b)^2\), \((a-b)^2\), \((a+b)(a-b)\) — muncul terus
- Completing the square: kunci untuk derivasi OLS dan distribusi normal
- Log rules: fundamental untuk MLE dan information theory
- Binomial theorem: muncul dalam probability dan approximation theory
Sebelumnya: ← Number Systems | Selanjutnya: Functions →