Latihan 12.

Persoalan ini membahas makna koefisien determinasi \(R^2\) dan hubungannya dengan varians, topik yang muncul dalam bagian berikutnya. Sepanjang persoalan ini, kita meninjau sistem linear \(A\xvec=\bvec\) dan solusi hampiran kuadrat terkecil \(\xhat\text{,}\) dengan \(A\xhat=\bhat\text{.}\) Misalkan \(A\) adalah matriks \(m\times n\text{,}\) dan vektor berdimensi \(m\) dinyatakan dengan \(\onevec = \fourvec11{\vdots}1\text{.}\)
🔗
  1. Jelaskan mengapa \(\bbar\text{,}\) yaitu rata-rata komponen \(\bvec\text{,}\) dapat ditentukan sebagai hasil kali titik
    \begin{equation*} \bbar = \frac 1m \bvec\cdot\onevec. \end{equation*}
    🔗
    🔗
  2. Dalam contoh-contoh yang telah kita lihat dalam bagian ini, jelaskan mengapa \(\onevec\) berada dalam \(\col(A)\text{.}\)
    🔗
    🔗
  3. Jika kita menulis \(\bvec = \bhat + \bvec^\perp\text{,}\) jelaskan mengapa
    \begin{equation*} \bvec^\perp\cdot\onevec = 0 \end{equation*}
    dan karena itu mengapa rata-rata komponen \(\bvec^\perp\) adalah nol.
    🔗
    🔗
  4. Varians vektor berdimensi \(m\text{,}\) yaitu \(\vvec\text{,}\) adalah \(\var(\vvec) = \frac1m \len{\widetilde{\vvec}}^2\text{,}\) dengan \(\widetilde{\vvec}\) adalah vektor yang diperoleh dengan memusatkan \(\vvec\text{.}\)
    🔗
    Jelaskan mengapa
    \begin{equation*} \var(\bvec) = \var(\bhat) + \var(\bvec^\perp). \end{equation*}
    🔗
    🔗
  5. Jelaskan mengapa
    \begin{equation*} \frac{\len{\bvec - A\xhat}^2}{\len{\widetilde{\bvec}}^2} = \frac{\var(\bvec^\perp)}{\var(\bvec)} \end{equation*}
    dan dengan demikian
    \begin{equation*} R^2 = \frac{\var(\bhat)}{\var(\bvec)} = \frac{\var(A\xhat)}{\var(\bvec)}. \end{equation*}
    🔗
    Pernyataan-pernyataan ini menunjukkan mengapa \(R^2\) terkadang dikatakan mengukur “fraksi varians yang dijelaskan” oleh fungsi yang kita gunakan untuk mencocokkan data. Seperti terlihat dalam latihan sebelumnya, mungkin terdapat ciri lain yang tidak dicatat dalam himpunan data tetapi memengaruhi besaran yang ingin kita prediksi.
    🔗
    🔗
  6. Jelaskan mengapa \(0\leq R^2 \leq 1\text{.}\)
    🔗
    🔗
🔗
🔗
dalam konteks