Tóm tắt Reading 15: Multivariate Random Variables

Ma trận xác suất, phân phối biên và có điều kiện

• PMF hai chiều: f_X1,X2(x₁, x₂) = P(X₁ = x₁, X₂ = x₂). Ma trận xác suất: mọi ô trong [0, 1], tổng các ô bằng 1.
• Trinomial: n phép thử, ba kết quả; tham số n, p₁, p₂; p₃ = 1 − p₁ − p₂.
• Marginal: cộng xác suất đồng thời theo mọi giá trị của biến kia (cộng theo cột hoặc theo hàng).
• Conditional: f_X1|X2(x₁ | x₂) = f_X1,X2(x₁, x₂) ÷ f_X2(x₂) — lấy hàng điều kiện rồi chia cho tổng hàng.
• Kỳ vọng của hàm: E[g] = Σ Σ g(x₁, x₂) × f(x₁, x₂); nói chung E[g(X)] ≠ g(E[X]).

Covariance và correlation

• Cov[X₁, X₂] = E[(X₁ − E[X₁])(X₂ − E[X₂])] = E[X₁X₂] − E[X₁]E[X₂]; phụ thuộc thang đo, đơn vị bình phương.
• Ma trận covariance 2 × 2: đường chéo là σ₁², σ₂²; ngoài đường chéo là σ₁₂.
• Corr = σ₁₂ ÷ (σ₁σ₂), nằm trong [−1, +1], đo quan hệ tuyến tính, không có đơn vị.
• Độc lập ⇒ correlation 0; correlation 0 không suy ra độc lập.
• Biến đổi tuyến tính: Var[a + bX] = b²Var[X]; Cov[a + bX₁, c + dX₂] = bd × Cov[X₁, X₂]; correlation giữ độ lớn, đổi dấu khi bd < 0. X₂ = a + bX₁ cho correlation ±1 theo dấu của b.

Phương sai tổng, kỳ vọng có điều kiện, iid

• Var[aX₁ + bX₂] = a²Var[X₁] + b²Var[X₂] + 2ab × Cov[X₁, X₂].
• Minimum variance: w* = (σ₂² − σ₁₂) ÷ (σ₁² − 2σ₁₂ + σ₂²).
• E[X₁ | X₂ = x₂] = Σ x₁ × f_X1|X2(x₁ | x₂) — dùng xác suất có điều kiện, không dùng xác suất đồng thời.
• Biến iid: độc lập, cùng phân phối, cùng moment. E[Σ X_i] = nμ; Var[Σ X_i] = nσ² (tăng tuyến tính); Var[X̄] = σ² ÷ n (giảm khi n tăng).