Skip to main content

Normalization

  • Normalization (Chuẩn hóa) là kỹ thuật tiền xử lý dữ liệu nhằm đưa các đặc trưng (features) về cùng một THANG ĐO CHUNG (common scale), giúp loại bỏ sự chênh lệch về đơn vị và độ lớn giữa các biến.

Min-Max Normalization​

  • Khi nhắc đến Normalization chung chung thường đề cập đến cái này.

  • Cho vector ban đầu x=[x1,x2,…,xn]\boldsymbol{x} = [x_1, x_2, \dots, x_n]. Vector được chuẩn hóa x′x' được tính bằng cách trừ đi giá trị nhỏ nhất, sau đó chia cho hiệu giữa giá trị lớn nhất và nhỏ nhất (range). Kết quả thường nằm trong khoảng [0,1][0, 1].

xi′=xi−min⁡(x)max⁡(x)−min⁡(x)x'_i = \frac{x_i - \min(\boldsymbol{x})}{\max(\boldsymbol{x}) - \min(\boldsymbol{x})}

Standardization (Z-score Normalization)​

  • Cho vector ban đầu x=[x1,x2,…,xn]\boldsymbol{x} = [x_1, x_2, \dots, x_n]. Vector được chuẩn hóa x′x' được tính bằng cách trừ đi giá trị trung bình (μ\mu) và chia cho độ lệch chuẩn (σ\sigma). Kết quả sẽ có phân phối với μ=0\mu = 0 và σ=1\sigma = 1.

xi′=xi−μσx'_i = \frac{x_i - \mu}{\sigma}

Vector Normalization​

L1 Normalization (Chuẩn hóa L1)​

  • Cho vector ban đầu x=[x1,x2,…,xn]\boldsymbol{x} = [x_1, x_2, \dots, x_n]. Vector được chuẩn hóa x′x' được tính bằng cách chia từng phần tử cho L1 Norm.

xi′=xi∥x∥1=xi∑j=1n∣xj∣x'_i = \frac{x_i}{\| \boldsymbol{x} \|_1} = \frac{x_i}{\sum_{j=1}^{n} |x_j|}

L2 Normalization (Chuẩn hóa L2)​

  • Tương tự L1 Normalization, lấy vector gốc chia cho L2 Norm.

xi′=xi∥x∥2=xi∑j=1nxj2x'_i = \frac{x_i}{\| \boldsymbol{x} \|_2} = \frac{x_i}{\sqrt{\sum_{j=1}^{n} x_j^2}}