코딩걸음마

단순 선형회귀 분석과 다르게 다중 선형 회귀 분석은 다중공선성을 주의해야 합니다. 다중공선성(Multicollinearity) 이란? - 독립변수들이 강한 선형관계에 있을때 다중 공선성이 있다고 할수 있다. - 종속변수를 설명하기 위한 독립변수가 매우 비슷한 영역을 설명하고 있다. - 다중공선성이 있으면 잘못된 변수의 해석이나 예측의 정확도 하락의 결과를 가져올수 있다. - 독립변수들의 잔차가 강한 상관관계를 갖는경우 아래 코드로 다중공선성을 제거하는 과정을 봅시다. 1. 기초 모듈불러오기 %config InlineBackend.figure_formats = {'png', 'retina'} import numpy as np import pandas as pd import matplotlib as mpl ..

- PCA란 입력 데이터들의 공분산 행렬(covariance matrix)에 대한 고유값 분해 - 기존 데이터의 분포를 최대한 보존하면서 고차원 공간의 데이터들을 저차원 공간으로 변환하는 차원축소기법 중 하나이다. 즉, 데이터의 분산(variance)을 최대한 보존하는 축(서로 직교하는 새 기저)을 찾아 고차원 공간의 데이터를 선형 연관성이 없는 저차원 공간으로 변환하는 기법입니다. - PCA는 기존의 변수를 조합하여 서로 연관성이 없는 새로운 변수, 즉 주성분(principal component)을 만들어낸다. - 예를 들어, PC1, PC2, PC3이 기존 데이터의 분포를 잘 나타내는 순서라고 하자. 이 때, PC1, PC2, PC3이 기존 데이터의 분포를 약 90%(예시)이상 보존한다면 나머지 10..