[기계학습]. 다중선형회귀(Multiple Linear Regression)실습 Python code -예제

MultipleLinearRegression.py

0.00MB

ToyotaCorolla.csv

0.21MB

실습데이터 및 파이썬 script

 

실습에 사용된 라이브러리

import os
import pandas as pd
import numpy as np
import statsmodels.api as sm
from sklearn.model_selection import train_test_split

데이터 전처리

#현재경로 확인
print(os.getcwd())
 
#데이터불러오기
corolia = pd.read_csv("./실습/part2_data/ToyotaCorolla.csv")
 
#데이터확인
print(corolia.head())
 
#데이터 수와 변수의 수 확인하기
nCar = corolia.shape[0]
nVar = corolia.shape[1]
 
print(nCar,nVar)
 
#범주형 변수를 이진형 변수( 0 ,1 )로 변환
 
#변수안에 범주형 변수가 있는지 확인
print(corolia.Fuel_Type.unique())
 
#가변수 생성
dummy_p = np.repeat(0,nCar)
dummy_d = np.repeat(0,nCar)
dummy_c = np.repeat(0,nCar)
 
#인덱스 슬라이싱 후 1 대입
p_idx = np.array(corolia.Fuel_Type=="Petrol")
d_idx = np.array(corolia.Fuel_Type=="Diesel")
c_idx = np.array(corolia.Fuel_Type=="CNG")
 
print(p_idx,d_idx,c_idx)
 
dummy_p[p_idx] = 1
dummy_d[d_idx] = 1
dummy_c[c_idx] = 1
 
#불필요한 변수 제거 및 가변수 추가
Fuel = pd.DataFrame({"Petrol":dummy_p, "Diesel": dummy_d, "CNG":dummy_c})
 
corolia_ = corolia.drop(["Id","Model","Fuel_Type"],axis=1,inplace=False)
mlrData = pd.concat((corolia_,Fuel),1)
mlrData.head()

shape	array 에 대해서 몇행, 몇열 행렬로 구성되었는지 알아야 할 경우 사용되는 numpy 함수
unique( )	배열 내 중복된 원소 제거 후 유일한 원소를 정렬하여 반환
np.repeat( )	numpy.repeat 함수는 배열의 요소들을 지정한 횟수만큼 반복합니다.
np.array( )	NumPy의 array라는 함수에 리스트를 넣으면 배열로 변환해 준다.
pd.DataFrame( )	pandas dataframe은 다양한 데이터 타입으로부터 만들 수 있다. pd.DataFrame({"Petrol":dummy_p, "Diesel": dummy_d, "CNG":dummy_c}) Petrol , Diesel , CNG 는 column 이고 dummy는 순서데로 row가 된다.
drop( )	drop 함수를 이용하면 선택한 값이 삭제된 새로운 객체를 얻을 수 있음. "inplace=" 는 True 일 경우 결과를 다시 대입(=)하지 않아도 됨. "axis=1"는 y축 방향 즉 column 에 대한 내용을 뜻함.
pd.concat( )	데이터의 속성 형태가 동일한 데이터셋끼리 합칠 때 사용할 수 있는 pandas의 DataFrame 합치는 방법 pd.concat((corolia_,Fuel),1) 은 corolia_ 와 Fuel의 데이터를 합치는 데 column 방향으로 합치라는 뜻 pd.concat((corolia_,Fuel),axis=1) 과 동일

pd.DataFrame({ "Petrol" :dummy_p,  "Diesel" : dummy_d,  "CNG" :dummy_c})

 

Discription :

실습데이터의 Fuel_Type이라는 변수가 범주형 변수로 되어있어 회귀분석을 진행할 경우 문자열 데이터가 들어있기 때문에 데이터분석이 어렵다. 그래서 이 범주형 변수를 참/거짓 즉 0과1로 구별하여 column에 추가하고 불필요한 변수들을 제거하여 데이터분석이 용이한 상태로 만들어줘야한다. 

 

---

상수항 추가 및 데이터 분할

#bias 추가
 
#상수항 추가 ( 상수항 추가는 한번 더 실행시키면 추가가 더 된다 주의!!)
mlrData = sm.add_constant(mlrData,has_constant="add")
print(mlrData.head())
 
#설명변수(X) ,타겟변수(Y) 분리 및 학습데이터와 평가데이터 분할
 
featureColums = list(mlrData.columns.difference(["Price"]))
 
x = mlrData[featureColums]
y = mlrData.Price
 
trainX ,testX , trainY , testY = train_test_split(x,y,train_size=0.7,test_size=0.3)print(trainX.shape,testX.shape,trainY.shape,testY.shape)

#학습데이터의 잔차 확인
 
res = fittedFullModel.resid
import matplotlib.pyplot as plt
#Q-Q plot # 정규분포확인
fig = sm.qqplot(res, fit=True, line='45')
plt.show()
# residual pattern 확인
 
predY = fittedFullModel.predict(trainX)
 
fig = plt.scatter(predY,res,s=4)
plt.xlim(4000,30000)
plt.xlim(4000,30000)
plt.xlabel('Fitted values')
plt.ylabel('Residual')
plt.show()
 
#검증 데이터에 대한 예측
 
predY2 = fittedFullModel.predict(testX)
 
plt.plot(np.array(testY-predY2),label="predFull")
plt.legend()
plt.show()
 
#MSE 값 구하기
from sklearn.metrics import mean_squared_error
MSE = mean_squared_error(y_true=testY,y_pred=predY2)
print(MSE)cs

라이브러리

matplotlib

파이썬에서 자료를 차트(chart)나 플롯(plot)으로 시각화(visulaization)하는 패키지이다.

라이브러리 함수 설명

resid	잔차확인
sm.qqplot( )	sm.qqplot(res, fit=True, line='45')  sm.qqplot( 잔차 , 직선 )
plt.show( )	그래프를 윈도우 창으로 띄워준다.
plt.scatter( )	데이터의 특징에 따라 애초에 점으로 된 그래프를 적용해 그에 특징적인 스타일을 적용하는 게 더 효과적일때가 있습니다.
plt.xlim( )	축 범위 바꾸기 plt.xlim([보여줄 최소값, 보여줄 최대값]) 를 사용하면 된다.
plt.plot( )	데이터집합에 대한 그래프를 그려주는 함수
plt.legend( )	그래프 안에 위의 설명을 표시해주는 함수

legend( )

 

---

출력된 시각화 데이터

Q-Q plot

 

Residual vs Fitted values

검증 데이터에 대한 예측

plot(np.array(testY-predY2),label="predFull")

 

MSE 값 구하기