train_test_split / LGBM (1)

학습에 사용 할 모델은 Light GBM 입니다.

Light GBM 모델을 선언 이후 학습을 위해서는 fit() 메소드를 사용합니다.

이때 fit() 메소드 내부에 다음과 같이 파라미터를 적용해주면 모델이 학습을 하면서 validation 데이터를 이용해 계속 검증을 진행 합니다.

 

model.fit(x_train, y_train, eval_set = [(x_train,y_train),(x_valid,y_valid)] )

 

#train_test_split() 메소드를 이용해 train/validation 데이터 나누기 

# stratify 옵션을 활용하여 데이터 셋 split



x_train,x_valid, y_train, y_valid = train_test_split(train_x,train['category'],stratify = train['category'])



# LightGBM을 이용해 학습 및 검증 진행

from lightgbm import LGBMRegressor





model = LGBMRegressor(  )

model.fit(x_train,y_train,

          eval_set = [(x_train,y_train),(x_valid,y_valid)]

          )



output : 

[1]	training's l2: 0.625523	valid_1's l2: 0.627191

[2]	training's l2: 0.591681	valid_1's l2: 0.59452

[3]	training's l2: 0.563696	valid_1's l2: 0.567643

[4]	training's l2: 0.539629	valid_1's l2: 0.545257

[5]	training's l2: 0.519678	valid_1's l2: 0.526837

[6]	training's l2: 0.502109	valid_1's l2: 0.509769

[7]	training's l2: 0.487098	valid_1's l2: 0.496382

...

[97]	training's l2: 0.285291	valid_1's l2: 0.342567

[98]	training's l2: 0.284703	valid_1's l2: 0.342394

[99]	training's l2: 0.284113	valid_1's l2: 0.342171

[100]	training's l2: 0.283486	valid_1's l2: 0.342014