SGDRegressor(warm_start=True) ?

[GzuPark]

http://scikit-learn.org/stable/modules/scaling_strategies.html

[GzuPark]

SGDRegressor 코드를 보니 warm_start 옵션으로 클래스에 저장되어 있는 interception과 coef를 각 init으로 설정해서 학습을 하게 되는군요.

이 argument는 같은 데이터에 적용할 경우 빠르게 최적값을 찾을 수 있는 방법이고 다른 데이터(동시에 같은 파라미터 개수를 쓴다면)에 적용할 경우 초기값과 최적값이 오차가 크다면 새로운 학습을 처음부터 하는 것과 같습니다.

질의 중에 나온 딥러닝의 트랜스퍼러닝은 비슷한 모델 구조에서 다른 데이터를 가지고 학습을 한다면 훈련 시간을 줄일 수 있습니다. 트랜스퍼러닝의 장점은 미리 훈련된 네트워크를 사용하여 비슷한 목적을 가지는 다른 데이터를 처음부터 훈련시키는 것에 비해 빠르게 훈련시킬 수 있지만 warm_start는 비슷한 목적을 가지고 있더라도 데이터가 다르다면 훈련 시간의 차이가 크지 않을 수 있기 때문에 트랜스퍼러닝과 다른 것 같습니다. 공통점이라면 파라미터의 값을 저장하여 호출한다는 점이라고 생각합니다.