노이즈가 없는 경우의 GMDH와 뉴럴넷의 비교

Neural Net 와 GMDH를 이용한 시계열 예측의 비교*

송한식**

I. 연구목적

본 연구는 시계열 예측에서 뉴럴 넷 방법과 GMDH(group method of data handling) 방법을 실험적으로 비교해 보고, GMDH 방법이 시계열예측에서도 유용함을 보이고자 하는 것이다. Hill et al.(1996)의 연구는, 시계열 자료가 비교적 단기적일 때, 즉 연도별보다는 분기별 또는 월별일 때는 기존의 통계적인 시계열 예측방법보다는 뉴럴 넷 방법에 의한 예측이 우수한 것으로 보고하고 있다. 뉴럴 넷과 마찬가지로 GMDH 방법도 self-organizing modelling 방법이다. 따라서, GMDH도 시계열 예측에서 유용할 것이라고 추측할 수 있다.

본 연구에서는 "M-competition"에 있는 시계열 자료를 이용하여 GMDH 방법과 뉴럴 넷 방법에 의한 예측 결과를 상호 비교해 보았다. 그 결과 GMDH는 뉴럴 넷 방법 못지 않게 우수함을 알 수 있었다. GMDH는 뉴럴 넷과 유사하면서도 구축된 예측모형을 구체적인 함수로 표현할 수 있다는 장점이 있다. 이러한 장점을 이용한다면 시계열 예측에서 GMDH는 뉴럴 넷이 제공하지 못하는 유용함이 줄 수 있다.

II절에서는 시계열예측에서 뉴럴 넷의 우수성을 요약하고, III절에서는 GMDH를 소개하고, IV절에서는 노이즈가 없는 경우에 GMDH와 뉴럴 넷을 비교한 예시를 보였으며, V절에서는 GMDH와 뉴럴 넷 방법에 대한 비교를 "M-competition"에 있는 시계열자료로서 비교하였으며, VI절에서는 결론을 요약하였다.

______________________

** 동아대학교 경영학부 교수

*본 연구는 1999년도 동아대학교 일반연구지원(공모과제)에 의하여 이루어 졌음.

II. 시계열 예측에서 뉴럴 넷 모형의 우수성

뉴럴 넷 모형은 어떠한 함수이든 그 함수를 근사하게 표현할 수 있다(Funahashi 1989). 또, 뉴럴 넷은 선형 및 비선형 회귀분석, 비모수적 회귀분석을 근사하게 표현할 수 있다(White 1992a, 1992b). 따라서 어떤 시계열 자료가 특정한 패턴이나 특성을 가지고 있고, 그것을 함수적 형태로 표현할 수 있다면, 그 시계열은 뉴럴 넷으로 모형화하여 표현할 수 있다.

이러한 이론적인 근거를 바탕으로 뉴럴 넷 모형과 전통적인 시계열 예측방법 간의 비교가 많이 이루어졌다. 이러한 비교는 "M-competition"(Makridakis et al. 1982)의 실제 시계열 자료를 이용하여 실험해 보는 것이었다. "M-competition"은 시계열 자료와 예측기간 동안의 자료를 구분해 놓고 있다. 따라서 예측기간 동안의 값을 예측한 후 그 결과를 예측 기간의 실제 값과 비교하면 예측모형의 효과성을 평가할 수 있다. (시계열 자료들과 예측기간 동안의 실제 값은 다음 사이트에 모두 공개되어 있다: http://forecasting.cwru.edu/).

이러한 M-competition의 자료를 이용하여 Shadra & Patil(1990)의 실험에서는 뉴럴 넷 모형이 Box-Jenkis(Autobox)에 못지 않은 것으로 보고하였다. Foster et al.(1991)은 뉴럴 넷 방법이 Holt's나 Brown's 방법, 최소자승방법 등에 비해서 연도별 데이터에 대해서는 열등하고, 분기별 자료에 대해서는 비슷하며, 월별 자료에 대해서는 비교하지 못했다.

이러한 이전의 비교를 가지고서 Hill et al.(1996)은 Back propagation 뉴럴 넷 모형을 기존의 시계열 예측방법과 체계적인 비교를 하였다. 그 결과를 보면 다음 <표 1>과 같다. 뉴럴 넷이 대부분 우수하게 나타나 있다. 비교기준은 MAPE(mean absolute percentage error)을 사용하였다.

Hill et al.(1996)은 연도별, 분기별 월별로 구분된 111개 시계열 자료를 가지고서 6개의 기존의 방법과 비교하였다. 연도별 자료에 대해서 뉴럴 넷 모형은 3개의 투입 노드 2 개의 중간노드, 그리고 1 개의 출력노드(3-2-1 구조)로 구축하였다. 분기별 자료에 대해서는 각각 4개, 2개, 1개(4-2-1 구조)로 하고, 월별 데이터에 대해서는 9개, 4개, 1개(9-4-1 구조)로 하였다. 예를 들면 월별 자료를 뉴럴 넷 모형으로 구축할 때에는 t 월의 값을 예측하는 데, 직전의 t-1 월, t-2월, ...., t-9월 등 9개의 자료를 투입하여 4개의 중간 노드를 거쳐서 t 월의 값을 예측하도록 하였다. 이렇게 구축된 뉴럴 넷 모형을 적용하여 월별 자료는 추후 18개월 예측기간의 값을 예측하고, 그 예측된 값을 실제값과 비교하여 퍼센트 절대오차 평균(MAPE)으로 비교하였다. 분기별 자료는 8분기간을, 연도별 자료는 향후 6 년간을 예측기간으로 하였다.

표에서 보듯이 뉴럴 넷에 의한 방법이 우수하다는 것을 알 수 있다. 다만, 월별 자료에서 뉴럴넷방법이 지수평활법보다는 우수하게 보이지만, 통계적 검증으로는 차이를 보이지 않았다. Hill et al.(1996)은 뉴럴 넷을 적용하는 데, 시계열 자료에서 계절성을 없앤 다음, 최대 값과 최소값을 가지고서 다시 scaling 한 다음, 그것을 뉴럴 넷 학학습에 투입하였다.

예측방법

자료 기간

연도별

분기별

월별

뉴럴 넷

14.2

15.3

13.6

지수평활법

15.9*

18.7*

15.2

Box-Jenkins

15.7

20.6*

16.4*

Holt's

12.1

26.9*

19.2*

그래픽 및 인간판단

12.5*

20.5*

16.3*

Naive

16.4*

20.0*

27.0*

비교 대상 평균

15.0

22.6*

17.1*

<표 1 > 뉴럴 넷과 기존 방법의 비교
( MAPE 값. Hill et al. 1996 )

*는 t-테스트에서 뉴럴 넷이 우수함을 나타냄.

<표 1 > 뉴럴 넷과 기존 방법의 비교
( MAPE 값. Hill et al. 1996 )
예측방법	자료 기간
연도별	분기별	월별
뉴럴 넷	14.2	15.3	13.6
지수평활법	15.9*	18.7*	15.2
Box-Jenkins	15.7	20.6*	16.4*
Holt's	12.1	26.9*	19.2*
그래픽 및 인간판단	12.5*	20.5*	16.3*
Naive	16.4*	20.0*	27.0*
비교 대상 평균	15.0	22.6*	17.1*

III. GMDH의 소개

GMDH는 1969 러시아의 수학자 Alex G. Ivakhnenko에 의해서 제안되었고, Madala & Ivakhnenko(1994)의 책과 Farlow(1984)의 책에서 소개하고 있다.

GMDH는 <그림 1>과 같이 준비된 자료에서 독립변수 X1, X2, ..., Xm 로써 종속변수 Y를 근사하게 표현하는 함수 를 탐색적으로 찾는 방법이다. 그림은 (X1, X2, ..., Xm : Y) 데이터 레코드가 N개 세트 준비된 것을 Training set와 Test set으로 두 개로 나누어서 활용하는 것을 보여준다. Training set은 적합한 함수를 찾는 데 활용하고, Test set은 찾아진 함수를 평가하는 데 활용한다.

GMDH 방법에서는 우선 독립변수를 두개 씩 쌍을 조합하여 종속변수 값을 근사하게 표현하는 함수모형을 만든다. 그 함수모형으로써 종속 변수 값을 가깝게 추정하는 쌍(즉, 그 함수모형)은 생존시키고 그렇지 못한 쌍은 도태시키는 적자생존(the fittest survives)을 적용한다. 적자생존의 기준은 별도로 정한다. 살아남은 각각의 쌍으로 표현되는 함수는 그 다음 세대(또는 간단히 후손)를 형성한다. 다음 번 반복에서는 이 후손들로써 다시 두 개씩 쌍을 조합하여 종속 변수값을 추정하는 함수를 만든다. 이렇게 세대를 거듭하면서 생존과 도태를 계속하여 종속변수 값을 가깝게 추정해 나가되, 더 이상 개선이 이루어지지 않으면 세대교체를 중단하게 된다. 이러한 과정을 세대 교체, 적자생존의 평가기준과 Stopping Rule, 이바넨코 다항식(Ivakhnenko polynomial) 으로 나누어 설명한다.

3.1. 세대 교체

현 세대에서 다음 세대로 진전하기 위해서 종속변수 Y를 다음과 같은 '기본식(primitive equations)'으로 추정한다. 여기서 X_g, X_h는 현 세대에서 조합한 임의의 두 개 변수이고, 계수 A, B, C, D, E, F 는 에러 자승합을 최소화하는 최소자승법(Least Square Method)으로 구한다(이를 '이바넨코 계수'로 부른다.). 최소자승법을 적용할 때에는 Training set 속의 자료를 이용한다.

= A + BX_g + CX_h + DX_g² + EX_h² + FX_g*X_h

이렇게 추정한 식에 의한 의 값들은 부모 세대의 X_g 와 X_h 값들보다는 Y 값에 더 근접하게 될 것으로 추측할 수 있다. 따라서 들로서 다시 한번 더 Y 추정하는 식을 함수를 찾으면 더 근접한 것을 얻을 수 있을 것으로 기대할 수 있다. 그래서 로서 새로운 세대(제2세대)를 형성하고, 그 다음 세대(제3세대)를 찾는 세대교체를 반복한다. <그림 2>에서는 를 다음 세대에서 Z_i 으로 표현하였다.

제1세대의 변수가 m개라면, 제2세대에는 최대 mC2 = m(m-1)/2 개수만큼의 후손을 생성하게 된다. 따라서 세대교체를 계속할수록 후손은 기하급수적으로 증가하게된다. GMDH에서는 이것을 적자 생존과 부적자 도태 방법으로 조절하게 된다. 세대교체를 반복하면서 더 이상 개선이 없을 때에는 세대교체를 중단하고 현재까지의 후손 중에서 최적의 것을 선택한다.

3.2. 적자생존의 평가기준과 Stopping Rule

세대 교체를 반복하는 과정에서 부적합한 후손은 도태시켜서 더 이상 후손을 생성하지 못하게 한다. 이때, 후손의 생존과 도태 여부를 평가(the test of goodness of fit) 하기 위해서 다음 식과 같은 평가기준(Regularity Criterion)을 사용한다. 임의의 기준값 R을 미리 설정하고 생성된 후손 Z_j에서 계산한 가 ≤ R 이면 생존시키고, > R이면 도태시킨다.

j = 1, 2, ...., : 새롭게 생성된 세대내의 각 후손들을 나타내는 첨자

i = nt+1, nt+2, .............N : Test set 첨자

: 같은 세대 안에서 j 번째 생성된 후손의 i 번째 원소값

한편, 현 세대 k의 각각의 후손들에게서 계산한 평가값 중에서 최소인 값 RMIN_k 은 < 그림 3 >과 같이 점점 감소하다가 다시 증가하게 된다. RMIN_k 값이 최소에 이른 세대에서 값이 최소인 후손이 최적의 후손이 된다.

자료를 Training set과 Test set으로 나누었기 때문에 RMIN_k 은 계속 감소하지 않고 어느 순간 다시 증가하게 되어 과다 모형화(over-fitting 또는 over-specification)를 방지하게 된다(Madala &Ivakhnenko, 1994, p.11).

3.3. 이바넨코 다항식

최적 후손에는 기본식이 여러 번 중첩되어 내재되어 있다. < 그림 4 >에서 보듯이 Xi와 Xj가 하나의 후손 U를 낳고, X_k와 X_l이 또 하나의 후손 V 을 낳은 후, 그 후손 U와 V가 짝을 이루어 후손 W를 낳는 경우, W가 최적의 후손이라고 해보자. 그러면, W는 U와 V로 표현되지만, 실제로는 Xi, Xj, X_k, X_l으로 이루어진 다항식을 갖게 된다. 이처럼 기본식이 여러번 중첩된 것을 독립변수의 다항식으로 표현한 것을 이바넨코 다항식(Ivakhnenko Polynomial)이라고 부른다.

< 그림 4 > 기본식의 중첩과 이바넨코 다항식

GMDH는 뉴럴 넷과도 매우 유사하다. 앞에서 설명한 기본식(primitive equation)은 두 개가 투입노드와 하나의 산출 노드를 가진 뉴럴 넷으로 표현할 수 있다 (중간 노드는 임의의 개수 만큼 있음). GMDH에 의한 모형은 뉴럴 넷 모형을 압축한 형태가 된다. 또, 뉴럴 넷으로 표현되는 함수는 모두 GMDH로도 구축할 수 있다.

GMDH의 응용사례는 많이 나타나고 있다. Ravandra, et al. (1994)의 기계 공구의 수명을 추정하는 데 GMDH를 이용하였고, 기계가공에서 최적의 가공방법을 찾는 데 GMDH를 이용한 사례(Nagasaka et al. 1980, Yashida et al. 1986)도 있다. GMDH를 소개한 Farlow(1984)의 책에서 사례로 소개된 GMDH의 응용사례는 태풍의 진로와 강물의 흐름에 대한 비선형 예측(Ikeda, 1984), 미국의 이자율 예측(Ohashi,1984), 경제 모델에 응용(Scott and Hutchinson, 1984) 등 다양한 분야에서 응용되고 있다.

IV. 노이즈가 없는 경우의 GMDH와 뉴럴 넷의 비교

노이즈(noise)가 전혀 없는 데이터(exact data)에서 GMDH와 뉴럴 넷을 비교해 보았다. 그 예는 카이자승 분포를 이용하였다. 카이자승 분포는 자유도에 따라 함수모양이 달라진다. 따라서 자유도를 누적확률 값과 카이값(χ)의 역함수로 표현할 수 있다. 그러나 그것을 구체적인 함수식으로 표현하기는 어렵다. 따라서 누적확률에 따른 카이 값을 독립변수로 하여 자유도를 추정하는 것은 GMDH 방법과 뉴럴 넷 방법을 비교해보는 좋은 예가 된다. χ(n,1-p)을 자유도가 n일 때, 누적확률이 1-p인 카이값이라고 하고, p가 각각 0.025, 0.05, 0.5, 0.90, 0.95, 0.975 일 때의 카이값 χ(n,1-p) 값들을 가지고 자유도 n을 추측해 내는 것이다.

아래는 GMDH와 뉴럴 넷을 적용하기 위한 엑셀표이다. GMDH를 적용할 때에는, 독립변수의 개수를 6개로 하고, 모두 40개의 데이터를 준비하여 처음 20개를 Training set, 그 이후의 10개를 Test set, 그 이후의 10개(자유도 31에서 40까지)를 예측 대상으로 하였다.

뉴럴 넷은 Ward Systems사의 NeuroShell 2.0 아카데믹 버전을 이용하였다. 뉴럴 넷을 적용할 때에 Learning rate 0.6, momentum 0.9, 투입 노드 6개, hidden layer 8개로 하고, 자유도를 1에서부터 40까지 자료로서 준비하여 20개까지를 training set, 21-30을 test set 으로 한 다음, 31-40까지의 자유도를 예측하였다.

<그림 5>는 두 가지 방법에 의해서 얻어진 자유도를 보여주고, 그것을 그래프로 그린 것이다. GMDH는 자유도 30까지를 정확히 표현하고 있으며, 31-40까지도 매우 정확하게 예측하고 있다. 그러나 뉴럴 넷은 test set(자유도21-30)에서 오차가 증가하기 시작하여 예측부분(자유도31-40)에서는 오차가 점점 더 커졌다. 이 한가지 예시로서 단정할 수는 없지만 노이즈가 없는 경우는, extrapolation에서(시계열 예측은 일종의 extrapolation임) GMDH가 뉴럴 넷보다 우수하다는 것을 알 수 있다.

참고로 <표 3>은 GMDH에 의한 '이바넨코 계수'이다. 가운데 행의 '2, 2, 6'은 2번째와 6번째 독립변수(즉, 0.05 카이값과 0.975 카이값을)를 두 개의 변수로 사용하고, 그 행의 계수를 이바넨코 기본식에 적용하여 얻어진 것을 제2 세대의 제15번 후손으로 삼는다는 것을 표시한다. 그렇게 하여 구해진 값을 제 3세대의 후손을 생성할 때의 하나의 '선조(父)'로 사용한다. 세번째 행의 '2, 5, 6'은 5번째 독립변수와 6번째 독립변수를 가지고 제2 세대의 제21번 후손을 만드는 것을 나타내고, 그 행은 이바넨코 계수를 나타낸다. 여기서 얻은 값은 제3세대의 후손을 생성할 때 하나의 '선조(母)'로 사용한다. 첫 번째 행의 3, 15, 21은 제15번 후손과 21번 후손을 이용하여 다음 세대 후손 제108번 후손을 만드는 것을 나타내고, 그 행의 계수는 이바넨코 계수이다.

결과적으로 χ(n,0.05), χ(n,0.95),χ(n,0.975) 세 개의 독립변수로써 자유도를 추정하는 식을 찾은 셈이다.

V. 시계열 예측에서 비교

시계열 예측에서 뉴럴 넷과 GMDH 방법을 비교해 보았다. 뉴럴 넷을 적용하는 데 여러 가지 기술적인 선택(옵션)이 많기 때문에 Hill, et al. (1996)에서 적용한 방법을 그대로 재현해서 적용하기가 어려웠다. 따라서 NeuroShell 2의 옵션을 최대한 활용하였다. 비교의 목적은 어느 한 방법이 다른 한 방법보다 우수하다는 것을 보이기보다는 GMDH 방법도 뉴럴 넷 못지 않게 활용할 만하다는 것을 보여주기 위한 것이다. 따라서 예측기간의 값에 가깝게 접근하는 예측모형을 찾기보다는 아래의 실험 규칙을 정해서 그것을 엄격하게 지키는 것을 중시하였다.

5.1. 비교방법

M-competition에 있는 시계열 자료를 가지고 GMDH 방법과 뉴럴 넷 방법으로 예측하고 그 결과를 실제 값과 비교하였다. M-competition에는 모두 111개의 자료가 있다. 그 중에서 월별 자료 15개, 분기별 자료 9개를 임의로 추출하였다. 자료 내에서 데이터 개수가 지나치게 적은 것(30개 이내)은 피하였다. 예를 들면 M-competition의 시계열 자료에는 MNM6라는 자료가 있다. MNM6에는 모두 75개 월 치의 데이터가 있다(프랑스 한 회사의 1978년부터의 월별 자료임). 이 75개의 값을 가지고 향후 18개월의 값을 예측한 후, 실제로 주어진 18개의 실제값과 비교하여 에러의 정도를 비교하는 것이다. Hill et al.(1996)의 연구와 마찬가지로 에러는 절대오차 평균치(MAPE)로 계산하여 비교하였다.

MAPE =

여기서 는 각각 예측기간 동안의 실제값과 예측값이고, H는 월별 자료에서는 18, 분기별 자료에서는 8이다. 여기서 한가지 언급할 것은, 예측기간 동안의 값을 예측할 때, 전기(前期)에 예측된 값( )을 활용하는 것과, 전기(前期)의 실제 값( )을 이용하는 것의 차이이다. 뉴럴 넷으로 실험할 때에는, 예측기간동안에 직전의 실제 값( )을 활용하여 다음 시기의 값을 예측( )하였다(<표 5>에서 c.MAPE(%)). 이것은 NeuroShell 2를 적용하는 과정에서 편의를 위한 것이었다. 그러나, GMDH로 실험할 때에는 와 를 활용하는 두 가지 경우를 모두 평가하였다(<표 5>에서 a.MAPE(%), b.MAPE(%)).

5.2. GMDH의 적용

GMDH방법은 직접 프로그램을 작성하였기 때문에 여러 가지 융통성이 많았다. 그 중에서 몇 가지 선택 사항은 다음과 같다.

5.2.1 독립변수 개수

시계열 자료에서 과거 기간의 값을 독립변수로 하였다. 월별 자료에서는 y(t-1), y(t-2), ...., y(t-9), 및 t를 독립변수로 하고 y(t) 값을 종속변수로 간주하였다. 여기서 t는 시간축을 하나의 변수로 추가한 것을 말한다. 시간축은 단순히 1, 2, 3, 4, ...을 순번으로 나열한 것을 사용하였다. 월별 데이터 중에서도 데이터 개수가 적은 것은 시간축 외의 독립변수 개수를 6개 또는 7개로 줄였다(MNI22, MNB20, MNB29, MNB65 등). 분기별 데이터에 대해서는 독립변수 수를 6개로 정하였다.

5.2.2 자료의 구분

시계열 자료를 training set와 test set으로 구분하였다. 두 개 세트로 구분하는 데에는 세 가지 방법을 고려하였다. 첫째, 분산이 큰 것을 training set로 배치하고, 상대적으로 분산이 적은 것은 test set 으로 배치하는 방법(여기서 분산이란, y(t-1), y(t-2), ...., y(t-k)의 분산을 말한다. k는 독립변수 수), 둘 째, 최근의 데이터를 test set으로 하고, 오래된 데이터를 training set으로 하는 방법, 셋째, 무작위로 배치하는 방법 등 세 가지를 고려하였다. GMDH에서는 첫 번째 것을 사용하는 것을 원칙으로 하였다(MNM70, MNI22만 무작위 배치를 사용하였다.) 뉴럴 넷에서는 두 번째 방법을 사용하였다.

자료의 구분에서 test set 과 training set의 비율을 정하는 문제가 있다. 자료가 많은 경우(70개를 넘은 경우)는 35%를 test set으로, 자료가 적은 것은 50% 또는 60%를 test set으로 하였다.

5,2,3 세대교체의 제한 및 도태 기준

세대교체가 진행될수록 생성되는 자손이 늘어난다. 예를 들어서 독립변수가 10개인 경우(시간축 포함), 제2세대에서는 10×9 = 45개 새로운 자손이 생겨난다. 제 3세대에서는 최대 45×44 = 1980개의 자손이 생겨난다. 세대를 거듭할수록 overfitting 현상이 자주 나타났다. 따라서 자료의 개수에 비례해서 세대교체를 제한하였다. 자료가 적은 경우는 제3세대까지 탐색하고, 자료가 많은 경우는 제4세대까지로 탐색을 제한하였다.

같은 세대 안에서 평가기준 값이 기준치 R값을 초과하는 것은 도태시켰다. 기준치 R은 다음과 같이 계산되는 T 의 배수로 정하였다(N은 데이터 레코드 개수). 제2세대에는 4.5T, 제3세대는 3.5T, 제4, 5세대는 각각 2.5T, 1.5T 값을 기준치 R값으로 정하여 적용하였다.

5.2.4 overfitting 방지

이론상 test set과 training set의 구분으로 overfitting을 방지할 수 있다. 그러나 미래를 예측하는 데에 training set이나 test set에 없었던 패턴이 있을 때는, 구축된 모형이 이상반응을 보여서 절대값이 극단적으로 크게 나타나는 overfitting 현상이 생기기도 하였다. <그림 6>은 MNM6 자료에서 독립변수를 10개, test set 비중을 35%으로 하였을 때의 예측기간(오른쪽 18개 기간)에서 예측 값이 비정상적으로 커지는 이상 반응을 보이는 예이다. 그러나, 50%으로 하였을 때에는 정상적인 반응을 보였다.

overfitting의 경우에는 여러 가지 방법으로 모형구축을 다시 시도하였다. 첫 째는 탐색 세대수를 더 적게 하는 방법, test set의 비중을 늘리는 방법, 그리고 test set 구분방법을 무작위나 최근의 데이터로 바꾸는 방법 등을 시도하였다.

참고로, MNM6 자료의 경우는 계절성이 아주 뚜렷한 경우이다. 그러나 실험에서는 계절성을 없애지 않고 주어진 자료를 그대로 적용하였다. 뉴럴 넷도 자료에서 계절성이 있는 그대로 적용하였다. 계절성이 뚜렷한 경우는 따로 비교해보았다.

5.3. 뉴럴 넷의 적용

뉴럴 넷 방법은 상업용 패키지로 제공되는 NeuroShell 2를 이용하였다. NeuroShell 2에서는 다음 몇 가지를 사용자가 선택하도록 되어 있다.

5.3.1 투입 노드 및 중간 노드 수 결정

Back propagation 뉴럴 넷을 적용하는 데 투입노드 수와 중간노드(hidden node)를 정해야 하는 데, 투입노드는 GMDH 방법에서 사용한 투입노드 개수와 같이 하였다. 중간노드 수는 투입노드 수보다는 적게 정하였다. 월별 자료에서는 9-7-1의 구조(계절성이 있는 경우는 시간축을 사용하여 10-7-1 구조)나 분기별 자료에서는 7-6-1구조 또는 6-5-1 구조를 택했다.

5.3.2 training set과 test set의 구분

NeuroShell 2에서는 10-40%를 test set으로 할 것으로 추천하고 있다. 본 실험에서는 이 범위에서 정하고, 최근의 데이터를 test set으로 하였다.

5.3.3. Stopping rule

뉴럴 넷을 적용할 때에 stopping rule은 중요하다. stoping이 늦으면 지나치게 overfitting될 수 있고 너무 이르면 충분히 learning이 되지 않기 때문이다. 적절한 중단시점을 정하기 위해서 NeuroShell 2에서는 'NET-PERFECT'라는 기능을 가지고 있다. 이것은 training set으로 '200회 학습'한 후(또는 지정한 횟수만큼)에 test set을 적용하여 그것의 오차(오차자승 평균)가 더 줄어들면 현재의 학습결과를 저장한다. 만일 '200회 학습'을 20000-40000번 반복해도 test set에 대한 '오차자승 평균'이 더 줄어들지 않으면 중단하도록 추천하고 있다. 본 실험에서는 100000번 이상 기다려도 개선되지 않으면 중단하였다. 펜티움 III PC에서 2-3분이면 충분하였다.

5.3.4 기타 사항

<그림 7>은 NeuroShell의 학습 화면이다. 뉴럴 넷의 'Complexity'는 'Very simple'(이 때에는 learning rate = 0.6, Momentum = 0.9 으로 설정)을 선택하였다.

결과가 나쁠 때에는 다시 'Complex'(이 때에는 learning rate = 0.1, Momentum = 0.1 으로 설정)로 바꾸어서 다시 시도해 보았다. 학습에서 패턴의 적용은 'Rotational'으로 하고, test set에서의 결과가 좋을 때 학습을 저장하도록 하였다. Net-Perfect Interval은 '200'으로 하였다.

NeuroShell에서는 자료에서 최대값과 최소값을 찾아서, 그 최대 최소값의 +/-(5% ∼ 10%) 이내에서 변동하는 것으로 하고, 그것을 [0,1] 사이로 값으로 scaling 하여 적용하도록 되어 있다. 이러한 사전처리가 뉴럴 넷으로 구축된 모형의 이상반응을 방지해 주는 구실을 하였다. (그러나 GMDH 프로그래밍 과정에서 이러한 기능을 추가하지 않았기 때문에 이상반응이 자주 나타났다.) 각 뉴런에서의 activation function은 디폴트로 되어 있는 sigmoid logistic function을 그대로 사용하였다.

5.4. 실험의 예

MNM33을 예시로 채택하였다. MNM33은 80개의 자료와 추가로 18개월의 예측기간동안의 자료로 구성되어 있다. MNM33은 강한 계절성을 보여주는 자료이다. 계절성을 따로 감안하지 않고 주어진 자료 그대로 GMDH와 뉴럴 넷에 적용해 본 결과 아래 그림과 같이 나타났다

그림에서 보듯이 GMDH가 뉴럴 넷보다 더 근접하고 있다. GMDH의 MAPE는 9.84% 이고(<표 5>에서 b.MAPE(%) 참조), 뉴럴 넷의 MAPE는 25.19%이다(<표 5>에서 c.MAPE(%) 참조). 그러나, GMDH에서 예측치를 재차 투입하여 예측하면 MAPE는 21.10%으로 중가하였다. MNM33은 계절성이 강하였으므로 계절성을 없앤 후 GMDH와 뉴럴 넷을 적용해 보았는데, MAPE는 각각 9.93%, 12.8%으로서 여전히 GMDH가 약간 좋게 나왔다. 참고로 <표 4>는 GMDH에 의한 MNM33의 예측 모형의 이바넨코 계수이다.

5.5 MAPE의 비교

아래 <표 5>는 GMDH의 적용방법과, NN구조, 그 때의 MAPE를 요약한 것이다.

월별 자료는 18개, 분기별 자료 9개 기간을 예측기간으로 하여 예측하고, 각각의 MAPE를 계산하여 보았다. 그 결과에 의한 에러(MAPE)를 가지고서 통계적 검증을 하여 보았다. 쌍을 이룬 T 테스트를 해본 결과, 예측기 전기(前期)의 실제값을 투입하여 예측한 결과는 10% 유의수준에서 GMDH 방법에 의한 MAPE가 뉴럴 넷의 그것보다 적다는 결론을 주었다(<표 >에서 오른쪽, p-value = 0.096). 따라서, GMDH가 뉴럴 넷에 비하여 우수하다고 말 할 수 있다. 그러나, 예측치를 재차 투입한 GMDH의 MAPE와 실제값을 투입한 뉴럴 넷의 MAPE를 비교해서는 차이가 있다는 결론을 주지 못했다(<표 >에서 왼쪽, p-value = 0.708).

한편 계절성이 강한 데이터 5개를 가지고서, 계절성을 없앤 후 비교해 보았다. 그 결과도 GMDH가 다소 우수하게 나타났다. 쌍을 이룬 T-테스트를 배본 결과, GMDH 방법이 우수하게 나타났다(p-value = 0.043)

VI. 결론

본 논문에서는 시계열 예측에 GMDH 방법을 적용할 수 있음을 보였다. 기존 연구에서는 시계열 예측에서 뉴럴 넷의 응용이 가능하고 그 우수함을 보였다. 뉴럴 넷 모형으로 구축된 것은 GMDH 모형으로도 구축할 수 있기 때문에 GMDH로도 시계열 예측이 가능하다는 이론적 추측을 실제로 실험하였다. 그 결과 뉴럴 넷 방법 못지 않게 사용이 가능함을 알 수 있었다. 특히, 예측기간 동안의 실제 데이터를 투입하여 차기의 값을 예측한 경우의 MAPE 에러를 비교해 보면, 쌍을 이룬 T-테스트에서 GMDH 방법에 의한 에러가 뉴럴 넷 방법에 의한 에러보다 10% 유의수준에서 적다는 것을 알 수 있었다. 이것으로 시계열 예측에서 GMDH 방법이 뉴럴 넷 방법보다 항상 우수하다고 결론을 지울 수는 없지마는, GMDH 방법이 시계열 예측에서 기존의 통계적 방법이나 뉴럴 넷 못지 않게 활용할 수 있음을 알 수 있다.

GMDH의 장점은 뉴럴 넷이 줄 수 없는 구체적인 함수 표현을 줄 수 있다는 점이다. 따라서, 뉴럴 넷으로 모형을 구축한 경우에는 GMDH를 사용하여 그것을 함수식으로 표현할 수 있다. 또, 뉴럴 넷에서는 투입자료의 값을 모두 알아야 하는 반면, GMDH에서는 채택된 투입변수의 값만 알면 되므로 자료를 더욱 경제적으로 활용한다는 점도 장점이 된다. 뉴럴 넷을 적용하기 전에 GMDH를 이용하여 사전 테스트를 해 볼 수 있다는 장점도 크다.

뉴럴 넷에 비하여 GMDH로 구축된 모형은 주어지는 자료에 대하여 민감하게 반응하여 엉뚱한 결과를 줄 수 있는 위험이 있다. 한마디로, GMDH는 뉴럴 넷에 비하여 적은 수의 투입변수로 더 정교한 예측모형을 구축하지만, 깨지기 쉬운 단점이 있다. 그러나 뉴럴 넷이나 기존의 통계적 방법을 적용하기 전에 벤치마킹으로서 훌륭한 역할을 할 수 있다.

본 연구에서 비교한 것보다는 더 많은 케이스에서 뉴럴 넷과 GMDH방법을 비교할 필요가 있다. 본 연구에서는 충분한 케이스를 다루어서 비교해 보지 못하였지만, GMDH 방법도 시계열 예측에서 뉴럴 넷 방법 못지 않게 유용함을 확인할 수 있었고, 기존의 통계적 방법과도 병행해서 활용할 만함을 간접적으로 보였다.

참고문헌

1. Chryssolouris, G., and M, Guillot 1990, "A Comparison of statistical and AI approaches to the selection of process parameters in intelligent machining", Transactions of the ASME, Journal of Engineering for Industry, 112(2), 122-131.

2. Farlow, S.J., (Ed.), 1984, Self-organizing method in modellig. USA. Marcel Decker.

3. Foster, B., F. Collopy, and L. Ungar, "Neural Netsork Forecasting of Short, Noisy Time Series," Computers and Chemical Engineering, 16, 12, 1992

4. Funahashi, K., "On the approximate Realization of Continuous Mappings by Neural Net," Neural Networks, 2 (1989), 183-192

5. Hill, T., M. O'Connor, and W. Remus, "Neural Network Models for Time Series Forecasts," Management Science, Vol. 42, No.7, July, 1996

6. Ikeda, Saburo, 1984, "Nonlinear Prediction Models for River Flows and Typhoon Prediction By Self-Organizong Methods," in Self-organizing method in modellig.(Farlow, S.J., (Ed.)) 1984, USA. Marcel Decker.

7. Madala, Hema R., Alex G. Ivakhnenko, Inductive Learning Algorithmd for Complex Systems Modeling, CRC press, 1994

8. Makaridakis, S, A., A. Anderson, et al., " The accuracy of Extrapolation( Time Series) Methods: Results of Forecasting Competition, " J. Forecasting, 1 1982

9. Nagasaka, K., Y. Kita, F. Hashimoto, " Identification of a model of grinding wheel life by group method of data handling", Wear, 58, 1980, 147-154.

10. Ravindra, H.V., M. Raghunandan, Y.G. Srinivasa, and R. Krishnamurthy, " Tool wear estimation by group method of data handling in turning," INT. J. Production Research, 1994 Vol. 32, No. 6, 1295-1312.

11. Scott, D. E., C. E. Hutchinson, "An Application of the GMDH Algorithm to Economic Modeling," in Self-organizing method in modellig.(Farlow, S.J., (Ed.)) 1984 USA. Marcel Decker.

12. Shadra, R., R. Patil, "Neural Networks as Forecasting Experts: An Empirical Test, "Proc. 1990 IJCNN Merting, 2 (1990), 491-494

13. White, H., "Connectionist Nonparametric Regression: Multilayer Feedforward Networks Can Learn Arbitrary Mappings," in H. White(Ed.), Artificial Neural Networks: Approximations and Learning Theory, Blackwell, Oxford, UK, 1992a

14. White, H., "Consequences and Detection of Nonlinear Regression Models," in H. White(Ed.), Artificial Neural Networks: Approximations and Learning Theory, Blackwell, Oxford, UK, 1992b

15. Yashida, T., K. Nagasaka, Y. Kita, F. Hashimoto, " Identification of a grinding wheel wear equation of the abrasive cut-off by the modified GMDH," International Journal of Machine Tool Design and Research, 26(3), 1986, 283-292.

16. Ohashi, Kenichi, 1984, "GMDHH Forecasting of U.S. Interest Ratess," in Self-organizing method in modellig. (Farlow, S.J., (Ed.)) USA. Marcel Decker.

A Comparison of Neural Networks and GMDH in Time Series Forecasts

Hansik Song

This study showed that GMDH(group method of data handling) is good enough to use in time series forecasts.

Hill et al.(1996) reported that Neural Networks forecasts as good as or better than statistical methods. Since Neural Net and GMDH are both self-organizing method in systems modelling we can conjecture that GMDH is also as good as or better than statistical method in time series forecasts. Fron this reason, instead of comparing GMDH with statistical method, this study compared GMDH and Neural Networks method.

A Macro Basic program was developed for GMDH and used for the comparison. NeuroShell 2.0 program by Ward Systems was used for neural net method. Before the comparison, both methods were tested to find the degree number of freedom in distribution by using values as an exact data case test. GMDH found degree numbers very accurately through all the range. But Nerual Net model made it with growing errors as the degree numbers get larger.

24 time series data from "M-competition" were used for the comparison. Statistical test showed that the MAPE's by GMDH forecasts were less than that by Neural Net method when actual data were input to forecast the next period value. And in the sampled cases having seasonal fluctuations, GMDH was better than Neural Net method.

GMDH has an advantage that it can express a forecasting polynomial explicitly. This advantage is useful if we use GMDH in time series forecasting with other method.