A Study of the Finite Sample Properties of EMM, GMM, QMLE, and MLE for a Square-Root Interest Rate Diffusion Model
Abstract
This paper performs a Monte Carlo study on Efficient Method of Moments (EMM), Generalized Method of Moments (GMM), Quasi-Maximum Likelihood Estimation (QMLE), and Maximum Likelihood Estimation (MLE) for a continuous-time square-root model under two challenging scenarios--high persistence in mean and strong conditional volatility--that are commonly found in estimating the interest rate process. MLE turns out to be the most efficient of the four methods, but its finite sample inference and convergence rate suffer severely from approximating the likelihood function, especially in the scenario of highly persistent mean. QMLE comes second in terms of estimation efficiency, but it is the most reliable in generating inferences. GMM with lag-augmented moments has overall the lowest estimation efficiency, possibly due to the ad hoc choice of moment conditions. EMM shows an accelerated convergence rate in the high volatility scenario, while its overrejection bias in the mean persistence scenario is unacceptably large. Finally, under a stylized alternative model of the US interest rates, the overidentification test of EMM obtains the ultimate power for detecting misspecification, while the GMM J-test is increasingly biased downward in finite samples.
i r s s D s D 1 d L A S t u d y o f t h E M M , G M S q u a r e - R o o t 1 I w o u l d l i k e t o t h a n k G e n s i g h t f u l c o m m e n t s . T h e v i e e p r e s e n t t h o s e o f t h e B o a r d o t a (cid:11) . I a m g r a t e f u l t o a n a n o n t u d y c o m p l e t e . T h i s p a p e r h o w n i n g , M a r k C o p p e j a n s , C e m i n a r . P l e a s e c o n t a c t H a o Z i v i s i o n o f R e s e a r c h a n d S t a t - 2 0 2 - 4 5 2 - 3 3 6 0 ; F a x 1 - 2 0 2 - 4 5 2 i s t r i b u t e d u n d e r t h e t i t l e \ F i n i k e l i h o o d E s t i m a t i o n s f o r a S e F i n i t e S a m p l e P r o p e r t i e s o f M , Q M L E , a n d M L E f o r a I n t e r e s t R a t e D i (cid:11) u s i o n M o d e l 1 H a o Z h o u M a i l S t o p 9 1 F e d e r a l R e s e r v e B o a r d W a s h i n g t o n , D C 2 0 5 5 1 F i r s t D r a f t : A p r i l 1 9 9 7 L a s t R e v i s e d : A u g u s t 2 0 0 0 o r g e T a u c h e n f o r h i s v a l u a b l e a d v i c e a n d R o n a l d G a l l a n t f o r h i s w s e x p r e s s e d i n t h i s p a p e r r e (cid:13) e c t t h o s e o f t h e a u t h o r a n d d o n o t f G o v e r n o r s o f t h e F e d e r a l R e s e r v e S y s t e m o r o t h e r m e m b e r s o f i t s y m o u s r e f e r e e f o r h i s o r h e r c o n s t r u c t i v e s u g g e s t i o n s f o r m a k i n g t h e a s b e n e (cid:12) t e d f r o m d i s c u s s i o n s w i t h M a t t h e w P r i t s k e r , C h r i s t o p h e r h i e n - T e H s u , a n d t h e p a r t i c i p a n t s o f t h e D u k e (cid:12) n a n c i a l e c o n o m i c s h o u w i t h q u e s t i o n s a n d c o m m e n t s : T r a d i n g R i s k A n a l y s i s S e c t i o n , i s t i c s , F e d e r a l R e s e r v e B o a r d , W a s h i n g t o n D C 2 0 5 5 1 U S A ; P h o n e - 3 8 1 9 ; e - m a i l h a o .z h o u @ f r b .g o v . A n e a r l i e r d r a f t o f t h e p a p e r w a s i t e S a m p l e P r o p e r t i e s o f E Æ c i e n t M e t h o d o f M o m e n t s a n d M a x i m u m q u a r e - R o o t D i (cid:11) u s i o n P r o c e s s " .
T a M c c c f m g e e m o d s E m A b s t r a c t h i s p a p e r p e r f o r m s a M o n t e C a r l o s t u d y o n E Æ c i e n t M e t h o d o f M o m e n t s ( E M M ) , G e n e r l i z e d M e t h o d o f M o m e n t s ( G M M ) , Q u a s i - M a x i m u m L i k e l i h o o d E s t i m a t i o n ( Q M L E ) , a n d a x i m u m L i k e l i h o o d E s t i m a t i o n ( M L E ) f o r a c o n t i n u o u s - t i m e s q u a r e - r o o t m o d e l u n d e r t w o h a l l e n g i n g s c e n a r i o s | h i g h p e r s i s t e n c e i n m e a n a n d s t r o n g c o n d i t i o n a l v o l a t i l i t y | t h a t a r e o m m o n l y f o u n d i n e s t i m a t i n g t h e i n t e r e s t r a t e p r o c e s s . M L E t u r n s o u t t o b e t h e m o s t e Æ i e n t o f t h e f o u r m e t h o d s , b u t i t s (cid:12) n i t e s a m p l e i n f e r e n c e a n d c o n v e r g e n c e r a t e s u (cid:11) e r s e v e r e l y r o m a p p r o x i m a t i n g t h e l i k e l i h o o d f u n c t i o n , e s p e c i a l l y i n t h e s c e n a r i o o f h i g h l y p e r s i s t e n t e a n . Q M L E c o m e s s e c o n d i n t e r m s o f e s t i m a t i o n e Æ c i e n c y , b u t i t i s t h e m o s t r e l i a b l e i n e n e r a t i n g i n f e r e n c e s . G M M w i t h l a g - a u g m e n t e d m o m e n t s h a s o v e r a l l t h e l o w e s t e s t i m a t i o n a d h o c Æ c i e n c y , p o s s i b l y d u e t o t h e c h o i c e o f m o m e n t c o n d i t i o n s . E M M s h o w s a n a c c e l r a t e d c o n v e r g e n c e r a t e i n t h e h i g h v o l a t i l i t y s c e n a r i o , w h i l e i t s o v e r r e j e c t i o n b i a s i n t h e e a n p e r s i s t e n c e s c e n a r i o i s u n a c c e p t a b l y l a r g e . F i n a l l y , u n d e r a s t y l i z e d a l t e r n a t i v e m o d e l f t h e U S i n t e r e s t r a t e s , t h e o v e r i d e n t i (cid:12) c a t i o n t e s t o f E M M o b t a i n s t h e u l t i m a t e p o w e r f o r e t e c t i n g m i s s p e c i (cid:12) c a t i o n , w h i l e t h e G M M J - t e s t i s i n c r e a s i n g l y b i a s e d d o w n w a r d i n (cid:12) n i t e a m p l e s . K e y w o r d s : M o n t e C a r l o S t u d y , E Æ c i e n t M e t h o d o f M o m e n t s , M a x i m u m L i k e l i h o o d s t i m a t i o n , S q u a r e - R o o t D i (cid:11) u s i o n , Q u a s i - M a x i m u m L i k e l i h o o d , G e n e r a l i z e d M e t h o d o f M o e n t s . J E L c l a s s i (cid:12) c a t i o n : C 1 5 ; C 2 2 ; C 5 2
1 W o c p l a Q ( t S a b M S i c p c s b e w c t a T d t I n t r o d u c t i o n h e n e s t i m a t i n g a c o n t i n u o u s t i m e m o d e l i n (cid:12) n a n c e , o n e o f t e n f a c e s t h e d i Æ c u l t y o f p a r t i a l b s e r v a b i l i t y . U s u a l l y t h e c o n t i n u o u s t i m e r e c o r d i s n o t a v a i l a b l e , s i n c e t h e d a t a i s d i s r e t e l y s a m p l e d . A f u r t h e r c o m p l i c a t i o n i s t h a t t h e t r a n s i t i o n a l d e n s i t y o f t h e s t o c h a s t i c r o c e s s d o e s n o t a l w a y s h a v e a c l o s e d - f o r m s o l u t i o n . D u e t o t h e l a c k o f a t r a c t a b l e l i k e i h o o d f u n c t i o n , m u c h o f t h e i n t e r e s t a m o n g r e s e a r c h e r s h a s t u r n e d t o n o n l i k e l i h o o d - b a s e d p p r o a c h e s . F o r i n s t a n c e , b y e x p l o i t i n g t h e a n a l y t i c a l s o l u t i o n s o f t h e (cid:12) r s t t w o m o m e n t s , t h e u a s i - M a x i m u m L i k e l i h o o d E s t i m a t i o n ( Q M L E ) , a s d i s c u s s e d i n B o l l e r s l e v a n d W o o l d r i d g e 1 9 9 2 ) c o n v e n i e n t l y c i r c u m v e n t s t h e n e e d t o e v a l u a t e d e n s i t y f u n c t i o n , a l t h o u g h t h e a s y m p o t i c v a l i d i t y o f Q M L E i m p o s e s c e r t a i n r e s t r i c t i o n s o n t h e i n n o v a t i o n d e n s i t y ( N e w e y a n d t e i g e r w a l d 1 9 9 7 ) . M o r e o v e r , t h e G e n e r a l i z e d M e t h o d o f M o m e n t s ( G M M ) b y H a n s e n ( 1 9 8 2 ) n d H a n s e n a n d S c h e i n k m a n ( 1 9 9 5 ) f u r t h e r r e d u c e s t h e r e l i a n c e o n d i s t r i b u t i o n a s s u m p t i o n s y m a t c h i n g t h e e m p i r i c a l m o m e n t s w i t h t h e t h e o r e t i c a l o n e s . M e a n w h i l e , t h e S i m u l a t e d e t h o d o f M o m e n t s ( S M M ) i n t i m e - s e r i e s a p p l i c a t i o n ( I n g r a m a n d L e e 1 9 9 1 , D u Æ e a n d i n g l e t o n 1 9 9 3 ) m i n i m i z e s t h e r e l i a n c e o n d i s t r i b u t i o n a s s u m p t i o n s b y m a t c h i n g t h e e m p i r c a l m o m e n t s w i t h t h e s i m u l a t e d o n e s . B o t h G M M a n d S M M a r e r o b u s t t o t h e m i s s p e c i (cid:12) a t i o n o f l i k e l i h o o d f u n c t i o n s , w h i l e r e t a i n i n g a p a r a m e t r i c m o d e l t o c o n d u c t s i m u l a t i o n o r a d h o c r o j e c t i o n . H o w e v e r , t h e s e m e t h o d s o f m o m e n t s s u (cid:11) e r f r o m t h e c h o i c e o f m o m e n t o n d i t i o n s a n d m u s t p r e s u m e t h e e x i s t e n c e o f a r b i t r a r y p o p u l a t i o n m o m e n t s ; a n d t h e c h i q u a r e s p e c i (cid:12) c a t i o n t e s t o f t h e o v e r i d e n t i f y i n g r e s t r i c t i o n s i s s u b j e c t t o s e v e r e o v e r r e j e c t i o n i a s ( H a n s e n , H e a t o n , a n d Y a r o n 1 9 9 6 , A n d e r s e n a n d S (cid:28) r e n s o n 1 9 9 6 ) . F u r t h e r m o r e , t h e Æ c i e n c y l o s s o f p a r a m e t e r e s t i m a t e s i s c l o s e l y r e l a t e d t o t h e h i g h c o s t i n e s t i m a t i n g t h e e i g h t i n g m a t r i x , a s t h e v a r i a n c e - c o v a r i a n c e m a t r i x i s t y p i c a l l y h e t e r o s k e d a s t i c a n d s e r i a l l y o r r e l a t e d ( A n d e r s e n a n d S (cid:28) r e n s o n 1 9 9 6 ) . T h e W a l d t e s t i s a l s o f o u n d t o e x c e e d i t s a s y m p o t i c s i z e d u e t o t h e d i Æ c u l t y i n e s t i m a t i n g t h e r e s i d u e s p e c t r a l - d e n s i t y m a t r i x ( B u r n s i d e n d E i c h e n b a u m 1 9 9 6 ) . T h e E Æ c i e n t M e t h o d o f M o m e n t s ( E M M ) , i n t r o d u c e d b y B a n s a l , G a l l a n t , H u s s e y , a n d a u c h e n ( 1 9 9 5 ) a n d G a l l a n t a n d T a u c h e n ( 1 9 9 6 c ) , e n d o g e n o u s l y s e l e c t s t h e m o m e n t c o n i t i o n s d u r i n g t h e p r o c e d u r e ’ s (cid:12) r s t s t e p . A s e m i n o n p a r a m e t r i c s c o r e g e n e r a t o r ( S N P ) u s e s h e F o u r i e r - H e r m i t e p o l y n o m i a l t o a p p r o x i m a t e t h e u n d e r l y i n g t r a n s i t i o n a l d e n s i t y . A s a n 1
o s e a S s m b m i o l s a s n U c c e a ( t t c t c E o e r t h o g o n a l s e r i e s e s t i m a t o r , t h e S N P d e n s i t y h a s a f a s t u n i f o r m c o n v e r g e n c e , g i v e n t h e m o o t h n e s s o f t h e u n d e r l y i n g d i s t r i b u t i o n f u n c t i o n . A s u i t a b l e m o d e l s e l e c t i o n c r i t e r i o n , . g . , t h e S c h w a r z ’ s B a y e s i a n I n f o r m a t i o n C r i t e r i o n ( B I C ) , i s u s e d t o c h o o s e t h e d i r e c t i o n n d c o m p l e x i t y o f t h e a u x i l i a r y m o d e l e x p a n s i o n . T h e s e c o n d s t a g e o f E M M i s s i m p l y a n M M - t y p e e s t i m a t o r , m i n i m i z i n g t h e q u a s i - m a x i m u m l i k e l i h o o d s c o r e f u n c t i o n s t h a t a r e c h o e n a p p r o p r i a t e l y i n t h e (cid:12) r s t s t a g e . S i n c e t h e s c o r e f u n c t i o n s a r e o r t h o g o n a l , t h e w e i g h t i n g a t r i x ( i . e . , t h e i n f o r m a t i o n m a t r i x f r o m t h e q u a s i - m a x i m u m l i k e l i h o o d e s t i m a t o r ) s h o u l d e n e a r l y s e r i a l l y u n c o r r e l a t e d . H e n c e t h e a s y m p t o t i c v a r i a n c e e s t i m a t o r a p p r o a c h e s t h e i n i m u m b o u n d , a n d t h e p a r a m e t e r e s t i m a t e s a r e a s y m p t o t i c a l l y a s e Æ c i e n t a s M L E . I t s p r o v e n t h a t f o r a n e r g o d i c s t o c h a s t i c s y s t e m w i t h p a r t i a l l y o b s e r v e d d a t a , t h e e Æ c i e n c y f E M M a p p r o a c h e s t h a t o f M L E , a s t h e n u m b e r o f m o m e n t c o n d i t i o n s a n d t h e n u m b e r o f a g s e n t e r i n g e a c h m o m e n t i n c r e a s e w i t h t h e s a m p l e s i z e ( G a l l a n t a n d L o n g 1 9 9 7 ) . A n o t h e r a l i e n t f e a t u r e o f E M M i s t h e c a p a b i l i t y t o d e t e c t a m i s s p e c i (cid:12) e d s t r u c t u r a l m o d e l , i f t h e u x i l i a r y m o d e l i s r i c h e n o u g h s u c h t h a t H e r m i t e p o l y n o m i a l s c o r e s a p p r o x i m a t e t h e t r u e c o r e s f a i r l y w e l l ( T a u c h e n 1 9 9 7 ) . U n d e r c o r r e c t s p e c i (cid:12) c a t i o n o f t h e m a i n t a i n e d m o d e l , t h e o r m a l i z e d o b j e c t i v e f u n c t i o n v a l u e c o n v e r g e s i n d i s t r i b u t i o n t o a c h i - s q u a r e d i s t r i b u t i o n . n d e r m i s s p e c i (cid:12) c a t i o n , t h e u n n o r m a l i z e d o b j e c t i v e f u n c t i o n c o n v e r g e s a l m o s t s u r e l y t o a o n s t a n t . F o r t h e p a r t i c u l a r c h o i c e o f a s c o r e g e n e r a t o r , t h i s c o n s t a n t m a y b e z e r o a n d t h e h i - s q u a r e t e s t h a s l i t t l e p o w e r a g a i n s t t h e a l t e r n a t i v e s . I f t h e d a t a g e n e r a t i n g p r o c e s s i s a d q u a t e l y c a p t u r e d b y a m o r e (cid:13) e x i b l e n o n p a r a m e t r i c s c o r e g e n e r a t o r , t h e c o n s t a n t i s p o s i t i v e n d r e j e c t i o n o f m i s s p e c i (cid:12) c a t i o n i s a l m o s t c e r t a i n . R e c e n t M o n t e C a r l o s t u d i e s d o c u m e n t e d s i g n i (cid:12) c a n t e Æ c i e n c y g a i n s o f E M M o v e r G M M A n d e r s e n , C h u n g , a n d S (cid:28) r e n s o n 1 9 9 9 ) , b u t w i t h s i m i l a r o v e r r e j e c t i o n p r o b l e m s i n s p e c i (cid:12) c a i o n t e s t s ( C h u m a c e r o 1 9 9 7 ) . I n m o r e a n a l y t i c a l f a s h i o n , G a l l a n t a n d T a u c h e n ( 1 9 9 8 a ) s h o w h a t E M M o u t p e r f o r m s t h e c o n v e n t i o n a l m e t h o d o f m o m e n t s ( C M M ) f o r a r e p r e s e n t a t i v e l a s s o f e c o n o m e t r i c m o d e l s , g i v e n t h e s a m e n u m b e r o f m o m e n t s b e i n g s e l e c t e d . H o w e v e r , h e r e i s n o u n i v e r s a l t h e o r y r e g a r d i n g t h e e Æ c i e n c y o f E M M v e r s u s t h a t o f C M M , a n d t h e o m p a r i s o n m u s t b e m a d e c a s e - b y - c a s e ( G a l l a n t a n d T a u c h e n 1 9 9 8 a ) . T h e r e f o r e c h o o s i n g M M o v e r Q M L E , a s i n D a i a n d S i n g l e t o n ( 2 0 0 0 ) , s h o u l d b e a c c o m p a n i e d b y s o l i d a r g u m e n t r M o n t e C a r l o e v i d e n c e . T h i s p a p e r c o m p l e m e n t s t h e s e c o m p a r a t i v e s t u d i e s i n s e v e r a l a r a s . F i r s t , t h e M o n t e C a r l o s e t u p i s a c o n t i n u o u s t i m e m o d e l , l i k e m a n y r e c e n t a p p l i c a t i o n s 2
o r (cid:12) o b C E u i s f t O G t r (cid:12) e S s r b a m a e a t S f E M M , w h i c h h a v e f o c u s e d o n t h e s t o c h a s t i c d i (cid:11) e r e n t i a l e q u a t i o n s . S e c o n d , I c o n s i d e r t h e e l a t i v e e Æ c i e n c y o f E M M w i t h r e s p e c t t o a s y m p t o t i c a l l y e Æ c i e n t M L E , c o m p u t a t i o n a l l y e f c i e n t Q M L E , a n d e m p i r i c a l l y a t t r a c t i v e G M M . T h i r d , b o t h b l i n d f o l d a n d e d u c a t e d c h o i c e f m o m e n t c o n d i t i o n s a r e e x a m i n e d , s o a s t o b e s t i m i t a t e t h e r e a l i s t i c a p p r o a c h e s t a k e n y r e s e a r c h e r s u s i n g E M M . T h u s , t h e m a i n c o n t r i b u t i o n o f t h i s p a p e r i s t o p r o v i d e M o n t e a r l o e v i d e n c e w h i c h s h o w s t h a t w h e n t h e a n a l y t i c a l d e n s i t y o r m o m e n t s a r e u n a v a i l a b l e , M M p e r f o r m s r e a s o n a b l y w e l l c o m p a r e d t o t h e i n f e a s i b l e M L E , Q M L E , o r G M M . F u r t h e r , n d e r t w o c h a l l e n g i n g s c e n a r i o s | m e a n p e r s i s t e n c e a n d v o l a t i l i t y c l u s t e r , e a c h m e t h o d h a s t s o w n s t r e n g t h a n d w e a k n e s s , i n t e r m s o f e s t i m a t i o n e Æ c i e n c y , p a r a m e t e r i n f e r e n c e , a n d p e c i (cid:12) c a t i o n t e s t . A s q u a r e - r o o t d i (cid:11) u s i o n p r o c e s s ( C o x , I n g e r s o l l , a n d R o s s 1 9 8 5 ) i s c h o s e n a s t h e v e h i c l e o r c o n d u c t i n g t h e M o n t e C a r l o s t u d y . O n t h e o n e h a n d , t h e C I R m o d e l i s s i m p l e e n o u g h o g i v e c l o s e d - f o r m s o l u t i o n s f o r b o t h t h e t r a n s i t i o n a l d e n s i t y a n d t h e a s s e t p r i c i n g f o r m u l a . n t h e o t h e r h a n d , i t i s r i c h e n o u g h t o g e n e r a t e a h i g h l y p e r s i s t e n t v o l a t i l i t y a n d n o n a u s s i a n e r r o r d i s t r i b u t i o n . T h e s q u a r e - r o o t p r o c e s s s e e m s t o b e a g o o d s t a r t i n g p o i n t o m o d e l m o r e c o m p l i c a t e d (cid:12) n a n c i a l t i m e s e r i e s d a t a . E M M e s t i m a t i o n o f t h e i n t e r e s t a t e d i (cid:11) u s i o n s i s r e p o r t e d b y G a l l a n t a n d T a u c h e n ( 1 9 9 8 b ) , a n d t h e s q u a r e - r o o t m o d e l i s r m l y r e j e c t e d . W i t h a c l o s e d - f o r m t r a n s i t i o n a l d e n s i t y , t h e d y n a m i c m a x i m u m l i k e l i h o o d s t i m a t i o n w a s i m p l e m e n t e d f o r t h e t w o - f a c t o r C I R m o d e l ( P e a r s o n a n d S u n 1 9 9 4 , D u Æ e a n d i n g l e t o n 1 9 9 7 ) . G i b b o n s a n d R a m a s w a m y ( 1 9 9 3 ) e m p l o y e d a G M M e s t i m a t o r , u s i n g t h e t o c h a s t i c E u l e r e q u a t i o n s t o g e n e r a t e t h e m o m e n t c o n d i t i o n s . T h e i r r e s u l t s f a v o r t h e s q u a r e o o t m o d e l . T h e m o s t r e c e n t i n t e r e s t i n a Æ n e t e r m s t r u c t u r e ( D a i a n d S i n g l e t o n 2 0 0 0 ) c a n e v i e w e d a s a n i m m e d i a t e e x t e n s i o n o f t h e m u l t i f a c t o r s q u a r e - r o o t m o d e l . T h e C I R m o d e l l s o h a s a n e x p l i c i t m a r g i n a l d e n s i t y i n t e r m s o f t h e d r i f t a n d v o l a t i l i t y f u n c t i o n s , w h i c h o t i v a t e d a n o n p a r a m e t r i c s p e c i (cid:12) c a t i o n t e s t ( A (cid:127)(cid:16) t - S a h a l i a 1 9 9 6 b ) . C o n l e y , H a n s e n , L u t t m e r , n d S c h e i n k m a n ( 1 9 9 7 ) i m p l e m e n t e d a G M M e s t i m a t o r f o r a s u b s e t o f t h e p a r a m e t e r s b y x p l o i t i n g t h e r e v e r s i b i l i t y o f a s t a t i o n a r y M a r k o v c h a i n . F i s h e r a n d G i l l e s ( 1 9 9 6 ) p r o p o s e d g e n e r a l Q M L E e s t i m a t o r f o r t h e C I R t y p e d i (cid:11) u s i o n p r o c e s s e s . T h e r e m a i n i n g s e c t i o n s a r e o r g a n i z e d a s f o l l o w i n g : S e c t i o n 2 d i s c u s s e s s o m e p r o p e r t i e s o f h e s q u a r e - r o o t m o d e l a n d c h a r a c t e r i z e s t h e i m p l e m e n t a t i o n s o f M L E , Q M L E , a n d G M M ; e c t i o n 3 i n t r o d u c e s t h e r e l a t i v e l y n e w E Æ c i e n t M e t h o d o f M o m e n t s e s t i m a t o r ; S e c t i o n 4 3
d e s i g n s t h e M o n t e C a r l o e x p e r i m e n t a n d s u g g e s t s t h e b e n c h m a r k m o d e l c h o i c e ; S e c t i o n 5 r e p o r t s t h e m a j o r (cid:12) n d i n g s ; a n d S e c t i o n 6 c o n c l u d e s . 2 S q u a r e - R o o t M o d e l a n d P a r a m e t r i c E s t i m a t o r T h i s s e c t i o n d e (cid:12) n e s a m a x i m u m l i k e l i h o o d e s t i m a t o r f o r t h e s q u a r e - r o o t m o d e l , b a s e d o n P o i s s o n G a m m a a - m i x i n g - c h a r a c t e r i z a t i o n o f t h e l i k e l i h o o d f u n c t i o n . A q u a s i - m a x i m u m l i k e l i h o o d e s t i m a t o r i s a l s o a v a i l a b l e w i t h a n a l y t i c a l s o l u t i o n s t o t h e (cid:12) r s t t w o c o n d i t i o n a l m o m e n t s . A u g m e n t i n g t h e s e t w o m o m e n t s w i t h i n s t r u m e n t a l v a r i a b l e s g i v e s a g e n e r a l i z e d m e t h o d o f m o m e n t s e s t i m a t o r f o u n d i n t h e l i t e r a t u r e . 2 . 1 P r o b a b i l i s t i c S o l u t i o n t o S q u a r e - R o o t M o d e l I t i s a w e l l - k n o w n r e s u l t t h a t t h e s q u a r e - r o o t m o d e l , 1 2 = 0 1 0 d r = ( a + a r ) d t + b r d W ; ( 1 ) t t t t s a t i s (cid:12) e s t h e r e g u l a r i t y c o n d i t i o n s f o r b o t h a s t r o n g s o l u t i o n ( p a t h w i s e c o n v e r g e n t ) a n d a w e a k s o l u t i o n ( c o n v e r g e n t i n p r o b a b i l i t y ) ( K a r a t z a s a n d S h r e v e 1 9 9 7 ) . A s t r o n g s o l u t i o n o b v i o u s l y 2 0 0 1 0 i m p l i e s a w e a k o n e , b u t n o t v i c e v e r s a . I f ( 1 ) a > 0 , ( 2 ) b > 0 , ( 3 ) a < 0 , a n d ( 4 ) b 2 a , 0 (cid:20) t h e n t h e s q u a r e - r o o t m o d e l h a s a u n i q u e f u n d a m e n t a l s o l u t i o n ( F e l l e r 1 9 5 1 ) . T h e m a r g i n a l G a m m a d e n s i t y i s a d i s t r i b u t i o n , a n d t h e t r a n s i t i o n a l d e n s i t y i s a t y p e I B e s s e l f u n c t i o n d i s t r i b u t i o n o r a n o n c e n t r a l c h i - s q u a r e d i s t r i b u t i o n w i t h a f r a c t i o n a l o r d e r ( C o x e t a l . 1 9 8 5 ) . I n t u i t i v e l y , c o n d i t i o n ( 3 ) g i v e s m e a n r e v e r s i o n , a n d c o n d i t i o n ( 4 ) e n s u r e s t h e s t a t i o n a r i t y . G a m m a T h e m a r g i n a l d i s t r i b u t i o n i s (cid:23) ! 1 0 (cid:23) (cid:0) (cid:0) ! r 0 f ( r (cid:23) ; ! ) = r e ; ( 2 ) 0 (cid:0) ( (cid:23) ) j 2 2 1 G a m m a 0 1 w h e r e (cid:23) = 2 a = b , ! = 2 a = b , a n d (cid:0) ( ) i s t h e f u n c t i o n . T h e u n c o n d i t i o n a l m e a n 0 0 (cid:0) (cid:1) a n d v a r i a n c e a r e 0 a (cid:23) 0 E ( r ) = = ; ( 3 ) (cid:0) 1 a ! 2 0 (cid:23) b a 0 0 = : ( 4 ) V ( r ) = 2 2 2 a ! 1 1 I n s o m e t e x t b o o k s a n d s o ft w a r e , t h e s e c o n d p a r a m e t e r o f t h e d e n s it y is w r it t e n in t e r m s o f 1 G a m m a = ! in s t e a d o f ( J o h n s o n a n d K o t z 1 9 7 0 ) . ! 4
N m c a t p T w o a A v s o s n a a r o o t i c e t h a t t h e (cid:12) r s t t w o m o m e n t s m e r e l y i d e n t i f y t h e m a r g i n a l d i s t r i b u t i o n . H i g h e r o r d e r o m e n t s a r e s i m p l y n o n l i n e a r f u n c t i o n s o f t h e (cid:12) r s t t w o m o m e n t s . T h e m a r g i n a l d e n s i t y a l o n e a n n o t i d e n t i f y a l l t h r e e p a r a m e t e r s i n t h e d i (cid:11) u s i o n p r o c e s s . A n y G M M - t y p e e s t i m a t o r m u s t d d a t l e a s t o n e l a g g e d i n s t r u m e n t a l v a r i a b l e ( G i b b o n s a n d R a m a s w a m y 1 9 9 3 ) . A r e j e c t i o n o f h e m a r g i n a l d i s t r i b u t i o n c a n r e j e c t t h e s q u a r e - r o o t m o d e l ; h o w e v e r , a n o n - r e j e c t i o n d o e s n o t r o v i d e e n o u g h i n f o r m a t i o n f o r j u d g i n g a p a r t i c u l a r p a r a m e t e r s e t t i n g ( A (cid:127)(cid:16) t - S a h a l i a 1 9 9 6 b ) . r a n s i t i o n a l i n f o r m a t i o n m u s t b e e x p l o i t e d t o f u l l y i d e n t i f y t h e d y n a m i c s t r u c t u r e . 2 T h e c o n d i t i o n a l d e n s i t y i s 1 q v (cid:0) u (cid:0) v 2 2 1 0 0 1 0 f ( r r ; a ; a ; b ) = c e ( ) I ( 2 ( u v ) ) ; ( 5 ) q u j 0 2 a q = 1 ; ( 6 ) 2 b (cid:0) 0 2 1 1 a a 1 0 1 h e r e c = 2 a = ( b ( 1 e ) ) , u = c r e , a n d v = c r . I ( ) i s a m o d i (cid:12) e d B e s s e l f u n c t i o n 0 q (cid:0) (cid:0) (cid:1) f t h e (cid:12) r s t k i n d w i t h a f r a c t i o n a l o r d e r q ( O l i v e r 1 9 7 2 ) . T h e c o n d i t i o n a l m e a n a n d v a r i a n c e r e 0 a 1 1 a a 1 0 0 E ( r r ) = r e ) ; ( 7 ) ( 1 e 1 a (cid:0) j (cid:0) 2 2 0 b a b 0 0 2 1 1 1 a a a 1 0 0 ) + V ( r r ) = r ( ( 1 e ) : ( 8 ) ) e ( 1 e 2 1 a 2 a j (cid:0) (cid:0) (cid:0) 1 c c o r d i n g t o t h e s t a t i o n a r y p r o p e r t y , t h e l i m i t o f t h e t r a n s i t i o n a l d e n s i t y a s t h e t i m e i n t e r a l g o e s t o i n (cid:12) n i t y , i s e x a c t l y t h e m a r g i n a l d e n s i t y . T h e r e f o r e a n y e s t i m a t i o n s t r a t e g y o r p e c i (cid:12) c a t i o n t e s t t h a t e x p l o i t s t h e t r a n s i t i o n a l d e n s i t y w i l l n a t u r a l l y n e s t t h e o n e s t h a t r e l y n t h e m a r g i n a l d e n s i t y . I t i s a c o m m o n p r a c t i c e i n t h e l i t e r a t u r e t o c a l l t h i s d i s t r i b u t i o n a \ n o n c e n t r a l c h i q u a r e d i s t r i b u t i o n . " H o w e v e r , t h e \ i n t e g e r o r d e r n o n c e n t r a l c h i - s q u a r e d i s t r i b u t i o n " d o e s o t n a t u r a l l y e x t e n d t o t h e \ f r a c t i o n a l o r d e r n o n c e n t r a l c h i - s q u a r e d i s t r i b u t i o n . " T h e l a t t e r r i s e s c o m m o n l y f r o m t h e s o l u t i o n t o a d i (cid:11) u s i o n p r o c e s s ( F e l l e r 1 9 7 1 ) , w h i l e t h e f o r m e r r i s e s f r o m t h e s a m p l e s t a n d a r d d e v i a t i o n o f i n d e p e n d e n t , n o n i d e n t i c a l , n o n c e n t e r e d , n o r m a l a n d o m v a r i a b l e s ( J o h n s o n a n d K o t z 1 9 7 0 ) . 2 T h e p r o c e s s is s a m p le d w it h w e e k ly o b s e r v a t io n s a n d t h e t im e in t e r v a l o f a w e e k is n o r m a liz e d t o b e n e . 5
2 . 2 A n a l y t i c a l F o u n d a t i o n s f o r M L E , Q M L E , a n d G M M I n i n d u s t r y a n d a c a d e m i c s a l i k e , o n e p o p u l a r m e t h o d i n e s t i m a t i n g t h e s q u a r e - r o o t m o d e l f o r i n t e r e s t r a t e s i s t h e D i s c r e t i z e d M a x i m u m L i k e l i h o o d E s t i m a t i o n ( D M L E ) , i . e . , a m i s s p e c i (cid:12) e d 1 0 0 1 0 Q M L E b a s e d o n t h e t i m e d i s c r e t i z a t i o n o f t h e c o n d i t i o n a l m e a n E ( r r ) a + ( 1 + a ) r a n d j (cid:25) 2 1 0 0 v a r i a n c e V ( r r ) b r . A s p o i n t e d o u t b y L o ( 1 9 8 8 ) , D M L E i s g e n e r a l l y n o t c o n s i s t e n t . 0 j (cid:25) T h e p a r a m e t e r e s t i m a t e s a r e a s y m p t o t i c a l l y b i a s e d , s i n c e b o t h m o m e n t s a r e m i s s p e c i (cid:12) e d . W h e n i m p l e m e n t i n g M L E f o r t h e s q u a r e - r o o t m o d e l , t h e B e s s e l f u n c t i o n r e p r e s e n t a t i o n o f t h e l i k e l i h o o d f u n c t i o n i s n o t a t a l l a c o n v e n i e n t f o r m ( P e a r s o n a n d S u n 1 9 9 4 , D u Æ e a n d P o i s s o n G a m m a S i n g l e t o n 1 9 9 7 ) . A n a l t e r n a t i v e - m i x i n g - c h a r a c t e r i z a t i o n c a n b e i n f e r r e d f r o m t h e s i m u l a t i o n s t r a t e g y s u g g e s t e d b y D e v r o y e ( 1 9 8 6 ) . W i t h i n t h e a d m i s s i b l e p a r a m e t e r r e g i o n , o n e c a n s u b s t i t u t e t h e B e s s e l f u n c t i o n w i t h a n i n (cid:12) n i t e s e r i e s e x p a n s i o n ( O l i v e r 1 9 7 2 ) . p W i t h a p p r o p r i a t e t r a n s f o r m a t i o n s ( y = v , (cid:21) = q + 1 , a n d (cid:12) = 2 u ) , t h e a l t e r n a t i v e m i x i n g f o r m u l a c o m e s o u t n i c e l y , 2 2 (cid:12) j (cid:12) (cid:0) + 1 2 1 j (cid:21) (cid:0) (cid:0) y e 2 y e f ( y ) = ( 9 ) (cid:17) (cid:16) (cid:0) ( j + (cid:21) ) j ! (cid:1) = 0 j X 2 1 (cid:12) = ) : G a m m a ( y j + (cid:21) ; 1 ) P o i s s o n ( j 2 j (cid:1) j = 0 j X P o i s s o n O n e n e e d s t o b e c a u t i o u s t h a t t h e w e i g h t s a r e n o t c o n s t a n t , b u t r a t h e r c o n d i t i o n o n P o i s s o n G a m m a 0 t h e p r e v i o u s r e a l i z a t i o n r . T h i s f o r m u l a c o r r e s p o n d s t o t h e \ d r i v e n p r o c e s s " i n F e l l e r ( 1 9 7 1 ) . T h e o n l y d i (cid:11) e r e n c e i s t h a t (cid:21) = q + 1 r e m a i n s a f r a c t i o n a l n u m b e r , n o t a n i n t e g e r . T h e e v a l u a t i o n o f t h e l o g - l i k e l i h o o d f u n c t i o n i n M L E i s g r e a t l y s i m p l i (cid:12) e d w h e n u s i n g 8 (cid:0) P o i s s o n G a m m a b y t h e - m i x i n g - f o r m u l a . I t i s f a i r l y e a s y t o a c h i e v e t h e s i n g l e p r e c i s i o n 1 0 P o i s s o n t r u n c a t i n g t h e d i s t r i b u t i o n a r o u n d 1 0 0 . O n e c a n a l s o a v o i d a n y c o m p l i c a t i o n o f 3 c o m p l e x v a l u e o r n o n - c o n v e r g e n c e i n e v a l u a t i n g t h e B e s s e l f u n c t i o n . T h e e x a c t e x p r e s s i o n s f o r t h e c o n d i t i o n a l m e a n a n d v a r i a n c e ( e q u a t i o n s 7 a n d 8 ) s u g g e s t 3 T h is m ix in g a p p r o a c h t o lik e lih o o d fu n c t io n w o r k s w e ll fo r t h e h ig h v o la t ilit y c a s e , b u t t h e a p p r o a c h fa ils fo r t h e m e a n p e r s is t e n c e c a s e , b e c a u s e t h e la t t e r is c lo s e t o t h e u n it r o o t o r n o n s t a t io n a r y r e g io n ( s e e S e c t io n 4 .1 fo r d e t a ils o n c h o o s in g t h e b e n c h m a r k s c e n a r io ) a n d b e c a u s e t h e e v a lu a t io n o f t h e lik e lih o o d fu n c t io n e a s ily d iv e r g e s . T o im p le m e n t M L E in t h e m e a n p e r s is t e n c e c a s e , I a d o p t t h e a s y m p t o t ic e x p a n s io n fo r m u la ( O liv e r 1 9 7 2 ) in t h e s a m e fa s h io n a s P e a r s o n a n d S u n ( 1 9 9 4 ) . 6
a Q n c T v 2 S o T i t c f f f M 2 T r q u a s i - m a x i m u m l i k e l i h o o d e s t i m a t o r ( Q M L E ) f o r t h e s q u a r e - r o o t m o d e l , 1 2 T (cid:0) + 1 + 1 1 [ r E ( r r ) ] t t t m a x l o g e x p : ( 1 0 ) (cid:0) j 0 1 0 f a ;a ;b g + 1 2 V ( r r ) (cid:0) ( ) t t = 1 t + 1 2 (cid:25) V ( r r ) t t X j j q M L E i s s h o w n t o b e r o o t - n c o n s i s t e n t ( B o l l e r s l e v a n d W o o l d r i d g e 1 9 9 2 ) a n d a s y m p t o t i c a l l y o r m a l ( N e w e y a n d S t e i g e r w a l d 1 9 9 7 ) u n d e r s o m e m i l d r e g u l a r i t y c o n d i t i o n s . F o r c o m p a r i s o n p u r p o s e s , a g e n e r a l i z e d m e t h o d o f m o m e n t s ( G M M ) e s t i m a t o r c a n b e o n s t r u c t e d f r o m t h e f o l l o w i n g m o m e n t v e c t o r + 1 + 1 r E ( r r ) t t t (cid:0) j + 1 + 1 r [ r E ( r r ) ] t t t t 2 3 0 1 0 f ( a ; a ; b ) = : ( 1 1 ) 2 t (cid:0) j + 1 + 1 + 1 V ( r r ) [ r E ( r r ) ] t t t t t 6 7 2 j (cid:0) (cid:0) j 6 7 + 1 + 1 + 1 r V ( r r ) [ r E ( r r ) ] t t t t t t 6 7 f j (cid:0) (cid:0) j g 4 5 1 T (cid:0) 0 h e p a r a m e t e r i s e s t i m a t e d b y m i n g W g , w h e r e g = 1 = T f a n d W i s t h e a s y m p t o t i c = 1 T T t T t P a r i a n c e - c o v a r i a n c e m a t r i x o f g ( H a n s e n 1 9 8 2 ) . A t w o s t e p e s t i m a t o r i s a d o p t e d h e r e . T . 3 I n f e r e n c e i n c e w e k n o w t h e t r u e p a r a m e t e r v a l u e f o r M L E , t h e l i k e l i h o o d r a t i o t e s t s c a n d e t e r m i n e h o w f t e n t h e c o n (cid:12) d e n c e r e g i o n c e n t e r e d a t t h e e s t i m a t e d p a r a m e t e r v a l u e c o n t a i n s t h e t r u t h . h e s a m e p r i n c i p l e m a y b e e x t e n d e d t o Q M L E i f t h e e x p e c t e d q u a s i - l i k e l i h o o d f u n c t i o n s u n i q u e l y m a x i m i z e d a t t h e t r u t h ( s a t i s f y i n g i d e n t i (cid:12) c a t i o n r e q u i r e m e n t ) . I n a d d i t i o n t o h e c o r r e c t s p e c i (cid:12) c a t i o n o f t h e m e a n a n d v a r i a n c e , t h e r e m a i n i n g i n n o v a t i o n e r r o r m u s t b e e n t e r e d a t z e r o o r h a v e a s y m m e t r i c d i s t r i b u t i o n ( N e w e y a n d S t e i g e r w a l d 1 9 9 7 ) . Q M L E o r t h e s q u a r e - r o o t m o d e l m e e t s t h e s e c o n d i t i o n s . A l s o , t h e s a m p l e - s i z e n o r m a l i z e d c r i t e r i o n u n c t i o n v a l u e i n G M M p r o v i d e s a s p e c i (cid:12) c a t i o n t e s t d i s t r i b u t e d a s a C h i - s q u a r e ( 1 ) . T h e s t a n d a r d e r r o r f o r a n i n d i v i d u a l p a r a m e t e r i s e s t i m a t e d b y t h e i n v e r t e d H e s s i a n o r m u l a i n M L E , t h e O P G - H e s s i a n - O P G f o r m u l a i n Q M L E , a n d t h e G r a d i e n t - W e i g h t i n g a t r i x - G r a d i e n t f o r m u l a i n G M M . . 4 S i m u l a t i o n h i s c h a r a c t e r i z a t i o n ( e q u a t i o n 9 ) a l s o d e (cid:12) n e s a c o m p o s i t e m e t h o d t o s i m u l a t e t h e s q u a r e - 2 P o i s s o n o o t p r o c e s s ( D e v r o y e 1 9 8 6 ) . F i r s t , o n e d r a w s a r a n d o m n u m b e r j f r o m t h e ( j (cid:12) = 2 ) . j 7
T c c c 1 3 T G 3 D a i b p p w p T t p T v K c r G a m m a h e n , o n e d r a w s a n o t h e r r a n d o m n u m b e r y f r o m t h e ( y j + (cid:21) ; 1 ) . F i n a l l y , o n e j 1 1 1 a l c u l a t e s t h e d e s i r e d s t a t e v a r i a b l e r b y r = y = c . N o t i c e t h a t t h e r e a l i z e d r i s t h e 0 0 o n d i t i o n i n g v a l u e r i n t h e n e x t d r a w . T h e i n i t i a l v a l u e r , w h e n s t a r t i n g a s i m u l a t i o n r u n , a n b e s e t t o t h e t h e o r e t i c a l u n c o n d i t i o n a l m e a n . T o p a s s o n t h e t r a n s i e n t e (cid:11) e c t , t h e (cid:12) r s t 0 0 0 r e a l i z a t i o n s c a n b e d i s c a r d e d . E Æ c i e n t M e t h o d o f M o m e n t s E s t i m a t i o n h i s s e c t i o n d e s c r i b e s t h e E M M e s t i m a t o r i n a u n i v a r i a t e c a s e . F o r f o r m a l d i s c u s s i o n s , s e e a l l a n t a n d T a u c h e n ( 1 9 9 6 c ) , T a u c h e n ( 1 9 9 7 ) , a n d G a l l a n t a n d L o n g ( 1 9 9 7 ) . . 1 A p p r o x i m a t i n g T r u e D e n s i t y w i t h A u x i l i a r y M o d e l e n o t e t h e i n v a r i a n t p r o b a b i l i t y m e a s u r e i m p l i e d b y t h e u n d e r l y i n g d a t a g e n e r a t i n g p r o c e s s s t h e p - m o d e l . I t i s a s s u m e d t h a t t h e d i r e c t m a x i m u m l i k e l i h o o d e s t i m a t i o n o f t h e p - m o d e l s n o t a v a i l a b l e . H o w e v e r , a n y s m o o t h d e n s i t y f u n c t i o n c a n b e a p p r o x i m a t e d a r b i t r a r i l y c l o s e y a H e r m i t e p o l y n o m i a l e x p a n s i o n . C o n s i d e r a s c a l a r c a s e . L e t y b e t h e r a n d o m v a r i a b l e , x b e t h e l a g g e d y , a n d (cid:18) b e t h e a r a m e t e r . T h e a u x i l i a r y f - m o d e l h a s a d e n s i t y f u n c t i o n d e (cid:12) n e d b y a m o d i (cid:12) e d H e r m i t e o l y n o m i a l , 2 2 f ( y x ; (cid:18) ) = C [ ( z ; x ) ] (cid:30) ( y (cid:22) ; (cid:27) ) ; ( 1 2 ) x x j f P j g h e r e i s a p o l y n o m i a l w i t h d e g r e e K i n z a n d t h u s t h e s q u a r e o f m a k e s t h e d e n s i t y z P P o s i t i v e . T h e a r g u m e n t o f t h e p o l y n o m i a l i s z , w h i c h i s t h e t r a n s f o r m a t i o n z = ( y (cid:22) ) = (cid:27) . x x (cid:0) h e c o e Æ c i e n t o f t h e p o l y n o m i a l i s a n o t h e r p o l y n o m i a l o f d e g r e e K i n x . T h e c o n s t a n t i n x h e p o l y n o m i a l i s s e t t o 1 f o r i d e n t i (cid:12) c a t i o n . C i s a n o r m a l i z i n g f a c t o r t o m a k e t h e d e n s i t y 4 2 r o p e r . (cid:30) ( ) i s a n o r m a l d e n s i t y o f y w i t h c o n d i t i o n a l m e a n (cid:22) a n d c o n d i t i o n a l v a r i a n c e (cid:27) . x x (cid:1) h e l e n g t h o f t h e a u x i l i a r y m o d e l p a r a m e t e r i s d e t e r m i n e d b y t h e l a g i n m e a n L (cid:22) , l a g i n a r i a n c e L , l a g i n p o l y n o m i a l c o e Æ c i e n t L , p o l y n o m i a l d e g r e e K , a n d p o l y n o m i a l d e g r e e r p z n 1 . L e t ~y b e t h e o b s e r v e d d a t a a n d ~x b e t h e l a g g e d o b s e r v a t i o n s . T h e s a m p l e m e a n x t t(cid:0) = 1 t f g 4 I n t h e c a s e o f m u lt iv a r ia t e d e n s it y , t h e in t e r a c t io n t e r m s in b o t h t h e H e r m it e p o ly n o m ia l a n d t h e o e Æ c ie n t p o ly n o m ia l c a n b e s e t t o z e r o , in o r d e r fo r a g r a d u a l e x p a n s io n o f t h e a u x ilia r y m o d e l. S e e a b o v e e fe r e n c e s fo r d e t a ils . 8
l A I m m w i ( t 3 F m I t m s T f a a o g - l i k e l i h o o d f u n c t i o n i s d e (cid:12) n e d b y n 1 n 1 ( (cid:18) ; ~y ) = l o g [ f ( ~y ~x ; (cid:18) ) ] : ( 1 3 ) = 1 n t t t(cid:0) t n L f g j = 1 t X q u a s i - m a x i m u m - l i k e l i h o o d e s t i m a t o r i s o b t a i n e d b y n ~(cid:18) = a r g m a x ( (cid:18) ; ~y ) : ( 1 4 ) n t = 1 t (cid:18) L f g T h e d i m e n s i o n o f t h e a u x i l i a r y f - m o d e l , t h e l e n g t h o f (cid:18) , i s s e l e c t e d b y S c h w a r z ’ s B a y e s i a n n f o r m a t i o n C r i t e r i o n ( B I C ) . T h e r e a r e d i (cid:11) e r e n t c h o i c e s o f i n f o r m a t i o n c r i t e r i a f o r o p t i m a l o d e l s e l e c t i o n . F o r a (cid:12) n i t e d i m e n s i o n a l s t a t i o n a r y p r o c e s s , B I C w i t h a l a r g e r p e n a l t y f o r o d e l c o m p l e x i t y p r o v e s t o b e c o n s i s t e n t , w h i l e t h e A k a i k e ’ s I n f o r m a t i o n C r i t e r i o n ( A I C ) i l l o v e r (cid:12) t t h e m o d e l . O n t h e o t h e r h a n d , i f t h e t r u e d i m e n s i o n i s i n (cid:12) n i t y o r i n c r e a s e s t o n (cid:12) n i t y w i t h t h e s a m p l e s i z e , A I C w i t h a s m a l l e r p e n a l t y f o r m o d e l c o m p l e x i t y i s o p t i m a l f p Z h e n g a n d L o h 1 9 9 5 ) . T h e d i m e n s i o n s o f t h e - m o d e l n e e d s t o b e a s l a r g e a s t h e - m o d e l 5 o m e e t t h e i d e n t i (cid:12) c a t i o n c o n d i t i o n . . 2 M a t c h i n g A u x i l i a r y S c o r e s w i t h M i n i m u m C h i - S q u a r e r o m t h e (cid:12) r s t - s t a g e s e m i n o n p a r a m e t r i c e s t i m a t e s , o n e o b t a i n s t h e (cid:12) t t e d s c o r e s a s t h e m o e n t c o n d i t i o n s , n @ 1 ~ ~ 1 l o g f ( ~y ~x ; (cid:18) ) : ( 1 5 ) m ( (cid:18) ) = t t(cid:0) n n @ (cid:18) j = 1 t X n t h e s e c o n d s t a g e , a S M M - t y p e e s t i m a t o r i s i m p l e m e n t e d i n t h e f o l l o w i n g w a y . A l t h o u g h h e d i r e c t M L E f o r p - m o d e l i s a s s u m e d t o b e i m p o s s i b l e , t h e s i m u l a t i o n f r o m t h e s t r u c t u r a l N o d e l ( e . g . , t h e s t o c h a s t i c d i (cid:11) e r e n t i a l e q u a t i o n ) i s r e a d i l y a v a i l a b l e . L e t ^y b e a l o n g = 1 t t f g i m u l a t i o n f r o m a c a n d i d a t e v a l u e o f (cid:26) , t h e p a r a m e t e r o f t h e m a i n t a i n e d s t r u c t u r a l m o d e l . h e a u x i l i a r y s c o r e f u n c t i o n s c a n b e r e e v a l u a t e d b y n u m e r i c a l i n t e g r a t i o n o f o f t h e s c o r e u n c t i o n s w i t h t h e s i m u l a t e d d a t a , N 1 @ ~ ~ 1 ^m ( (cid:26) ; (cid:18) ) = l o g f ( ^y ^x ; (cid:18) ) ; ( 1 6 ) N t t(cid:0) N @ (cid:18) j = 1 t X 5 E v e n w h e n t h e u n d e r ly in g - m o d e l h a s a (cid:12) x e d d im e n s io n ( i.e ., a (cid:12) x e d n u m b e r o f p a r a m e t e r s ) , t h e p u x ilia r y - m o d e l c a n s t ill h a v e a n in c r e a s in g o r d e r in (cid:12) n it e s a m p le s iz e s , b e c a u s e o f t h e a p p r o x im a t io n fr o m f u x ilia r y m o d e l t o t r u e m o d e l. 9
a w a a m t s d i t a 3 T f o f m w c e n d t h e m i n i m u m c h i - s q u a r e e s t i m a t o r i s s i m p l y , 1 0 (cid:0) ~ ~ ~ ^(cid:26) = a r g m i n ^m ( (cid:26) ; (cid:18) ) ^m ( (cid:26) ; (cid:18) ) ; ( 1 7 ) N N (cid:26) f I g 1 (cid:0) ~ h e r e t h e w e i g h t i n g m a t r i x i s e s t i m a t e d b y t h e m e a n - o u t e r - p r o d u c t o f s c o r e s f r o m t h e I u x i l i a r y m o d e l n 1 @ @ 0 ~ ~ ~ 1 1 = [ l o g f ( ~y ~x ; (cid:18) ) ] [ l o g f ( ~y ~x ; (cid:18) ) ] : ( 1 8 ) t t(cid:0) t t(cid:0) n @ (cid:18) @ (cid:18) I j j = 1 t X R e m e m b e r t h a t t h e (cid:12) n i t e s a m p l e e Æ c i e n c y l o s s o f t h e G M M - t y p e e s t i m a t o r s i s l a r g e l y t t r i b u t e d t o t h e h i g h c o s t a n d l o w a c c u r a c y i n e s t i m a t i n g t h e s e r i a l l y c o r r e l a t e d w e i g h t i n g a t r i x . I n E M M t h e m o m e n t c o n d i t i o n s ( s c o r e f u n c t i o n s ) o f t h e (cid:12) r s t s t e p Q M L E a r e o r h o g o n a l b y c o n s t r u c t i o n ; h e n c e t h e i n f o r m a t i o n m a t r i x i s d i a g o n a l o r n e a r l y d i a g o n a l ( i . e . , e r i a l l y u n c o r r e l a t e d ) . E M M w i l l b e a s y m p t o t i c a l l y a s e Æ c i e n t a s M L E i f t h e f o l l o w i n g c o n i t i o n s a r e m e t : t h e d i m e n s i o n o f t h e a u x i l i a r y m o d e l i s s u Æ c i e n t l y l a r g e ( K ) , t h e l a g ! 1 n t h e t h e a u x i l i a r y m o d e l i s s u Æ c i e n t l y l o n g ( L ) , a n d t h e s i m u l a t i o n f r o m t h e m a i n - ! 1 a i n e d s t r u c t u r a l m o d e l i s s u Æ c i e n t l y l o n g ( N ) . T h i s e n c o m p a s s e s b o t h M a r k o v i a n ! 1 n d n o n - M a r k o v i a n c a s e s ( G a l l a n t a n d L o n g 1 9 9 7 ) . . 3 O v e r r e j e c t i o n a n d M i s s p e c i (cid:12) c a t i o n h e n o r m a l i z e d c r i t e r i o n f u n c t i o n v a l u e i n t h e E M M e s t i m a t i o n , 2 1 0 (cid:0) ~ ~ ~ c = n ^m ( ^(cid:26) ; (cid:18) ) ^m ( ^(cid:26) ; (cid:18) ) ; ( 1 9 ) N N n I o r m s a s p e c i (cid:12) c a t i o n t e s t f o r t h e o v e r i d e n t i f y i n g r e s t r i c t i o n s . U n d e r t h e c o r r e c t s p e c i (cid:12) c a t i o n D 2 2 ( l l ) , w h e r e t h e d e g r e e o f f t h e m a i n t a i n e d m o d e l ( T a u c h e n 1 9 9 7 ) , w e h a v e c (cid:18) p n (cid:0) ! X (cid:0) r e e d o m e q u a l s t h e p a r a m e t e r l e n g t h o f t h e a u x i l i a r y m o d e l m i n u s t h a t o f t h e s t r u c t u r a l o d e l . H o w e v e r , i f t h e m a i n t a i n e d m o d e l i s m i s s p e c i (cid:12) e d ( T a u c h e n 1 9 9 7 ) , w e h a v e 2 c a :s : 2 1 n 0 (cid:0) (cid:22) (cid:22) (cid:22) (cid:22)c = ^m ( (cid:22)(cid:26) ; (cid:18) ) ^m ( (cid:22)(cid:26) ; (cid:18) ) > 0 ; N N n (cid:0) ! I (cid:22) (cid:22) h e r e (cid:18) , (cid:22)(cid:26) , a n d a r e t h e a s y m p t o t i c p s e u d o - t r u e v a l u e s u n d e r t h e m a i n t a i n e d m i s s p e c i (cid:12) - I a t i o n . A s l o n g a s t h e s a m p l e s i z e n i s l a r g e e n o u g h , t h e S N P s c o r e g e n e r a t o r w i l l b e r i c h 2 n o u g h s u c h t h a t t h e f a l s e p a s s a g e (cid:22)c = 0 w i l l n o t o c c u r u n d e r m i s s p e c i (cid:12) c a t i o n . 1 0
4 T t m i (cid:12) 4 A I o S V s o m t P i e s 5 m S t s (cid:12) t M o n t e C a r l o D e s i g n a n d B e n c h m a r k C h o i c e e c h n i c a l a s p e c t s o f t h e M o n t e C a r l o e x p e r i m e n t a r e s u m m a r i z e d h e r e . M o s t i m p o r t a n t l y , w o d e m a n d i n g s c e n a r i o s | m e a n p e r s i s t e n c e a n d h i g h v o l a t i l i t y | a r e c h o s e n a s t h e b e n c h a r k s . A l s o , a m a i n t a i n e d m o d e l o f i n t e r e s t r a t e w i t h s t o c h a s t i c v o l a t i l i t y a n d l e v e l f e e d b a c k s d e s i g n a t e d a s t h e d a t a g e n e r a t i n g p r o c e s s f o r c o m p a r i n g t h e p o w e r o f d e t e c t i n g m i s s p e c i c a t i o n . . 1 E x p e r i m e n t a l D e s i g n l l c o m p u t a t i o n s a r e p e r f o r m e d o n S u n U n i x W o r k s t a t i o n s | S p a r c 1 0 , S p a r c 2 0 , a n d P e n t i u m I - 3 0 0 . P r o g r a m s f o r g e n e r a t i n g r a n d o m s a m p l e s a n d G M M , Q M L E , a n d M L E e s t i m a t i o n s f t h e s q u a r e - r o o t m o d e l a r e w r i t t e n i n F O R T R A N l a n g u a g e . T h e F O R T R A N c o d e s f o r N P a n d E M M a r e m o d i (cid:12) e d f r o m S N P V e r s i o n 8 . 5 ( G a l l a n t a n d T a u c h e n 1 9 9 6 b ) a n d E M M e r s i o n 1 . 3 ( G a l l a n t a n d T a u c h e n 1 9 9 6 a ) , i n c o r p o r a t i n g a u t o m a t i c S N P s e a r c h b y B I C i n o m e o f t h e E M M e s t i m a t i o n s . N P S O L ( G i l l , M u r r a y , S a u n d e r s , a n d W r i g h t 1 9 9 1 ) i s t h e p t i m i z a t i o n r o u t i n e u s e d f o r a l l o f t h e p r o g r a m s . T h e n u m b e r o f M o n t e C a r l o r e p l i c a t i o n s i s c h o s e n a s 1 0 0 0 f o r e a c h s c e n a r i o a n d e a c h e s t i a t o r . T w o (cid:12) n i t e s a m p l e s i z e s | 5 0 0 a n d 1 5 0 0 w e e k l y o b s e r v a t i o n s | a r e u s e d f o r c o n t r a s t i n g h e a s y m p t o t i c b e h a v i o r o f e a c h e s t i m a t o r . T o g e n e r a t e t h e p s e u d o - r a n d o m s a m p l e s , t h e o i s s o n G a m m a - m i x i n g - f o r m u l a i n S e c t i o n 2 i s i m p l e m e n t e d , a n d t h e 1 0 0 0 i n i t i a l s t r e t c h s d i s c a r d e d e a c h t i m e i n o r d e r t o p a s s o n t h e t r a n s i e n t e (cid:11) e c t . T h e s e c o n d s t a g e o f E M M s t i m a t i o n i s s i m i l a r t o S M M . T h e s i m u l a t i o n s i z e s h o u l d b e a t l e a s t 3 0 , 0 0 0 . E M M d o e s t a b i l i z e f r o m 5 0 , 0 0 0 t o 7 5 , 0 0 0 a n d c o u l d h a v e m o r e M o n t e C a r l o e r r o r s a t 1 0 0 , 0 0 0 . T h u s 0 , 0 0 0 t u r n s o u t t o b e a c o n s e r v a t i v e b u t e c o n o m i c a l c h o i c e ( G a l l a n t a n d T a u c h e n 1 9 9 8 b ) . T o c h o o s e a S N P s c o r e g e n e r a t o r i n t h e E M M e s t i m a t i o n , o n e c a n e i t h e r l e t B I C a u t o a t i c a l l y d e c i d e t h e S N P d i m e n s i o n i n e a c h r e p l i c a t i o n , o r , o n e c a n u s e a \ p o s t e r i o r " (cid:12) x e d N P s p e c i (cid:12) c a t i o n . F o r t h e c o m p a r i s o n s w i t h M L E , Q M L E , a n d G M M e s t i m a t o r s , I u s e h e (cid:12) x e d S N P s c o r e i n E M M e s t i m a t i o n , s u c h t h a t t h e o v e r r e j e c t i o n t e s t s t a t i s t i c s h a s t h e a m e d e g r e e o f f r e e d o m f o r e a c h s a m p l e s i z e . H o w e v e r , i n o r d e r t o c h o o s e a n a p p r o p r i a t e x e d S N P s c o r e , I (cid:12) r s t r u n E M M 1 0 0 0 t i m e s w i t h t h e a u t o m a t i c S N P s c o r e g e n e r a t o r . I h e n a d o p t o n e p a r t i c u l a r s c o r e f o r t h e 5 0 0 s a m p l e s i z e a n d a n o t h e r f o r t h e 1 5 0 0 s a m p l e 1 1
s w t c r t f E 1 i e i p 4 T T 6 t S l u t d a c p s s ( i z e . T h e s e s p e c i (cid:12) c a t i o n s a r e a t r e l a t i v e l y h i g h e r d i m e n s i o n s , w i t h a b u n d a n t o c c u r r e n c e b u t i t h o u t s e v e r e r e j e c t i o n . A b y - p r o d u c t o f t h e E M M e s t i m a t i o n w i t h a u t o m a t i c S N P s c o r e i s h a t s o m e l i g h t c a n b e s h e d o n h o w t h e o v e r r e j e c t i o n b i a s v a r i e s w i t h t h e n u m b e r o f m o m e n t s 6 h o s e n b y t h e S N P e s t i m a t i o n . I n t e r m s o f t h e c o m p u t i n g t i m e , e a c h Q M L E r u n t a k e s a b o u t 3 - 5 s e c o n d s ; e a c h G M M u n t a k e s a b o u t 5 - 1 0 s e c o n d s ; e a c h M L E r u n t a k e s a b o u t 5 - 1 0 m i n u t e s ; a n d e a c h E M M r u n a k e s a b o u t 1 - 2 h o u r s . N o t e t h a t M L E r e q u i r e s n u m e r i c a l a p p r o x i m a t i o n t o t h e l i k e l i h o o d u n c t i o n a n d a l s o t h a t E M M u s e s n u m e r i c a l i n t e g r a t i o n t o e v a l u a t e t h e m o m e n t c o n d i t i o n s . M M e s t i m a t o r i s p r o g r a m m e d u p a n d r e a d y t o b e i m p l e m e n t e d ( G a l l a n t a n d T a u c h e n 9 9 6 b , G a l l a n t a n d T a u c h e n 1 9 9 6 a ) . O n e o n l y n e e d s t o i n c o r p o r a t e t h e s q u a r e - r o o t m o d e l n t h e s i m u l a t i o n c o d e . T h e d e v e l o p i n g t i m e f o r Q M L E a n d E M M i s m i n i m a l , w h i l e G M M s p e c i a l l y M L E r e q u i r e s a l o t o f (cid:12) n e - t u n i n g . O v e r a l l , E M M i s s t i l l t h e m o s t c o m p u t a t i o n a l l y n t e n s i v e m e t h o d , a l t h o u g h t h e r e a r e n u m e r i c a l t e c h n i q u e s t o s p e e d u p t h e e s t i m a t i o n ( e . g . , a r a l l e l p r o c e s s i n g o r a n t i t h e t i c s i m u l a t i o n ) . . 2 B e n c h m a r k M o d e l o s e l e c t a s u i t a b l e p a r a m e t e r s e t t i n g , w e s t a r t w i t h t h e e m p i r i c a l r e s u l t f r o m G a l l a n t a n d 1 2 = a u c h e n ( 1 9 9 8 b ) , d r = ( 0 : 0 2 4 9 1 0 : 0 0 2 8 5 r ) d t + 0 : 0 2 7 5 r d W . U s i n g e q u a t i o n s 3 , 4 , a n d t t t t (cid:0) - 8 , o n e c a n c a l c u l a t e t h e u n c o n d i t i o n a l m e a n a n d v a r i a n c e , t h e B e s s e l f u n c t i o n o r d e r , a n d h e c o n d i t i o n a l m e a n a n d v a r i a n c e . I t i s n o t d i Æ c u l t t o s e e t h a t t h i s o r i g i n a l s p e c i (cid:12) c a t i o n , + 1 c e n a r i o 1 i n T a b l e 1 , f e a t u r e s l o w m e a n - r e v e r s i o n ( E ( r r ) i s n e a r l y t h e u n i t - r o o t ) a n d t t j + 1 o w c o n d i t i o n a l v o l a t i l i t y ( V ( r r ) i s c l o s e t o z e r o ) . A l s o t h e u n c o n d i t i o n a l v a r i a n c e i s t t j n u s u a l l y s m a l l , r e p r e s e n t i n g a n a b n o r m a l l y q u i e t p r o c e s s . T h e o r d e r o f t h e B e s s e l f u n c t i o n , w i c e o f w h i c h c o r r e s p o n d s t o t h e d e g r e e o f f r e e d o m f o r a n i n t e g e r o r d e r n o n c e n t r a l c h i - s q u a r e i s t r i b u t i o n , i s s o l a r g e t h a t t h e c o n d i t i o n a l d e n s i t y l o o k s a l m o s t G a u s s i a n . N o t w i t h s t a n d i n g l l t h e s e s h o r t c o m i n g s , s c e n a r i o 1 i s s t i l l t h e t y p i c a l e m p i r i c a l r e s u l t . I t p o s e s a n i m p o r t a n t h a l l e n g e t o r e s e a r c h e r s i n (cid:12) t t i n g t h e h i g h l y p e r s i s t e n t , n e a r l y u n i t - r o o t c o n d i t i o n a l m e a n r o c e s s , a l t h o u g h i t s v o l a t i l i t y s t r u c t u r e a n d i n n o v a t i o n d e n s i t y a r e n o t r i c h e n o u g h . H e n c e 6 T h is a u t o m a t ic - p lu s - (cid:12) x e d S N P - E M M p r o c e d u r e m im ic s t h e r e a lis t ic s it u a t io n , w h e n a n e m p ir ic a l r e e a r c h e r n o t o n ly r e lie s o n B I C a s a n o b je c t iv e c r it e r io n in m o d e l s e le c t io n b u t a ls o in c o r p o r a t e s p r io r u b je c t iv e in fo r m a t io n t o e x p a n d t h e a u x ilia r y m o d e l| e .g , t h e E - G A R C H s c o r e g e n e r a t o r in A n d e r s e n e t a l. 1 9 9 9 ) . 1 2
i s S s t f v a 5 w l f f a s i T ( r T t c a W s m m d t w i l l o n l y r a r e l y g e n e r a t e t h e h i g h o r d e r A R C H o r t h e h i g h d e g r e e p o l y n o m i a l i n t h e S N P c o r e . B a s e d o n t h e e m p i r i c a l r e s u l t s i n G a l l a n t a n d T a u c h e n ( 1 9 9 8 b ) , I u s e t h e e s t a b l i s h e d N P s c o r e f o r S c e n a r i o 1 | s 1 4 1 4 0 f o r t h e 5 0 0 s a m p l e s i z e a n d s 1 4 1 4 1 f o r t h e 1 5 0 0 s a m p l e 7 i z e | a n d I r e p o r t o n l y t h e (cid:12) x e d s c o r e E M M e s t i m a t i o n s . T h e S c e n a r i o 1 i n T a b l e 1 i s L M R - L C V e r m e d a n s p e c i (cid:12) c a t i o n ( l o w - m e a n - r e v e r s i o n a n d l o w - c o n d i t i o n a l - v o l a t i l i t y ) . 0 I f o n e i n c r e a s e s o n l y t h e v a r i a n c e p a r a m e t e r b f r o m S c e n a r i o 1 t o 2 - 4 i n T a b l e 1 , t h e B e s s e l u n c t i o n o r d e r q d e c r e a s e s g r a d u a l l y f r o m t h e G a u s s i a n - l i k e s p e c i (cid:12) c a t i o n , b u t t h e c o n d i t i o n a l 0 o l a t i l i t y i s s t i l l n e g l i g i b l e . A l t e r n a t i v e l y , o n e c a n i n c r e a s e b o t h t h e m e a n p a r a m e t e r s a a n d 1 0 b y a f a c t o r o f 1 0 0 a n d t h e v a r i a n c e p a r a m e t e r b b y a f a c t o r o f 1 0 f r o m S c e n a r i o 1 t o a s i n T a b l e 1 , w h i l e h o l d i n g t h e u n c o n d i t i o n a l m e a n a n d v a r i a n c e c o n s t a n t . T h i s c h a n g e i l l i n c r e a s e t h e c o n d i t i o n a l v o l a t i l i t y s l i g h t l y , b u t t h e B e s s e l f u n c t i o n o r d e r q i s s t i l l q u i t e 0 a r g e ( r e s e m b l i n g a G a u s s i a n - l i k e d i s t r i b u t i o n ) . I f o n e i n c r e a s e s t h e v a r i a n c e p a r a m e t e r b r o m S c e n a r i o 5 t o 6 - 8 a s s h o w n i n T a b l e 1 , b o t h h i g h c o n d i t i o n a l v o l a t i l i t y a n d s m a l l B e s s e l u n c t i o n o r d e r a r e a c h i e v e d . S c e n a r i o 8 i s r i c h e n o u g h i n b o t h t h e c o n d i t i o n a l v o l a t i l i t y n d n o n - G a u s s i a n i n n o v a t i o n , h e n c e S c e n a r i o 8 i s s u i t a b l e f o r e x a m i n i n g t h e a u t o m a t i c S N P c o r e E M M e s t i m a t i o n s . S t r o n g v o l a t i l i t y c l u s t e r i s a n o t h e r c h a l l e n g e i n (cid:12) t t i n g t h e s h o r t n t e r e s t r a t e , a l t h o u g h t h e h i g h p e r s i s t e n c e i n m e a n i s s a c r i (cid:12) c e d s o m e w h a t . S c e n a r i o 8 i n 1 2 = H M R - H C V a b l e 1 , d r = ( 2 : 4 9 1 0 : 2 8 5 r ) d t + 1 : 1 r d W , i s t e r m e d a n s p e c i (cid:12) c a t i o n t t t t (cid:0) h i g h - m e a n - r e v e r s i o n a n d h i g h - c o n d i t i o n a l - v o l a t i l i t y ) . O n e s h o u l d n o t a r b i t r a r i l y r e l a t e e i t h e r S c e n a r i o 1 o r S c e n a r i o 8 a l o n e t o t h e r e a l i n t e r e s t a t e , b u t p u t t o g e t h e r t h e y r e p r e s e n t t h e m o s t i m p o r t a n t f e a t u r e s i n s h o r t r a t e p r o c e s s . h e r e i s a f u n d a m e n t a l c o n c e r n w i t h h o w (cid:13) e x i b l e t h e s q u a r e - r o o t m o d e l c a n b e . I n o r d e r 0 1 o (cid:12) t t h e r e a l i n t e r e s t r a t e d a t a , o n e w o u l d l i k e t o h o l d t h e u n c o n d i t i o n a l m e a n ( a = a ) (cid:0) 2 0 o n s t a n t w i t h o u t e x p l o s i o n ( b 4 a ) , r e s e m b l i n g a s t a t i o n a r y i n t e r e s t r a t e p r o c e s s . I n 0 (cid:20) d d i t i o n o n e w o u l d l i k e t o a c h i e v e h i g h p e r s i s t e n c e i n b o t h c o n d i t i o n a l m e a n a n d v a r i a n c e . i t h o n l y t h r e e p a r a m e t e r s t o m a n i p u l a t e , i t s e e m s i m p o s s i b l e t o s a t i s f y a l l f o u r c o n s t r a i n t s i m u l t a n e o u s l y . T h i s i n d i c a t e s t h a t t h e s q u a r e - r o o t m o d e l m a y n o t b e (cid:13) e x i b l e e n o u g h t o o d e l t h e i n t e r e s t r a t e d y n a m i c s . T o (cid:12) n d a m o r e s u i t a b l e m o d e l r e q u i r e s a f o u r t h d e g r e e o f 7 s 1 4 1 4 0 m e a n s 1 la g in m e a n , 4 la g in v a r ia n c e , 1 la g in c o e Æ c ie n t p o ly n o m ia l, 4 d e g r e e H e r m it e p o ly n o ia l, a n d 0 d e g r e e c o e Æ c ie n t p o ly n o m ia l. s 1 4 1 4 1 o n ly d i(cid:11) e r s in 1 la g c o e Æ c ie n t p o ly n o m ia l. T h e r e is m o r e e t a ile d d is c u s s io n o f t h e S N P s t r u c t u r e in S e c t io n 3 .1 . 1 3
f 4 T n i s u A f T b p a T o c i t t (cid:12) i e T m d c r e e d o m , f o r e x a m p l e , a s t o c h a s t i c v o l a t i l i t y c o m p o n e n t ( G a l l a n t a n d T a u c h e n 1 9 9 8 b ) . . 3 T e s t i n g M i s s p e c i (cid:12) c a t i o n h e g o a l i s t o (cid:12) n d a t r u e d a t a g e n e r a t i n g p r o c e s s , o f w h i c h a n a d e q u a t e a u x i l i a r y s c o r e w i l l o t a c c o m m o d a t e a m i s s p e c i (cid:12) e d m o d e l . A s d i s c u s s e d i n S e c t i o n 1 , t h e s q u a r e - r o o t m o d e l s w i d e l y u s e d i n (cid:12) t t i n g t h e s h o r t r a t e p r o c e s s , b u t m o s t s e r i o u s s t u d i e s h a v e r e j e c t e d t h i s p e c i (cid:12) c a t i o n . S o i t i s n a t u r a l t o a d o p t t h e s q u a r e - r o o t p r o c e s s a s a m i s s p e c i (cid:12) e d m o d e l a n d s e a n o n - r e j e c t e d m o d e l a s t h e t r u e d a t a g e n e r a t i n g p r o c e s s ( f o r t h e s h o r t i n t e r e s t r a t e ) . r e c e n t s t u d y b y G a l l a n t a n d T a u c h e n ( 1 9 9 8 b ) g a v e t h e m o s t f a v o r a b l e e v i d e n c e f o r t h e o l l o w i n g s p e c i (cid:12) c a t i o n , u t 1 d W ; ( 2 0 ) d r = ( 0 : 0 1 4 0 : 0 0 2 r ) d t + ( 0 : 0 4 3 0 : 0 1 8 r ) e t t t t (cid:0) (cid:0) 2 d u = ( 0 : 0 0 6 r 0 : 1 5 7 u ) d t + ( 0 : 5 9 3 0 : 0 5 2 u ) d W : ( 2 1 ) t t t t t (cid:0) (cid:0) (cid:0) h e s h o r t r a t e p r o c e s s r h a s a l i n e a r d r i f t a n d a l i n e a r d i (cid:11) u s i o n , w i t h t h e d i (cid:11) u s i o n m u l t i p l i e d t u t y a n u n o b s e r v e d ( e x p o n e n t i a l ) s t o c h a s t i c v o l a t i l i t y t e r m e . T h e s h o r t r a t e r i s o n l y t a r t i a l l y o b s e r v a b l e i n d i s c r e t e t i m e . T h e l a t e n t s t o c h a s t i c v o l a t i l i t y p r o c e s s u a l s o h a s t l i n e a r d r i f t a n d a l i n e a r d i (cid:11) u s i o n , w i t h t h e d r i f t i n c l u d i n g a s h o r t r a t e l e v e l f e e d b a c k . h i s m o d e l a d e q u a t e l y p a s s e d t h e s p e c i (cid:12) c a t i o n t e s t f o r v a r i o u s s i m u l a t i o n s i z e s a n d g r e a t l y u t p e r f o r m e d t h e c o m p e t i n g m o d e l s i n t e r m s o f r e p r o j e c t i n g t h e c o n d i t i o n a l d e n s i t y a n d t h e o n d i t i o n a l v o l a t i l i t y . I t w o u l d b e a v e r y s u i t a b l e c h o i c e f o r t h e t r u e d a t a g e n e r a t i n g p r o c e s s . 1 2 = 0 1 0 W h e n w e (cid:12) t t h e m i s s p e c i (cid:12) e d s q u a r e - r o o t m o d e l d r = ( a + a r ) d t + b r d W t o t h e t t t t n t e r e s t r a t e d a t a s i m u l a t e d f r o m t h e m a i n t a i n e d t r u e s p e c i (cid:12) c a t i o n ( e q u a t i o n s 2 0 a n d 2 1 ) , h e d r i f t i s c o r r e c t l y s p e c i (cid:12) e d a s a l i n e a r f u n c t i o n , a n d t h e m i s s p e c i (cid:12) c a t i o n c o m e s o n l y i n t o h e d i (cid:11) u s i o n . F r o m I t ^o ’ s f o r m u l a w e k n o w t h a t t h e c o n d i t i o n a l m e a n i s a l s o c o r r e c t l y s p e c i e d a s l i n e a r ; t h e r e f o r e t h e d r i f t p a r a m e t e r s a r e c o n s i s t e n t e s t i m a t e s ( A (cid:127)(cid:16) t - S a h a l i a 1 9 9 6 a ) . I t s e q u i v a l e n t t o t h e c a s e w h e r e O r d i n a r y L e a s t S q u a r e i s c o n s i s t e n t , b u t u n a c c o u n t e d h e t r o s k e d a s t i c a n d / o r c o r r e l a t e d e r r o r s t r u c t u r e m a y c a u s e v e r y n o i s y a n d i n e Æ c i e n t e s t i m a t e s . h e m i s s p e c i (cid:12) e d d i (cid:11) u s i o n g e n e r a t e s i n c o n s i s t e n t e s t i m a t e s o f t h e c o n d i t i o n a l v a r i a n c e , w h i c h a y c a u s e s e r i o u s d i s t o r t i o n s i n p r i c i n g d i s c o u n t b o n d y i e l d s o r o t h e r i n t e r e s t r a t e s e n s i t i v e e r i v a t i v e s . T h e r e f o r e d e t e c t i n g t h e m i s s p e c i (cid:12) c a t i o n i n d i (cid:11) u s i o n o r v o l a t i l i t y i s a c r i t i c a l h a l l e n g e t o r e s e a r c h e r s a n d p r a c t i t i o n e r s . 1 4
5 T d E E B l 5 T o p n a e a s c f m m t 5 A s l w p M o n t e C a r l o R e s u l t s a b l e s 2 t h r o u g h 6 a n d F i g u r e s 1 t h r o u g h 9 s u m m a r i z e t h e m a j o r (cid:12) n d i n g s o f t h i s p a p e r . T h e i s c u s s i o n s a r e o r g a n i z e d a l o n g t o p i c s , a n d e x t e n s i v e c o m p a r i s o n s a r e m a d e a c r o s s Q M L E , M M , G M M , a n d M L E . T h e m a i n f o c u s e s a r e (cid:12) n i t e s a m p l e e Æ c i e n c y , o v e r r e j e c t i o n b i a s o f M M u n d e r t h e n u l l , a n d t h e d e t e c t i o n o f m a i n t a i n e d m i s s p e c i (cid:12) c a t i o n i n E M M a n d G M M . o t h t h e a u t o m a t i c s c o r e g e n e r a t o r a n d t h e (cid:12) x e d s c o r e g e n e r a t o r a r e u s e d i n E M M . T h e i k e l i h o o d r a t i o t e s t s i n M L E a n d Q M L E p r o v i d e j o i n t i n f e r e n c e s u n d e r t h e n u l l . . 1 S i m u l a t i o n S c h e m e s P o i s s o n G a m m a h e - m i x i n g - f o r m u l a i s a u s e f u l c h a r a c t e r i z a t i o n o f t h e t r a n s i t i o n a l d e n s i t y f t h e s q u a r e - r o o t m o d e l . T h e s i m u l a t i o n a c c u r a c y b a s e d o n t h e d i s t r i b u t i o n f u n c t i o n c a n r o v i d e a n i n d e p e n d e n t c h e c k f o r t h e d e r i v a t i o n s i n S e c t i o n 2 . T h e M o n t e C a r l o s t u d y i s o t a l o n e i n n e e d i n g a r e l i a b l e s i m u l a t o r ; f u r t h e r a p p l i c a t i o n s o f M L E w i t h t h i s f o r m u l a l s o r e q u i r e s o m e j u s t i (cid:12) c a t i o n . A c o r n e r s t o n e o f t h e E M M e s t i m a t o r | a s i m u l a t i o n - b a s e d s t i m a t o r | i s t h e d i s c r e t i z e d a p p r o x i m a t i o n t o s t o c h a s t i c d i (cid:11) e r e n t i a l e q u a t i o n s . E M M u s e s w e a k - o r d e r 2 s c h e m e ( K l o e d e n a n d P l a t e n 1 9 9 2 ) . T o a s s e s s t h e s e s i m u l a t i o n a p p r o a c h e s , o m e e m p i r i c a l s t a t i s t i c s f r o m l o n g r e a l i z a t i o n s ( 1 0 0 , 0 0 0 ) a r e c o m p a r e d t o t h e i r t h e o r e t i c a l o u n t e r p a r t s . T a b l e 2 l i s t s t h e c a l c u l a t i o n o f t w o m o m e n t s a n d t h r e e q u a n t i l e s . C l e a r l y b o t h s c h e m e s r o m e x a c t d i s t r i b u t i o n a n d t i m e d i s c r e t i z a t i o n w o r k r e a s o n a b l y w e l l . I n b o t h p e r s i s t e n t e a n a n d s t r o n g v o l a t i l i t y c a s e s , t h e s i m u l a t e d m o m e n t s a n d q u a n t i l e s a r e v e r y c l o s e t o t h e o d e l i m p l i e d o n e s . I t i s n o t s u r p r i s i n g t h a t t h e p r o b a b i l i s t i c m e t h o d i s s l i g h t l y b e t t e r t h a n h e d i s c r e t i z e d m e t h o d , a l t h o u g h t h e d i (cid:11) e r e n c e i s n e g l i g i b l e . . 2 S c o r e G e n e r a t o r n i m p o r t a n t f e a t u r e o f E M M i s t h e e n d o g e n o u s m o m e n t s e l e c t i o n b y a s e m i n o n p a r a m e t r i c a d h o c c o r e g e n e r a t o r ( S N P ) , w h i c h c o n t r a s t s w i t h t h e c h o i c e o f m o m e n t c o n d i t i o n s i n s o m e e s s s o p h i s t i c a t e d G M M o r S M M e s t i m a t o r s . T h e o p t i m a l S N P s e a r c h a n d t h e i n e x p e n s i v e e i g h t i n g m a t r i x e s t i m a t e a r e k e y t o t h e e Æ c i e n c y a r g u m e n t , a n d h o p e f u l l y t h e y a l s o i m r o v e t h e o v e r r e j e c t i o n t e s t . I t i s w o r t h w h i l e t o c h e c k w h e t h e r t h e S N P s c o r e c a p t u r e s t h e 1 5
d C s c n d v o u c 1 s a t S w t c u n s d m S m a i s t r i b u t i o n f e a t u r e s o f d i (cid:11) e r e n t d e p e n d e n t s t r u c t u r e s b e f o r e l a u n c h i n g t h e f u l l - s c a l e M o n t e a r l o e x p e r i m e n t . T a b l e s 3 ( 5 0 0 s a m p l e s i z e ) a n d T a b l e 4 ( 1 5 0 0 s a m p l e s i z e ) r e p o r t t h e S N P e a r c h e s f o r t h e 8 s c e n a r i o s i n T a b l e 1 . F o r e a c h s e t t i n g , t h e f r e q u e n c i e s o f a l l k i n d s o f m o d e l h o i c e s a m o n g 1 0 0 r e p l i c a t i o n s a r e l i s t e d . M o d e l d i m e n s i o n i s r e p r e s e n t e d b y a (cid:12) v e - d i g i t u m b e r , w h i c h s t a n d s f o r , c o n s e c u t i v e l y , l a g i n m e a n , l a g i n v a r i a n c e , l a g i n p o l y n o m i a l , e g r e e o f H e r m i t e p o l y n o m i a l , a n d d e g r e e o f H e r m i t e c o e Æ c i e n t p o l y n o m i a l . L M R - L C V S c e n a r i o 1 i n T a b l e s 3 a n d 4 i s t h e c a s e ( l o w - m e a n - r e v e r s i o n , l o w - c o n d i t i o n a l o l a t i l i t y ) . N o t s u r p r i s i n g l y t h e G a u s s i a n a u t o - r e g r e s s i o n s p e c i (cid:12) c a t i o n o f 1 0 1 0 0 d o m i n a t e s t h e r c h o i c e s . T h i s (cid:12) n d i n g i s c o n s i s t e n t w i t h t h e f a c t t h a t t h e t r u e d e n s i t y i s n e a r l y G a u s s i a n n d e r t h i s p a r a m e t e r s e t t i n g ( s e e T a b l e 1 ) . M o v i n g f r o m S c e n a r i o 1 t o 2 , 3 , a n d 4 , t h e 0 o n d i t i o n a l v o l a t i l i t y i n c r e a s e s g r a d u a l l y , s i n c e t h e v a r i a n c e p a r a m e t e r b i s a l t e r e d ( s e e T a b l e ) . T h e d o m i n a t i n g c h o i c e i s s t i l l G a u s s i a n , a n d t h e c h a n c e s o f A R C H a n d / o r n o n - G a u s s i a n 0 p e c i (cid:12) c a t i o n s i n c r e a s e s l i g h t l y . M o v i n g t o w a r d S c e n a r i o s 5 - 8 , b o t h m e a n p a r a m e t e r s a a n d 1 0 a s w e l l a s v a r i a n c e p a r a m e t e r b a r e a l t e r e d ( s e e T a b l e 1 ) , a n d u l t i m a t e l y o n e r e a c h e s H M R - H C V h e c a s e ( h i g h - m e a n - r e v e r s i o n , h i g h - c o n d i t i o n a l - v o l a t i l i t y ) . I t i s c l e a r t h a t t h e N P s e a r c h f a v o r s t h e n o n l i n e a r , n o n p a r a m e t r i c A R - A R C H s p e c i (cid:12) c a t i o n . T h i s i s c o n s i s t e n t i t h t h e l o w B e s s e l f u n c t i o n o r d e r a n d h i g h c o n d i t i o n a l v a r i a n c e ( T a b l e 1 ) . L a r g e l y d u e t o h i s \ d i s t r i b u t i o n - d e p e n d e n t " o r \ d a t a - d e p e n d e n t " s c o r e g e n e r a t o r , t h e E M M e s t i m a t o r i s l a i m e d t o b e a s y m p t o t i c a l l y e Æ c i e n t a n d h o p e f u l l y m o r e r e l i a b l e i n t h e s p e c i (cid:12) c a t i o n t e s t . A l s o e v i d e n t f r o m T a b l e s 3 a n d 4 i s t h a t l a r g e r s a m p l e s i z e s e n a b l e t h e S N P t o p i c k p h i g h e r m o d e l d i m e n s i o n s . I n f a c t , t h e a s y m p t o t i c e Æ c i e n c y a r g u m e n t r e q u i r e s t h a t t h e u m b e r o f m o m e n t c o n d i t i o n s a n d t h e l a g s e n t e r i n g e a c h m o m e n t i n c r e a s e w i t h t h e s a m p l e i z e ( G a l l a n t a n d L o n g 1 9 9 7 ) . A s a l i e n t q u e s t i o n i s w h e t h e r t h e s t r u c t u r a l m o d e l c a n b e i d e n t i (cid:12) e d w h e n t h e S N P s e a r c h o e s p i c k t h e G a u s s i a n - A R ( 1 ) s c o r e . T h i s c o r r e s p o n d s t o a q u a s i - m a x i m u m l i k e l i h o o d e s t i a t o r b a s e d o n t h e i n n o v a t i o n a s s u m p t i o n 0 1 1 2 z = ( r (cid:11) (cid:11) r ) = (cid:11) N ( 0 ; 1 ) : ( 2 2 ) t t t(cid:0) (cid:0) (cid:0) (cid:24) 0 1 i n c e t h e c o n d i t i o n a l m e a n i s c o r r e c t l y s p e c i (cid:12) e d , t h e Q M L E o f (cid:11) a n d (cid:11) i s a c o n s i s t e n t e s t i - 1 1 a a 0 1 a t o r o f e a n d a = a ( 1 e ) . I t i s j u s t a n O r d i n a r y L e a s t S q u a r e w i t h a h e t e r o s k e d a s t i c (cid:0) (cid:0) n d s e r i a l l y c o r r e l a t e d e r r o r t e r m ( A (cid:127)(cid:16) t - S a h a l i a 1 9 9 6 a ) . T h e c o n d i t i o n a l v a r i a n c e i s m i s - 1 6
2 s p e c i (cid:12) e d a s t h e c o n s t a n t (cid:11) . H o w e v e r , a c c o r d i n g t o t h e t h e o r y o f m i s s p e c i (cid:12) e d m a x i m u m 2 l i k e l i h o o d e s t i m a t i o n ( W h i t e 1 9 9 4 ) , t h e e s t i m a t o r ^(cid:11) m a y c o n v e r g e t o a p s e u d o - t r u e v a l u e 2 2 (cid:22)(cid:11) . T h e k e y a r g u m e n t i s t h a t t h e m i s s p e c i (cid:12) e d a s y m p t o t i c v a r i a n c e (cid:22)(cid:11) m u s t b e a f u n c t i o n 0 o f t h e t r u e v a r i a n c e p a r a m e t e r b , s i n c e b o t h c o n d i t i o n a l v a r i a n c e a n d u n c o n d i t i o n a l v a r i - 0 a n c e a r e d e t e r m i n e d b y b . T h e s e a s y m p t o t i c r e l a t i o n s , t w o e x p l i c i t a n d o n e i m p l i c i t , a r e b i n d i n g f u n c t i o n s i n d e e d t h e i n t h e l a n g u a g e o f I n d i r e c t I n f e r e n c e ( G o u r i e r o u s , M o n f o r t , a n d 0 1 0 R e n a u l t 1 9 9 3 ) . O b v i o u s l y t h e s t r u c t u r a l p a r a m e t e r s a , a , a n d b a r e e x a c t l y i d e n t i (cid:12) e d b y 0 1 2 t h e a u x i l i a r y p a r a m e t e r s (cid:11) , (cid:11) , a n d (cid:11) . E M M i s t h u s a f e a s i b l e (cid:12) r s t - o r d e r a p p r o x i m a t i o n t o w a r d t h e I n d i r e c t I n f e r e n c e ( G a l l a n t a n d L o n g 1 9 9 7 ) . 5 . 3 E s t i m a t i o n B i a s a n d F i n i t e S a m p l e E Æ c i e n c y T a b l e 5 ( p e r s i s t e n t m e a n c a s e ) a n d T a b l e 6 ( s t r o n g v o l a t i l i t y c a s e ) r e p o r t t h e m e a n b i a s , m e d i u m b i a s , a n d r o o t - m e a n - s q u a r e d e r r o r ( R M S E ) a c r o s s M L E , Q M L E , G M M , a n d E M M b e t w e e n 5 0 0 a n d 1 5 0 0 s a m p l e s i z e s . F i r s t l o o k a t t h e c a s e o f p e r s i s t e n t m e a n ( T a b l e 5 ) . T h e b i a s e s a r e v e r y l a r g e f o r t h e d r i f t 0 1 0 e s t i m a t e s ( a a n d a ) b u t q u i t e s m a l l f o r t h e d i (cid:11) u s i o n p a r a m e t e r ( b ) . T h e b i a s e s r e d u c e w i t h t h e s a m p l e s i z e , e x c e p t f o r M L E a n d G M M . M L E i s t h e m o s t e Æ c i e n t i n a c h i e v i n g t h e s m a l l e s t R M S E ; h o w e v e r , t h e d r i f t p a r a m e t e r e s t i m a t e s d i v e r g e | R M S E d o e s n o t s h r i n k w i t h 8 t h e s a m p l e s i z e . E M M s e e m s t o b e m o r e e Æ c i e n t t h a n G M M b u t l e s s e Æ c i e n t t h a n Q M L E . T h e d i (cid:11) u s i o n p a r a m e t e r e s t i m a t i o n i n G M M d o e s n o t c o n v e r g e , s i m i l a r t o t h e d r i f t p a r a m e t e r i n M L E . T h e d r i f t p a r a m e t e r e s t i m a t e s i n Q M L E a n d t h e i n t e r c e p t o f d r i f t i n G M M s e e m t o c o n v e r g e f a s t e r t h a n r o o t - n . T h e c o n v e r g e n c e r a t e o f E M M i n t h e s e (cid:12) n i t e s a m p l e s i s v e r y p c l o s e t o 3 . O v e r a l l t h e d r i f t e s t i m a t e s a r e m o r e b i a s e d a n d n o i s y t h a n t h e d i (cid:11) u s i o n e s t i m a t e , a n d t h e c l o s e - t o - u n i t - r o o t m e a n p e r s i s t e n c e c a u s e s s o m e u n u s u a l c o n v e r g e n c e p r o b l e m s i n (cid:12) n i t e s a m p l e s . T h e r a n k i n o r d e r o f e Æ c i e n c y f r o m h i g h e s t t o l o w e s t w o u l d b e M L E , Q M L E , E M M , G M M , a s e x p e c t e d . I n t h e c a s e o f s t r o n g v o l a t i l i t y ( T a b l e 6 ) , a l l p a r a m e t e r e s t i m a t e s h a v e v e r y s m a l l b i a s e s ( r e l a t i v e t o p a r a m e t e r v a l u e ) , a n d a l l b i a s e s s h r i n k a p p r o p r i a t e l y a s t h e s a m p l e s i z e i n c r e a s e s . 8 W h e n t h e s q u a r e - r o o t is c lo s e t o t h e n o n - s t a t io n a r y r e g io n , t h e m ix in g fo r m u la fo r a p p r o x im a t in g t h e lik e lih o o d e a s ily d iv e r g e s in M L E e s t im a t io n s . O n e h a s t o r e ly o n t h e a s y m p t o t ic e x p a n s io n w h ic h in t r o d u c e s t h e a s y m p t o t ic b ia s e s . I t s h o u ld b e p o in t e d o u t t h a t t h e s im u la t io n s c h e m e b a s e d o n t h e m ix in g fo r m u la is s t ill s o u n d , s in c e t h e p a r a m e t e r is (cid:12) x e d in s im u la t io n s . 1 7
I m E a e a t e f t 5 T a G r d p d s G t f p b p G c s n t e r m s o f t h e e Æ c i e n c y , t h e R M S E ’ s o f M L E , Q M L E , a n d G M M a r e s h r i n k i n g a p p r o x i p a t e l y a t t h e r a t e 3 , b u t t h e R M S E o f E M M d e c r e a s e s f a s t e r t h a n r o o t - n . R e c a l l t h a t M M s h o u l d b e a s y m p t o t i c a l l y a s e Æ c i e n t a s M L E , a s t h e a u x i l i a r y S N P s c o r e g e n e r a t o r d o p t s a n i n c r e a s i n g d i m e n s i o n w i t h t h e s a m p l e s i z e . O v e r a l l M L E a c h i e v e s t h e h i g h e s t Æ c i e n c y , Q M L E c o m e s s e c o n d a t T = 5 0 0 a n d t h i r d a t T = 1 5 0 0 , E M M i s t h i r d a t T = 5 0 0 n d s e c o n d a t T = 1 5 0 0 , G M M i s b e s t f o r t h e i n t e r c e p t p a r a m e t e r o f d r i f t b u t i s w o r s t f o r h e s l o p e p a r a m e t e r o f d r i f t a n d t h e d i (cid:11) u s i o n p a r a m e t e r . T h e (cid:12) n d i n g t h a t s o m e p a r a m e t e r s t i m a t e s i n G M M a n d Q M L E a r e s l i g h t l y m o r e e Æ c i e n t t h a n M L E , c a n b e a t t r i b u t e d t o t h e a c t t h a t \ e x a c t " l i k e l i h o o d f u n c t i o n i n M L E n e e d s t o b e n u m e r i c a l l y a p p r o x i m a t e d w h i l e h e m o m e n t c o n d i t i o n s i n G M M o r Q M L E a r e i n c l o s e d f o r m s . . 4 P a r a m e t e r I n f e r e n c e h e (cid:12) n i t e s a m p l e d i s t r i b u t i o n s o f t h e s t a n d a r d i z e d t - t e s t s t a t i s t i c s f o r i n d i v i d u a l p a r a m e t e r s r e s u m m a r i z e d i n F i g u r e 1 ( p e r s i s t e n t m e a n ) a n d F i g u r e 2 ( s t r o n g v o l a t i l i t y ) . S t a n d a r d a u s s i a n k e r n e l s m o o t h i n g i s a d o p t e d h e r e . Q M L E w o r k s w e l l i n b o t h c a s e s ; E M M i s e l i a b l e i n t h e l a t t e r c a s e , w h i l e M L E a n d G M M s e e m n o t t o p e r f o r m i n e i t h e r c a s e . I n t h e c a s e o f m e a n p e r s i s t e n c e ( F i g u r e 1 ) , M L E s e e m s t o h a v e a s y m p t o t i c b i a s e s f o r t h e 0 1 r i f t p a r a m e t e r ( u n d e r e s t i m a t i n g a a n d o v e r e s t i m a t i n g a ) , b u t t h e d i (cid:11) u s i o n p a r a m e t e r i s e r f e c t l y a p p r o x i m a t e d b y i t s a s y m p t o t i c d i s t r i b u t i o n . Q M L E w o r k s e q u a l l y w e l l f o r t h e i (cid:11) u s i o n p a r a m e t e r , w h i l e i t s e s t i m a t e s f o r t h e d r i f t p a r a m e t e r s , t h o u g h h a v i n g s o m e (cid:12) n i t e 0 1 a m p l e b i a s ( a h a s u p w a r d b i a s a n d a h a s d o w n w a r d b i a s ) , a r e d i s s i p a t i n g a s y m p t o t i c a l l y . M M i s n o t b i a s e d i n e s t i m a t i n g t h e d r i f t , b u t t h e s t a n d a r d e r r o r i s t o o s m a l l ( h i g h p e a k i n h e m i d d l e ) a n d t h e e s t i m a t i o n v a r i a t i o n i s t o o l a r g e ( f a t t a i l s o n b o t h s i d e s ) . I t s i n f e r e n c e o r t h e d i (cid:11) u s i o n i s s c a t t e r i n g e v e r y w h e r e . E M M s u (cid:11) e r s f r o m h i g h v a r i a t i o n s f o r a l l t h e a r a m e t e r s . T h e c a s e o f s t r o n g v o l a t i l i t y ( F i g u r e 2 ) l o o k s m u c h d i (cid:11) e r e n t . M L E h a s a l m o s t n e g l i g i b l e i a s e s , b u t i t s t i l l u n d e r s t a t e s t h e s t a n d a r d e r r o r a n d p r o d u c e s f a t t a i l s . Q M L E w o r k s e r f e c t l y w e l l , e s p e c i a l l y i n t h e t a i l s w h e r e t h e 1 % , 5 % , a n d 1 0 % t - t e s t s a r e u s u a l l y c o n d u c t e d . M M s u (cid:11) e r s h e a v i l y f r o m b o t h u n d e r s t a t i n g a n d o v e r s t a t i n g t h e s t a n d a r d e r r o r s . E M M o m e s c l o s e t o Q M L E , a n d i t s b i a s a n d v a r i a t i o n a r e s h r i n k i n g w i t h t h e i n c r e a s i n g s a m p l e i z e s . 1 8
i e ( v t 5 T c F c b t o m t s t f 5 2 c m m t h t p S e v e r a l f a c t o r s m a y c o n t r i b u t e t o t h e u n u s u a l t - t e s t d i s t r i b u t i o n s : ( 1 ) h i g h p e r s i s t e n c e n t h e m e a n m a k e s t h e s i m u l a t e d d a t a l o o k l i k e a u n i t - r o o t a n d t h e M L E , G M M , a n d E M M s t i m a t o r s c a n n o t d i s t i n g u i s h i t f r o m a p e r s i s t e n t y e t s t a t i o n a r y s i t u a t i o n i n (cid:12) n i t e s a m p l e s ; 2 ) t h e s o - c a l l e d \ e x a c t " l i k e l i h o o d i n M L E i s a p p r o x i m a t e d b y i t s s e r i e s e x p a n s i o n ( i n s t r o n g o l a t i l i t y c a s e ) o r i t s a s y m p t o t i c e x p a n s i o n ( i n p e r s i s t e n t m e a n c a s e ) ; ( 3 ) t h e t - t e s t i s a W a l d 9 e s t a n d l a c k s i n v a r i a n c e t o n o n l i n e a r t r a n s f o r m a t i o n s . . 5 O v e r r e j e c t i o n B i a s a n d N u m b e r o f M o m e n t s h e M o n t e C a r l o r e s u l t s o n E M M w i t h a u t o m a t i c S N P s c o r e g e n e r a t o r c a n r e v e a l s o m e o n n e c t i o n s b e t w e e n t h e n u m b e r o f o v e r i d e n t i f y i n g m o m e n t s a n d t h e o v e r r e j e c t i o n r a t e . i g u r e s 3 a n d 4 r e p o r t t h i s e x p e r i m e n t f o r S c e n a r i o 8 | t h e c a s e o f s t r o n g v o l a t i l i t y | w h i c h a n g e n e r a t e r i c h e r S N P s c o r e s . \ N u m b e r o f O v e r i d e n t i (cid:12) e d M o m e n t s " r e f e r s t o t h e d i (cid:11) e r e n c e e t w e e n t h e n u m b e r o f m o m e n t s c h o s e n a u t o m a t i c a l l y b y B I C ( w h i c h v a r i e s e a c h t r i a l ) a n d h e n u m b e r o f s t r u c t u r a l p a r a m e t e r s i n t h e s q u a r e - r o o t m o d e l ( w h i c h i s (cid:12) x e d a t 3 ) . T h e c c u r r e n c e c u r v e i s t h e p e r c e n t a g e o f h o w m a n y t i m e s B I C c h o o s e s a p a r t i c u l a r n u m b e r o f o m e n t s o v e r t h e 1 0 0 0 M o n t e C a r l o r e p l i c a t i o n s . F u r t h e r , t h e r e j e c t i o n c u r v e s ( (cid:12) x e d a t h e 5 % l e v e l ) t e l l y o u t h e p e r c e n t a g e o f h o w m a n y t i m e s E M M r e j e c t s t h e n u l l s q u a r e - r o o t p e c i (cid:12) c a t i o n a t t h i s p a r t i c u l a r \ N u m b e r o f O v e r i d e n t i (cid:12) e d M o m e n t s " o v e r t h e n u m b e r o f 1 0 i m e s t h a t B I C p i c k s t h i s p a r t i c u l a r S N P s c o r e . T h e a s y m p t o t i c s i z e o f t h e s p e c i (cid:12) c a t i o n t e s t i s (cid:12) x e d a t 5 % . T h e o c c u r r e n c e r a t e s s h o w t h e r e q u e n c i e s o f d i (cid:11) e r e n t n u m b e r s o f m o m e n t c o n d i t i o n s i n 1 0 0 0 r e p l i c a t i o n s . O n a v e r a g e , t h e % g r o s s o v e r r e j e c t i o n r a t e i n a u t o m a t i c s c o r e E M M i s a b o u t 2 0 % f o r T = 5 0 0 a n d a b o u t 5 % f o r T = 1 5 0 0 . S o m e i m p o r t a n t f e a t u r e s n e e d t o b e m e n t i o n e d . F i r s t , t h e r e j e c t i o n u r v e d o e s n o t u n i f o r m l y s h o o t u p w h e n m o r e m o m e n t c o n d i t i o n s a r e i n c l u d e d , s i n c e t h e s e o m e n t s a r e o p t i m a l l y s e l e c t e d b y t h e S N P s c o r e g e n e r a t o r . S e c o n d , t h e r e j e c t i o n r a t e s a r e o r e s t a b l e a t T = 1 5 0 0 t h a n T = 5 0 0 , a s m o r e m o m e n t s a n d l a g s a r e i n c l u d e d . T h i r d , h e r e j e c t i o n r a t e c o u l d b e r e m a r k a b l y s m a l l f o r c e r t a i n l o w d i m e n s i o n s a s w e l l a s f o r s o m e i g h d i m e n s i o n s . S i n c e B I C t e n d s t o u n d e r (cid:12) t t h e a u x i l i a r y m o d e l i n s m a l l s a m p l e s , t h e 9 (cid:0) 0 1 t t F o r e x a m p le , t h e d r ift fu n c t io n in t h e s q u a r e - r o o t m o d e l + c a n b e r e p a r a m e t e r iz e d a s ( ) , a a r (cid:20) (cid:18) r 0 1 h e n b e c o m e s a n o n lin e a r t r a n s fo r m a t io n o f a n d . (cid:18) a a 1 0 F ig u r e s 7 a n d 8 a r e t h e s a m e , e x c e p t t h a t t h e d a t a is s im u la t e d fr o m t h e a lt e r n a t iv e s t o c h a s t ic v o la t ilit y r o c e s s w h ile t h e E M M is c a r r ie d o u t fo r a m is s p e c i(cid:12) e d s q u a r e - r o o t p r o c e s s . 1 9
h l u b 5 B e 5 c 1 2 m s J c s p n M Q a a s w a l Q n n i g h e r l e v e l u n r e j e c t e d s c o r e i s m o r e l i k e l y c a p t u r i n g t h e t r u e d i s t r i b u t i o n . I f t h e l o w e r e v e l u n r e j e c t e d s c o r e d i d s e l e c t t h e t r u e s p e c i (cid:12) c a t i o n , t h e r e j e c t i o n r a t e i s l i k e l y t o s h o o t p b e y o n d t h a t l e v e l . T h e i m p l i c a t i o n f o r e m p i r i c a l w o r k i s t h a t a n S N P s e a r c h s h o u l d g o e y o n d t h e (cid:12) r s t o p t i m a l c h o i c e b y B I C . . 6 S p e c i (cid:12) c a t i o n T e s t a s e d o n t h e i n s i g h t s g a t h e r e d f r o m t h e E M M e x p e r i m e n t s w i t h a u t o m a t i c S N P s c o r e g e n r a t o r , I c h o o s e s o m e \ e d u c a t e d " (cid:12) x e d S N P s c o r e s f o r t h e s t r o n g v o l a t i l i t y c a s e . F o r t h e 0 0 s a m p l e s i z e I u s e s 1 0 1 1 1 ( 1 l a g i n m e a n , 0 l a g i n v a r i a n c e , 1 l a g i n p o l y n o m i a l c o e Æ i e n t , 1 d e g r e e i n H e r m i t e p o l y n o m i a l , a n d 1 d e g r e e i n c o e Æ c i e n t p o l y n o m i a l ) , a n d f o r t h e 5 0 0 s a m p l e I u s e s 1 0 1 2 1 ( 1 l a g i n m e a n , 0 l a g i n v a r i a n c e , 1 l a g i n p o l y n o m i a l c o e Æ c i e n t , d e g r e e s i n H e r m i t e p o l y n o m i a l , a n d 1 d e g r e e i n c o e Æ c i e n t p o l y n o m i a l ) . I n t h e c a s e o f e a n p e r s i s t e n c e , w h i c h i s w i d e l y e s t i m a t e d i n e m p i r i c a l s t u d i e s , I u s e t h e e s t a b l i s h e d S N P c o r e s | s 1 4 1 4 0 f o r T = 5 0 0 a n d s 1 4 1 4 1 f o r T = 1 5 0 0 . I n F i g u r e s 5 a n d 6 , t h e s e E M M - t e s t s r e s u l t s a r e c o n t r a s t e d w i t h G M M . W i t h a k n o w l e d g e o f t h e t r u e p a r a m e t e r s , o n e a n a l s o p e r f o r m a l i k e l i h o o d r a t i o t e s t i n M L E o r a q u a s i - l i k e l i h o o d r a t i o t e s t i n Q M L E t o e e w h e t h e r t h e c o n (cid:12) d e n c e b a l l c o n c e n t r a t e d a t t h e e s t i m a t e d p a r a m e t e r c o n t a i n s t h e t r u e a r a m e t e r a s o f t e n a s s u g g e s t e d b y t h e c h i - s q u a r e ( 3 ) r a n d o m v a r i a b l e . T h i s a p p r o a c h i s o t a v a i l a b l e t o t h e e m p i r i c a l r e s e a r c h e r , s i n c e n o t r u e p a r a m e t e r i s k n o w n . H o w e v e r , i n t h e o n t e C a r l o s e t t i n g , o n e c a n u s e t h e s e \ i n f e a s i b l e " t e s t s t o j u d g e t h e r e l i a b i l i t y o f M L E o r M L E . W h e n t e s t i n g t h e m e a n p e r s i s t e n c e s c e n a r i o ( F i g u r e 5 ) , Q M L E g i v e s t h e b e s t i n f e r e n c e s t h e o v e r r e j e c t i o n b i a s i s s m a l l a n d i s r e d u c i n g w i t h i n c r e a s e s i n t h e s a m p l e s i z e . G M M n d E M M h a v e s e v e r e o v e r r e j e c t i o n b i a s e s , a l t h o u g h t h e b i a s e s s h r i n k r a p i d l y i n a l a r g e a m p l e s i z e . E M M s e e m s t o b e w o r s e t h a n G M M , e v e n w i t h i m p r o v e d e s t i m a t e s o f t h e e i g h t i n g m a t r i x . T h e M L E L R - t e s t d i v e r g e s a s t h e s a m p l e s i z e i n c r e a s e s , w h i c h c a n b e t t r i b u t e d t o t h e a s y m p t o t i c b i a s o f p a r a m e t e r e s t i m a t e s i n t r o d u c e d b y a p p r o x i m a t i n g t h e i k e l i h o o d f u n c t i o n . T u r n i n g t o t h e c a s e o f s t r o n g v o l a t i l i t y ( F i g u r e 6 ) , o n e c a n s e e t h a t t h e M L E L R - t e s t a n d t h e E M M J - t e s t h a v e a l m o s t p e r f e c t s i z e , a n d t h e o v e r r e j e c t i o n b i a s i s e g l i g i b l y s m a l l . O n t h e c o n t r a r y , t h e M L E L R - t e s t h a s s e v e r e u n d e r r e j e c t i o n , w h i c h d o e s o t s h r i n k a s y m p t o t i c a l l y . E v e n w o r s e , t h e G M M J - t e s t h a s a l a r g e u n d e r r e j e c t i o n b i a s , 2 0
w h i c h i s d i v e r g i n g w i t h i n c r e a s e s i n s a m p l e s i z e s . T h e r e a r e a t l e a s t f o u r s o u r c e s o f o v e r r e j e c t i o n o r u n d e r r e j e c t i o n b i a s i n G M M - t y p e e s t i m a t o r s : i n a c c u r a t e a n d c o s t l y e s t i m a t e s o f t h e w e i g h t i n g m a t r i x ; u n s e a s o n e d s e l e c t i o n o f t h e m o m e n t c o n d i t i o n s ; a n i n a d e q u a t e n u m b e r o f m o m e n t s t o c a p t u r e t h e d i s t r i b u t i o n f e a t u r e ; a n d s i m p l y a s m a l l s a m p l e b i a s . A g e n e r i c E M M a p p r o a c h o v e r c o m e s t h e (cid:12) r s t t w o p r o b l e m s b y a d o p t i n g a s e r i a l l y u n c o r r e l a t e d i n f o r m a t i o n m a t r i x a n d a n o p t i m a l S N P s c o r e g e n e r a t o r . T h e c o n s e r v a t i v e B I C p r o c e d u r e i n E M M m a y c h o o s e t o o f e w m o m e n t s , b u t o n e c a n r e c t i f y t h i s p r o b l e m b y u s i n g a d d i t i o n a l i n f o r m a t i o n a n d e x t e n d i n g t h e S N P s e a r c h b e y o n d t h e B I C c h o i c e . T h e r e m a i n i n g s m a l l s a m p l e b i a s c a n b e r e m e d i e d b y e n l a r g i n g t h e s a m p l e s i z e . T h e a b o v e a r g u m e n t s c a r r y t h r o u g h h e r e , e x c e p t i n t h e c a s e o f p e r s i s t e n t m e a n , w h e r e t h e E M M e s t i m a t o r m a y m i s t a k e t h e d a t a a s c o m i n g f r o m a u n i t - r o o t p r o c e s s . 5 . 7 D e t e c t i n g M i s s p e c i (cid:12) c a t i o n T h e p o w e r f o r d e t e c t i n g m i s s p e c i (cid:12) c a t i o n i s e x a m i n e d i n t w o a s p e c t s : ( 1 ) (cid:12) r s t , u s i n g a u t o m a t i c S N P s c o r e E M M p r o c e d u r e t o s t u d y t h e p o w e r i n r e l a t i o n t o t h e n u m b e r o f m o m e n t s , w h i c h i s o p t i m a l l y c h o s e n b y B I C ; ( 2 ) s e c o n d , u s i n g a (cid:12) x e d S N P - s c o r e E M M p r o c e d u r e t o c o m p a r e t h e p o w e r w i t h G M M , w h e r e E M M a d o p t s a n \ e d u c a t e d " c h o i c e o f t h e m o m e n t 1 1 c o n d i t i o n s w h i l e G M M a d o p t s t h e s i m p l e l a g - a u g m e n t e d m o m e n t c o n d i t i o n s . I n t h e (cid:12) r s t s t a g e , t h e b e n c h m a r k s t o c h a s t i c v o l a t i l i t y m o d e l ( e q u a t i o n s 2 0 a n d 2 1 i n S e c t i o n 4 . 3 ) i s u s e d t o s i m u l a t e 1 0 0 0 r e p l i c a t i o n s f o r t h e 5 0 0 a n d 1 5 0 0 s a m p l e s i z e s , a n d t h e n a s q u a r e - r o o t d i (cid:11) u s i o n p r o c e s s i s (cid:12) t t e d t o t h e d a t a . T h i s t i m e I l e t B I C a u t o m a t i c a l l y c h o o s e t h e b e s t S N P s c o r e g e n e r a t o r . S i n c e t h e d r i f t i s l i n e a r , t h e c o n d i t i o n a l m e a n w i t h l a g o n e i s c o r r e c t l y s p e c i (cid:12) e d . F o r t h e 5 0 0 s a m p l e s i z e , 9 1 % o f t h e t r i a l s s e l e c t l a g 1 ; a n d f o r t h e 1 5 0 0 s a m p l e s i z e , 9 3 % o f t h e t r i a l s s e l e c t l a g 1 . T h e c h o i c e o f c o n d i t i o n a l s t a n d a r d d e v i a t i o n i s a l l o v e r t h e p l a c e , d u e t o t h e n a t u r e o f n o n l i n e a r s t o c h a s t i c v o l a t i l i t y . F o r T = 5 0 0 , t h e s e l e c t i o n i s s c a t t e r e d m a i n l y f r o m l a g 1 t o l a g 4 , a n d f o r T = 1 5 0 0 , i t i s s c a t t e r e d m a i n l y f r o m l a g 3 t o l a g 6 . T h e c h o i c e s o f K a n d K a r e p r e d o m i n a n t l y z e r o . F i g u r e s 7 a n d z x 1 1 O n e s h o u ld b e c a u t io n e d t h a t t h e a lt e r n a t iv e m o d e l o f in t e r e s t r a t e p r o c e s s a d o p t e d h e r e is o n ly o n e s p e c ia l c a s e , a n d a fu ll s c a le s t u d y o f m is s p e c i(cid:12) c a t io n is s u e is c le a r ly o u t s id e t h e s c o p e o f t h is p a p e r . E v e n in t h e fo llo w in g lim it e d e x a m p le , t h e p e r fo r m a n c e o f E M M is n o t u n r e la t e d w it h t h e e s t a b lis h e d A R C H ( E n g le 1 9 8 2 ) a n d G A R C H ( B o lle r s le v 1 9 8 6 ) (cid:12) lt e r in g o f t h e s t o c h a s t ic v o la t ilit y p r o c e s s . I n fa c t , t h e p o w e r o f E M M w ill b e o p t im a l if t h e (cid:12) r s t s t a g e S N P a u x ilia r y m o d e l| w it h a n A R C H ( e a r lie r v e r s io n ) o r G A R C H ( r e c e n t v e r s io n ) le a d in g t e r m | a d e q u a t e ly c a p t u r e s t h e in t e r e s t r a t e d y n a m ic s . 2 1
8 o a r t c g S a (cid:12) g o m I t t f i 6 T a M c c o i b p l o t t h e 5 % r e j e c t i o n r a t e s a g a i n s t t h e n u m b e r o f o v e r i d e n t i (cid:12) e d m o m e n t s a l o n g w i t h t h e c c u r r e n c e r a t e s o f t h e s e m o m e n t c h o i c e s . T h e h i g h l i g h t i s t h a t t h e p r o b a b i l i t y o f r e j e c t i n g m i s s p e c i (cid:12) e d m o d e l d o e s c o n v e r g e t o o n e v e r y q u i c k l y . A t T = 5 0 0 , t h e 5 % l e v e l r e j e c t i o n a t e i s a r o u n d 8 0 - 9 0 % f o r a r a n g e o f o v e r i d e n t i (cid:12) e d m o m e n t s b e t w e e n 1 t o 6 , a n d b e y o n d h a t t h e r e j e c t i o n r a t e i s a l m o s t 1 0 0 % ( F i g u r e 7 ) . A t T = 1 5 0 0 , t h e r e j e c t i o n r a t e i s a l w a y s l o s e t o 1 0 0 % , e x c e p t i n a n e x a c t l y i d e n t i (cid:12) e d c a s e ( F i g u r e 8 ) . I n t h e s e c o n d s t a g e , s i m i l a r t o t h e s t u d y o f t h e o v e r r e j e c t i o n i s s u e , I (cid:12) x t h e S N P s c o r e e n e r a t o r a n d l o o k a t t h e r e j e c t i o n r a t e u n i f o r m l y a l o n g t h e 1 % - 1 0 0 % t e s t l e v e l . T h e (cid:12) x e d N P s c o r e g e n e r a t o r f o r t h e 5 0 0 s a m p l e s i z e i s s 1 3 1 0 0 ( 1 l a g i n m e a n a n d 3 l a g s i n v a r i a n c e ) , n d t h e c h i - s q u a r e t e s t h a s a d e g r e e o f f r e e d o m t h a t i s 3 . W h e n T = 1 5 0 0 , t h e s c o r e i s x e d a t s 1 5 1 0 0 ( 1 l a g i n m e a n a n d 5 l a g s i n v a r i a n c e ) , w i t h 5 d e g r e e s o f f r e e d o m . F i g u r e 9 i v e s t h e r e j e c t i o n p l o t f o r t h e E M M J - t e s t s t a t i s t i c s , i n c o m p a r i s o n w i t h G M M w h i c h h a s 1 v e r i d e n t i (cid:12) e d m o m e n t . T h e u p s h o t i s t h a t t h e E M M h a s t h e p o w e r t o d e t e c t a m i s s p e c i (cid:12) e d o d e l , a n d t h e p o w e r q u i c k l y c o n v e r g e s t o o n e a s t h e s a m p l e s i z e i n c r e a s e s f r o m 5 0 0 t o 1 5 0 0 . n c o n t r a s t , t h e G M M h a s a s e r i o u s u n d e r r e j e c t i o n p r o b l e m f o r t h e m a i n t a i n e d m i s s p e c i (cid:12) c a i o n , a n d t h e u n d e r r e j e c t i o n b i a s b e c o m e s l a r g e r a s s a m p l e s i z e i n c r e a s e s | u l t i m a t e l y l o o s i n g h e p o w e r t o d e t e c t m i s s p e c i (cid:12) c a t i o n . T h e e x p l a n a t i o n i s q u i t e s i m p l e : E M M c h o o s e s c a r e u l l y a S N P m o m e n t g e n e r a t o r b y B I C , w h i l e s t a n d a r d G M M s i m p l y u s e s t h e l a g - a u g m e n t e d n s t r u m e n t s . C o n c l u s i o n s h i s p a p e r p e r f o r m s a M o n t e C a r l o s t u d y o n E Æ c i e n t M e t h o d o f M o m e n t s ( E M M ) , G e n e r l i z e d M e t h o d o f M o m e n t s ( G M M ) , Q u a s i - M a x i m u m L i k e l i h o o d E s t i m a t i o n ( Q M L E ) , a n d a x i m u m L i k e l i h o o d E s t i m a t i o n ( M L E ) f o r a c o n t i n u o u s - t i m e s q u a r e - r o o t m o d e l u n d e r t w o h a l l e n g i n g s c e n a r i o s | h i g h p e r s i s t e n c e i n m e a n a n d s t r o n g c o n d i t i o n a l v o l a t i l i t y | t h a t a r e o m m o n l y e n c o u n t e r e d w h e n e s t i m a t i n g t h e e m p i r i c a l i n t e r e s t r a t e p r o c e s s . M L E a c h i e v e s t h e h i g h e s t e Æ c i e n c y , w h i l e i t s i n f e r e n c e s o n i n d i v i d u a l p a r a m e t e r s a n d v e r a l l s p e c i (cid:12) c a t i o n a r e n o t v e r y r e l i a b l e a n d a r e e v e n m i s l e a d i n g o n s o m e o c c a s i o n s . Q M L E s l e s s e Æ c i e n t i n c o m p a r i s o n t o M L E , b u t Q M L E s t a n d s o u t a s t h e b e s t i n f e r e n c e t o o l i n o t h t h e i n d i v i d u a l t - t e s t a n d o v e r a l l L R - t e s t . E M M s h o w s a c o n v e r g e n c e r a t e f a s t e r t h a n 2 2
r p p b c t b c t m n i o o t - n , d u e t o t h e e x p a n d r o v i d e s b e t t e r i n f e r e n c e e r s i s t e n t m e a n | c l o s e t o r e a k d o w n , a s p a r a m e t e r A n u m b e r o f l e s s o n s c a h o i c e i f t h e n u m e r i c a l a p e n d s t o d i v e r g e s n e a r t h e e v e r y r e l i a b l e w h e n t h e o n d i t i o n a l m e a n a n d v a r h e m o m e n t c o n d i t i o n s , G o m e n t f u n c t i o n s a r e n o t o t n e c e s s a r i l y i n f e r i o r t o n f e a s i b l e G M M . i n g S N P s c o r e t h a n G M M o r u n i t r o o t i n s m e s t i m a t e s a n d n b e l e a r n e d f r p r o x i m a t i o n t o n o n - s t a t i o n a r y s p e c i (cid:12) c a t i o n i n i a n c e ; ( 3 ) i f t h M M c a n n o t b k n o w n , E M M t h e i n f e a s i b l e c h o i c e b y B I C a s s a m p l e s i z e i n c r e a s e s . E M M a l s o M L E i n a h i g h v o l a t i l i t y s c e n a r i o . I n t h e c a s e o f a l l s a m p l e s | s o m e a s y m p t o t i c s o f M L E a n d G M M t e s t s t a t i s t i c s d i v e r g e . o m t h i s s t u d y : ( 1 ) M L E i s n o t n e c e s s a r i l y t h e b e s t t h e d e n s i t y i s c o m p l e x a n d / o r t h e a p p r o x i m a t i o n r e g i o n ; ( 2 ) Q M L E i s s i m p l e t o i m p l e m e n t a n d c a n f o r m a t i o n i s e a s i l y i n c o r p o r a t e d i n t h e c l o s e d - f o r m e r e i s n o n e w i n f o r m a t i o n t o b e i n c o r p o r a t e d i n t o e s u p e r i o r t o Q M L E ; ( 4 ) w h e n t h e t r u e d e n s i t y o r i s t h e o n l y c h o i c e ; i t s s m a l l s a m p l e p e r f o r m a n c e i s M L E o r Q M L E a n d i s m o s t l i k e l y s u p e r i o r t o t h e 2 3
R A A A A B B B B C C (cid:127)(cid:16) (cid:127)(cid:16) n n a o o u h o e f e r e n c e s E c o n o - t - S a h a l i a , Y a c i n e ( 1 9 9 6 a ) , \ N o n p a r a m e t r i c P r i c i n g o f I n t e r e s t R a t e D e r i v a t i v e s , " m e t r i c a , v o l . 6 4 , 5 2 7 { 5 6 0 . t - S a h a l i a , Y a c i n e ( 1 9 9 6 b ) , \ T e s t i n g C o n t i n u o u s - T i m e M o d e l s o f t h e S p o t I n t e r e s t R a t e , " T h e R e v i e w o f F i n a n c i a l S t u d i e s , v o l . 9 , 3 8 5 { 4 2 6 . d e r s e n , T o r b e n G . , H y u n g - J i n C h u n g , a n d B e n t E . S (cid:28) r e n s o n ( 1 9 9 9 ) , \ E Æ c i e n t M e t h o d o f J o u r n a l M o m e n t s E s t i m a t i o n o f a S t o c h a s t i c V o l a t i l i t y M o d e l : A M o n t e C a r l o S t u d y , " o f E c o n o m e t r i c s , v o l . 9 1 , 6 1 { 8 7 . d e r s e n , T o r b e n G . a n d B e n t E . S (cid:28) r e n s o n ( 1 9 9 6 ) , \ G M M E s t i m a t i o n o f a S t o c h a s t i c V o l a t i l - J o u r n a l o f B u s i n e s s a n d E c o n o m i c S t a t i s t i c s i t y M o d e l : A M o n t e C a r l o S t u d y , " , v o l . 1 4 , 3 2 8 { 3 5 2 . n s a l , R a v i , A . R o n a l d G a l l a n t , R o b e r t H u s s e y , a n d G e o r g e T a u c h e n ( 1 9 9 5 ) , \ N o n p a r a m e t r i c E s t i m a t i o n o f S t r u c t u r a l M o d e l s f o r H i g h - F r e q u e n c y C u r r e n c y M a r k e t D a t a , " J o u r n a l o f E c o n o m e t r i c s , v o l . 6 6 , 2 5 1 { 2 8 7 . J o u r - l l e r s l e v , T i m ( 1 9 8 6 ) , \ G e n e r a l i z e d A u t o r e g r e s s i v e C o n d i t i o n a l H e t e r o s c e d a s t i c i t y , " n a l o f E c o n o m e t r i c s , v o l . 3 1 , 3 0 7 { 3 2 7 . l l e r s l e v , T i m a n d J e (cid:11) e r y W o o l d r i d g e ( 1 9 9 2 ) , \ Q u a s i - M a x i m u m L i k e l i h o o d E s t i m a t o r s a n d E c o n o m e t r i c R e v i e w I n f e r e n c e i n D y n a m i c M o d e l s w i t h T i m e - V a r y i n g C o v a r i a n c e s , " , v o l . 1 1 , 1 4 3 { 1 7 2 . r n s i d e , C r a i g a n d M a r t i n E i c h e n b a u m ( 1 9 9 6 ) , \ S m a l l - S a m p l e P r o p e r t i e s o f G M M - B a s e d J o u r n a l o f B u s i n e s s a n d E c o n o m i c S t a t i s t i c s W a l d T e s t s , " , v o l . 1 4 , 2 9 4 { 3 0 8 . u m a c e r o , R (cid:19)o m u l o A . ( 1 9 9 7 ) , \ F i n i t e S a m p l e P r o p e r t i e s o f t h e E Æ c i e n t M e t h o d o f M o - S t u d i e s i n N o n li n e a r D y n a m i c s a n d E c o n o m e t r i c s m e n t s , " , v o l . 2 , 3 5 { 5 1 . n l e y , T i m , L a r s P e t e r H a n s e n , E r z o L u t t m e r , a n d J o s e S c h e i n k m a n ( 1 9 9 7 ) , \ S h o r t T e r m R e v i e w o f F i n a n c i a l S t u d i e s I n t e r e s t R a t e s a s S u b o r d i n a t e d D i (cid:11) u s i o n s , " , v o l . 1 0 , 5 2 5 { 5 7 8 . 2 4
C D D D D E F F F G G G G o x , J o h n C . , J o n a t h a n E . I n g e r s o l l , a n d S t e p h e n A . R o s s ( 1 9 8 5 ) , \ A T h e o r y o f t h e T e r m E c o n o m e t r i c a S t r u c t u r e o f I n t e r e s t R a t e s , " , v o l . 5 3 , 3 8 5 { 4 0 7 . a i , Q i a n g a n d K e n n e t h J . S i n g l e t o n ( 2 0 0 0 ) , \ S p e c i (cid:12) c a t i o n A n a l y s i s o f A Æ n e T e r m S t r u c t u r e J o u r n a l o f F i n a n c e M o d e l s , " , f o r t h c o m i n g . N o n - U n i f o r m R a n d o m V a r i a t e G e n e r a t i o n e v r o y e , L u c ( 1 9 8 6 ) , , S p i n g e r - V e r l a g . u Æ e , D a r r e l l a n d K e n n e t h S i n g l e t o n ( 1 9 9 3 ) , \ S i m u l a t e d M o m e n t s E s t i m a t i o n o f M a r k o v E c o n o m e t r i c a M o d e l s o f A s s e t P r i c e s , " , v o l . 6 1 , 9 2 9 { 9 5 2 . u Æ e , D a r r e l l a n d K e n n e t h S i n g l e t o n ( 1 9 9 7 ) , \ A n E c o n o m e t r i c M o d e l o f t h e T e r m S t r u c t u r e J o u r n a l o f F i n a n c e o f I n t e r e s t - R a t e S w a p Y i e l d s , " , v o l . 5 2 , 1 2 8 7 { 1 3 2 1 . n g l e , R o b e r t F . ( 1 9 8 2 ) , \ A u t o r e g r e s s i v e C o n d i t i o n a l H e t e r o s c e d a s t i c i t y w i t h E s t i m a t e s o f E c o n o m e t r i c a t h e V a r i a n c e o f U . K . I n (cid:13) a t i o n , " , v o l . 5 0 , 9 8 7 { 1 0 0 8 . A n n a ls o f M a t h e m a t i c s e l l e r , W i l i a m ( 1 9 5 1 ) , \ T w o S i n g u l a r D i (cid:11) u s i o n P r o b l e m s , " , v o l . 5 4 , 1 7 3 { 1 8 2 . A n I n t r o d u c t i o n t o P r o b a b i li t y T h e o r y a n d I t s A p p li c a t i o n s e l l e r , W i l i a m ( 1 9 7 1 ) , , v o l . 2 , J o h n W i l e y & S o n s , I n c . , P r i n c e t o n U n i v e r s i t y , 2 n d e d . i s h e r , M a r k a n d C h r i s t i a n G i l l e s ( 1 9 9 6 ) , \ E s t i m a t i n g E x p o n e n t i a l A Æ n e M o d e l s o f t h e W o r k i n g P a p e r T e r m S t r u c t u r e , " . a l l a n t , A . R o n a l d a n d J o n a t h a n R . L o n g ( 1 9 9 7 ) , \ E s t i m a t i n g S t o c h a s t i c D i (cid:11) e r e n t i a l E q u a - B i o m e t r i k a t i o n s E Æ c i e n t l y b y M i n i m u m C h i - S q u a r e , " , v o l . 8 4 . U s e r ’ s G u i d e f o r E M M : A P r o g r a m f o r a l l a n t , A . R o n a l d a n d G e o r g e T a u c h e n ( 1 9 9 6 a ) , E Æ c i e n t M e t h o d o f M o m e n t s E s t i m a t i o n , 1 s t e d . U s e r ’ s G u i d e f o r S N P : A P r o g r a m f o r a l l a n t , A . R o n a l d a n d G e o r g e T a u c h e n ( 1 9 9 6 b ) , N o n p a r a m e t r i c T i m e S e r i e s A n a ly s i s , 8 t h e d . E c o n o m e t r i c a l l a n t , A . R o n a l d a n d G e o r g e T a u c h e n ( 1 9 9 6 c ) , \ W h i c h M o m e n t t o M a t c h ? " T h e o r y , v o l . 1 2 , 6 5 7 { 6 8 1 . 2 5
G G G G G H H H I J K a l l a n t , A . R o n a l d a n d G e o r g e T a u c h e n ( 1 9 9 8 a ) , \ T h e R e l a t i v e E Æ c i e n c y o f M e t h o d o f W o r k i n g P a p e r M o m e n t s E s t i m a t o r s , " . a l l a n t , A . R o n a l d a n d G e o r g e T a u c h e n ( 1 9 9 8 b ) , \ R e p r o j e c t i n g P a r t i a l l y O b s e r v e d S y s - J o u r n a l o f t h e A m e r i c a n S t a t i s t i c a l t e m s w i t h A p p l i c a t i o n t o I n t e r e s t R a t e D i (cid:11) u s i o n s , " A s s o c i a t i o n , v o l . 9 3 , 1 0 { 2 4 . i b b o n s , M i c h a e l R . a n d K r i s h n a R a m a s w a m y ( 1 9 9 3 ) , \ A T e s t o f t h e C o x , I n g e r s o l l , a n d R e v i e w o f F i n a n c i a l S t u d i e s R o s s M o d e l o f t h e T e r m S t r u c t u r e , " , v o l . 6 , 6 1 9 { 6 5 8 . i l l , P h i l i p E . , W a l t e r M u r r a y , M i c h a e l A . S a u n d e r s , a n d M a r g a r e t H . W r i g h t ( 1 9 9 1 ) , \ U s e r ’ s G u i d e f o r N P S O L ( V e r s i o n 4 . 0 6 ) : A F o r t r a n P a c k a g e f o r N o n l i n e a r P r o g r a m m i n g , " T e c h . r e p . , S t a n f o r d U n i v e r s i t y . J o u r n a l o f A p p li e d o u r i e r o u s , C . , A . M o n f o r t , a n d E . R e n a u l t ( 1 9 9 3 ) , \ I n d i r e c t I n f e r e n c e , " E c o n o m e t r i c s , v o l . 8 , s 8 5 { s 1 1 8 . a n s e n , L a r s P e t e r ( 1 9 8 2 ) , \ L a r g e S a m p l e P r o p e r t i e s o f G e n e r a l i z e d M e t h o d o f M o m e n t s E c o n o m e t r i c a E s t i m a t o r s , " , v o l . 5 0 , 1 0 2 9 { 1 0 5 4 . a n s e n , L a r s P e t e r , J o h n H e a t o n , a n d A m i r Y a r o n ( 1 9 9 6 ) , \ F i n i t e - S a m p l e P r o p e r t i e s o f J o u r n a l o f B u s i n e s s a n d E c o n o m i c S t a t i s t i c s S o m e A l t e r n a t i v e G M M E s t i m a t o r s , " , v o l . 1 4 , 2 6 2 { 2 8 0 . a n s e n , L a r s P e t e r a n d J o s e A l e x a n d r e S c h e i n k m a n ( 1 9 9 5 ) , \ B a c k t o t h e F u t u r e : G e n - E c o n o m e t r i c a e r a l i z e d M o m e n t I m p l i c a t i o n s f o r C o n t i n u o u s T i m e M a r k o v P r o c e s s , " , v o l . 6 3 , 7 6 7 { 8 0 4 . n g r a m , B e t h F . a n d B . S . L e e ( 1 9 9 1 ) , \ S i m u l a t i o n E s t i m a t i o n o f T i m e S e r i e s M o d e l s , " J o u r n a l o f E c o n o m e t r i c s , v o l . 4 7 , 1 9 7 { 2 0 5 . D i s t r i b u t i o n s i n S t a t i s t i c s : C o n t i n u o u s U n i - o h n s o n , N o r m a n L . a n d S a m u e l K o t z ( 1 9 7 0 ) , v a r i a t e D i s t r i b u t i o n s , v o l . 2 , J o h n W i l e y & S o n s . B r o w n i a n M o t i o n a n d S t o c h a s t i c C a lc u lu s a r a t z a s , I o a n n i s a n d S t e v e n E . S h r e v e ( 1 9 9 7 ) , , S p r i n g e r . 2 6
K L N O P T W Z N u m e r i c a l S o lu t i o n o f S t o c h a s t i c D i (cid:11) e r e n t i a l l o e d e n , P e t e r E . a n d E c k h a r d P l a t e n ( 1 9 9 2 ) , E q u a t i o n s , A p p l i c a t i o n s o f M a t h e m a t i c s , S p r i n g e r - V e r l a g . o , A n d r e w W . ( 1 9 8 8 ) , \ M a x i m u m L i k e l i h o o d E s t i m a t i o n o f G e n e r a l i z e d I t ’ ^o P r o c e s s w i t h E c o n o m e t r i c T h e o r y D i s c r e t e l y S a m p l e d D a t a , " , v o l . 4 , 2 3 1 { 2 4 7 . e w e y , W h i t n e y K . a n d D o u g l a s G . S t e i g e r w a l d ( 1 9 9 7 ) , \ A s y m p t o t i c B i a s f o r Q u a s i - E c o n o m e t - M a x i m u m - L i k e l i h o o d E s t i m a t o r s i n C o n d i t i o n a l H e t e r o s c e d a s t i c i t y M o d e l s , " r i c a , v o l . 6 5 , 5 8 7 { 5 9 9 . H a n d b o o k o f M a t h e m a t i c a l F u n c t i o n s w i t h F o r m u la s , G r a p h s , a n d l i v e r , F . W . J . ( 1 9 7 2 ) , M a t h e m a t i c a l T a b le s , J o h n W i l e y & S o n s . e a r s o n , N e i l D . a n d T o n g - S h e n g S u n ( 1 9 9 4 ) , \ E x p l o i t i n g t h e C o n d i t i o n a l D e n s i t y i n E s t i m a t i n g t h e T e r m S t r u c t u r e : A n A p p l i c a t i o n t o t h e C o x , I n g e r s o l l , a n d R o s s M o d e l , " J o u r n a l o f F i n a n c e , v o l . 4 9 , 1 2 7 9 { 1 3 0 4 . a u c h e n , G e o r g e ( 1 9 9 7 ) , \ N e w M i n i m u m C h i - S q u a r e M e t h o d s i n E m p i r i c a l F i n a n c e , " i n \ A d v a n c e s i n E c o n o m e t r i c s , S e v e n t h W o r l d C o n g r e s s , " ( e d i t e d b y K r e p s , D . a n d K . W a l l i s ) , C a m b r i d g e U n i v e r s i t y P r e s s , C a m b r i d g e U K . E s t i m a t i o n , I n f e r e n c e , a n d S p e c i (cid:12) c a t i o n A n a ly s i s h i t e , H a l b e r t ( 1 9 9 4 ) , , C a m b r i d g e U n i v e r s i t y P r e s s , U n i v e r s i t y o f C a l i f o r n i a , S a n D i e g o . h e n g , X i a o d o n g a n d W e i - Y i n L o h ( 1 9 9 5 ) , \ C o n s i s t e n t V a r i a b l e S e l e c t i o n i n L i n e a r M o d e l s , " J o u r n a l o f t h e A m e r i c a n S t a t i s t i c a l A s s o c i a t i o n , v o l . 9 0 , 1 0 2 9 { 1 0 5 4 . 2 7
T a o a S E h e n d f 2 , r e m c e n ( r t s q u a r e - r o o t m o d e l i s T a u c h e n ( 1 9 9 8 b ) . I n 3 , a n d 4 r e s p e c t i v e l y u l t i p l i e d b y 1 0 0 a n d a r i o s 6 - 8 , t h e v a r i a n c + 1 ) , V ( r ) , q , E ( r r ) t t t j S c 0 a = 1 a = (cid:0) 0 b = E ( r ) t V ( r ) t B e s s e l q + 1 E ( r r ) 0 . 9 9 7 r t t j + 1 V ( r r ) 0 . 0 0 1 r t t j S c 0 a 1 a = 0 b E ( r ) t V ( r ) t B e s s e l q + 1 E ( r r ) 0 . 7 5 t t j + 1 V ( r r ) 0 . 0 5 t t j T a b l e 1 : B e n c h m a r k M o d e l C h o i c e 1 2 = 0 1 0 d r = ( a + a r ) d t + b r d W . S c e n a r i o t t t t 0 S c e n a r i o s 2 - 4 , t h e v a r i a n c e p a r a m e t e r b . F r o m S c e n a r i o 1 t o S c e n a r i o 5 , t h e m e a 0 t h e v a r i a n c e p a r a m e t e r b i s m u l t i p l i e d b y 0 e p a r a m e t e r b i s i n c r e a s e d b y a f a c t o r o f + 1 , a n d V ( r r ) a r e c a l c u l a t e d u s i n g e q u a t t j e n a r i o 1 S c e n a r i o 2 S c e n a r i o 3 0 0 0 : 0 2 4 9 1 a = 0 : 0 2 4 9 1 a = 0 : 0 2 4 9 1 1 1 0 : 0 0 2 8 5 a = 0 : 0 0 2 8 5 a = 0 : 0 0 2 8 5 (cid:0) (cid:0) 0 0 0 : 0 2 7 5 b = 0 : 0 5 5 b = 0 : 0 8 2 5 8 . 7 4 8 . 7 4 8 . 7 4 1 . 1 6 4 . 6 4 1 0 . 4 4 6 4 . 8 8 1 5 . 4 7 6 . 3 2 + 0 . 0 2 5 0 . 9 9 7 r + 0 . 0 2 5 0 . 9 9 7 r + 0 . 0 2 5 t t t + 0 . 0 0 0 0 . 0 0 3 r + 0 . 0 0 0 0 . 0 0 7 r + 0 . 0 0 0 t t t e n a r i o 5 S c e n a r i o 6 S c e n a r i o 7 0 0 = 2 : 4 9 1 a = 2 : 4 9 1 a = 2 : 4 9 1 1 1 0 : 2 8 5 a = 0 : 2 8 5 a = 0 : 2 8 5 (cid:0) (cid:0) (cid:0) 0 0 = 0 : 2 7 5 b = 0 : 5 5 b = 0 : 8 2 5 8 . 7 4 8 . 7 4 8 . 7 4 1 . 1 6 4 . 6 4 1 0 . 4 4 6 4 . 8 8 1 5 . 4 7 6 . 3 2 r + 2 . 1 7 0 . 7 5 r + 2 . 1 7 0 . 7 5 r + 2 . 1 7 t t t r + 0 . 0 7 0 . 2 0 r + 0 . 2 9 0 . 4 5 r + 0 . 6 4 t t t 2 8 1 i s n 1 2 , t i o i s t a k e n f r o m G a i n c r e a s e d b y a f a 0 p a r a m e t e r s a a n 0 . F r o m S c e n a r i o 3 , a n d 4 r e s p e c t i n s 3 , 4 , a n d 6 - 8 . S c e n a r i o 4 0 a = 0 : 0 2 4 9 1 1 a = 0 : 0 0 2 8 5 (cid:0) 0 b = 0 : 1 1 8 . 7 4 1 8 . 5 5 3 . 1 2 0 . 9 9 7 r + 0 . 0 2 5 t 0 . 0 1 2 r + 0 . 0 0 0 t S c e n a r i o 8 0 a = 2 : 4 9 1 1 a = 0 : 2 8 5 (cid:0) 0 b = 1 : 1 8 . 7 4 1 8 . 5 5 3 . 1 2 0 . 7 5 r + 2 . 1 7 t 0 . 7 9 r + 1 . 1 4 t l l a c t d 5 v e n t o r 1 a t o l y .
F a b q E L i H a T a b l e 2 : C o m p a r i n g S i m u l a 0 1 o r t h e s q u a r e - r o o t m o d e l d r = ( a + a t G a m m a ( e q u a t i o n 2 ) , a n d t h e t h e o r e t i c a P o i s s o n y d i s t r i b u t i o n i s b a s e d o n t h e - m i x u e n t l y i m p l e m e n t e d i n b o t h t h e M o n t e C a r s t i m a t i o n . S i m u l a t i o n b y d i s c r e t i z a t i o n i s o n g 1 9 9 7 ) a n d u n d e r s c o r e s t h e E Æ c i e n t M s t h e L o w - M e a n - R e v e r s i o n L o w - C o n d i t i o n a C V ) i s t h e H i g h - M e a n - R e v e r s i o n H i g h - C r e d e (cid:12) n e d i n T a b l e 1 . S c e n a r i o 1 S i m u l a t e d b L M R - L C V D i s t r i b u t i o M e a n 8 . 7 V a r i a n c e 1 . 1 5 % Q u a n t i l e 6 . 9 M e d i a n 8 . 7 9 5 % Q u a n t i l e 1 0 . 5 S c e n a r i o 8 S i m u l a t e d b H M R - H C V D i s t r i b u t i o M e a n 8 . 7 V a r i a n c e 1 8 . 3 5 % Q u a n t i l e 3 . 0 M e d i a n 8 . 0 9 5 % Q u a n t i l e 1 6 . 7 t i o n S c h e m e s ( 1 0 0 , 0 0 0 L e n g t h ) 1 2 = 0 d W , t h e m a r g i n a l r ) d t + b r t t t l v a l u e s a r e c a l c u l a t e d a c c o r d i n g G a m m a i n g - f o r m u l a ( e q u a t i o n 1 1 l o d a t a g e n e r a t i o n a n d t h e M a x i m b a s e d o n t h e w e a k - o r d e r 2 s c h e m e t h o d o f M o m e n t s . S c e n a r i o 1 l - V a r i a n c e b e n c h m a r k , a n d S c e n o n d i t i o n a l - V a r i a n c e a l t e r n a t i v e . y S i m u l a t e d b y T h e o r e t i c a l n D i s c r e t i z a t i o n V a l u e 2 8 . 7 9 8 . 7 4 8 1 . 0 9 1 . 1 6 1 7 . 1 9 7 . 0 5 2 8 . 7 2 8 . 7 0 0 1 0 . 5 7 1 0 . 5 8 y S i m u l a t e d b y T h e o r e t i c a l n D i s c r e t i z a t i o n V a l u e 5 8 . 7 0 8 . 7 4 4 1 8 . 2 2 1 8 . 5 5 4 3 . 0 3 3 . 0 5 8 8 . 0 2 8 . 0 5 0 1 6 . 6 7 1 6 . 8 1 2 9 d i s t r i b u t i o l y . S i m u l a ) a n d i s s u u m L i k e l i h e ( G a l l a n t L M R - L C ( H M a r i o 8 ( B o t h s c e n a n i s t i o n b s e o o d a n d V ) R r i o s
( o m m l H T f o o a g e T a b l e 3 : S N h i s n o t e a p p l i e s t o b o t h T a b l e e a c h s c e n a r i o w i t h t h e s a m p l e m e n t s e l e c t i o n i s S c h w a r z ’ s B I d e l s p e c i (cid:12) c a t i o n i s c h a r a c t e r i z e i n m e a n , l a g i n v a r i a n c e , l a g i n r m i t e c o e Æ c i e n t p o l y n o m i a l . S c e n a r i o 1 S c M o d e l % 1 0 1 0 0 9 5 1 1 1 0 0 3 2 0 1 0 0 1 2 1 1 0 0 1 S c e n a r i o 5 S c M o d e l % 1 0 1 0 0 9 0 1 0 1 1 0 5 2 0 1 0 0 3 1 1 1 0 0 1 1 0 1 2 0 1 P S e a r 3 a n d s i z e s o C . S c e d b y a p o l y n e n a r i o M o d e l 1 0 1 0 0 2 0 1 0 0 1 0 1 1 0 e n a r i o M o d e l 1 0 1 0 0 1 0 1 1 0 1 1 1 1 0 1 1 1 0 0 1 0 1 1 1 1 0 1 2 0 1 2 1 1 0 2 0 1 0 0 c h f o r t h e S a m p l e S i z e o f 5 0 0 T a b l e 4 . ) T h e s e r e s u l t s a r e f f 5 0 0 a n d 1 5 0 0 . T h e i n f o r m a t n a r i o s 1 - 8 a r e t h e s a m e a s t h o 5 - d i g i t n u m b e r . E a c h d i g i t c o n o m i a l , d e g r e e o f H e r m i t e p o l y n 2 S c e n a r i o 3 S c e n a r i o % M o d e l % M o d e l 9 6 1 0 1 0 0 9 2 1 0 1 0 0 3 1 0 1 1 0 4 1 1 1 0 0 1 1 1 1 0 0 2 1 0 1 1 0 2 0 1 0 0 2 1 0 1 2 0 2 0 1 0 0 2 1 1 0 0 1 1 1 1 1 6 S c e n a r i o 7 S c e n a r i o % M o d e l % M o d e l 7 7 1 0 1 0 0 4 6 1 0 1 1 1 1 2 1 0 1 1 0 2 5 1 0 1 0 0 4 1 0 1 1 1 8 1 0 1 1 0 3 1 0 1 2 1 7 1 0 1 2 1 1 1 0 1 2 0 6 1 1 1 1 0 1 1 1 1 1 0 3 1 1 1 2 0 1 1 0 1 3 0 1 1 0 1 2 0 1 1 1 1 0 0 1 1 2 1 2 0 1 1 1 2 0 1 1 0 1 3 1 1 1 1 3 0 1 1 1 1 3 0 1 2 1 1 0 1 1 0 1 1 2 1 1 1 1 1 1 5 1 1 0 2 1 1 2 0 3 0 r o m i o n s e s e c o m % 8 % 2 1 1 1 1 1 0 0 c r i t e i n T a u t i v e i a l , a 4 8 7 1 1 1 1 1 8 5 8 5 1 0 6 4 3 2 2 1 1 1 1 r e p r i o n b l e l y s t n d d l i c u 1 . a n e g a t i o n s s e d i n E a c h d s f o r r e e o f
S S c c T a b l e n a r i o M o d e l 1 0 1 0 0 1 0 1 1 0 2 0 1 0 0 1 1 1 0 0 e n a r i o M o d e l 1 0 1 0 0 1 0 1 1 0 1 0 1 2 0 1 1 1 1 0 e 4 : 1 % 9 6 2 1 1 5 % 8 9 9 1 1 S N S S P c c S e a r c e n a r i o M o d e l 1 0 1 0 0 1 1 1 0 0 e n a r i o M o d e l 1 0 1 1 1 1 0 1 0 0 1 0 1 1 0 1 0 1 2 0 1 0 1 2 1 1 1 1 1 0 1 2 1 2 0 1 1 1 1 1 2 0 1 1 1 2 0 1 2 0 h f o 2 % 9 6 4 6 % 4 3 3 0 1 0 6 4 2 2 1 1 1 r 3 1 t h S S e c e M 1 1 2 1 1 c e M 1 1 1 1 1 1 1 1 1 1 1 S a m p n a r i o o d e l 0 1 0 0 1 1 0 0 0 1 0 0 2 1 0 0 3 1 0 0 n a r i o o d e l 0 1 1 1 0 1 2 1 1 1 1 0 1 1 1 1 1 1 2 1 0 1 3 1 0 1 1 1 2 1 2 0 0 1 2 0 0 1 4 1 2 1 1 0 l e % 8 1 % 4 1 1 S 3 5 1 2 1 1 7 1 3 1 8 8 7 5 3 2 1 1 i z e S S o f 1 5 0 0 c e n a r i o M o d e l 1 0 1 0 0 1 1 1 0 0 1 2 1 0 0 1 3 1 0 0 1 1 1 1 1 1 5 1 0 0 1 6 1 0 0 1 1 1 2 1 1 4 1 0 0 1 4 1 1 0 1 5 1 1 0 1 6 1 1 0 1 6 1 1 1 1 8 1 0 0 2 5 1 0 0 c e n a r i o M o d e l 1 2 1 2 0 1 0 1 3 1 1 0 1 2 1 1 1 1 1 0 1 0 1 2 1 1 1 1 4 0 1 0 1 1 1 1 1 1 3 0 1 3 1 2 0 1 0 1 2 2 1 2 1 3 0 1 1 1 1 1 1 1 1 4 1 1 1 1 5 0 1 1 1 6 0 1 2 1 1 0 1 4 1 2 0 2 1 1 2 0 2 1 1 4 0 2 2 1 2 0 % 5 1 % 1 1 1 4 7 5 9 5 2 2 2 1 1 1 1 1 1 1 1 8 2 1 0 8 7 7 5 5 5 4 4 1 1 1 1 1 1 1 1 1
F c i i o e s n r e a c s s , a n t h e L t h i s a a b a a b a a b a a b T a b l e 5 : F i n i t e h s a m p l e s i z e , 1 0 0 0 d t h e m o d e l i s e s t i m o w - M e a n - R e v e r s i o n t a b l e u s e s a (cid:12) x e d S M T r u e V a l u e T = 5 0 = 0 . 0 2 4 9 1 - 0 . 0 1 1 = - 0 . 0 0 2 8 5 0 . 0 0 0 = 0 . 0 2 7 5 0 - 4 . 4 e 0 = 0 . 0 2 4 9 1 0 . 0 9 1 = - 0 . 0 0 2 8 5 - 0 . 0 1 0 = 0 . 0 2 7 5 0 3 . 0 e 0 = 0 . 0 2 4 9 1 0 . 0 0 1 = - 0 . 0 0 2 8 5 - 0 . 0 0 0 = 0 . 0 2 7 5 0 0 . 0 0 0 = 0 . 0 2 4 9 1 0 . 0 4 1 = - 0 . 0 0 2 8 5 - 0 . 0 0 0 = 0 . 0 2 7 5 0 - 0 . 0 0 S a m p l e B i a s a M o n t e C a r l o r a t e d b y M L E L o w - C o n d i t i o N P s c o r e g e n e e a n B i a s 0 0 T = 1 5 0 0 M a x 2 3 - 0 . 0 1 3 0 1 4 0 . 0 0 1 5 - 5 2 . 5 e - 6 Q u a s i - M 9 4 0 . 0 2 8 5 1 3 - 0 . 0 0 3 3 - 5 1 . 2 e - 5 G e n 1 9 0 . 0 0 2 3 1 2 0 . 0 0 2 2 4 0 0 . 0 0 7 5 E Æ 5 1 0 . 0 4 0 7 5 4 - 0 . 0 0 4 8 1 5 - 0 . 0 0 0 3 n d E Æ c i e n c y C o m p a r i s o n f o r S c e n a r e p l i c a t i o n s a r e g e n e r a t e d f r o m t h e s q , Q M L E , G M M , a n d E M M r e s p e c t i v L M R - L C V n a l - V a r i a n c e ( ) c a s e . E M r a t o r . M e d i a n B i a s R M S T = 5 0 0 T = 1 5 0 0 T = 5 0 0 T i m u m L i k e l i h o o d E s t i m a t i o n - 0 . 0 1 1 9 - 0 . 0 1 2 6 0 . 0 1 2 5 0 . 0 0 1 4 0 . 0 0 1 4 0 . 0 0 1 4 - 4 . 6 e - 5 2 . 1 e - 5 0 . 0 0 0 9 a x i m u m L i k e l i h o o d E s t i m a t i o n 0 . 0 8 0 3 0 . 0 2 0 9 0 . 1 3 4 3 - 0 . 0 0 9 1 - 0 . 0 0 2 5 0 . 0 1 5 3 4 . 1 e - 5 1 . 9 e - 5 0 . 0 0 0 9 e r a l i z e d M e t h o d o f M o m e n t s 4 . 7 e - 5 - 5 . 1 e - 7 0 . 2 4 1 8 - 7 . 9 e - 5 - 5 . 8 e - 5 0 . 0 5 3 9 - 7 . 3 e - 6 6 . 1 e - 6 0 . 1 2 5 6 c i e n t M e t h o d o f M o m e n t s 2 . 6 e - 4 0 . 0 0 8 5 0 . 1 2 5 2 - 8 . 1 e - 5 - 0 . 0 0 1 2 0 . 0 1 4 9 - 4 . 8 e - 6 - 4 . 3 e - 7 0 . 0 0 7 6 3 2 i o u a e l y M E = 1 r . 0 0 0 0 0 0 0 0 0 0 0 0 e - r o S c e e s t i 1 5 0 . 0 1 3 . 0 0 1 . 0 0 0 . 0 4 3 . 0 0 5 . 0 0 0 . 0 9 6 . 0 4 8 . 1 2 6 . 0 9 4 . 0 1 1 . 0 0 4 o n m 0 1 5 5 7 0 5 0 1 4 4 2 1 t p r o a r i o a t i o - 1 n
F p n e o r a s r e o c e r i o t i m a c s s 8 a t T T a h s a m , a n d i s t h e i o n i n r u e V 0 a = 2 1 a = - 0 0 b = 1 0 a = 2 1 a = - 0 0 b = 1 0 a = 2 1 a = - 0 0 b = 1 0 a = 2 1 a = - 0 0 b = 1 b l e 6 : F p l e s i z t h e m o H o w - M t h i s t a a l u e T . 4 9 1 . 2 8 5 . 1 0 0 . 4 9 1 . 2 8 5 . 1 0 0 . 4 9 1 . 2 8 5 . 1 0 0 . 4 9 1 . 2 8 5 . 1 0 0 i n i t e S a e , 1 0 0 0 d e l i s e s e a n - R e b l e u s e s M e a = 5 0 0 - 0 . 0 8 3 2 0 . 0 0 8 5 0 . 0 0 2 4 0 . 0 7 4 2 - 0 . 0 1 0 0 0 . 0 0 2 3 0 . 0 0 0 3 0 . 0 1 8 6 0 . 0 0 9 7 0 . 1 3 2 3 - 0 . 0 3 1 0 - 0 . 0 2 1 8 m p M o t i m v e r a (cid:12) n B T l e B i a s a n d E Æ c i e n c y C o m p a r i s n t e C a r l o r e p l i c a t i o n s a r e g e n e a t e d b y M L E , Q M L E , G M M , a s i o n H o w - C o n d i t i o n a l - V a r i a n c e x e d S N P s c o r e g e n e r a t o r . i a s M e d i a n B i a s = 1 5 0 0 T = 5 0 0 T = 1 5 0 0 M a x i m u m L i k e l i h o o d E s t i m - 0 . 0 6 6 3 - 0 . 0 6 7 9 - 0 . 0 5 2 4 0 . 0 0 5 8 0 . 0 0 2 9 0 . 0 0 1 0 - 0 . 0 0 1 6 0 . 0 0 6 0 0 . 0 0 0 0 Q u a s i - M a x i m u m L i k e l i h o o d E s 0 . 0 2 2 4 0 . 0 0 2 2 0 . 0 0 0 6 - 0 . 0 0 2 0 - 0 . 0 0 7 1 - 0 . 0 0 1 1 0 . 0 0 0 3 0 . 0 0 1 5 - 0 . 0 0 0 1 G e n e r a l i z e d M e t h o d o f M o m 0 . 0 0 3 9 0 . 0 0 0 1 0 . 0 0 0 1 0 . 0 1 1 0 0 . 0 0 0 1 0 . 0 0 0 5 0 . 0 0 4 1 - 0 . 0 0 2 3 - 0 . 0 0 1 8 E Æ c i e n t M e t h o d o f M o m e - 0 . 0 0 6 7 0 . 0 4 3 3 - 0 . 0 1 7 3 - 0 . 0 0 2 2 - 0 . 0 1 9 9 - 0 . 0 0 0 0 - 0 . 0 1 3 7 - 0 . 0 0 9 1 - 0 . 0 1 2 2 3 3 o n f o r r a t e d n d E M H M R ( T = a t i o n 0 . 1 0 . 0 0 . 0 t i m a t i 0 . 3 0 . 0 0 . 0 e n t s 0 . 1 0 . 0 0 . 0 n t s 0 . 4 0 . 0 0 . 0 S f r M - 5 0 3 3 2 5 4 3 o n 6 1 4 4 4 3 0 2 7 8 8 3 8 9 6 9 6 1 c o H R 0 7 1 2 3 8 0 3 4 8 1 4 8 e n m r C M a r i t h e s p V S E T o e e ) = c 0 0 0 0 0 0 0 0 0 0 0 0 8 s q t i c a 1 . 0 . 0 . 0 . 2 . 0 . 0 . 0 . 0 . 0 . 2 . 0 . 0 u v e s e 5 0 9 2 1 6 2 6 1 1 2 5 2 4 5 4 5 6 5 8 0 0 2 5 2 9 a r l y . 0 3 1 3 1 8 6 1 1 1 0 7 6 e . E - r S M o c o e M t -
MLE: a MLE: a MLE: b 0 1 0 0.5 0.5 0.5 0.4 0.4 0.4 0.3 0.3 0.3 0.2 0.2 0.2 0.1 0.1 0.1 0 0 0 −5 0 5 −5 0 5 −5 0 5 QMLE: a QMLE: a QMLE: b 0 1 0 0.5 0.5 0.5 0.4 0.4 0.4 0.3 0.3 0.3 0.2 0.2 0.2 0.1 0.1 0.1 0 0 0 −5 0 5 −5 0 5 −5 0 5 GMM: a GMM: a GMM: b 0 1 0 0.5 0.5 0.5 0.4 0.4 0.4 0.3 0.3 0.3 0.2 0.2 0.2 0.1 0.1 0.1 0 0 0 −5 0 5 −5 0 5 −5 0 5 EMM: a EMM: a EMM: b 0 1 0 0.5 0.5 0.5 0.4 0.4 0.4 0.3 0.3 0.3 0.2 0.2 0.2 0.1 0.1 0.1 0 0 0 −5 0 5 −5 0 5 −5 0 5 T s t h a e t i n s t o i t a c s t f i o o r n s 1 F 5 i g a r 0 0 u e s r e r e a m 1 s : p p e l S c e a m t i v s i z p l e l y e ; i n : \ g \ - . - D - . i s - " t r i - " N o b r u t m t i o t e s a l 3 n t ( 4 s 0 o s t , 1 f a ) t - S t t i s t i d e n a c s t i s s f i t y t o i c r a s s f o r 5 0 0 t h e S s r c e a m e f e n a r p l e r e n i c o s e 1 i z . . e ; \ | { " t - t e s t
MLE: a MLE: a MLE: b 0 1 0 0.5 0.5 0.5 0.4 0.4 0.4 0.3 0.3 0.3 0.2 0.2 0.2 0.1 0.1 0.1 0 0 0 −5 0 5 −5 0 5 −5 0 5 QMLE: a QMLE: a QMLE: b 0 1 0 0.5 0.5 0.5 0.4 0.4 0.4 0.3 0.3 0.3 0.2 0.2 0.2 0.1 0.1 0.1 0 0 0 −5 0 5 −5 0 5 −5 0 5 GMM: a GMM: a GMM: b 0 1 0 0.5 0.5 0.5 0.4 0.4 0.4 0.3 0.3 0.3 0.2 0.2 0.2 0.1 0.1 0.1 0 0 0 −5 0 5 −5 0 5 −5 0 5 EMM: a EMM: a EMM: b 0 1 0 0.5 0.5 0.5 0.4 0.4 0.4 0.3 0.3 0.3 0.2 0.2 0.2 0.1 0.1 0.1 0 0 0 −5 0 5 −5 0 5 −5 0 5 T s t h a e t i n s t o i t a c s t f i o o r n s 1 F 5 i g a r 0 0 u e s r e r e a m 2 s : p p e l S c e a m t i v s i z p l e l y e ; i n : \ g \ - . - D - . i s - " t r i - " N o b r u t m t i o t e s a l 3 n t ( 5 s 0 o s t , 1 f a ) t - S t t i s t i d e n a c s t i s s f i t y t o i c r a s s f o r 5 0 0 t h e S s r c e a m e f e n a r p l e r e n i c o s e 8 i z . . e ; \ | { " t - t e s t
100 90 80 70 60 50 40 30 20 10 0 0 2 4 6 8 10 12 Number of Overidendified Moments ecnerruccO fo dna noitcejeR fo egatnecreP Rejection Curve Occurrence Curve T r e h j F e e c i g o t i u c o r e c u n r r 3 r a : e t n e 5 % c e i s O r a t h v t e e e f r r r e i s e q j e t u c h e t e n i o n f r c y R e q o a t e u e n f r e j c e o y c f t E o i o M f n t s M h d e i 3 T s a v i d 6 = m e d 5 e 0 0 m b y w o m t h i t e e h n n A t u u c h m t o m o i c b e r a e o t i c d i f o v c S c i d c u o r e d r r e e b n G y c e e n 1 s e 0 . r 0 a 0 t . o r . T h e
100 90 80 70 60 50 40 30 20 10 0 0 2 4 6 8 10 12 Number of Overidendified Moments ecnerruccO fo dna noitcejeR fo egatnecreP Rejection Curve Occurrence Curve T r e h j F e e i g u o c c t i o r c n e u 4 : r r e r a t 5 n e % c e i s O r a t h v t e e e r f r e j i s r e q e c t i t h e u e n o c n f r y R e q o a u f t e e n r e j o c e f y c t E o i o M f n M t s h d T = e s a i v i d 3 7 m e d 1 e 5 b 0 m y 0 o t w m h i t h e n e n t u A c m u h b t o o m i c e r e o a t d f i c i v o c S c o r e i d e d b c u r r e n G y c e e 1 s n 0 . e 0 r a 0 t . o r T . h e
MLE LR−Test T = 500 MLE LR−Test T = 1500 100 100 80 80 60 60 40 40 20 20 0 0 0 20 40 60 80 100 0 20 40 60 80 100 QMLE LR−Test T = 500 QMLE LR−Test T = 1500 100 100 80 80 60 60 40 40 20 20 0 0 0 20 40 60 80 100 0 20 40 60 80 100 GMM J−Test T = 500 GMM J−Test T = 1500 100 100 80 80 60 60 40 40 20 20 0 0 0 20 40 60 80 100 0 20 40 60 80 100 EMM J−Test T = 500 EMM J−Test T = 1500 100 100 80 80 60 60 40 40 20 20 0 0 0 20 40 60 80 100 0 20 40 60 80 100 T t h h e e J l i k - t e l i e s t h s o f o o d r G r a M t i o M t e a s n F t s d i g f E u o M r r e M M 5 : L a E r S e p a a e c i n d g a (cid:12) i c Q n a t M s t i o L t h 3 n E e 8 T a o e r v s e e t r f o a g i d r a i e n S n t c e s t i f y n a t h i n r i e g o r t e 1 . r u s t e r i p c t a i r o a n m s . e t e r v a l u e s , a n d
MLE LR−Test T = 500 MLE LR−Test T = 1500 100 100 80 80 60 60 40 40 20 20 0 0 0 20 40 60 80 100 0 20 40 60 80 100 QMLE LR−Test T = 500 QMLE LR−Test T = 1500 100 100 80 80 60 60 40 40 20 20 0 0 0 20 40 60 80 100 0 20 40 60 80 100 GMM J−Test T = 500 GMM J−Test T = 1500 100 100 80 80 60 60 40 40 20 20 0 0 0 20 40 60 80 100 0 20 40 60 80 100 EMM J−Test T = 500 EMM J−Test T = 1500 100 100 80 80 60 60 40 40 20 20 0 0 0 20 40 60 80 100 0 20 40 60 80 100 T t h h e e J l i k - t e l i e s t h s o f o o d r G r a M t i o M t e a s n F t s d i g f E u o M r r e M M 6 : L a E r S e p a a e c i n d g a (cid:12) i c Q n a t M s t i o L t h 3 n E e 9 T a o e r v s e e t r f o a g i d r a i e n S n t c e s t i f y n a t h i n r i e g o r t e 8 . r u s t e r i p c t a i r o a n m s . e t e r v a l u e s , a n d
100 90 80 70 60 50 40 30 20 10 0 0 1 2 3 4 5 6 7 8 9 10 11 Number of Overidendified Moments ecnerruccO fo dna noitcejeR fo egatnecreP Rejection Curve Occurrence Curve T r e h j e e c o t i c o c n u r r r a e t n e c e i s r a t h F t e i g e f r u r i s e q e t u 7 h e : e n c 5 % f r y e q o R u f e j e e n c r e j e c y c t t i o o i o n f n o t s f h d M i s e s a i v i d 4 0 s m e p d e e c i m b y (cid:12) e o t d m h M e n e n o t u d c m e h l o b T i c e r = e o d f 5 i o 0 v c 0 i d c u e d r r e b n y c e 1 s 0 . 0 0 . T h e
100 90 80 70 60 50 40 30 20 10 0 0 2 4 6 8 10 12 14 16 Number of Overidendified Moments ecnerruccO fo dna noitcejeR fo egatnecreP Rejection Curve Occurrence Curve T r e h j e e c o t i c o c n u r r r a e t n e c e i s F r a t h i g t e e f u r r e i s e q t u 8 h e : e n 5 c % f r y R e q u o f e j e e n r e j c c e t y c i t o n o i o f n o t s f h d M e i 4 i s s a v i d 1 s p m e d e e c b i (cid:12) m y e d o m t h M e e o n t n u d e c m l h b T o i c e r = e o 1 5 d i v f o c 0 0 i d c u e d r r e b n y c e 1 s 0 . 0 0 . T h e
GMM J−Test T = 500 GMM J−Test T = 1500 100 100 80 80 60 60 40 40 20 20 0 0 0 20 40 60 80 100 0 20 40 60 80 100 EMM J−Test T = 500 EMM J−Test T = 1500 100 100 80 80 60 60 40 40 20 20 0 0 0 20 40 60 80 100 0 20 40 60 80 100 T a h n e d G c h M i - s M q u J a r t e e s ( t 5 ) i s f o a r F c T i h g i = u - s r e q u 1 5 9 a 0 : r 0 P e . o ( w 1 ) e , r a t n o d D t e h t e 4 e 2 c E t M M M i s s p J e t c e i s (cid:12) t e d i s M a o c d h e l . i - s q u a r e ( 3 ) f o r T = 5 0 0
Cite this document
Hao Zhou (2000). A Study of the Finite Sample Properties of EMM, GMM, QMLE, and MLE for a Square-Root Interest Rate Diffusion Model (FEDS 2000-45). Board of Governors of the Federal Reserve System, Finance and Economics Discussion Series. https://whenthefedspeaks.com/doc/feds_2000-45
@techreport{wtfs_feds_2000_45,
author = {Hao Zhou},
title = {A Study of the Finite Sample Properties of EMM, GMM, QMLE, and MLE for a Square-Root Interest Rate Diffusion Model},
type = {Finance and Economics Discussion Series},
number = {2000-45},
institution = {Board of Governors of the Federal Reserve System},
year = {2000},
url = {https://whenthefedspeaks.com/doc/feds_2000-45},
abstract = {This paper performs a Monte Carlo study on Efficient Method of Moments (EMM), Generalized Method of Moments (GMM), Quasi-Maximum Likelihood Estimation (QMLE), and Maximum Likelihood Estimation (MLE) for a continuous-time square-root model under two challenging scenarios--high persistence in mean and strong conditional volatility--that are commonly found in estimating the interest rate process. MLE turns out to be the most efficient of the four methods, but its finite sample inference and convergence rate suffer severely from approximating the likelihood function, especially in the scenario of highly persistent mean. QMLE comes second in terms of estimation efficiency, but it is the most reliable in generating inferences. GMM with lag-augmented moments has overall the lowest estimation efficiency, possibly due to the ad hoc choice of moment conditions. EMM shows an accelerated convergence rate in the high volatility scenario, while its overrejection bias in the mean persistence scenario is unacceptably large. Finally, under a stylized alternative model of the US interest rates, the overidentification test of EMM obtains the ultimate power for detecting misspecification, while the GMM J-test is increasingly biased downward in finite samples.},
}