Generalized Spectral Estimation

E a n m n e G e n e r a l i z e d S p e c t r a l E s t i m a t i o n (cid:3) J e r e m y B e r k o w i t z J u n e 1 2 , 1 9 9 6 A b s t r a c t T h i s p a p e r p r o v i d e s a f r a m e w o r k f o r e s t i m a t i n g p a r a m e t e r s i n a w i d e c l a s s o f d y n a m i c r a t i o n a l e x p e c t a t i o n s m o d e l s . T h e f r a m e w o r k r e c o g n i z e s t h a t d y n a m i c R E m o d e l s a r e o f t e n m e a n t t o m a t c h t h e d a t a o n l y i n l i m i t e d w a y s . I n p a r t i c u l a r , i n t e r e s t m a y f o c u s o n a s u b s e t o f f r e q u e n c i e s . T h u s , t h i s p a p e r d e s i g n s a f r e q u e n c y d o m a i n v e r s i o n o f G M M . T h e e s t i m a t o r h a s s e v e r a l a d v a n t a g e s o v e r t r a d i t i o n a l G M M . A s i d e f r o m a l l o w i n g b a n d - r e s t r i c t e d e s t i m a t i o n , i t d o e s n o t r e q u i r e m a k i n g a r b i t r a r y i n s t r u m e n t o r w e i g h t i n g m a t r i x c h o i c e s . T h e g e n e r a l e s t i m a t i o n f r a m e w o r k a l s o i n c l u d e s l e a s t s q u a r e s , m a x i m u m l i k e l i h o o d a n d b a n d r e s t r i c t e d m a x i m u m l i k e l i h o o d a s s p e c i a l c a s e s . K e y W o r d s : E s t i m a t i o n , F r e q u e n c y D o m a i n , M i s s p e c i (cid:12) c a t i o n J E L C l a s s i (cid:12) c a t i o n : C 1 3 , C 2 2 (cid:3) F e d e r a l R e s e r v e B o a r d , M a il S t o p 6 1 A , W a s h in g t o n , D .C . 2 0 5 5 1 . T e le p h o n e : ( 2 0 2 ) 7 3 6 a il: m 1 jm b 0 2 @ F R B .G O V . I w o u ld lik e t o t h a n k F r a n k D ie b o ld , L e e O h a n ia n , V a le n t in a C o d J in H a h n fo r h e lp fu l s u g g e s t io n s . T h e v ie w p r e s e n t e d a r e s o le ly t h o s e o f t h e a u t h o r a n d d c e s s a r ily r e p r e s e n t t h o s e o f t h e F e d e r a l R e s e r v e B o a r d o r it s s t a (cid:11) . 5 r o 5 8 r a n 1 d o . i t

1 T e a l a i i (cid:13) a I t o s m n f s b b t a l o o d ’ c m r t p ( I n t r o d u c t i o n h i s p a p e r d e v e l o p s f r e q u e n c y d o m a i n t e c h n i q u e s f o r e s t i m a t i n g d y n a m i c r a t i o n a l x p e c t a t i o n s m o d e l s . T h i s a p p r o a c h a l l o w s , m o d e l s t o b e e s t i m a t e d a n d t e s t e d o v e r s u b s e t o f f r e q u e n c i e s , s u c h a s b u s i n e s s c y c l e f r e q u e n c i e s , s e a s o n a l f r e q u e n c i e s , o r o n g h o r i z o n s . T h e t e c h n i q u e s d e s c r i b e d i n t h i s w o r k a r e a l s o p a r t i c u l a r l y u s e f u l i n l l o w i n g r e s e a r c h e r s t o d e a l s q u a r e l y w i t h h i g h f r e q u e n c y m e a s u r e m e n t e r r o r . I t i s n a t u r a l f o r r e s e a r c h e r s i n t e r e s t e d i n a v o i d i n g h i g h f r e q u e n c y n o i s e o r i n m a t c h n g p a r t i c u l a r c y c l i c a l b e h a v i o r t o c a r r y o u t e s t i m a t i o n a n d e v a l u a t i o n o f s u c h m o d e l s n t h e f r e q u e n c y d o m a i n . T h e f r e q u e n c y d o m a i n p r o v i d e s a n o r t h o g o n a l i z a t i o n o f t h e u c t u a t i o n s i n t h e o b s e r v e d d a t a . E n g l e ( 1 9 7 4 ) i n t r o d u c e d b a n d s p e c t r a l r e g r e s s i o n a s m e a n s t o a s s e s s t h e r e l a t i o n s h i p b e t w e e n e c o n o m i c v a r i a b l e s a t s p e c i (cid:12) c f r e q u e n c i e s . n t h a t w o r k , t h e c r i t e r i o n b e i n g m i n i m i z e d w a s r e s t r i c t e d t o l i n e a r l e a s t s q u a r e s . G e n e r a l i z e d s p e c t r a l e s t i m a t i o n ( G S E ) a l l o w s f o r a m u c h w i d e r c l a s s o f m i n i m i z a i o n c r i t e r i a t h a n w a s p r e v i o u s l y p o s s i b l e . T h e G S E f r a m e w o r k i n c l u d e s a n e w c l a s s f e s t i m a t o r s w h i c h I w i l l c a l l ’ w h i t e n i n g e s t i m a t o r s ’ , a s w e l l a s l e a s t s q u a r e s , b a n d p e c t r u m r e g r e s s i o n , a n d ’ W h i t t l e l i k e l i h o o d ’ e s t i m a t i o n ( w h i c h i s a s y m p t o t i c a l l y 1 a x i m u m l i k e l i h o o d ) . T h i s p a p e r b u i l d s o n D i e b o l d , O h a n i a n a n d B e r k o w i t z ( 1 9 9 5 ) , w h o p r o p o s e t e c h i q u e s f o r e s t i m a t i n g a n d e v a l u a t i n g d y n a m i c r a t i o n a l e x p e c t a t i o n s m o d e l s i n t h e r e q u e n c y d o m a i n . T h e i r f r a m e w o r k a l l o w s f o r p a r a m e t e r e s t i m a t i o n a n d m o d e l a s e s s m e n t i n a v e r y g e n e r a l s e t t i n g . P a r a m e t e r s a r e e s t i m a t e d b y m i n i m i z i n g d i s t a n c e e t w e e n s p e c t r a o f o b s e r v e d d a t a a n d m o d e l - g e n e r a t e d d a t a . D i s t a n c e m a y b e d e (cid:12) n e d y t h e u s e r a n d m a y f o c u s o n a n y r e l e v a n t s u b s e t o f f r e q u e n c i e s . A s h o r t c o m i n g o f h i s f r a m e w o r k i s t h a t i n a l l b u t t h e s i m p l e s t c a s e s , t h e m o d e l m u s t b e a p p r o x i m a t e d n d s i m u l a t e d i n o r d e r t o c a r r y o u t t h e e s t i m a t i o n . S i n c e , i n g e n e r a l , a n a l y t i c s o l u t i o n s a r e n o t a v a i l a b l e f o r n o n l i n e a r d y n a m i c e q u i i b r i u m m o d e l s , o n e m u s t c h o o s e a n a p p r o x i m a t e s o l u t i o n m e t h o d . F u r t h e r m o r e , i n r d e r t o p r o c e e d w i t h e s t i m a t i o n , t h e a p p r o x i m a t i o n t o t h e m o d e l m u s t b e c a r r i e d u t a t e a c h p a r a m e t e r c o n (cid:12) g u r a t i o n . T h a t m e a n s t h e m o d e l m u s t b e s i m u l a t e d h u n r e d s i f n o t t h o u s a n d s o f t i m e s . S o l u t i o n m e t h o d s w h i c h c a n b e c h o s e n a r b i t r a r i l y c l o s e ’ t o t h e t r u e m o d e l ( s u c h a s d i s c r e t i z i n g t h e p a r a m e t e r s p a c e ) a r e g e n e r a l l y p r e l u d e d b e c a u s e o f t h e e x t r e m e c o m p u t a t i o n a l i n t e n s i t y a s s o c i a t e d w i t h s i m u l a t i n g t h e o d e l o n l y o n c e . F o r e s t i m a t i o n , t h e n , f a s t e r a n d l e s s a c c u r a t e s o l u t i o n m e t h o d s a r e e q u i r e d . T o t h e e x t e n t t h a t t h e a p p r o x i m a t e s o l u t i o n d i (cid:11) e r s f r o m t h e t r u e m o d e l , h e D i e b o l d , O h a n i a n a n d B e r k o w i t z ( 1 9 9 5 ) e s t i m a t e d p a r a m e t e r s w i l l d i (cid:11) e r f r o m t h e a r a m e t e r s w h i c h m i n i m i z e l o s s . I t i s d i (cid:14) c u l t t o m a k e g e n e r a l s t a t e m e n t s r e g a r d i n g 1 F o r a d is c u s s io n o f b a n d - r e s t r ic t e d m a x im iz a t io n o f t h e W h it t le lik e lih o o d fu n c t io n s e e E n g le 1 9 8 0 ) , D ie b o ld , O h a n ia n , a n d B e r k o w it z ( 1 9 9 5 ) . 2

t s t s e t a s w t c o t 2 T a w o b E f E a i y i t E h i s s o r t o f a p p r o x i m a t i o n e r r o r . H o w e v e r , T a y l o r a n d U h l i g ( 1 9 9 0 ) , i n a c o m p a r i o n o f 1 4 a p p r o x i m a t i o n m e t h o d s a p p l i e d t o t h e s t o c h a s t i c g r o w t h m o d e l , c o n c l u d e d h a t " t h e s i m u l a t e d s a m p l e p a t h s g e n e r a t e d b y t h e d i (cid:11) e r e n t s o l u t i o n m e t h o d s h a v e i g n i (cid:12) c a n t l y d i (cid:11) e r e n t p r o p e r t i e s . " T h e g e n e r a l i z e d s p e c t r u m e s t i m a t o r w i l l a l l o w f o r m o d e l e s t i m a t i o n , i n f e r e n c e a n d v a l u a t i o n w i t h o u t r e q u i r i n g a n a p p r o x i m a t e s o l u t i o n o f t h e m o d e l . W e a c c o m p l i s h h i s b y i m p o s i n g m o m e n t c o n d i t i o n s g i v e n b y t h e m o d e l a n d t h e n m i n i m i z i n g d e v i t i o n s f r o m t h e s e c o n d i t i o n s i n t h e f r e q u e n c y d o m a i n . I t i s t h u s v e r y m u c h i n t h e p i r i t o f g e n e r a l i z e d m e t h o d o f m o m e n t a n d o t h e r m i n i m u m d i s t a n c e e s t i m a t o r s . F o r h i t e n i n g e s t i m a t o r s , w e i m p o s e m o m e n t c o n d i t i o n s o n t h e r e s i d u a l s w h i c h r e q u i r e h a t t h e r e s i d u a l s a r e ’ c l o s e ’ t o w h i t e n o i s e . S e c t i o n 2 d e (cid:12) n e s t h e g e n e r a l i z e d s p e c t r a l e s t i m a t o r a n d p r e s e n t s s o m e s p e c i a l a s e s f o r i l l u s t r a t i o n . S e c t i o n 3 i l l u s t r a t e s G S E e s t i m a t i o n b y p r e s e n t i n g t h e r e s u l t s f a M o n t e C a r l o e x p e r i m e n t . I n t h e e x p e r i m e n t , I m a i n t a i n t h e r e a l i s t i c a s s u m p t i o n h a t t h e t r u e m o d e l i s u n k n o w n . S e c t i o n 4 c o n c l u d e s . G e n e r a l i z e d S p e c t r a l E s t i m a t i o n h e E u l e r e q u a t i o n i m p l i e d b y a t y p i c a l r a t i o n a l e x p e c t a t i o n s m o d e l c a n b e w r i t t e n s 0 E ( g ( y ; (cid:18) ) (cid:10) ) = ; ( 1 ) t 0 t j h e r e g ( ; ) i s a f u n c t i o n g i v e n b y m o d e l ’ s (cid:12) r s t o r d e r c o n d i t i o n s , y i s a n T x 1 v e c t o r o f t (cid:1) (cid:1) b s e r v a b l e d a t a , (cid:18) i s a v e c t o r o f p a r a m e t e r v a l u e s , a n d (cid:10) i s t h e ( (cid:27) a l g e b r a d e (cid:12) n e d 0 t (cid:0) y ) a g e n t ’ s t i m e t i n f o r m a t i o n s e t . g ( y ; (cid:18) ) i s s o m e t i m e s c a l l e d t h e E u l e r r e s i d u a l . t q u a t i o n 1 s a y s t h a t t h e E u l e r r e s i d u a l h a s a z e r o c o n d i t i o n a l m e a n . I t i m p l i e s t h a t o r a n y r x 1 i n s t r u m e n t x , i n t h e a g e n t ’ s t i m e t i n f o r m a t i o n s e t , t 1 (cid:0) 1 0 E g ( y ; (cid:18) ) = : ( 2 ) t 0 x (cid:10) " # ! t 1 (cid:0) q u a t i o n 2 i s t h e f a m i l i a r b a s i s f o r G M M e s t i m a t i o n . T h e n o t i o n h e r e i s t h a t e c o n o m i c g e n t s s h o u l d b e u n a b l e t o f o r e c a s t t h e m o d e l r e s i d u a l . E a c h e l e m e n t o f x , e a c h t 1 (cid:0) n s t r u m e n t , g i v e s u s a n a d d i t i o n a l r e s i d u a l w h o s e m e a n s h o u l d b e z e r o . x i s g e n e r a l l y t a k e n t o b e s o m e n u m b e r o f l a g s o f t h e e n d o g e n o u s v a r i a b l e s , t 1 (cid:0) : H o w e v e r , c o n s i d e r a t i o n o f l a g s o f g ( y ; (cid:18) ) a s i n s t r u m e n t s w i l l l e a d t o s o m e v e r y t t 0 n t e r e s t i n g r e s u l t s . N o t e t h a t i t i s a lw a y s t r u e t h a t a l l l a g s o f g ( y ; (cid:18) ) a r e i n a g e n t s ’ t 0 i m e t i n f o r m a t i o n s e t . T h e m o t i v a t i o n f o r d o i n g t h i s i s t h a t e q u a t i o n 1 s a y s t h a t t h e u l e r r e s i d u a l s f o r m a m a r t i n g a l e d i (cid:11) e r e n c e s e q u e n c e . S i n c e m a r t i n g a l e d i (cid:11) e r e n c e 3

s m ’ s e a s t w F e T a t a f 2 I T ( s c r e q u e n c e s a r e a l s o w h i t e n o i s e , e q u a t i o n 2 s a y s t h a t t h e E u l e r r e s i d u a l g ( y ; (cid:18) ) i s t 0 2 u l t i v a r i a t e w h i t e n o i s e . T h i s f a c t p r o v i d e s t h e m o t i v a t i o n f o r a c l a s s o f G S E e s t i m a t o r s , w h i c h I w i l l c a l l w h i t e n i n g e s t i m a t o r s . ’ T h e r e a s o n i n g i s a s f o l l o w s . T h e m o d e l r e s i d u a l b y d e s i g n h o u l d c o n t a i n o n l y t h e u n e x p l a i n a b l e p a r t o f t h e m o d e l i n q u e s t i o n . S o , i f w e w i s h t o s t i m a t e (cid:18) , w e w o u l d l i k e t o e l i m i n a t e a s m u c h o f t h e p r e d i c t a b l e d y n a m i c s i n g ( y ; (cid:18) ) 0 t 0 s p o s s i b l e . T h e s e d y n a m i c s s h o u l d b e i n c o r p o r a t e d i n t o t h e m o d e l . A n o t h e r w a y o f a y i n g t h i s , i s w e w o u l d l i k e t o e s t i m a t e t h e p a r a m e t e r c o n (cid:12) g u r a t i o n i n s u c h a w a y a s o m a k e t h e r e s i d u a l s a s ’ c l o s e ’ a s p o s s i b l e t o w h i t e n o i s e . W e a r e , i n e (cid:11) e c t , t r y i n g t o h i t e n t h e g ( y ; (cid:18) ) : S o m e e x a m p l e s o f w h i t e n i n g e s t i m a t o r s w i l l b e p r o v i d e d b e l o w . t 0 R e w r i t i n g e q u a t i o n 3 , w e h a v e t h a t 0 E ( g ( y ; (cid:18) ) g ( y ; (cid:18) ) ) = ; (cid:28) = 1 ; 2 ; : : : ( 3 ) t 0 t (cid:28) 0 (cid:0) (cid:1) o r n o t a t i o n a l s i m p l i c i t y , l e t u = g ( y ; (cid:18) ) , s o t h a t u i s a s i n g l e E u l e r r e s i d u a l . T h e n t t 0 j t q u a t i o n 3 i s e q u i v a l e n t t o t h e s t a t e m e n t , 2 (cid:25) l T f ( ! ) = k ; ! = ; l = 0 ; : : : : u l j t T 2 h e s p e c t r a l d e n s i t y o f e a c h u ; i s c o n s t a n t o v e r t h e e n t i r e s u p p o r t , [ 0 , (cid:25) ] : T h e n g i v e n j t T (cid:12) n i t e r e a l i z a t i o n o f t h e r e s i d u a l s , u ; w e c a n c a l c u l a t e a c o n s i s t e n t e s t i m a t e o f j t 1 f g p ^ h e s p e c t r u m , s u c h t h a t f ( ! ) k ; ! : u j ! 8 I n r e a l i t y , t h o u g h , u = g ( y ; (cid:18) ) ; a n d w e d o n o t k n o w (cid:18) : S o w e n e v e r o b s e r v e t t 0 0 T r e a l i z a t i o n o f t h e t r u e E u l e r r e s i d u a l s u ; b u t r a t h e r a t b e s t w e c a n o b s e r v e j t 1 f g T u ( (cid:18) ) ; w h e r e (cid:18) i s c h o s e n s o m e h o w b y t h e u s e r . j t 1 g . 1 A S i m p l e E x a m p l e n o r d e r t o (cid:12) x i d e a s , c o n s i d e r a s i m p l e l i n e a r e x a m p l e , a n A R ( 1 ) , y = (cid:18) y + u : t 0 t 1 t (cid:0) h e y a r e o b s e r v e d a n d a s s u m e u ( 0 ; 1 ) : I n G S E n o t a t i o n , u ( (cid:18) ) = g ( y ; (cid:18) ) = t t t 0 t 0 (cid:24) 1 (cid:18) L ) y ; w h e r e L i s t h e l a g o p e r a t o r . I f w e d o n o t k n o w (cid:18) , w e m a y l o o k a t t h e 0 t 0 (cid:0) p e c t r u m o f t h e r e s i d u a l i m p l i e d b y a n y a r b i t r a r y (cid:18) ; f ( ! ) ; t o s e e w h e t h e r i t i s u ( (cid:18) ) o n s t a n t a c r o s s a l l f r e q u e n c i e s . F o r t h i s a r b i t r a r y (cid:18) ; w e c a n g e n e r a t e a l e n g t h T e s i d u a l , u ( (cid:18) ) = ( 1 (cid:18) L ) y t t (cid:0) 2 t 0 t 0 g y ; (cid:18) g y ; (cid:18) B y t h is , I m e a n t h a t , if ( ) is a v e c t o r s e q u e n c e , e a c h e le m e n t o f ( ) is w h it e n o is e . 4

T t w l a b f g p b l f w r m R d 2 D = ( 1 ( (cid:18) + (cid:11) ) L ) y 0 t (cid:0) 1 = u (cid:11) y = u (cid:11) u = A ( L ) u : t t 1 t t 1 t (cid:0) (cid:0) 1 (cid:18) L (cid:0) (cid:0) 0 (cid:0) A n d s o t h e s p e c t r u m o f t h i s r e s i d u a l u ( (cid:18) ) i s , t 2 (cid:11) i! f ( ! ) = 1 e u ( (cid:18) ) i! 1 (cid:18) e (cid:0) 0 (cid:12) (cid:12) (cid:18) (cid:19) (cid:0) (cid:12) (cid:12) (cid:12) (cid:12) (cid:12) (cid:12) h e n f ( ! ) = k ; a c r o s s f r e q u e n c i e s , u n l e s s (cid:11) = 0 ( t h a t i s , a t (cid:18) = (cid:18) ) : u ( (cid:18) ) 0 6 I t i s i n t h i s s e n s e n a t u r a l t o e s t i m a t e (cid:18) , b y s e t t i n g t h e s p e c t r u m f ( ! ) ’ c l o s e ’ 0 u ( (cid:18) ) o t h e s p e c t r u m o f w h i t e n o i s e . I n o t h e r w o r d s , (cid:12) n d ^ = a r g m i n C f ( ! ) ; G S E u ( (cid:18) ) (cid:18) (cid:18) ! T (cid:16) (cid:17) X h e r e t h e l o s s f u n c t i o n C ( ) i s a m e a s u r e o f d i v e r g e n c e o f t h e s p e c t r u m f r o m a (cid:13) a t (cid:1) i n e . T h i s a p p r o a c h h a s s o m e s i g n i (cid:12) c a n t a d v a n t a g e r e l a t i v e t o M a x i m u m L i k e l i h o o d n d G M M e s t i m a t i o n . T o c o n t i n u e w i t h t h e e x a m p l e , M L e s t i m a t i o n w o u l d p r o c e e d T y m i n i m i z i n g t h e d i s t a n c e b e t w e e n t h e m o d e l d a t a , y ( (cid:18) ) ; a n d t h e o b s e r v e d d a t a , 1 f g T y . 1 g T h e p r o b l e m i s t h a t i n t h e c o n t e x t o f g e n e r a l d y n a m i c e q u i l i b r i u m m o d e l s t h e d a t a e n e r a t i n g p r o c e s s ( t h e p o l i c y f u n c t i o n ) i s n o t k n o w n a n a l y t i c a l l y . T h e i n n o v a t i o n T r o c e s s , u ( (cid:18) ) ; m u s t (cid:12) r s t b e s i m u l a t e d a n d t h e n t h e r e s t o f t h e m o d e l d a t a m u s t t 1 f g e g e n e r a t e d v i a a n a p p r o x i m a t e p o l i c y f u n c t i o n . M L E t h u s r e q u i r e s a n a d d i t i o n a l a y e r o f a p p r o x i m a t i o n . T h e a d v a n t a g e o f G M M i s t h a t o n e n e v e r n e e d s t o c o n s t r u c t a n a p p r o x i m a t e p o l i c y u n c t i o n . P a r a m e t e r s c a n b e e s t i m a t e d u s i n g o n l y t h e o b s e r v e d d a t a . T h e p r o b l e m i t h G M M i s t h a t t h e r e i s n o s u c h t h i n g a s t h e G M M e s t i m a t o r . T h e r e s e a r c h e r i s e q u i r e d t o m a k e a c h o i c e r e g a r d i n g b o t h i n s t r u m e n t s a n d t h e w e i g h t i n g m a t r i x . G S E , l i k e G M M , c a n p r o c e e d w i t h o u t r e q u i r i n g a n a p p r o x i m a t e s o l u t i o n o f t h e o d e l . B u t u n l i k e G M M , t h e i n s t r u m e n t s a n d w e i g h t i n g a r e n o t a r b i t r a r i l y c h o s e n . a t h e r , t h e u s e r c h o o s e s a f r e q u e n c y b a n d o f i n t e r e s t . F o r e x a m p l e , i f t h e m o d e l i s e s i g n e d t o e x p l a i n b u s i n e s s c y c l e (cid:13) u c t u a t i o n s , t h e u s e r m a y s p e c i f y c y c l e s b e t w e e n t o 8 y e a r s . e (cid:12) n i t i o n : T h e g e n e r a l i z e d s p e c t r a l e s t i m a t o r i s d e (cid:12) n e d a s : ^ ^ = a r g m i n C f ( ! ) ; G S E (cid:18) u ( (cid:18) ) (cid:18) ! $ T (cid:18) (cid:19) 2 X 5

w c m r a l e f F 2 w i c a d L d a u f t o " ^ h e r e C ( ) m a y i n c l u d e a w i d e v a r i e t y o f a p p r o p r i a t e l o s s f u n c t i o n s , f ( ! ) i s a u ( (cid:18) ) (cid:1) o n s i s t e n t e s t i m a t e o f t h e s a m p l e s p e c t r a l d e n s i t y m a t r i x ( o r p o s s i b l y t h e p e r i o d o g r a m a t r i x ) o f u ( (cid:18) ) = g ( y ; (cid:18) ) : T h e s u m m a t i o n i s t a k e n o v e r t h e f r e q u e n c i e s o f i n t e r e s t , t t ^ e p r e s e n t e d b y t h e s e t $ : W e m a y a p p r o p r i a t e l y t h i n k o f t h e f ( ! ) a s a t r i a n g u l a r l u ( (cid:18) ) 2 (cid:25) l T T r r a y w i t h ! = ; l = 0 ; : : : : T h e m a x i m u m f r e q u e n c i e s p e r s a m p l e s i z e a r e . T h i s l T 2 2 o s s f u n c t i o n a l l o w s f o r f o c u s i n g o n a s u b s e t o f f r e q u e n c i e s w h i c h a r e j u d g e d t o b e c o n o m i c a l l y r e l e v a n t . T h i s i s n o t p o s s i b l e i n t h e t i m e d o m a i n . T o g e t a b e t t e r f e e l o r t h i s e s t i m a t i o n s t r a t e g y , w e n o w d e s c r i b e s o m e e x a m p l e s o f t h e l o s s f u n c t i o n C ( ) : (cid:1) o r w h a t f o l l o w s , w e c o n s i d e r o n l y a u n i v a r i a t e u ( (cid:18) ) : t . 2 W h i t e n i n g E s t i m a t o r s W e m i g h t s p e c i f y , 2 ^ ^ = a r g m i n (cid:25) ( ! ) ! ; ( 4 ) u ( (cid:18) ) F (cid:18) (cid:0) (cid:18) ! (cid:18) (cid:19) X ^ ( ! ) i s t h e s p e c t r a l d i s t r i b u t i o n o r ’ c u m u l a t i v e s p e c t r u m ’ o f u : W e h a v e , h e r e t u ( (cid:18) ) F 3 n e (cid:11) e c t , i n v e r t e d t h e C r a m e r - V o n M i s e s s t a t i s t i c t o o b t a i n a n e s t i m a t o r . A f e w o m m e n t s a r e i n o r d e r h e r e . 1 ) R a t i o n a l e x p e c t a t i o n s i m p l i e s t h a t u i s w h i t e n o i s e , s o o u r m o m e n t c o n d i t i o n s t r e t h a t E (cid:25) F ( ! ) = ! : I n w o r d s , w e h a v e t h a t , i n p o p u l a t i o n , t h e s p e c t r a l u ( (cid:18) ) (cid:1) i s t r i b u t i o n f u n c t i o n o f w h i t e n o i s e i s t h e 4 5 l i n e . T h i s e s t i m a t o r m i n i m i z e s t h e (cid:14) (cid:16) (cid:17) 2 d i s t a n c e b e t w e e n t h e s a m p l e s p e c t r a l d i s t r i b u t i o n a n d t h e p o p u l a t i o n s p e c t r a l i s t r i b u t i o n o f w h i t e n o i s e . 2 ) T h i s e s t i m a t o r i s v e r y m u c h l i k e G M M i n t h a t i t m i n i m i z e s t h e s q u a r e d d e v i t i o n s f r o m m o m e n t c o n d i t i o n s . 3 ) T h e r e a r e a n i n (cid:12) n i t e n u m b e r o f v a l i d f u n c t i o n s , C ( ) , w i t h u n i q u e m i n i m a w h e r e (cid:1) i s w h i t e n o i s e . D u r l a u f ( 1 9 9 1 ) , f o r e x a m p l e , c o n s i d e r s a n u m b e r o f s p e c i (cid:12) c d i s t a n c e t u n c t i o n s t h a t m e a s u r e d e v i a t i o n s o f t h e c u m u l a t i v e p e r i o d o g r a m i n t h e c o n t e x t o f e s t i n g f o r w h i t e n o i s e . 4 ) W e s u p p r e s s d e p e n d e n c e o f t h e s e t o f ! o n t h e s a m p l e s i z e f o r t h e r e m a i n d e r f t h e p a p e r f o r n o t a t i o n a l s i m p l i c i t y . A p a r t i c u l a r l y i n t e r e s t i n g e x a m p l e o f a w h i t e n i n g e s t i m a t o r , w h i c h I w i l l c a l l S p e c t r a l - G M M " , a r i s e s w h e n w e t a k e C ( ) a s f o l l o w s , (cid:1) 1 2 3 B B z d z ; ( ( ) ) w h e r e B B ( z ) is a B r o w n ia n B r id g e . T h e C r a m e r - V o n M is e s s t a t is t ic is a c t u a lly 0 R 6

w w o t o t n b b N B 2 ^ ^ = a r g m i n f ; f ( ! ) 1 (cid:18) u ( (cid:18) ) u ( (cid:18) ) (cid:18) (cid:0) ! $ (cid:18) (cid:19) 2 X h e r e f i s t h e a v e r a g e o f t h e e s t i m a t e d s p e c t r a ( o r p e r i o d o g r a m s ) . u ( (cid:18) ) T h i s e s t i m a t o r d i s p l a y s s o m e i n t e r e s t i n g p r o p e r t i e s . W e w i l l s h o w t h a t i t c o i n c i i t h a t i m e d o m a i n G M M e s t i m a t o r , w i t h t h e c h o i c e o f $ c o r r e s p o n d i n g t o t h e c h o f a G M M w e i g h t i n g m a t r i x . F i r s t w e n e e d t o d e (cid:12) n e s o m e n o t a t i o n . (cid:0) 1 1 i! j i S e t W b e t h e F o u r i e r m a t r i x . I t h a s t y p i c a l e l e m e n t [ W ] = [ e ] , n ij p 2 (cid:25) T h a t t h i s m a t r i x h a s t h e p r o p e r t y t h a t W W = I , w h e r e W i s t h e c o n j u g a t e t r a n s p y y f W : 1 D e (cid:12) n e W * , [ W * ] = [ c o s ( ! j ) ] k ( j ) , w h e r e k ( j ) i s a s m o o t h i n g w i n d o w m j m p 2 (cid:25) T h a t k ( j ) = 0 f o r j > B ; m $ : S o t h e n u m b e r o f r o w s o f t h i s m a t r i x i s e q u a l t o T 2 u m b e r o f f r e q u e n c i e s i n c l u d e d i n $ : C a l l t h e n u m b e r o f f r e q u e n c i e s i n c l u d e d i n a n d M , s o t h a t W * i s a n M x T m a t r i x . L e t , 1 u u t t 1 T 1 (cid:0) (cid:0)1 u u t t 2 2 3 T 2 P ^ (cid:0) G = (cid:0) : : : P 6 7 1 6 7 u u t t ( T 1 ) 6 7 T ( T 1 ) (cid:0) (cid:0) 6 7 (cid:0) (cid:0) 4 5 P e t h e v e c t o r o f m o m e n t c o n d i t i o n s i m p l i e d b y t h e m o d e l . A l s o d e (cid:12) n e , 1 1 : : 1 T T (cid:0) (cid:0) 1 : : 1 : : A = 3 2 T (cid:0) 1 1 : : 1 T T 7 6 (cid:0) (cid:0) 5 4 0 (cid:3) 0 (cid:3) V = W A A W : o w w e w i l l s h o w t h a t 2 0 ^ ^ ^ f ( ! ) : G V G = f u ( (cid:18) ) u ( (cid:18) ) (cid:0) ! $ (cid:18) (cid:19) 2 X 0 0 0 ^ ^ ^ ^ ^ ^ y d e (cid:12) n i t i o n , G V G = G W A A W G = ( A W G ) ( A W G ) : B u t t h i s i s s i m p l y , (cid:3) 0 (cid:3) (cid:3) 0 (cid:3) c o s ( ! (cid:28) ) k ( (cid:28) ) G 1 (cid:28) (cid:28) i! (cid:28) K 0 : : : c o s ( ! (cid:28) ) k ( (cid:28) ) G : : : c o s ( ! (cid:28) ) e k ( (cid:28) ) G A A 1 (cid:28) M (cid:28) 2 3 P " # (cid:28) (cid:28) c o s ( ! (cid:28) ) k ( (cid:28) ) G M (cid:28) (cid:28) X X 6 7 4 5 P 7 ( 5 d e i c o t o s s t h t h ( 6 ( 7 ( 8 ) s e e e o e e ) ) )

s w (cid:16) d T f 2 t c y w c w s I m l 2 ^ = f ; ( 9 ) f ( ! ) u ( (cid:18) ) u ( (cid:18) ) (cid:0) ! $ (cid:18) (cid:19) 2 X i n c e m u l t i p l i c a t i o n b y t h e m a t r i x A d e - m e a n s e a c h c o l u m n . W e c o u l d e q u a l l y e l l c h o o s e t h e s m o o t h i n g w i n d o w i n W t o b e k ( (cid:28) ) 1 a n d t h u s m i n i m i z e (cid:3) ! $ (cid:17) 2 2 P ; w h e r e I ( ! ) i s t h e p e r i o d o g r a m o f t h e r e s i d u a l . I ( ! ) u ( (cid:18) ) u ( (cid:18) ) u ( (cid:18) ) I (cid:0) T h i s " s p e c t r a l - G M M " e s t i m a t o r h a s t h e s p e c i a l p r o p e r t y t h a t t h e m o m e n t c o n - (cid:17) i t i o n s b e i n g i m p o s e d a r e e x a c t l y t h o s e w h i c h c o r r e s p o n d t o r e q u i r i n g t h a t u w n : t (cid:24) h i s e s t i m a t o r a l l o w s f o r w h i t e n i n g o f t h e r e s i d u a l s a n d , b e c a u s e i t i s a G S E , i t a l l o w s o r b a n d r e s t r i c t e d w h i t e n i n g . T h i s e s t i m a t o r a l s o h a s a p a r t i c u l a r l y s i m p l e f o r m . . 3 O t h e r F r e q u e n c y D o m a i n E s t i m a t o r s I n t h i s s e c t i o n , w e w i l l n o w p r e s e n t t h e G S E c o s t f u n c t i o n s w h i c h g i v e r i s e t o h e l e a s t s q u a r e s a n d b a n d r e s t r i c t e d l e a s t s q u a r e s e s t i m a t o r s , a n d t h e n ( a s y m p t o t i a l l y ) m a x i m u m l i k e l i h o o d a n d b a n d r e s t r i c t e d m a x i m u m l i k e l i h o o d e s t i m a t o r s . F i r s t , w e c a n i m p l e m e n t l e a s t s q u a r e s b y c h o o s i n g t h e t r i v i a l c o s t f u n c t i o n , w h i c h i e l d s ^ = a r g m i n I ( ! ) ; ( 1 0 ) u ( (cid:18) ) (cid:18) (cid:18) ! X h e r e I ( ! ) i s t h e p e r i o d o g r a m o f t h e r e s i d u a l u : T o s e e t h a t t h i s e s t i m a t o r c o i n - u ( (cid:18) ) t i d e s w i t h l e a s t s q u a r e s , w r i t e t h e n o n l i n e a r l e a s t s q u a r e s e s t i m a t o r , ^ 0 = a r g m i n U U ; ( 1 1 ) (cid:18) (cid:18) h e r e U i s t h e T x 1 v e c t o r o f r e s i d u a l s u . N o w U U = U W W U = ( W U ) W U 0 0 y y 1 t = I ( ! ) : ( 1 2 ) u ( (cid:18) ) ! X B a n d s p e c t r a l r e g r e s s i o n i s n e s t e d w i t h i n t h i s e s t i m a t o r . I n s t e a d o f t a k i n g t h e u m m a t i o n o v e r T / 2 f r e q u e n c i e s , w e s u m o n l y o v e r t h e f r e q u e n c i e s o f i n t e r e s t , ^ = a r g m i n I ( ! ) : ( 1 3 ) u ( (cid:18) ) (cid:18) (cid:18) ! $ 2 X f , f o r e x a m p l e , w e w o u l d l i k e t o f o c u s o n (cid:13) u c t u a t i o n s o f b u s i n e s s c y c l e f r e q u e n c y w e (cid:25) (cid:25) i g h t r e s t r i c t $ = : U s i n g q u a r t e r l y d a t a , t h i s b a n d w o u l d i s o l a t e c y c l e s o f 1 6 ; 4 e n g t h b e t w e e n 2 a n d 8 y e a r s . h i N o w c o n s i d e r W h i t t l e l i k e l i h o o d e s t i m a t i o n , 8

w c m B m i 2 T r a a A A u A c A t q a A T T m (cid:13) (cid:28) w I ( ! ) u ( (cid:18) ) ^ = a r g m i n (cid:18) ^ (cid:18) ! f ( ! ) u ( (cid:18) ) X ^ h e r e f ( ! ) i s a g a i n , t h e s m o o t h e d s p e c t r a l d e n s i t y o f u : U n d e r n o r m a l i t y a n d t u ( (cid:18) ) i r c u l a r i t y o f t h e r e s i d u a l t h i s e s t i m a t o r c a n b e d e r i v e d f r o m t h e f a m i l i a r t i m e d o - 4 a i n l i k e l i h o o d f u n c t i o n ( s e e , f o r e x a m p l e , H a r v e y ( 1 9 8 9 ) ) . D i e b o l d , O h a n i a n , a n d e r k o w i t z ( 1 9 9 5 ) a d v o c a t e b a n d - r e s t r i c t e d m a x i m u m l i k e l i h o o d , w h i c h d i (cid:11) e r s f r o m a x i m u m l i k e l i h o o d b y t a k i n g t h e s u m m a t i o n o v e r o n l y t h o s e f r e q u e n c i e s o f f o r e m o s t n t e r e s t , I ( ! ) u ( (cid:18) ) ^ : ( 1 4 ) = a r g m i n (cid:18) ^ (cid:18) ! $ f ( ! ) 2 u ( (cid:18) ) X . 4 C o n s i s t e n c y h i s s e c t i o n d e l i n e a t e s s u (cid:14) c i e n t c o n d i t i o n s f o r t h e c o n s i s t e n c y o f t h e G S E u n d e r c o r e c t s p e c i (cid:12) c a t i o n o f t h e m o d e l . A l t h o u g h c o r r e c t s p e c i (cid:12) c a t i o n i s s u r e l y a n u n r e a l i s t i c s s u m p t i o n , i t i s o f o b v i o u s i n t e r e s t t o v e r i f y t h a t o u r e s t i m a t i o n p r o c e d u r e w o u l d b e s y m p t o t i c a l l y v a l i d i f w e d i d , i n f a c t , k n o w t h e t r u e m o d e l . ^ ^ A s a b o v e , l e t = a r g m i n C f ( ! ) : T (cid:18) u ( (cid:18) ) ! $ (cid:18) (cid:18) (cid:19) 2 k P s s u m p t i o n B 1 : (cid:18) (cid:2) ; a c o m p a c t s u b s e t o f R . 2 s s u m p t i o n B 2 : g ( ; (cid:18) ) i s B o r e l m e a s u r a b l e f o r e a c h (cid:18) (cid:2) a n d g ( y ; ) i s c o n t i n u o u s , t (cid:1) 2 (cid:1) n i f o r m l y i n y : t s s u m p t i o n B 3 : E ( g ( y ; (cid:18) ) ) = 0 a n d g ( y ; (cid:18) ) h a s a (cid:12) n i t e s p e c t r a l d e n s i t y , L - t t 1 o n t i n u o u s o n (cid:18) (cid:2) : 2 s s u m p t i o n B 4 : C ( ) i s c o n t i n u o u s . F o r b o t h s p e c t r a l - G M M a n d t h e C V M e s - (cid:1) i m a t o r , t h i s a s s u m p t i o n i s e a s i l y v e r i (cid:12) e d . I n t h e s p e c t r a l - G M M c a s e , C ( ) i s t h e (cid:1) u a d r a t i c . F o r t h e C V M e s t i m a t o r , C ( ) i s a c o m p o u n d f u n c t i o n , a q u a d r a t i c o p e r - (cid:1) t i n g o n a s u m m a t i o n . s s u m p t i o n B 5 : T h e r e e x i s t s a u n i q u e (cid:18) s u c h t h a t g ( y ; (cid:18) ) = u ( (cid:18) ) W N : 0 t 0 0 (cid:24) h e r e m u s t b e a u n i q u e p a r a m e t e r v e c t o r f o r w h i c h t h e E u l e r r e s i d u a l i s w h i t e n o i s e . h i s i s n o t r e s t r i c t i v e i n t h e c o n t e x t o f d y n a m i c m o d e l s . H o w e v e r , s o m e t i m e s e r i e s o d e l s s u c h a s A R C H m o d e l s m u s t b e h a n d l e d w i t h c a r e . C o n s i d e r f o r e x a m p l e , 4 A p r o c e s s is s a id t o b e c ir c u la r if it s a u t o c o v a r ia n c e m a t r ix h a s t h e fo r m o f a c ir c u la n t . L e t t in g (cid:0) (cid:28) (cid:28) ; (cid:13) (cid:28) (cid:13) T (cid:28) ; ( ) d e n o t e t h e a u t o c o v a r ia n c e a t la g a c ir c u la n t h a s t h e p r o p e r t y t h a t ( ) = ( ) fo r (cid:0) ; :::T : = 1 1 C ir c u la r it y d o e s n o t h o ld in in (cid:12) n it e m o v in g a v e r a g e p r o c e s s e s , in g e n e r a l, b u t e v e n it h o u t c ir c u la r it y W h it t le ’s d e r iv a t io n h o ld s a s y m p t o t ic a lly . 9

a n A R ( 1 ) w i t h A R C H i n n o v a t i o n s . E v e n u n d e r c o r r e c t s p e c i (cid:12) c a t i o n , t h e i n n o v a t i o n s a r e n o t u n i q u e l y w h i t e n o i s e f o r a n y s e t o f A R C H p a r a m e t e r s . T h e p a r a m e t e r s m a y b e e s t i m a t e d , h o w e v e r , b y n o t i n g t h a t t h e s q u a r e d i n n o v a t i o n s h a v e a c o n d i t i o n a l h o m o s k e d a s t i c A R M A r e p r e s e n t a t i o n . A s s u m p t i o n B 6 : T h e l o s s f u n c t i o n , C ( ) ; m u s t h a v e t h e p r o p e r t y t h a t (cid:1) a r g m i n C f ( ! ) d ! = (cid:18) w i t h 0 < C f ( ! ) d ! : T h i s s a y s t h a t , g i v e n t h a t 0 u ( (cid:18) ) u ( (cid:18) ) $ $ (cid:18) (cid:16) (cid:17) (cid:16) (cid:17) R R t h e m o d e l i s i d e n t i (cid:12) e d ( a s s u m p t i o n B 4 ) , t h e l o s s f u n c t i o n m u s t b e m i n i m i z e d a t t h e p o p u l a t i o n p a r a m e t e r v e c t o r (cid:18) . T h i s i s o b v i o u s l y s a t i s (cid:12) e d f o r a w i d e v a r i e t y 0 o f f u n c t i o n s , C ( ) : T o m a k e t h i s c o n c r e t e w e w i l l c h e c k t h i s a s s u m p t i o n f o r t h e t w o (cid:1) W h i t e n i n g E s t i m a t o r s i n t r o d u c e d a b o v e . F o r t h e C V M e s t i m a t o r , t h i s c o n d i t i o n i s t r i v i a l l y f u l (cid:12) l l e d s i n c e 2 (cid:25) F ( ! ) ! d ! ; C f ( ! ) d ! = u ( (cid:18) ) u ( (cid:18) ) $ $ (cid:0) Z Z (cid:16) (cid:17) (cid:16) (cid:17) w h i c h a c h i e v e s a m i n i m u m a t (cid:25) F ( ! ) = ! ; u n i q u e l y a t (cid:18) : 0 u ( (cid:18) ) 2 N e x t c o n s i d e r t h e s p e c t r a l - G M M . W e h a v e f ( ! ) f d ! : T h i s i s c l e a r l y u ( (cid:18) ) u ( (cid:18) ) $ (cid:0) (cid:16) (cid:17) m i n i m i z e d a t a n y (cid:18) f o r w h i c h f ( ! ) = k : T o g e t h e r w i t h a s s u m p t i o n B 4 , (cid:18) i s t h e 0 u ( (cid:18) ) R u n i q u e v a l u e f o r w h i c h t h i s i s t r u e . p ^ T h e o r e m 1 U n d e r t h e a s s u m p t i o n s B 1 - B 6 , (cid:18) : G i v e n t h e r e g u la r i t y c o n d i - T 0 (cid:18) ! t i o n s d i s c u s s e d a b o v e , t h e g e n e r a li z e d s p e c t r u m e s t i m a t o r i s c o n s i s t e n t f o r t h e t r u e p a r a m e t e r v e c t o r . P r o o f . F r o m a s s u m p t i o n B 4 a n d t h e c o n t i n u i t y o f C ( ) , C f ( ! ) d ! i s g ( y ;(cid:18) ) t (cid:1) c o n t i n u o u s i n (cid:18) : (cid:16) (cid:17) R N e x t , n o t e t h a t f o r (cid:12) x e d (cid:18) ; w e c a n c a l c u l a t e a c o n s i s t e n t e s t i m a t e o f t h e s p e c t r u m , p ^ ^ f ( ! ) f ( ! ) u n i f o r m l y i n ! : T h e f ( ! ) a r e a s y m p t o t i c a l l y i n d e p e n d e n t i g ( y ;(cid:18) ) g ( y ;(cid:18) ) g ( y ;(cid:18) ) t t t ! 1 ^ ^ w i t h c o v f ( ! ) ; f ( ! = O ( T ) ; b y , f o r e x a m p l e , B r i l l i n g e r ( 1 9 8 1 ) . T h i s , (cid:0) i j g ( y ;(cid:18) ) g ( y ;(cid:18) ) t t i n t u r n , i m p l i e s t h a t , (cid:16) (cid:17) p 1 ^ (cid:0) T C f ( ! ) C f ( ! ) d ! : g ( y ;(cid:18) ) g ( y ;(cid:18) ) t t ! Z (cid:16) (cid:17) (cid:16) (cid:17) X N o w , s i n c e (cid:2) i s c o m p a c t , w e c a n w r i t e p 1 ^ (cid:0) C f ( ! ) C f ( ! ) d ! 0 : ( 1 5 ) s u p T g ( y ;(cid:18) ) g ( y ;(cid:18) ) t t (cid:18) (cid:0) ! (cid:12) (cid:12) Z (cid:16) (cid:17) (cid:16) (cid:17) X (cid:12) (cid:12) (cid:12) (cid:12) (cid:12) (cid:12) 1 0

C N e b b N N 2 U t d C A A v ^ A s s u m p t i o n B 3 i m p l i e s t h a t f ( ! ) i s m e a s u r a b l e i n y a n d w i t h c o n t i n u o u s C ( ) ; g ( y ;(cid:18) ) t (cid:1) ^f ( ! ) i s y - m e a s u r a b l e . D e (cid:12) n e N ( (cid:18) ) a s a n o p e n n e i g h b o r h o o d a r o u n d (cid:18) ; a n d g ( y ;(cid:18) ) 0 0 t (cid:16) (cid:17) ( (cid:18) ) a s i t s c o m p l e m e n t : T h e n N ( (cid:18) ) (cid:2) i s c o m p a c t a n d m i n C f ( ! ) d ! 0 0 g ( y ;(cid:18) ) t 0 \ (cid:18) N ( (cid:18) ) 2 (cid:16) (cid:17) R x i s t s . F u r t h e r d e (cid:12) n e , (cid:17) = m i n C f ( ! ) d ! C f 0 ( ! ) d ! : g ( y ;(cid:18) ) g ( y ;(cid:18) ) t t 0 (cid:0) (cid:18) N ( (cid:18) ) Z Z 2 (cid:16) (cid:17) (cid:16) (cid:17) 1 ^ C f ( ! ) < (cid:17) = 2 ; (cid:18) : T h e n L e t A b e t h e e v e n t C f ( ! ) d ! T (cid:0) T g ( y ;(cid:18) ) g ( y ;(cid:18) ) t t 8 (cid:0) (cid:12) y r e a r r a n g i n g t e r m s , A i m p l i e s (cid:12) (cid:16) (cid:17) (cid:16) (cid:17) T R P (cid:12) (cid:12) (cid:12) (cid:12) 1 (cid:0) C f ( ! ) d ! (cid:17) = 2 : ( 1 6 ) C f ( ! ) d ! < T g ( y ;(cid:18) ) g ( y ;(cid:18) ) t t T T (cid:0) Z (cid:16) (cid:17) (cid:16) (cid:17) X A a l s o i m p l i e s , T 1 ^ (cid:0) C f ( ! ) < C f ( ! ) d ! (cid:17) = 2 : ( 1 7 ) T 0 0 g ( y ;(cid:18) ) g ( y ;(cid:18) ) t t (cid:0) Z (cid:16) (cid:17) (cid:16) (cid:17) X N o w 1 1 ^ ^ (cid:0) (cid:0) C f ( ! ) ; ( 1 8 ) C f ( ! ) < T T 0 g ( y ;(cid:18) ) g ( y ;(cid:18) ) t t T (cid:16) (cid:17) (cid:16) (cid:17) X X y d e (cid:12) n i t i o n o f (cid:18) : C o m b i n e e q u a t i o n 1 6 w i t h 1 8 , s o t h a t , T A T ) 1 ^ (cid:0) C f ( ! ) (cid:17) = 2 : ( 1 9 ) C f ( ! ) d ! < T 0 g ( y ;(cid:18) ) g ( y ;(cid:18) ) t t T (cid:0) Z (cid:16) (cid:17) (cid:16) (cid:17) X o w a d d , 1 7 a n d 1 9 , w h i c h l e a v e s , C f ( ! ) d ! < C f 0 ( ! ) d ! (cid:17) : S o t h a t w h e n A i s t r u e , (cid:18) = g ( y ;(cid:18) ) g ( y ;(cid:18) ) T T t t T (cid:0) 2 (cid:16) (cid:17) (cid:16) (cid:17) R R ( (cid:18) ) (cid:2) ; o r (cid:18) N ( (cid:18) ) : 0 T 0 \ 2 p ^ N o w , s i n c e , l i m P ( A ) = 1 ; b y e q u a t i o n 1 5 , w e c o n c l u d e t h a t (cid:18) : T T 0 (cid:18) T ! ! 1 Q . E . D . . 5 A s y m p t o t i c N o r m a l i t y n d e r t w o a d d i t i o n a l a s s u m p t i o n s , i t i s p o s s i b l e t o s h o w t h a t t h e G e n e r a l i z e d S p e c r u m e s t i m a t o r i s a s y m p t o t i c a l l y N o r m a l l y d i s t r i b u t e d . T h e a s y m p t o t i c v a r i a n c e w i l l e p e n d n o t o n l y o n t h e u n d e r l y i n g d a t a g e n e r a t i n g p r o c e s s , b u t a l s o o n t h e c h o i c e o f ( ) : (cid:1) s s u m p t i o n C 1 : C ( ) i s t w i c e c o n t i n u o u s l y d i (cid:11) e r e n t i a b l e . 0 2 (cid:1) s s u m p t i o n C 2 : E C ( (cid:31) ) (cid:31) < , (cid:31) i s a n e x p o n e n t i a l l y d i s t r i b u t e d r a n d o m ! ! ! 1 a r i a b l e . (cid:16) (cid:17) 1 1

T p m P t t I W 1 O (cid:6) v B t h e o r e m 2 U n d e r t h e a d d i t i o n a l a s s u m p t i o n s C 1 a n d C 2 , d 1 1 ^ N ( 0 ; H ( (cid:18) ) (cid:6) H ( (cid:18) ) ) ; w h e r e H ( (cid:18) ) i s t h e H e s s i a n o f T (cid:18) (cid:18) (cid:0) (cid:0) 0 0 0 G S E 0 ! (cid:0) (cid:17) (cid:16) i n i m a n d . ^ r o o f . D e (cid:12) n e Q ( (cid:18) ) = C ( f ( ! ) ) d ! , t h e q u a n t i t y b e i n g m i n i m i z e d . T ! 2 @ P 2 h a t Q ( (cid:18) ) e x i s t s a n d i s c o n t i n u o u s . I t i s e s t a b l i s h e d i n t h e p r o o f o f T T @ (cid:18) h a t P 1 (cid:0) T Q ( (cid:18) ) Q ( (cid:18) ) ; u n i f o r m l y i n (cid:18) : T ! t i s t h u s s t r a i g h t f o r w a r d t o s h o w t h a t 2 2 @ @ P 1 (cid:0) T Q ( (cid:18) ) Q ( (cid:18) ) : T (cid:18) 0 T 2 2 @ (cid:18) @ (cid:18) j ! @ 1 = 2 N e x t w e c o n s i d e r t h e q u a n t i t y T Q ( (cid:18) ) 0 : F r o m t h e d e (cid:12) n i t i o n o f (cid:0) T (cid:18) @ (cid:18) j ^ @ f ( ! ) @ (cid:18) ^ 0 Q ( (cid:18) ) = C ( f ( ! ) ) : T (cid:18) @ (cid:18) @ (cid:18) ! X ^ @ f ( ! ) (cid:18) ^ ^ C ( f 0 ( ! ) ) e w i l l e v a l u a t e t h i s q u a n t i t y a t t h e p o i n t (cid:18) , 0 : T h e f 0 (cid:18) 0 (cid:18) (cid:18) @ (cid:18) ! P ^ , . . T / 2 , f o r m a n a s y m p t o t i c a l l y i n d e p e n d e n t t r i a n g u l a r a r r a y , w i t h c o v f 0 ( (cid:18) 1 (cid:16) ( T ) : W e m a y n o w a p p l y a C e n t r a l L i m i t T h e o r e m d u e t o M c L e i s h ( 1 9 7 (cid:0) ^ @ f ( ! ) (cid:18) d 1 = 2 ^ 0 (cid:0) C ( f 0 ( ! ) ) T 0 N ( 0 ; (cid:6) ) ; (cid:18) (cid:18) @ (cid:18) ! ! T X 2 @ f ( ! ) (cid:18) 2 = ( f C 0 ( ! ) ) 0 d ! : 0 (cid:18) (cid:18) @ (cid:18) C o m b i n i n g 2 0 a n d 2 2 w i l l b e s u (cid:14) c i e n t t o p r o v e t h e t h e o r e m b y a p p l y i n g (cid:16) (cid:17) R a l u e t h e o r e m , 2 @ Q @ Q @ Q T T T (cid:3) ^ (cid:3) = 0 + ( (cid:18) (cid:18) ) ; (cid:18) ( (cid:18) ; (cid:18) ) : (cid:18) (cid:18) (cid:18) T 0 0 T 2 @ (cid:18) @ (cid:18) @ (cid:18) (cid:0) 2 + 2 @ Q @ Q T T 1 1 = 2 (cid:3) p (cid:0) (cid:0) = T ( (cid:18) (cid:18) ) = T T 0 T 0 (cid:18) (cid:18) 2 @ (cid:18) @ (cid:18) ) (cid:0) (cid:0) " # 2 2 2 + @ Q @ @ T 1 (cid:3) 2 2 2 u t , p l i m T = Q ( (cid:18) ) b y 2 0 . S e t t i n g H ( (cid:18) ) = Q ( (cid:18) ) ; w e (cid:0) (cid:18) 0 0 0 @ (cid:18) @ (cid:18) @ (cid:18) h a t h i d 1 1 p (cid:0) (cid:0) T ( (cid:18) (cid:18) ) N ( 0 ; H ( (cid:18) ) (cid:6) H ( (cid:18) ) ) : T 0 0 0 (cid:0) ! 1 2 t h e G S E W e h a v e h e o r e m 1 ( 2 0 ) t h e G S E , ( 2 1 ) 0 ( ! ) ; i = i ^ ! ) ; f 0 ( ! i (cid:18) 5 ) , ( 2 2 ) t h e m e a n c o n c l u d e j ) (cid:17) =

3 I M t t r S T u i i (cid:12) s t i f t n f w t t s ( v t d t i s S i m u l a t i o n E x p e r i m e n t n o r d e r t o i l l u s t r a t e t h e b e h a v i o r o f G S E , t h i s s e c t i o n r e p o r t s t h e r e s u l t s o f a s i m p l e o n t e C a r l o e x p e r i m e n t . T h e e x p e r i m e n t i s d e s i g n e d t o m i m i c s o m e o f t h e c h a r a c e r i s t i c s o f d a i l y N Y S E s t o c k r e t u r n s d a t a . T h e r e i s a l a r g e l i t e r a t u r e w h i c h s t u d i e s h e e (cid:11) e c t o f h i g h f r e q u e n c y n o i s e o n o b s e r v e d s t o c k r e t u r n s . T h e m e a s u r e m e n t e r o r a r i s e s p r i m a r i l y f r o m b i d - a s k s p r e a d s a n d a s y n c h r o n o u s t r a d i n g ( e . g . , B l u m e a n d t a m b a u g h ( 1 9 8 3 ) , R o l l ( 1 9 8 4 ) ) . C o n s i d e r t h e f o l l o w i n g d a t a g e n e r a t i n g p r o c e s s , x = (cid:26) x + " t t 1 t (cid:0) y = x + u : t t t h e r e s e a r c h e r c a n o n l y o b s e r v e y ; w h i c h i n c l u d e s h i g h f r e q u e n c y m e a s u r e m e n t e r r o r t : T h e r e s e a r c h e r d o e s n o t t h e d a t a g e n e r a t i n g p r o c e s s f o r u : W e a r e i n t e r e s t e d t t n e s t i m a t i n g t h e u n k n o w n p a r a m e t e r (cid:26) : W e c a n p r o c e e d b y u s i n g s t a n d a r d A R M A n f o r m a t i o n c r i t e r i a a n d e s t i m a t i o n t o o l s t o (cid:12) t a n A R M A t o y . A l t e r n a t i v e l y , w e c a n t t a n A R ( 1 ) t o y a n d o m i t h i g h f r e q u e n c i e s b y G S E . t S i n c e w e a r e n o t i n t e r e s t e d i n t h e h i g h f r e q u e n c y d y n a m i c s i n u ; w e w i l l u s e t p e c t r a l - G M M w i t h a l o w f r e q u e n c y b a n d . I n t u i t i v e l y , t h e s p e c t r u m o f y w i l l b e t h e s u m o f a l o w f r e q u e n c y c o m p o n e n t , x a n d a h i g h f r e q u e n c y c o m p o n e n t , u : B y t t g n o r i n g t h e h i g h f r e q u e n c i e s , w e c a n e (cid:11) e c t i v e l y e s t i m a t e t h e s p e c t r u m o f t h e l o w r e q u e n c y c o m p o n e n t a n d t h u s i n v e r t o u t t h e p e r s i s t e n c e p a r a m e t e r . F o l l o w i n g R o l l ( 1 9 8 4 ) u i s m o d e l e d a s a n M A ( 1 ) w i t h v a r i a n c e e q u a l t o 1 0 % o f t h e v a r i a n c e o f y : F o r t h e p u r p o s e s o f t h e e x p e r i m e n t , " a n d u a r e t a k e n t o b e t t t o r m a l l y d i s t r i b u t e d . T a b l e 1 r e p o r t s s p e c t r a l - G M M e s t i m a t e s f o r (cid:26) u s i n g t h e l o w (cid:25) r e q u e n c y h a l f o f a v a i l a b l e s p e c t r a , ! [ 0 ; ] : R o w 1 c o n t a i n s O L S e s t i m a t e s o f (cid:26) ; 2 2 i t h M o n t e C a r l o s t a n d a r d e r r o r s i n R o w 2 . O L S i s s e v e r e l y d o w n w a r d b i a s e d d u e o t h e m e a s u r e m e n t e r r o r . T h e p o o r p e r f o r m a n c e o f O L S i s n o t s u r p r i s i n g , s i n c e h e m o d e l i s , i n e (cid:11) e c t , m i s s p e c i (cid:12) e d . R o w s 3 a n d 4 c o n t a i n e s t i m a t e s w h i c h a r e c o n t r u c t e d b y (cid:12) t t i n g a n A R M A m o d e l t o t h e d a t a u s i n g t h e H a n n a n a n d R i s s a n e n 1 9 8 2 ) i n f o r m a t i o n c r i t e r i o n t o s e l e c t t h e l a g l e n g t h s a n d e s t i m a t i n g t h e p a r a m e t e r s i a M a x i m u m l i k e l i h o o d . T h i s p r o c e d u r e d e l i v e r s c o n s i s t e n t ^(cid:26) , s i n c e t h e o r d e r o f h e A R M A i s a s y m p t o t i c a l l y c o r r e c t l y s e l e c t e d . I n d e e d , t h e b i a s o f t h e s e e s t i m a t e s i s a p p e a r s q u i c k l y i n t h e s a m p l e s i z e s s t u d i e d h e r e . N e v e r t h e l e s s , S p e c t r a l - G M M e s i m a t e s , d i s p l a y e d i n R o w s 5 a n d 6 , c l e a r l y o u t p e r f o r m t h e s t a n d a r d A R M A a p p r o a c h n t h i s e x p e r i m e n t . C o m p a r i s o n o f R o w s 3 a n d 5 i n d i c a t e s t h a t t h e G S E h a s b o t h m a l l e r b i a s a n d l e s s M o n t e C a r l o v a r i a t i o n , i n e v e r y s a m p l e s i z e . 1 3

4 T t o p u i a m i o s C o n c l u s i o n h i s p a p e r s u g g e s t s s o m e n e w t e c h n i q u e s f o r e s t i m a t i n g d y n a m i o n s m o d e l s w h i c h a r e e x p l i c i t y d e s i g n e d t o m a t c h o n l y s u b s e b s e r v e d d a t a . F o r e x a m p l e , t h e m e t h o d o l o g y a l l o w m o d e l s t o r e s e n c e o f h i g h f r e q u e n c y n o i s e . G e n e r a l i z e d S p e c t r a l e s t i m a s e i n e s t i m a t i n g b u s i n e s s c y c l e m o d e l s o r l o n g t e r m g r o w t h m o n h e r e n t f o c u s o n s u b s e t s o f f r e q u e n c i e s . A s i m p l e M o n t e C a r l o e x p e r i m e n t s t u d i e s t h e a b i l i t y o f t h e u t o r e g r e s s i v e p a r a m e t e r , w h e n t h e d a t a o f i n t e r e s t i s o b s e r v e d e a s u r e m e n t e r r o r . I t i s a s s u m e d t h a t t h e p a r t i c u l a r f o r m o f t h s u n k o w n t o t h e e c o n o m i s t . T h e r e s u l t s o f t h e e x p e r i m e n t s u g f t h e G S E t o " i g n o r e " h i g h f r e q u e n c i e s l e a d s t o f a r m o r e p r e t a n d a r d A R M A t e c h n i q u e s i n (cid:12) n i t e s a m p l e s . 1 4 i c r a t i o n a l e x p e c t a t s o f (cid:13) u c t u a t i o n s i n b e e s t i m a t e d i n t h e t o r s m a y a l s o b e o f d e l s b e c a u s e o f t h e i r G S E t o e s t i m a t e a n w i t h h i g h f r e q u e n c y e m e a s u r e m e n t e r r o r g e s t t h a t t h e a b i l i t y c i s e e s t i m a t i o n t h a n

R [ [ [ [ [ [ [ [ [ [ [ [ [ 1 1 1 1 1 2 3 4 5 6 7 8 9 0 1 2 3 e ] ] ] ] ] ] ] ] ] ] ] ] ] f A 1 B q 1 B t B D D S D A N D o E 1 E a 3 G A H M H E R E e r e n c e s m e m i y a , T . , A d v a n c e d E c o n o m e t r i c s , C a m b r i d g e : H a r v a r d U n i v e r s i t y P r e s s , 9 8 5 . e r k o w i t z , J . , " A n a s y m p t o t i c a l l y m a x i m u m l i k e l i h o o d e s t i m a t o r i n t h e f r e u e n c y d o m a i n , " M i m e o , D e p a r t m e n t o f E c o n o m i c s , U n i v e r s i t y o f P e n n s y l v a n i a , 9 9 4 . l u m e , M . E . a n d R . F . S t a m b a u g h , " B i a s e s i n C o m p u t e d R e t u r n s : A n A p p l i c a i o n t o t h e S i z e E (cid:11) e c t , " J o u r n a l o f F i n a n c i a l E c o n o m i c s , 1 2 ( 1 9 8 3 ) , 3 8 7 - 4 0 4 . r i l l i n g e r , D . R . T i m e S e r i e s : D a t a A n a ly s i s a n d T h e o r y , N e w Y o r k : H o l d e n a y , 1 9 8 1 . e n H a a n , W . J . a n d A . M a r c e t , " A c c u r a c y i n S i m u l a t i o n s , " R e v i e w o f E c o n o m i c t u d i e s , 6 1 ( 1 9 9 4 ) , 3 - 1 7 . i e b o l d , F . X . , L . E . O h a n i a n , J . B e r k o w i t z , " D y n a m i c E q u i l i b r i u m E c o n o m i e s : F r a m e w o r k f o r C o m p a r i n g M o d e l s a n d D a t a , " N B E R T e c h n i c a l W o r k i n g P a p e r o . 1 7 4 , 1 9 9 5 . u r l a u f , S . N . , " S p e c t r a l B a s e d T e s t i n g o f t h e M a r t i n g a l e H y p o t h e s i s , " J o u r n a l f E c o n o m e t r i c s , 5 0 ( 1 9 9 1 ) , 3 5 5 - 3 7 6 . n g l e , R . F . , " B a n d S p e c t r u m R e g r e s s i o n , " I n t e r n a t i o n a l E c o n o m i c R e v i e w , 5 ( 1 9 7 4 ) , 1 - 1 1 . n g l e , R . F . , " E x a c t M a x i m u m L i k e l i h o o d M e t h o d s f o r D y n a m i c R e g r e s s i o n s n d B a n d S p e c t r u m R e g r e s s i o n s , " I n t e r n a t i o n a l E c o n o m i c R e v i e w , 2 1 ( 1 9 8 0 ) , 9 1 - 4 0 7 . r a n g e r , C . W . J . a n d P . N e w b o l d , F o r e c a s t i n g E c o n o m i c T i m e S e r i e s , S a n D i e g o : c a d e m i c P r e s s , 1 9 8 6 . a n n a n , E . J . a n d J . R i s s a n n e n , " R e c u r s i v e E s t i m a t i o n o f M i x e d A u t o r e g r e s s i v e o v i n g A v e r a g e o r d e r , " B i o m e t r i k a , 6 9 ( 1 9 8 2 ) , 8 1 - 9 4 . a n s e n , L . P . , " L a r g e S a m p l e P r o p e r t i e s o f G e n e r a l i z e d M e t h o d o f M o m e n t s t i m a t o r s , " E c o n o m e t r i c a , 5 0 ( 1 9 8 2 ) , 1 0 2 9 - 1 0 5 5 . o l l , R i c h a r d " A S i m p l e I m p l i c i t M e a s u r e o f t h e E (cid:11) e c t i v e B i d - A s k S p r e a d i n a n (cid:14) c i e n t M a r k e t , " J o u r n a l o f F i n a n c e , 3 9 ( 1 9 8 4 ) , 1 1 2 7 - 1 1 3 9 . 1 5

[ 1 4 ] U C n h o o l m m i g , p a i c H r S . i s t a a o t n n i s d o t i T f c s a A , y l 8 l o r , t e r n ( 1 9 J . a t i 9 0 ) B v , e 1 . , S - 1 " o 7 S o l u . l t v i o i n n g 1 M 6 N e o t n h o l i d n s e , a " r S J t o o u c r h n a a s l t i o c f G B r u o w s i t n h e s M s o a d n e d l s E : c A o -

C t m G h S O A G a e a M a m p l e L S R M A S E N o t e s : r l o s t a n d o r d e r o t i o n c r i t M e s t i m S i z e A l t e r a r d e f t h e e r i o n a t e s n a r r m , t w T a b l e 1 2 5 5 0 . 2 3 6 . 3 8 6 ( . 2 8 4 ) ( . 2 1 2 ) . 3 3 3 . 6 6 4 ( . 4 6 1 ) ( . 3 1 6 ) . 7 8 7 . 8 3 8 ( . 2 3 3 ) ( . 1 1 8 ) t i v e e s t i m a t e s o f o r s a r e i n p a r e n t h o v i n g a v e r a g e i s h e p a r a m e t e r s a r (cid:25) i t h ! [ 0 ; ] : 2 2 . S i m u l a t i o n 7 5 1 0 0 . 4 4 6 . 4 8 2 ( . 1 7 7 ) ( . 1 5 4 . 7 7 0 . 8 1 5 ( . 2 1 6 ) ( . 1 6 6 . 8 5 6 . 8 5 6 ( . 0 8 4 ) ( . 0 6 9 (cid:26) a v e r a g e d a c e s e s . R o w s 1 s e l e c t e d b y e t h e n e s t i m a 1 7 R e s u l t s 1 5 0 . 5 1 6 ) ( . 1 2 8 . 8 4 4 ) ( . 1 1 5 . 8 7 5 ) ( . 0 5 4 r o s s 2 0 0 - 2 a r e O H a n n a n t e d b y M ) ) ) 0 M L S a n L 2 0 0 . 5 3 6 ( . 1 0 7 . 8 6 1 ( . 0 8 5 . 8 8 2 ( . 0 4 3 o n t e e s t i m d R i s E . R o ) ) ) C a s w a t e a n s 2 5 0 . 5 4 7 ( . 0 9 7 ) . 8 7 0 ( . 0 6 9 ) . 8 8 6 ( . 0 3 8 ) r l o t r i a s . F o r e n ( 1 9 5 - 6 a r e l R 8 1 0 0 0 . 5 7 8 ( . 0 4 7 ) . 8 9 4 ( . 0 2 3 ) . 8 9 6 ( . 0 1 8 ) s . M o n o w s 3 - 2 ) i n f o s p e c t r a t e 4 , r l -