nolcos.ps

download nolcos.ps

of 12

Transcript of nolcos.ps

  • 7/28/2019 nolcos.ps

    1/12

    R E C E N T D E V E L O P M E N T S I N N O N L I N E A R

    H

    1

    C O N T R O L

    M a t t h e w R . J A M E S

    P a p e r p r e s e n t e d a t I F A C N O L C O S , L a k e T a h o e , J u n e 1 9 9 5 .

    R e s e a r c h s u p p o r t e d i n p a r t b y t h e C o o p e r a t i v e R e s e a r c h C e n t r e f o r R o b u s t a n d A d a p t i v e S y s t e m s .

    D e p a r t m e n t o f E n g i n e e r i n g , F a c u l t y o f E n g i n e e r i n g a n d I n f o r m a t i o n T e c h n o l o g y , A u s t r a l i a n

    N a t i o n a l U n i v e r s i t y , C a n b e r r a A C T 0 2 0 0 , A u s t r a l i a .

    A b s t r a c t . T h e l a s t f e w y e a r s h a v e s e e n a n u m b e r o f e x c i t i n g d e v e l o p m e n t s i n t h e a r e a k n o w n a s

    n o n l i n e a r H

    1

    c o n t r o l . T h e a i m o f w o r k i n t h i s a r e a i s t o d e s i g n r o b u s t c o n t r o l l e r s f o r n o n l i n e a r

    s y s t e m s u s i n g g e n e r a l i z a t i o n s o f t h e h i g h l y s u c c e s s f u l H

    1

    m e t h o d s u s e d i n l i n e a r s y s t e m s t h e o r y .

    I n t h i s p a p e r w e g i v e a n o v e r v i e w o f t h e p r o b l e m s a n d m e t h o d s o f n o n l i n e a r H

    1

    c o n t r o l , i n c l u d i n g

    t h e H

    1

    n o r m ( L

    2

    g a i n ) , s t a b i l i t y , i n f o r m a t i o n s t a t e m e t h o d s , a n d f a c t o r i z a t i o n . T h e d e v e l o p m e n t

    o f t h i s a r e a h a s i n v o l v e d i m p o r t a n t c o n t r i b u t i o n s f r o m a n u m b e r o f r e s e a r c h e r s u s i n g a v a r i e t y o f

    t e c h n i q u e s . I n a d d i t i o n , H

    1

    c o n t r o l h a s s p u r r e d r e n e w e d i n t e r e s t i n s o m e t r a d i t i o n a l a r e a s s u c h a s

    d i e r e n t i a l g a m e s , d i s s i p a t i v e s y s t e m s , a n d s t o c h a s t i c ( r i s k - s e n s i t i v e ) c o n t r o l .

    K e y W o r d s . N o n l i n e a r c o n t r o l s y s t e m s , r o b u s t H

    1

    c o n t r o l , r i s k - s e n s i t i v e s t o c h a s t i c c o n t r o l , d i f -

    f e r e n t i a l g a m e s , d i s s i p a t i v e s y s t e m s .

    1 . I N T R O D U C T I O N

    C o n s i d e r t h e c l o s e d l o o p s y s t e m ( G ; K ) : w ! z

    d e p i c t e d i n t h e f o l l o w i n g d i a g r a m .

    G

    K

    w z

    u

    y

    H e r e , G i s t h e p l a n t t o b e c o n t r o l l e d , K i s t h e

    c o n t r o l l e r , w i s a d i s t u r b a n c e i n p u t , u i s t h e c o n -

    t r o l l e d i n p u t , z i s a p e r f o r m a n c e o u t p u t a n d y i s

    t h e o b s e r v e d o r m e a s u r e d o u t p u t s .

    T h e b a s i c p r o b l e m o f H

    1

    c o n t r o l i s t h e f o l l o w i n g .

    G i v e n a p l a n t G n d a c o n t r o l l e r K s u c h t h a t t h e

    c l o s e d l o o p s y s t e m ( G ; K ) i s

    ( i ) i n t e r n a l l y s t a b l e , a n d

    ( i i ) - d i s s i p a t i v e , i . e . ,

    1

    2

    Z

    T

    0

    j z ( s ) j

    2

    d s

    2

    1

    2

    Z

    T

    0

    j w ( s ) j

    2

    d s + ( x

    0

    )

    f o r a l l w 2 L

    2 T

    a n d a l l T 0

    ( 1 . 1 )

    f o r s o m e ( x ) 0 w i t h ( 0 ) = 0 ( t h e f u n c t i o n

    d e p e n d s o n K , a n d i s a b i a s t e r m a c c o u n t -

    i n g f o r t h e i n i t i a l s t a t e s x

    0

    o f G )

    T h e H

    1

    p r o b l e m o r i g i n a t e d i n t h e w o r k o f

    ( Z a m e s , 1 9 8 1 ) o n r o b u s t c o n t r o l , w h i c h f o c u s e d

    o n f r e q u e n c y d o m a i n i d e a s ( t h i s i s w h e r e t h e H

    1

    t e r m i n o l o g y c o m e s f r o m ) . T h i s w o r k s p a r k e d a l o t

    o f i n t e r e s t , a n d e v e n t u a l l y a n e l e g a n t a n d f u n d a -

    m e n t a l l y i m p o r t a n t s t a t e s p a c e s o l u t i o n w a s o b -

    t a i n e d b y ( D o y l e e t a l , 1 9 8 9 ) . L e t u s r e c a l l t h e

    s o l u t i o n t o a p a r t i c u l a r l i n e a r H

    1

    p r o b l e m , s e e

    ( P e t e r s e n e t a l , 1 9 9 1 ) , ( G r e e n & L i m e b e e r , 1 9 9 4 ) .

    T h e p l a n t G i s d e s c r i b e d b y t h e m o d e l

    G :

    _x = A x + B

    1

    w + B

    2

    u

    z = C

    1

    x + u

    y = C

    2

    x + w

    ( 1 . 2 )

    U n d e r s t a n d a r d a s s u m p t i o n s , t h e H

    1

    c o n t r o l

    p r o b l e m f o r G i s s o l v a b l e i f a n d o n l y i f

    ( i ) t h e r e e x i s t s X 0 s o l v i n g

    ( A B

    2

    C

    1

    )

    0

    X + X ( A B

    2

    C

    1

    )

    + X (

    1

    2

    B

    1

    B

    0

    1

    B

    2

    B

    0

    2

    ) X = 0

    ( 1 . 3 )

    w i t h A B

    2

    C

    1

    + (

    1

    2

    B

    1

    B

    0

    1

    B

    2

    B

    0

    2

    ) X s t a b l e ,

    ( i i ) t h e r e e x i s t s Y 0 s o l v i n g

    ( A B

    1

    C

    2

    ) Y + Y ( A B

    1

    C

    2

    )

    0

    + Y (

    1

    2

    C

    0

    1

    C

    1

    C

    0

    2

    C

    2

    ) Y = 0

    ( 1 . 4 )

  • 7/28/2019 nolcos.ps

    2/12

    w i t h A B

    1

    C

    2

    + Y (

    1

    2

    C

    0

    1

    C

    1

    C

    0

    2

    C

    2

    ) s t a b l e ,

    a n d

    ( i i i ) X Y <

    2

    I

    T h e ( c e n t r a l ) c o n t r o l l e r i s g i v e n b y

    _

    x = ( A B

    1

    C

    2

    + Y (

    1

    2

    C

    0

    1

    C

    1

    C

    0

    2

    C

    2

    ) ) x +

    ( B

    1

    + Y C

    0

    2

    ) y + ( B

    2

    +

    1

    2

    Y C

    0

    1

    ) u

    u = ( C

    1

    + ( B

    2

    +

    1

    2

    Y C

    1

    )

    0

    X ( 1

    1

    2

    Y X )

    1

    ) x

    I n t h i s p a p e r w e a r e i n t e r e s t e d i n t h e H

    1

    p r o b -

    l e m f o r n o n l i n e a r s y s t e m s , a p r o b l e m w h i c h h a s

    a t t r a c t e d m u c h i n t e r e s t i n r e c e n t y e a r s , a n d i t i s

    o u r p u r p o s e t o r e v i e w s o m e o f t h e m a i n d e v e l o p -

    m e n t s . F o r i l l u s t r a t i o n , w e c o n s i d e r t h e f o l l o w i n g

    p a r t i c u l a r n o n l i n e a r s y s t e m :

    G :

    _x = A ( x ) + B

    1

    ( x ) w + B

    2

    ( x ) u

    z = C

    1

    ( x ) + u

    y = C

    2

    ( x ) + w

    ( 1 . 5 )

    W e a s s u m e A ( 0 ) = 0 , C

    1

    ( 0 ) = 0 , C

    2

    ( 0 ) = 0 . T h e

    c o n t r o l l e r K i s a c a u s a l m a p

    K : y ! u ; ( 1 . 6 )

    t h e s t r u c t u r e o f w h i c h i s i n g e n e r a l u n s p e c i e d .

    T h e k e y t a s k i s t o o b t a i n n e c e s s a r y a n d s u c i e n t

    c o n d i t i o n s f r o m a p p r o p r i a t e n o n l i n e a r g e n e r a l i z a -

    t i o n s o f t h e R i c c a t i e q u a t i o n s ( 1 . 3 ) , ( 1 . 4 ) . A s w e

    s h a l l s e e , t h e s e i n v o l v e p a r t i a l d i e r e n t i a l e q u a -

    t i o n s a n d i n e q u a l i t i e s ( e v e n i n n i t e d i m e n s i o n a l

    o n e s ) .

    A n i n t e r e s t i n g a n d i m p o r t a n t f e a t u r e o f t h e H

    1

    p r o b l e m i s t h a t i t h a s c l o s e c o n n e c t i o n s w i t h d i f -

    f e r e n t i a l g a m e s , r i s k - s e n s i t i v e s t o c h a s t i c c o n t r o l ,

    a n d d i s s i p a t i v e s y s t e m s , a n d a s a c o n s e q u e n c e

    t h e s e s u b j e c t s h a v e e n j o y e d r e n e w e d i n t e r e s t . I n -

    d e e d , t h e y h a v e a l o t t o c o n t r i b u t e t o t h e u n d e r -

    s t a n d i n g o f r o b u s t c o n t r o l .

    W e b e g i n i n x 2 w i t h a d i s c u s s i o n o f t h e H

    1

    n o r m

    a n d d i s s i p a t i v e s y s t e m s , a n d p r e s e n t s o m e o f t h e

    m a i n p a r t i a l d i e r e n t i a l i n e q u a l i t i e s a n d e q u a -

    t i o n s . I n x 3 w e d e s c r i b e t h e r i s k - s e n s i t i v e i n d e x

    a n d i t s r e l a t i o n s h i p t o t h e H

    1

    a n d H

    2

    n o r m s .

    T h e s t a t e f e e d b a c k H

    1

    c o n t r o l p r o b l e m i s d i s -

    c u s s e d i n x 4 , w h i l e t h e o u t p u t f e e d b a c k p r o b l e m

    i s t r e a t e d i n x 5 . T h i s p a p e r i s w r i t t e n i n a h e u r i s -

    t i c , t u t o r i a l s t y l e , a n d m a t h e m a t i c a l t e c h n i c a l i t i e s

    a r e k e p t t o a m i n i m u m . A l s o , w e c o n n e o u r a t -

    t e n t i o n t o t h e s o - c a l l e d o n e b l o c k p r o b l e m . F o r

    f u l l d e t a i l s , r e a d e r s s h o u l d c o n s u l t t h e r e f e r e n c e s .

    T h e b o o k ( B a s a r & B e r n h a r d , 1 9 9 1 ) p r e s e n t s t h e

    g a m e t h e o r e t i c a p p r o a c h i n d e t a i l , w h i l e t h e b o o k

    ( v a n d e r S c h a f t , 1 9 9 6 ) c o v e r s a n u m b e r o f a s p e c t s

    o f t h e t h e o r y ; a n d t h e f o r t h c o m i n g b o o k ( H e l t o n

    & J a m e s , 1 9 9 7 ) p r e s e n t s t h e i n f o r m a t i o n s t a t e a p -

    p r o a c h i n d e t a i l .

    2 . T H E H

    1

    N O R M

    C o n s i d e r a n o n l i n e a r s y s t e m w i t h i n p u t w a n d

    o u t p u t z :

    _x = f ( x ) + g ( x ) w

    z = h ( x )

    ( 2 . 1 )

    W e a s s u m e t h a t f ( 0 ) = 0 a n d h ( 0 ) = 0 .

    O n e m e a s u r e o f t h e s i z e o f , i . e . , o f t h e a m o u n t

    o f i n u e n c e o f w o n z , i s t h e \ H

    1

    n o r m " , o r m o r e

    p r o p e r l y , t h e L

    2

    g a i n . B y d e n i t i o n , l e t u s s a y

    t h a t k k

    H

    1

    i f a n d o n l y i f w e h a v e

    1

    2

    Z

    T

    0

    j z ( t ) j

    2

    d t

    2

    1

    2

    Z

    T

    0

    j w ( t ) j

    2

    d t + ( x

    0

    ) ( 2 . 2 )

    f o r a l l w 2 L

    2 T

    , T 0 , f o r s o m e 0 , ( 0 ) =

    0 . H e r e , L

    2 T

    i s t h e s p a c e o f s q u a r e i n t e g r a b l e

    f u n c t i o n s o n 0 ; T ] . T h e n k k

    H

    1

    i s t h e s m a l l e s t

    n u m b e r f o r w h i c h k k

    H

    1

    T h e p r o p e r t y ( 2 . 2 ) ( a g e n e r a l i z a t i o n o f a t i m e d o -

    m a i n a n a l o g o f t h e f r e q u e n c y d o m a i n d e n i t i o n o f

    H

    1

    n o r m f o r l i n e a r s y s t e m s ) c a n b e t r e a t e d e -

    c i e n t l y w i t h t h e t h e o r y o f d i s s i p a t i v e s y s t e m s , s e e

    ( W i l l e m s , 1 9 7 2 ) , ( H i l l & M o y l a n , 1 9 7 6 ) . I n d e e d ,

    w e s a y t h a t i s - d i s s i p a t i v e ( w i t h r e s p e c t t o t h e

    s u p p l y r a t e

    2

    j w j

    2

    j z j

    2

    ) i t h e r e e x i s t s a n o n -

    n e g a t i v e f u n c t i o n V ( x ) ( c a l l e d a s t o r a g e f u n c t i o n )

    s u c h t h a t V ( 0 ) = 0 a n d

    V ( x ) s u p

    T 0 w 2 L

    2 T

    f V ( x ( T ) )

    1

    2

    R

    T

    0

    2

    w ( r )

    2

    z ( r )

    2

    ] d r : x ( 0 ) = x g

    ( 2 . 3 )

    N o w k k

    H

    1

    i i s - d i s s i p a t i v e . T o s e e

    t h i s , i f k k

    H

    1

    t h e n d e n e ( t h e a v a i l a b l e

    s t o r a g e )

    V

    a

    ( x ) = s u p

    T 0 w 2 L

    2 T

    f

    R

    T

    0

    2

    w ( r )

    2

    z ( r )

    2

    ] d r : x ( 0 ) = x g

    ( 2 . 4 )

    I n v i e w o f ( 2 . 2 ) a n d t h e d e n i t i o n , i t f o l l o w s

    t h a t 0 V

    a

    ( x ) ( x ) , V

    a

    ( 0 ) = 0 , a n d b y d y -

    n a m i c p r o g r a m m i n g , V

    a

    s a t i s e s ( 2 . 3 ) ; h e n c e

    i s - d i s s i p a t i v e . C o n v e r s e l y , i f i s - d i s s i p a t i v e ,

    t h e n ( 2 . 3 ) i m p l i e s ( 2 . 2 ) w i t h = V

    S t o r a g e f u n c t i o n s c a n b e c h a r a c t e r i z e d b y a P D I

    ( a n i n n i t e s i m a l v e r s i o n o f ( 2 . 3 ) ) , s e e ( W i l l e m s ,

  • 7/28/2019 nolcos.ps

    3/12

    1 9 7 2 ) , ( H i l l & M o y l a n , 1 9 7 6 ) , ( J a m e s , 1 9 9 3 ) :

    s u p

    w

    f r

    x

    V ( f ( x ) + g ( x ) w )

    1

    2

    2

    j w j

    2

    j h ( x ) j

    2

    ] g 0

    ( 2 . 5 )

    A v e r s i o n o f t h e B o u n d e d R e a l L e m m a t h e n s a y s

    t h a t i s - d i s s i p a t i v e i k k

    H

    1

    i t h e r e

    e x i s t s a n o n - n e g a t i v e s o l u t i o n V ( x ) o f ( 2 . 5 ) w i t h

    V ( 0 ) = 0 . I n g e n e r a l , V n e e d n o t b e g l o b a l l y

    d i e r e n t i a b l e , b u t ( 2 . 5 ) c a n b e i n t e r p r e t e d i n t h e

    v i s c o s i t y s e n s e , s e e ( J a m e s , 1 9 9 3 ) , ( B a l l & H e l t o n ,

    1 9 9 3 ) , ( S o r a v i a , 1 9 9 4 ) , ( F l e m i n g & S o n e r , 1 9 9 3 ) .

    T h e u t i l i t y o f t h e P D I ( 2 . 5 ) i s t h a t i t c a n b e

    u s e d t o d e t e r m i n e o r c o m p u t e s t o r a g e f u n c t i o n s

    V , a n d t h e r e b y e v a l u a t e t h e H

    1

    n o r m o f a s y s -

    t e m . I n d e e d , i f t h e P D I ( 2 . 5 ) i s s o l v a b l e , t h e n

    k k

    H

    1

    ; c o n v e r s e l y , i f t h e P D I i s n o t s o l v -

    a b l e , t h e n k k

    H

    1

    > . T h i s l e a d s t o t h e w e l l

    k n o w n i t e r a t i v e s e a r c h f o r

    = k k

    H

    1

    I n g e n e r a l , ( 2 . 5 ) c a n n o t b e s o l v e d e x p l i c i t l y , a n d s o

    o n e i s f o r c e d t o u s e a p p r o x i m a t i o n s , s e e ( J a m e s &

    Y u l i a r , 1 9 9 5 ) . T h e n i t e d i e r e n c e d i s c r e t i z a t i o n

    s u p

    w

    f

    P

    x

    0

    p

    ( x ; x

    0

    ; w ) V

    ( x

    0

    )

    t ( x ) (

    2

    j w j

    2

    j h ( x ) j

    2

    ) g V

    ( x )

    i s a n a p p r o x i m a t i o n t o ( 2 . 5 ) a s t h e d i s c r e t i z a -

    t i o n p a r a m e t e r ! 0 ( f o r s u i t a b l e p

    ( x ; x

    0

    ; w ) ,

    t ( x ) ; s e e ( J a m e s & Y u l i a r , 1 9 9 5 ) ) . F o r e x a m p l e ,

    c o n s i d e r t h e o n e d i m e n s i o n a l l i n e a r s y s t e m , w i t h

    t r a n s f e r f u n c t i o n ( s ) = 1 = ( s + 0 5 ) , a n d m i n i m a l

    r e a l i z a t i o n

    _x = 0 5 x + u

    y = x

    N o w k k

    1

    = 2 , a n d t h e n u m e r i c a l s c h e m e c o n -

    v e r g e s f o r > 2 a n d d i v e r g e s f o r 0 i f x 6= 0 a n d i s l o c a l l y a s y m p t o t -

    i c a l l y s t a b l e ; a n d i f a l s o V h a s c o m p a c t l e v e l s e t s

    ( p r o p e r ) , t h e n i s g l o b a l l y a s y m p t o t i c a l l y s t a b l e .

    T h i s i s b e c a u s e t h e P D I ( 2 . 5 ) i m p l i e s t h a t

    d

    d t

    V ( x ( t ) ) = r

    x

    V ( x ( t ) ) f ( x ( t ) )

    1

    2

    j h ( x ( t ) ) j

    2

    0

    G e o m e t r i c a l i n t e r p r e t a t i o n . A n i n t e r e s t i n g

    g e o m e t r i c a l i n t e r p r e t a t i o n o f t h e P D I ( 2 . 5 ) i s

    g i v e n i n ( v a n d e r S c h a f t , 1 9 9 1 ) , ( v a n d e r S c h a f t ,

    1 9 9 2 ) , ( v a n d e r S c h a f t , 1 9 9 3 ) , ( v a n d e r S c h a f t ,

    1 9 9 6 ) , w h i c h , t o g e t h e r w i t h t h e l o c a l l i n e a r i z a -

    t i o n o f a t x = 0 ,

    l i n

    = ( A ; B ; C ) =

    (

    d f

    d x

    ( 0 ) ;

    d g

    d x

    ( 0 ) ;

    d h

    d x

    ( 0 ) ) , c a n b e u s e d t o p r o v e l o c a l

    r e s u l t s . I n p a r t i c u l a r , s t o r a g e f u n c t i o n s c a n b e

    p r o d u c e d w h i c h a r e s m o o t h a t l e a s t i n a n e i g h -

    b o r h o o d o f x = 0

    T h e H a m i l t o n i a n a s s o c i a t e d w i t h t h e P D I ( 2 . 5 ) i s

    H

    ( x ; )

    = s u p

    w

    f f ( x ) + g ( x ) w )

    1

    2

    2

    j w j

    2

    j h ( x ) j

    2

    ] g

    = f ( x ) +

    1

    2

    2

    g ( x ) g ( x )

    0

    0

    +

    1

    2

    h ( x )

    0

    h ( x ) ;

    a n d t h e c o r r e s p o n d i n g H a m i l t o n i a n v e c t o r e l d

    X

    H

    i s g i v e n b y t h e e q u a t i o n s

    _x =

    @

    @

    H

    ( x ; )

    _

    =

    @

    @ x

    H

    ( x ; )

    ( 2 . 7 )

    ( T h e s e a r e t h e c h a r a c t e r i s t i c e q u a t i o n s f o r ( 2 . 5 ) . )

    X

    H

    i s c a l l e d h y p e r b o l i c i t h e J a c o b i a n

    D X

    ( 0 ; 0 ) =

    "

    @

    2

    @ x @

    H

    ( 0 ; 0 )

    @

    2

    @

    2

    H

    ( 0 ; 0 )

    @

    2

    @ x

    2

    H

    ( 0 ; 0 )

    @

    2

    @ @ x

    H

    ( 0 ; 0 )

    #

    =

    A

    1

    2

    B B

    0

    C

    0

    C A

    0

    h a s n o p u r e l y i m a g i n a r y e i g e n v a l u e s . N o w i f X

    H

    i s h y p e r b o l i c , t h e r e e x i s t s ( a t l e a s t l o c a l l y ) a s t a b l e

    i n v a r i a n t s u b m a n i f o l d N

    t h r o u g h ( 0 ; 0 ) c o n s i s t -

    i n g o f t r a j e c t o r i e s o f X

    H

    a t t r a c t e d t o ( 0 ; 0 ) . I t

    t u r n s o u t t h a t i f A i s a s y m p t o t i c a l l y s t a b l e a n d

    X

    H

    i s h y p e r b o l i c , t h e n t h e r e e x i s t s a n e i g h b o r -

    h o o d U o f x = 0 a n d a s m o o t h n o n - n e g a t i v e f u n c -

  • 7/28/2019 nolcos.ps

    4/12

    t i o n V

    ( x ) s o l v i n g t h e P D E

    H

    ( x ; r

    x

    V ) = 0 ( 2 . 8 )

    ( i . e . t h e P D I ( 2 . 5 ) w i t h e q u a l i t y ) i n U w i t h

    V

    ( 0 ) = 0 , f +

    1

    2

    g g

    0

    ( r

    x

    V

    )

    0

    a s y m p t o t i c a l l y s t a -

    b l e i n U , a n d t h a t l o c a l l y N

    i s d e t e r m i n e d b y

    V

    :

    N

    = f ( x ; ) : = r

    x

    V

    ( x ) ; x 2 U g ( 2 . 9 )

    A l s o , V

    e q u a l s t h e a v a i l a b l e s t o r a g e V

    a

    i n U ,

    u n d e r a p p r o p r i a t e s t a b i l i t y a s s u m p t i o n s .

    T h e s e r e s u l t s d e p e n d o n t h e c o r r e s p o n d i n g r e s u l t s

    f o r t h e l i n e a r s y s t e m

    l i n

    r e l a t i n g t o t h e e x i s t e n c e

    o f a s o l u t i o n X 0 o f ( 2 . 6 ) w i t h e q u a l i t y a n d

    A +

    1

    2

    B B

    0

    X a s y m p t o t i c a l l y s t a b l e .

    I f k k

    H

    1

    , t h e n k

    l i n

    k

    H

    1

    . C o n v e r s e l y ,

    i f k

    l i n

    k

    H

    1

    , t h e n ( 2 . 2 ) h o l d s f o r a l l w f o r

    w h i c h t h e c o r r e s p o n d i n g t r a j e c t o r y s t a y s n e a r x =

    0 . F o r f u r t h e r d e t a i l s , s e e ( v a n d e r S c h a f t , 1 9 9 1 ) ,

    ( v a n d e r S c h a f t , 1 9 9 2 ) , ( v a n d e r S c h a f t , 1 9 9 3 ) .

    S u m m a r i z i n g , w e s e e t h a t w h i l e s t o r a g e f u n c t i o n s

    n e e d n o t b e s m o o t h g l o b a l l y , t h e r e o f t e n e x i s t s t o r -

    a g e f u n c t i o n s w h i c h a r e s m o o t h l o c a l l y a n d c a n

    b e u s e d t o s t u d y t h e l o c a l H

    1

    b e h a v i o r , a n d t h i s

    i s t i e d t o a n e x p l i c i t g e o m e t r i c a l s t r u c t u r e o f a

    H a m i l t o n i a n s y s t e m . T o m a k e g l o b a l s t a t e m e n t s

    r e g a r d i n g s t o r a g e f u n c t i o n s a n d t h e P D I ( 2 . 5 ) , o n e

    c a n a p p e a l t o t h e t h e o r y o f v i s c o s i t y s o l u t i o n s

    w h i c h d o e s n o t r e q u i r e s m o o t h n e s s . O f c o u r s e ,

    m u c h s t r o n g e r r e s u l t s a r e a v a i l a b l e w h e n t h e s t o r -

    a g e f u n c t i o n s a r e i n f a c t g l o b a l l y s m o o t h , a s i n t h e

    l i n e a r c a s e .

    W e w i l l s e e g e n e r a l i z a t i o n s a n d v a r i a n t s o f t h e

    P D I ( 2 . 5 ) a n d t h e c o r r e s p o n d i n g P D E ( 2 . 8 ) i n t h e

    s e q u e l | t h e y a r e t h e k e y m a t h e m a t i c a l e q u a t i o n s

    n e e d e d f o r H

    1

    c o n t r o l .

    3 . T H E R I S K - S E N S I T I V E I N D E X

    T h e p a p e r ( J a c o b s o n , 1 9 7 3 ) i n t r o d u c e d a n e w

    t y p e o f p e r f o r m a n c e i n d e x f o r s t o c h a s t i c o p t i m a l

    c o n t r o l . T h i s i n d e x i s t h e a v e r a g e - o f - e x p o n e n t i a l

    t y p e . W h e n a p a r a m e t e r m u l t i p l y i n g t h e c o s t

    i n t h e e x p o n e n t i a l i s p o s i t i v e , t h i s i n d e x i s c o m -

    m o n l y c a l l e d r i s k - s e n s i t i v e . J a c o b s o n s o l v e d t h i s

    p r o b l e m f o r l i n e a r s y s t e m s , a n d s h o w e d t h a t t h e

    s o l u t i o n a l s o s o l v e d a d e t e r m i n i s t i c d i e r e n t i a l

    g a m e . L a t e r , ( G l o v e r & D o y l e , 1 9 8 8 ) e s t a b l i s h e d

    a l i n k b e t w e e n r i s k - s e n s i t i v e c o n t r o l a n d H

    1

    c o n -

    t r o l . I n t e r e s t i n g l y , r i s k - s e n s i t i v e c o n t r o l , w h i c h i s

    s t o c h a s t i c , i s c l o s e l y r e l a t e d t o g a m e t h e o r y a n d

    H

    1

    c o n t r o l , w h i c h i s d e t e r m i n i s t i c . R e c e n t l y , t h i s

    r e l a t i o n s h i p h a s b e e n e x p l o r e d i n t h e n o n l i n e a r

    c o n t e x t b y a n u m b e r o f a u t h o r s , a n d f u r t h e r i n -

    s i g h t s h a v e b e e n o b t a i n e d ; s e e ( F l e m i n g & M c E -

    n e a n e y , 1 9 9 1 ) , ( F l e m i n g & M c E n e a n e y , 1 9 9 3 ) ,

    ( F l e m i n g & J a m e s , 1 9 9 5 ) , ( J a m e s , 1 9 9 2 ) , ( R u n o l f -

    s s o n , 1 9 9 1 ) , ( W h i t t l e , 1 9 9 0 a ) . I n p a r t i c u l a r , u s i n g

    a s y m p t o t i c m e t h o d s , i t w a s s h o w n t h a t t h e r i s k -

    s e n s i t i v e i n d e x i n c l u d e s b o t h H

    2

    a n d H

    1

    t e r m s .

    C o n s i d e r o n c e m o r e t h e s y s t e m ( 2 . 1 ) , b u t t h i s

    t i m e r e p l a c e w b y s c a l e d w h i t e n o i s e :

    p

    " v ( h e r e ,

    " > 0 i s t h e n o i s e v a r i a n c e a n d v i s t h e f o r -

    m a l d e r i v a t i v e o f a s t a n d a r d W i e n e r p r o c e s s ) .

    T h e r i s k - s e n s i t i v e i n d e x f o r i s a r e a l n u m b e r

    I

    "

    0 ( F l e m i n g & M c E n e a n e y , 1 9 9 3 ) , ( F l e m i n g

    & J a m e s , 1 9 9 5 ) d e n e d b y

    I

    "

    = l i m s u p

    T ! 1

    2

    "

    T

    l o g E

    x

    e x p

    1

    2

    2

    "

    Z

    T

    0

    z ( t )

    2

    d t ] ( 3 . 1 )

    T h i s i s a p a r t i c u l a r c a s e o f a l a r g e d e v i a t i o n s f o r -

    m u l a , ( D o n s k e r & V a r a d h a n , 1 9 7 5 ) . T h e n u m b e r

    = 1 =

    2

    > 0 i s c a l l e d t h e r i s k - s e n s i t i v e p a r a m e -

    t e r .

    A s s o c i a t e d w i t h t h i s i n d e x i s a f u n c t i o n V

    "

    s o l v -

    i n g t h e P D E

    I

    "

    =

    "

    2

    t r ( g g

    0

    D

    2

    x

    V

    "

    ) + H

    ( x ; r

    x

    V

    "

    ) ( 3 . 2 )

    a n d V

    "

    ( 0 ) = 0 . T h i s P D E a r i s e s a s f o l l o w s

    ( F l e m i n g & M c E n e a n e y , 1 9 9 3 ) . I f S ( x ; T ) d e n o t e s

    t h e e x p e c t a t i o n i n ( 3 . 1 ) , t h e n S ( x ; T ) s a t i s e s a

    p a r a b o l i c P D E b y t h e F e y n m a n - K a c f o r m u l a . I f ,

    f o r l a r g e T ,

    S ( x ; T ) e x p

    1

    2

    "

    ( I

    "

    T + V

    "

    ( x ) ) ] ; ( 3 . 3 )

    t h e n o n e i s l e d t o ( 3 . 2 ) .

    I n t e r e s t i n g l y , a n d i m p o r t a n t l y , t h e P D E ( 3 . 2 ) h a s

    a n i n t e r p r e t a t i o n a s t h e H J B e q u a t i o n f o r a n e r -

    g o d i c s t o c h a s t i c c o n t r o l p r o b l e m , g i v i n g a d i e r -

    e n t i n t e r p r e t a t i o n f o r I

    "

    :

    I

    "

    = s u p

    w

    l i m s u p

    T ! 1

    1

    2 T

    E

    x

    Z

    T

    0

    ( j h ( ( ( t ) ) j

    2

    2

    j w ( t ) j ) d t ]

    ( 3 . 4 )

    w h e r e i s t h e s o l u t i o n o f t h e a u x i l i a r y s t o c h a s t i c

    d i e r e n t i a l e q u a t i o n

    _

    = f ( ) + g ( ) w +

    p

    " g ( ) v ;

    w h e r e w i s t h e c o n t r o l a n d

    p

    " v i s t h e n o i s e .

    A s m e n t i o n e d a b o v e , t h e r i s k - s e n s i t i v e i n d e x c o n -

    t a i n s i n f o r m a t i o n a b o u t b o t h t h e H

    1

    a n d H

    2

    n o r m s . T h i s i s i n d i c a t e d i n t h e f o l l o w i n g d i a g r a m .

  • 7/28/2019 nolcos.ps

    5/12

    Z

    Z

    Z

    Z

    Z~

    =

    " ! 0 ! 1

    H

    2

    H

    1

    R S

    F i x > 0 a n d s e n d " ! 0 , s o t h a t ( a t l e a s t f o r -

    m a l l y ) I

    "

    ! I

    , V

    "

    ! V

    , a n d

    I

    = H

    ( x ; r

    x

    V

    ) ( 3 . 5 )

    I f I

    = 0 , w e e x p e c t t h a t V

    w i l l b e a s t o r a g e

    f u n c t i o n ( g i v e n s t a b i l i t y ) , s o t h a t w i l l b e -

    d i s s i p a t i v e , a n d c o n v e r s e l y . T h u s t h e H

    1

    n o r m i s

    d e t e r m i n e d f r o m t h e s m a l l n o i s e l i m i t o f t h e r i s k -

    s e n s i t i v e i n d e x . T h e H

    2

    n o r m i s o b t a i n e d b y x -

    i n g " > 0 a n d s e n d i n g ! 1 , s o t h a t I

    "

    ! I

    "

    ,

    V

    "

    ! V

    "

    , a n d

    I

    "

    = l i m s u p

    T ! 1

    1

    2 T

    E

    x

    Z

    T

    0

    j z ( t ) j

    2

    d t ]

    4

    = k k

    H

    2

    ( 3 . 6 )

    I n t h e l i n e a r c a s e , w h e r e f ( x ) = A x , g ( x ) = B ,

    a n d h ( x ) = C x , w e h a v e ( p r o v i d e d A i s s t a b l e a n d

    k k

    H

    1

    )

    I

    "

    =

    "

    2

    t r ( B

    0

    X

    B ) ; V

    "

    ( x ) =

    1

    2

    x

    0

    X

    x ;

    w h e r e X

    0 i s a s o l u t i o n o f ( 2 . 6 ) w i t h e q u a l i t y ,

    a n d

    I

    = 0 ; V

    ( x ) =

    1

    2

    x

    0

    X

    x

    A l s o ,

    I

    "

    =

    "

    2

    t r ( B

    0

    X B ) ; V

    "

    ( x ) =

    1

    2

    x

    0

    X x ;

    w h e r e X 0 i s s o l u t i o n o f t h e L y a p u n o v e q u a t i o n

    A

    0

    X + X A + C

    0

    C = 0

    4 . S T A T E F E E D B A C K H

    1

    C O N T R O L

    I t i s m u c h e a s i e r t o s o l v e c o n t r o l p r o b l e m s i f c o m -

    p l e t e s t a t e i n f o r m a t i o n i s a v a i l a b l e . T h i s i s b e -

    c a u s e t h e s t a t e o f a s y s t e m s u m m a r i s e s t h e p a s t

    h i s t o r y o f t h e s y s t e m a n d t o g e t h e r w i t h t h e i n -

    p u t s t h e f u t u r e e v o l u t i o n c a n b e d e t e r m i n e d . A c -

    c o r d i n g l y , w e c o n s i d e r r s t t h e s t a t e f e e d b a c k H

    1

    c o n t r o l p r o b l e m , w h e r e t h e c o n t r o l l e r K i s a m e m -

    o r y l e s s f u n c t i o n o f t h e s t a t e x , s o t h a t u = K ( x ) ;

    s e e ( v a n d e r S c h a f t , 1 9 9 1 ) , ( v a n d e r S c h a f t , 1 9 9 2 ) ,

    ( v a n d e r S c h a f t , 1 9 9 3 ) , ( v a n d e r S c h a f t , 1 9 9 6 ) ,

    ( B a l l & H e l t o n , 1 9 8 9 ) , ( B a l l & H e l t o n , 1 9 9 2 ) ,

    ( J a m e s & B a r a s , 1 9 9 5 ) , ( M c E n e a n e y , 1 9 9 5 ) , ( S o -

    r a v i a , 1 9 9 4 ) .

    T h e c l o s e d l o o p s y s t e m ( G ; K ) i s t h e r e f o r e

    _x = A ( x ) + B

    1

    ( x ) w + B

    2

    ( x ) K ( x )

    z = C

    1

    ( x ) + K ( x )

    ( 4 . 1 )

    I f w e a s s u m e t h a t ( G ; K ) i s - d i s s i p a t i v e , t h e n

    f r o m x 2 w e k n o w t h a t t h e r e e x i s t s a s t o r a g e f u n c -

    t i o n V ( x ) 0 , w i t h V ( 0 ) = 0 , a n d s o l v i n g t h e

    P D I

    s u p

    w

    f r

    x

    V ( A ( x ) + B

    1

    ( x ) w + B

    2

    ( x ) K ( x ) )

    1

    2

    2

    j w j

    2

    j C

    1

    ( x ) + K ( x ) j

    2

    ] g 0

    T a k i n g t h e m i n o v e r u = K ( x ) g i v e s

    i n f

    u

    s u p

    w

    f r

    x

    V ( A ( x ) + B

    1

    ( x ) w + B

    2

    ( x ) u )

    1

    2

    2

    j w j

    2

    j C

    1

    ( x ) + u j

    2

    ] g 0

    ( 4 . 2 )

    T h i s i s t h e k e y P D I f o r s t a t e f e e d b a c k H

    1

    c o n t r o l .

    E v a l u a t i n g t h e m i n a n d m a x g i v e s

    r

    x

    V ( A B

    2

    C

    1

    )

    +

    1

    2

    r

    x

    V (

    1

    2

    B

    1

    B

    0

    1

    B

    2

    B

    0

    2

    ) r

    x

    V

    0

    0 ;

    ( 4 . 3 )

    w i t h t h e o p t i m i z i n g c o n t r o l a n d d i s t u r b a n c e ( i f

    t h e y e x i s t ) g i v e n b y

    u

    ( x ) = C

    1

    ( x ) B

    2

    ( x )

    0

    r

    x

    V ( x )

    0

    w

    ( x ) =

    1

    2

    B

    1

    ( x )

    0

    r

    x

    V ( x )

    0

    I n t h e l i n e a r c a s e , V ( x ) =

    1

    2

    x

    0

    X x , w h e r e X 0

    i s a s o l u t i o n o f ( 1 . 3 ) w i t h i n e q u a l i t y .

    C o n v e r s e l y , i f t h e r e e x i s t s a s m o o t h s o l u t i o n

    V ( x ) 0 , V ( 0 ) = 0 o f t h e P D I ( 4 . 2 ) , t h e n t h e

    c o n t r o l l e r

    K

    ( x )

    4

    = C

    1

    ( x ) B

    2

    ( x )

    0

    r

    x

    V ( x )

    0

    ( 4 . 4 )

    r e n d e r s t h e c l o s e d l o o p s y s t e m - d i s s i p a t i v e . S t a -

    b i l i t y f o l l o w s i f ( A B

    2

    K

    ; C

    1

    + K

    ) i s z e r o s t a t e

    o b s e r v a b l e . N o t i c e t h a t t h e c o n t r o l l e r d e p e n d s e x -

    p l i c i t l y o n t h e g r a d i e n t o f t h e s t o r a g e f u n c t i o n ,

    a n d c o n s e q u e n t l y t h e e x i s t e n c e o f s u c h c o n t r o l l e r s

    d e p e n d s c r i t i c a l l y o n t h e s m o o t h n e s s o f t h e s t o r -

    a g e f u n c t i o n . A s d i s c u s s e d i n x 2 , i t f o l l o w s t h a t

    i t i s t o o m u c h t o e x p e c t t h a t s u c h c o n t r o l l e r s w i l l

    e x i s t s g l o b a l l y .

    T h e s e r e s u l t s c a n b e r e n e d t o o b t a i n a P D E ,

    v i z . :

    r

    x

    V ( A B

    2

    C

    1

    )

    +

    1

    2

    r

    x

    V (

    1

    2

    B

    1

    B

    0

    1

    B

    2

    B

    0

    2

    ) r

    x

    V

    0

    = 0

    ( 4 . 5 )

    A d d i t i o n a l l y , g e o m e t r i c a l a n d l o c a l r e s u l t s c a n b e

    o b t a i n e d . I n d e e d , i f t h e H

    1

    c o n t r o l p r o b l e m f o r

  • 7/28/2019 nolcos.ps

    6/12

    t h e l i n e a r i z e d s y s t e m i s s o l v a b l e , t h e n t h e H

    1

    p r o b l e m f o r t h e n o n l i n e a r s y s t e m i s s o l v a b l e l o -

    c a l l y n e a r x = 0 ; s e e ( v a n d e r S c h a f t , 1 9 9 1 ) ,

    ( v a n d e r S c h a f t , 1 9 9 2 ) , ( v a n d e r S c h a f t , 1 9 9 3 ) ,

    ( v a n d e r S c h a f t , 1 9 9 6 ) . I n p a r t i c u l a r , a c o n t r o l l e r

    o f t h e f o r m ( 4 . 4 ) c a n b e c o n s t r u c t e d n e a r x = 0

    u s i n g a s t o r a g e f u n c t i o n w h i c h i s l o c a l l y s m o o t h .

    D i e r e n t i a l g a m e s . T h e P D E ( 4 . 5 ) i s

    a H a m i l t o n - J a c o b i - I s a a c s ( H J I ) e q u a t i o n c o r r e -

    s p o n d i n g t o a m i n - m a x d i e r e n t i a l g a m e , v i z .

    i n f

    K

    J

    x

    ( K ) ;

    w h e r e

    J

    x

    ( K ) = s u p

    T 0 w 2 L

    2 T

    f

    1

    2

    R

    T

    0

    j z ( t ) j

    2

    2

    j w ( t ) j

    2

    ] d t : x ( 0 ) = x g

    T h e t w o p l a y e r s a r e t h e c o n t r o l l e r u = K ( x ) ( m i n -

    i m i z i n g ) , a n d t h e c o m p e t i n g d i s t u r b a n c e w ( m a x -

    i m i z i n g ) . N o t e t h a t ( G ; K ) i s - d i s s i p a t i v e i

    J

    x

    ( K ) ( x ) ;

    f o r s o m e 0 , ( 0 ) = 0 . A l s o , t h e v a l u e f u n c t i o n

    V ( x ) = i n f

    K

    J

    x

    ( K )

    s o l v e s t h e P D E ( 4 . 5 ) .

    T h e g a m e t h e o r e t i c a p p r o a c h t o H

    1

    c o n t r o l i s

    d i s c u s s e d i n d e t a i l i n ( B a s a r & B e r n h a r d , 1 9 9 1 ) ;

    s e e a l s o ( J a m e s & B a r a s , 1 9 9 5 ) .

    R i s k - s e n s i t i v e s t o c h a s t i c c o n t r o l . C o n s i d e r

    t h e f o l l o w i n g r i s k - s e n s i t i v e c o n t r o l p r o b l e m w i t h

    s t o c h a s t i c d y n a m i c s

    _x = A ( x ) +

    p

    " B

    1

    ( x ) v + B

    2

    ( x ) K ( x ) ; ( 4 . 6 )

    a n d c o s t

    I

    "

    ( K ) = l i m s u p

    T ! 1

    2

    "

    T

    l o g E

    x

    e x p

    1

    2

    2

    "

    Z

    T

    0

    j z ( t ) j

    2

    d t ] ;

    w h i c h i s t o b e m i n i m i s e d ( s e e ( F l e m i n g & M c E -

    n e a n e y , 1 9 9 3 ) ) :

    I

    "

    = i n f

    K

    I

    "

    ( K )

    W e w o n ' t g o t h r o u g h t h e d e t a i l s o f t h e s o l u t i o n

    t o t h i s p r o b l e m , b u t r a t h e r d i s c u s s i t s c o n n e c t i o n

    w i t h g a m e t h e o r y , H

    1

    , a n d H

    2

    c o n t r o l . I n f a c t ,

    b y e x p l o i t i n g t h e p a r a m e t e r s a n d " , a l l o f t h e s e

    p r o b l e m s c a n b e r e g a r d e d a s p e r t u r b a t i o n s o f a

    s i m p l e d e t e r m i n i s t i c o p t i m a l c o n t r o l p r o b l e m , r e -

    v e a l i n g s t o c h a s t i c a n d d e t e r m i n i s t i c m e t h o d s f o r

    m o d e l l i n g d i s t u r b a n c e s .

    U s i n g t h e a l t e r n a t e r e p r e s e n t a t i o n ( 3 . 4 ) , w e s e e

    t h a t t h e r i s k - s e n s i t i v e s t o c h a s t i c c o n t r o l p r o b l e m

    i s e q u i v a l e n t t o a s t o c h a s t i c d i e r e n t i a l g a m e :

    I

    "

    =

    i n f

    K

    s u p

    w

    l i m s u p

    T ! 1

    1

    2 T

    E

    x

    Z

    T

    0

    ( j z ( t ) j

    2

    2

    j w ( t ) j ) d t ]

    H e r e , z ( t ) = C

    1

    ( ( t ) ) + K ( ( t ) ) w h e r e i s t h e s o -

    l u t i o n o f t h e a u x i l i a r y s t o c h a s t i c d i e r e n t i a l e q u a -

    t i o n

    _

    = A ( ) + B

    1

    ( ) w +

    p

    " B

    1

    ( ) v + B

    2

    ( ) K ( )

    N o t e t h a t h e r e t h e r e i s a c o n t r o l l e r u = K ( x )

    ( m i n i m i z i n g ) , a c o m p e t i n g d i s t u r b a n c e i n p u t w

    ( m a x i m i z i n g ) , a n d a w h i t e n o i s e i n p u t

    p

    " v ( a v e r -

    a g i n g ) .

    S e n d i n g " ! 0 a n d ! 1 y i e l d s t h e r e l a t i o n s h i p s

    d e p i c t e d i n t h e f o l l o w i n g d i a g r a m .

    I

    "

    I

    I

    "

    I

    " ! 0

    " ! 0

    ! 1 ! 1

    I n t h i s d i a g r a m , t h e p e r f o r m a n c e i n d i c e s h a v e t h e

    f o l l o w i n g i n t e r p r e t a t i o n s .

    D e t e r m i n i s t i c d i e r e n t i a l g a m e a n d H

    1

    c o n t r o l :

    I

    =

    i n f

    K

    s u p

    w

    l i m s u p

    T ! 1

    1

    2 T

    Z

    T

    0

    ( j z ( t ) j

    2

    2

    j w ( t ) j ) d t

    w i t h d y n a m i c s ( 1 . 5 ) .

    H

    2

    o r r i s k - n e u t r a l o p t i m a l c o n t r o l :

    I

    "

    = i n f

    K

    l i m s u p

    T ! 1

    1

    2 T

    E

    x

    Z

    T

    0

    j z ( t ) j

    2

    d t ]

    w i t h d y n a m i c s ( 4 . 6 ) .

    D e t e r m i n i s t i c o p t i m a l c o n t r o l :

    I

    = i n f

    K

    l i m s u p

    T ! 1

    1

    2 T

    Z

    T

    0

    j z ( t ) j

    2

    d t

    w i t h d y n a m i c s

    _x = A ( x ) + B

    2

    ( x ) K ( x ) ( 4 . 7 )

    F o r m a l l y , t h e o p t i m a l r i s k - s e n s i t i v e c o n t r o l l e r h a s

    a n e x p a n s i o n ( f o r l a r g e a n d s m a l l " )

    K

    "

    ( x ) = K

    ( x ) +

    1

    2

    K

    H

    1

    ( x ) + " K

    H

    2

    ( x ) + : : : ;

  • 7/28/2019 nolcos.ps

    7/12

    w h e r e K

    ( x ) i s t h e o p t i m a l ( s t a b i l i z i n g ) c o n t r o l l e r

    f o r t h e l i m i t d e t e r m i n i s t i c o p t i m a l c o n t r o l p r o b -

    l e m

    K

    ( x ) = C

    1

    ( x ) B

    2

    ( x )

    0

    r

    x

    V ( x )

    0

    w h e r e V ( x ) s o l v e s t h e P D E

    I

    = r

    x

    V ( A B

    2

    C

    1

    )

    1

    2

    r

    x

    V B

    2

    B

    0

    2

    r

    x

    V

    0

    ;

    a n d

    K

    H

    1

    ( x ) = B

    2

    ( x )

    0

    r

    x

    V

    H

    1

    ( x )

    0

    ;

    K

    H

    2

    ( x ) = B

    2

    ( x )

    0

    r

    x

    V

    H

    2

    ( x )

    0

    H e r e , V

    "

    = V +

    1

    2

    V

    H

    1

    + " V

    H

    2

    + , w h e r e

    V

    H

    1

    ( x ) =

    1

    2

    R

    1

    0

    r

    x

    V ( x ( t ) ) B

    1

    ( x ( t ) ) B

    1

    ( x ( t ) )

    0

    r

    x

    V ( x ( t ) )

    0

    d t ;

    a n d

    V

    H

    2

    ( x ) =

    1

    2

    R

    1

    0

    t r ( B

    1

    ( x ( t ) ) B

    1

    ( x ( t ) )

    0

    D

    2

    V ( x ( t ) ) )

    t r ( B

    1

    ( 0 ) B

    1

    ( 0 )

    0

    D

    2

    V ( 0 ) ) ] d t ;

    w h e r e x ( t ) i s t h e o p t i m a l ( a s y m p t o t i c a l l y s t a b l e ,

    w i t h K ( x ) = K

    ( x ) ) t r a j e c t o r y o f ( 4 . 7 ) .

    T h e s e a s y m p t o t i c c a l c u l a t i o n s a r e o n l y f o r m a l ; s e e

    ( C a m p i & J a m e s , 1 9 9 6 ) , ( J a m e s , 1 9 9 2 ) , ( F l e m i n g

    & M c E n e a n e y , 1 9 9 3 ) , ( F l e m i n g & J a m e s , 1 9 9 5 )

    f o r p r e c i s e t h e o r e m s . T h e s i g n i c a n c e o f t h e s e

    f o r m u l a s l i e s i n t h e d e t a i l t h e y r e v e a l r e g a r d i n g

    t h e s t r u c t u r e o f t h e r i s k - s e n s i t i v e c o n t r o l l e r , a n d

    i t s H

    1

    a n d H

    2

    c o m p o n e n t s . T h e H

    1

    c o m p o -

    n e n t K

    H

    1

    ( x ) d e p e n d s o n t h e d i s t u r b a n c e e n e r g y ,

    w h e r e a s t h e H

    2

    c o m p o n e n t K

    H

    2

    ( x ) d e p e n d s o n

    t h e d i u s i o n e e c t s o f t h e n o i s e .

    I n t h e l i n e a r c a s e , w e h a v e

    V ( x ) =

    1

    2

    x

    0

    X x ; I

    = 0 ;

    w h e r e X 0 i s a s o l u t i o n o f t h e R i c c a t i e q u a t i o n

    0 = ( A B

    2

    C

    1

    )

    0

    X + X ( A B

    2

    C

    1

    ) X B

    2

    B

    0

    2

    X ;

    a n d

    V

    H

    1

    ( x ) =

    1

    2

    x

    0

    P x ; V

    H

    2

    ( x ) = 0 ;

    w h e r e P 0 i s g i v e n b y

    P =

    Z

    1

    0

    e

    A

    0

    t

    X B

    1

    B

    0

    1

    X e

    A

    t

    d t ;

    a n d A

    = A B

    2

    ( C

    1

    + B

    0

    2

    X ) . T h u s

    K

    "

    ( x ) = ( C

    1

    + B

    0

    2

    X +

    1

    2

    P ) x +

    I t i s i n t e r e s t i n g t o n o t e t h a t i n t h e l i n e a r c a s e t h e

    H

    2

    t e r m i n t h e r i s k - s e n s i t i v e c o n t r o l l e r i s z e r o !

    5 . O U T P U T F E E D B A C K H

    1

    C O N T R O L

    W e t u r n n o w t o t h e o u t p u t f e e d b a c k H

    1

    c o n t r o l

    p r o b l e m , w h e r e t h e c o n t r o l l e r K i s a c a u s a l m a p

    y ! u . A n u m b e r o f a u t h o r s ( B a l l & H e l t o n ,

    1 9 8 9 ) , ( B a l l e t a l , 1 9 9 3 ) , ( I s i d o r i & A s t o l , 1 9 9 2 ) ,

    ( v a n d e r S c h a f t , 1 9 9 1 ) , ( v a n d e r S c h a f t , 1 9 9 2 ) ,

    ( v a n d e r S c h a f t , 1 9 9 3 ) , ( v a n d e r S c h a f t , 1 9 9 6 ) a s -

    s u m e t h a t K h a s a s p e c i e d f o r m , n a m e l y a n i t e

    d i m e n s i o n a l r e a l i z a t i o n w h o s e s t a t e h a s t h e s a m e

    d i m e n s i o n a s t h e s t a t e x o f t h e p l a n t G . I n ( J a m e s

    & B a r a s , 1 9 9 5 ) t h e s t r u c t u r e o f K w a s l e f t u n -

    s p e c i e d , a n d t h e i n f o r m a t i o n s t a t e a p p r o a c h w a s

    u s e d t o d e t e r m i n e t h e g e n e r a l n a t u r e o f K ( a n

    i n n i t e d i m e n s i o n a l s y s t e m ) . I n d e e d , i t i s l i k e l y

    t h a t g e n e r i c a l l y t h e H

    1

    p r o b l e m i s s o l v a b l e o n l y

    b y a n i n n i t e d i m e n s i o n a l c o n t r o l l e r ( t h i s i s w e l l

    k n o w n t o b e t h e c a s e i n s t o c h a s t i c c o n t r o l ) .

    S p e c i e d c o n t r o l l e r s t r u c t u r e . L e t ' s b e g i n b y

    a s s u m i n g t h a t K h a s t h e n i t e d i m e n s i o n a l r e a l -

    i z a t i o n :

    K :

    _

    = a ( ; u ; y )

    u = b ( ; y ) ;

    ( 5 . 1 )

    w h e r e d i m = d i m x , f o r s o m e f u n c t i o n s a ( ) , b ( )

    t o b e d e t e r m i n e d . T h e c l o s e d l o o p s y s t e m ( G ; K )

    ( w i t h s t a t e ( x ; ) ) i s

    _x = A ( x ) + B

    1

    ( x ) w + B

    2

    ( x ) b ( ; y )

    _

    = a ( ; b ( ; y ) ; y )

    z = C

    1

    ( x ) + b ( ; y )

    I f ( G ; K ) i s - d i s s i p a t i v e , t h e n t h e r e e x i s t s a s t o r -

    a g e f u n c t i o n e ( x ; ) 0 , w i t h e ( 0 ; 0 ) = 0 s a t i s f y -

    i n g t h e P D I

    s u p

    w

    f r

    x

    e ( A ( x ) + B

    1

    ( x ) w

    + B

    2

    ( x ) b ( ; C

    2

    ( x ) + w ) )

    + r

    e ( a ( ; b ( ; y ) ; C

    2

    ( x ) + w ) )

    1

    2

    2

    w

    2

    C

    1

    ( x ) + b ( ; C

    2

    ( x ) + w )

    2

    ]

    0

    ( 5 . 2 )

    T h e g o a l i s t o n d f u n c t i o n s a ( ) , b ( ) f o r w h i c h

    t h e r e d o e s e x i s t a s t o r a g e f u n c t i o n s a t i s f y i n g ( 5 . 2 ) .

    I n ( B a l l e t a l , 1 9 9 3 ) , t h e a u t h o r s m i n i m i z e t h e

    L H S o f ( 5 . 2 ) o v e r a ( ) , b ( ) a n d o b t a i n s o m e i n -

    t e r e s t i n g f o r m u l a s f o r t h e r e s u l t i n g o p t i m a l a

    ( ) ,

    b

    ( ) . T h i s g i v e s a c o n t r o l l e r K

    o f t h e f o r m

    ( 5 . 1 ) s o l v i n g t h e H

    1

    c o n t r o l p r o b l e m u n d e r c e r -

    t a i n c o n d i t i o n s . A d i e r e n t a p p r o a c h w a s u s e d i n

    ( I s i d o r i & A s t o l , 1 9 9 2 ) , w h e r e K i s o b t a i n e d b y

    a s s u m i n g t h e e x i s t e n c e o f a n o b s e r v e r - t y p e g a i n ,

  • 7/28/2019 nolcos.ps

    8/12

    t o g e t h e r w i t h o t h e r c o n d i t i o n s ; t h u s t h e d y n a m i -

    c a l p a r t o f K i s e s s e n t i a l l y a n o b s e r v e r .

    I n ( v a n d e r S c h a f t , 1 9 9 3 ) ( a n d a l s o i n ( B a l l e t a l ,

    1 9 9 3 ) ) , n o n l i n e a r a n a l o g s o f t h e R i c c a t i e q u a t i o n s

    ( 1 . 3 ) , ( 1 . 4 ) w e r e o b t a i n e d . T o s e e t h i s , s u p p o s e

    a ( ; u ; y ) = k ( ) + ( ) y a n d b ( ; y ) = m ( ) . S u b -

    s t i t u t i o n o f t h e s e e x p r e s s i o n s i n ( 5 . 2 ) a n d e v a l u -

    a t i n g t h e m a x o v e r w g i v e s t h e P D I

    r

    x

    e

    r

    e

    0

    A ( x ) + B

    2

    ( x ) m ( )

    k ( ) + ( ) C

    2

    ( x )

    +

    1

    2

    2

    r

    x

    e

    r

    e

    0

    B

    1

    ( x )

    ( )

    B

    1

    ( x )

    ( )

    0

    r

    x

    e

    r

    e

    +

    1

    2

    C

    1

    ( x ) + m ( )

    2

    0

    N o w d e n e

    V ( x ) = e ( x ; ( x ) ) ;

    w h e r e i s a s m o o t h f u n c t i o n s u c h t h a t ( 0 ) = 0

    a n d r

    e ( x ; ( x ) ) = 0 . T h e n s u b s t i t u t i n g t h i s i n t o

    t h e P D I w i t h = ( x ) a n d m i n i m i z i n g o v e r m ( )

    s h o w s t h a t V s o l v e s t h e s t a t e f e e d b a c k P D I ( 4 . 3 ) .

    N e x t , d e n e

    R ( x ) = V ( x ; 0 )

    T h e n s u b s t i t u t i n g t h i s i n t o t h e P D I w i t h = 0

    a n d m i n i m i z i n g o v e r ( 0 ) s h o w s t h a t R s o l v e s t h e

    ( s o - c a l l e d d u a l ) P D I

    r

    x

    R ( A B

    1

    C

    2

    )

    +

    1

    2

    ( C

    0

    1

    C

    1

    2

    C

    0

    2

    C

    2

    ) 0

    ( 5 . 3 )

    I t a l s o f o l l o w s t h a t ( a t l e a s t l o c a l l y ) V ( x ) R ( x ) ,

    a k i n t o t h e l i n e a r c o u p l i n g c o n d i t i o n , a n d i t i s p o s -

    s i b l e t o u s e t h e s e t w o s t o r a g e f u n c t i o n s t o o b t a i n

    o u t p u t f e e d b a c k c o n t r o l l e r s , u n d e r c e r t a i n c o n d i -

    t i o n s .

    I n t h e l i n e a r c a s e , V ( x ) =

    1

    2

    x

    0

    X x a n d R ( x ) =

    2

    2

    x

    0

    Y

    1

    x , w h e r e X 0 a n d Y > 0 c o r r e s p o n d

    t o s u b s o l u t i o n s o f ( 1 . 3 ) a n d ( 1 . 4 ) r e s p e c t i v e l y .

    A l s o , e ( x ; ) =

    1

    2

    2

    ( x )

    0

    Y

    1

    ( x ) +

    0

    X ( 1

    1

    2

    Y X )

    1

    ]

    I n f o r m a t i o n s t a t e s o l u t i o n . W e n o w r e l a x t h e

    a b o v e r e s t r i c t i o n o n t h e s t r u c t u r e o f t h e c o n t r o l l e r

    K , a n d s i m p l y l e t K b e a n y c a u s a l m a p y ! u

    W e e m p l o y t h e i n f o r m a t i o n s t a t e a p p r o a c h u s e d i n

    ( J a m e s e t a l , 1 9 9 4 ) , ( J a m e s e t a l , 1 9 9 3 ) , ( J a m e s &

    B a r a s , 1 9 9 5 ) , ( J a m e s & B a r a s , 1 9 9 6 ) , ( B e r n h a r d ,

    1 9 9 4 b ) , ( H e l t o n & J a m e s , 1 9 9 7 ) f o r o u t p u t f e e d -

    b a c k d y n a m i c g a m e s a n d H

    1

    c o n t r o l . I t i s i n t e r -

    e s t i n g t o n o t e t h a t t h i s a p p r o a c h w a s m o t i v a t e d

    b y c o n s i d e r i n g a r e l a t e d r i s k - s e n s i t i v e s t o c h a s t i c

    c o n t r o l p r o b l e m ; i n s t o c h a s t i c c o n t r o l t h e o r y , t h e

    i d e a o f i n f o r m a t i o n s t a t e ( o r s u c i e n t s t a t i s t i c ) i s

    w e l l k n o w n , s e e ( K u m a r & V a r a i y a , 1 9 8 6 ) .

    D e n e t h e m i n - m a x c o s t f u n c t i o n a l

    J

    p

    0

    ( K ) = s u p

    T 0

    s u p

    w 2 L

    2 T

    s u p

    x

    0

    2 R

    n

    n

    p

    0

    ( x ( 0 ) ) +

    1

    2

    R

    T

    0

    j z ( s ) j

    2

    2

    j w ( s ) j

    2

    d s

    o

    H e r e , p

    0

    ( x

    0

    ) i s a p e n a l t y t e r m f o r t h e i n i t i a l c o n -

    d i t i o n x

    0

    o f t h e p l a n t G , m u c h l i k e a n a p r i o r

    d e n s i t y i n s t o c h a s t i c c o n t r o l . C l e a r l y , ( G ; K ) i s

    d i s s i p a t i v e i f a n d o n l y i f

    J

    ( K ) 0 ; ( 5 . 4 )

    f o r s o m e 0 w i t h ( 0 ) = 0 . T h e m i n - m a x g a m e

    i s t o m i n i m i z e t h i s c o s t f u n c t i o n o v e r t h e c l a s s o f

    a l l c a u s a l m a p s K . T o s o l v e t h e g a m e , w e t r a n s -

    f o r m i t i n t o a n e q u i v a l e n t f u l l s t a t e i n f o r m a t i o n

    g a m e b y i n t r o d u c i n g a n a p p r o p r i a t e s t a t e , v i z . ,

    t h e i n f o r m a t i o n s t a t e .

    F o r x e d u ( ) ; y ( ) , t h e i n f o r m a t i o n s t a t e p

    t

    i s d e -

    n e d b y

    p

    t

    ( x ) = p

    0

    ( ( 0 ) ) +

    1

    2

    Z

    t

    0

    j C

    1

    ( ( s ) ) + u ( s ) j

    2

    2

    j y ( s ) C

    2

    ( ( s ) ) j

    2

    ] d s ;

    ( 5 . 5 )

    w h e r e ( ) i s t h e s o l u t i o n o f

    _

    = A ( ) + B

    1

    ( ) ( y C

    2

    ( ) ) + B

    2

    ( ) u ( 5 . 6 )

    w i t h t e r m i n a l c o n d i t i o n ( t ) = x . T h i s q u a n t i t y

    d e s c r i b e s t h e w o r s t - c a s e p e r f o r m a n c e u p t o t i m e

    t u s i n g t h e c o n t r o l u w h i c h i s c o n s i s t e n t w i t h t h e

    o b s e r v e d o u t p u t y a n d t h e c o n s t r a i n t x ( t ) = x ;

    i n ( K r e n e r , 1 9 9 4 ) , t h i s q u a n t i t y i s c a l l e d a c o n -

    d i t i o n a l s t o r a g e f u n c t i o n . U s i n g t h e i n f o r m a t i o n

    s t a t e , t h e d i s s i p a t i v e p r o p e r t y c a n b e r e p r e s e n t e d

    i n t e r m s o f t h e n e w c o m p l e t e l y o b s e r v e d i n f o r m a -

    t i o n s t a t e , v i z .

    J

    p

    0

    ( K ) = s u p

    T 0

    s u p

    y 2 L

    2 T

    f ( p

    T

    ; 0 ) : p

    0

    g i v e n g ; ( 5 . 7 )

    w h e r e ( p ; q )

    4

    = s u p

    x

    ( p ( x ) + q ( x ) ) i s t h e \ s u p -

    p a i r i n g " ( J a m e s e t a l , 1 9 9 4 ) . T h u s ( G ; K ) i s d i s -

    s i p a t i v e i f a n d o n l y i f

    s u p

    T 0

    s u p

    y 2 L

    2 T

    f ( p

    T

    ; 0 ) : p

    0

    g i v e n g 0 ; ( 5 . 8 )

    w h e r e p

    0

    = f o r s o m e 0 , ( 0 ) = 0 . N o t e

    t h a t y i s t h e d i s t u r b a n c e f o r t h e t r a n s f o r m e d p r o b -

    l e m !

    T h e d y n a m i c s f o r p

    t

    i s a p a r t i a l d i e r e n t i a l e q u a -

    t i o n : f o r x e d u ( ) ; y ( ) w e h a v e

    _p

    t

    = F ( p

    t

    ; u ( t ) ; y ( t ) ) ; ( 5 . 9 )

  • 7/28/2019 nolcos.ps

    9/12

    w h e r e F ( p ; u ; y ) i s t h e d i e r e n t i a l o p e r a t o r

    F ( p ; u ; y ) = r

    x

    p ( A + B

    1

    ( y C

    2

    ) + B

    2

    u )

    +

    1

    2

    j C

    1

    + u j

    2

    2

    j y C

    2

    j

    2

    ]

    ( 5 . 1 0 )

    T h i s i s t h e n o n l i n e a r a n a l o g o f t h e R i c c a t i e q u a -

    t i o n ( 1 . 4 ) . T h e d u a l P D I ( 5 . 3 ) ( w i t h e q u a l i t y ) i s

    j u s t a s t a t i o n a r y v e r s i o n t h e t h e i n f o r m a t i o n s t a t e

    d y n a m i c s ( 5 . 9 ) , ( w i t h u = 0 , y = 0 ) .

    T h e c e n t r a l c o n t r o l l e r i s o b t a i n e d b y n d i n g t h e

    c o n t r o l l e r w h i c h m i n i m i z e s J

    p

    ( K ) . I f t h e H

    1

    p r o b l e m f o r G i s s o l v a b l e , t h e n t h e f u n c t i o n

    W ( p ) = i n f

    K

    J

    p

    ( K ) ( 5 . 1 1 )

    i s n i t e o n a d o m a i n d o m W . B y d y n a m i c p r o -

    g r a m m i n g , W s a t i s e s t h e ( i n n i t e d i m e n s i o n a l )

    P D E

    i n f

    u

    s u p

    y

    h r

    p

    W ( p ) ; F ( p ; u ; y ) i = 0 ;

    ( p ; 0 ) W ( p ) ; W ( ) = 0

    ( 5 . 1 2 )

    ( F o r t h e p u r p o s e o f t h i s p a p e r , w e t r e a t t h i s e q u a -

    t i o n i n a f o r m a l s e n s e ; f o r m o r e d e t a i l s , s e e ( J a m e s

    & B a r a s , 1 9 9 6 ) , ( H e l t o n & J a m e s , 1 9 9 7 ) . ) T h i s

    i s t h e f u n d a m e n t a l P D E f o r o u t p u t f e e d b a c k H

    1

    c o n t r o l ( r a t h e r t h a n ( 4 . 3 ) ) . L e t u

    ( p ) a n d y

    ( p )

    d e n o t e t h e v a l u e s o f u a n d y w h i c h a t t a i n t h e i n -

    m u m a n d s u p r e m u m i n ( 5 . 1 2 ) . I n d e e d , a d i r e c t

    c a l c u l a t i o n g i v e s ( w h e n t h e y e x i s t )

    u

    ( p ) = h r

    p

    W ( p ) ; C

    1

    + B

    0

    2

    r

    x

    p i

    y

    ( p ) = h r

    p

    W ( p ) ; C

    2

    1

    2

    B

    0

    1

    r

    x

    p i

    ( 5 . 1 3 )

    T h e s e f o r m u l a s d e n e t h e c e n t r a l c o n t r o l l e r K

    b y

    K

    y ] ( t ) = u

    ( p

    t

    y ] ) ; ( 5 . 1 4 )

    w h e r e p

    0

    i s s u i t a b l y c h o s e n i n d o m W . O f c o u r s e ,

    t h e e x i s t e n c e o f t h e c e n t r a l c o n t r o l l e r d e p e n d s o n

    t h e s m o o t h n e s s o f W ( p ) , i n a n a p p r o r i a t e s e n s e .

    T h e p a r t i c u l a r c h o i c e o f p

    0

    i s a v e r y i m p o r t a n t

    i s s u e ( s e e ( H e l t o n & J a m e s , 1 9 9 4 ) , ( H e l t o n &

    J a m e s , 1 9 9 7 ) ) . I n ( J a m e s & B a r a s , 1 9 9 5 ) i t i s

    s h o w n ( i n d i s c r e t e - t i m e ) t h a t u n d e r s u i t a b l e h y -

    p o t h e s e s , K

    s o l v e s t h e H

    1

    c o n t r o l p r o b l e m f o r

    G i f a n d o n l y i f t h e H

    1

    c o n t r o l p r o b l e m f o r G i s

    s o l v a b l e . S t a b i l i t y d e p e n d s o n o b s e r v a b i l i t y c o n -

    d i t i o n s . A b l o c k d i a g r a m o f t h e c e n t r a l c o n t r o l l e r

    i s a s f o l l o w s .

    _p = F ( p ; u ; y )

    u

    u

    p

    y

    T h i s i s t h e g e n e r a l s t r u c t u r e o f t h e o u t p u t f e e d -

    b a c k c o n t r o l l e r .

    T h e P D E ( 5 . 1 2 ) i s p e r h a p s u n f a m i l i a r i n t h e c o n -

    t e x t o f H

    1

    c o n t r o l . H o w e v e r , a s t o r a g e f u n c -

    t i o n f o r t h e c l o s e d l o o p s y s t e m ( G ; K ) c a n b e d e -

    r i v e d f r o m i t , ( H e l t o n & J a m e s , 1 9 9 4 ) , ( H e l t o n &

    J a m e s , 1 9 9 7 ) . I n d e e d , t h e n o n - n e g a t i v e f u n c t i o n

    e ( x ; p ) d e n e d b y t h e s i m p l e f o r m u l a

    e ( x ; p ) = p ( x ) + W ( p ) ( 5 . 1 5 )

    i s a s t o r a g e f u n c t i o n . T h i s f o l l o w s b e c a u s e

    e ( x ; p ) 0 , e ( 0 ; ) = 0 , r

    x

    e ( x ; p ) = r

    x

    p ( x )

    a n d r

    p

    e ( x ; p ) = E

    x

    + r

    p

    W ( p ) ( w h e r e E

    x

    i s t h e

    e v a l u a t i o n o p e r a t o r h E

    x

    ; f i = f ( x ) ) , w h i c h i m p i e s

    t h a t e ( x ; p ) s a t i s e s t h e d i s s i p a t i o n P D E

    i n f

    u

    s u p

    y

    f r

    x

    e ( A + B

    1

    ( y C

    2

    ) + B

    2

    u )

    + h r

    p

    e ; F ( p ; u ; y ) i

    +

    1

    2

    j C

    1

    + u j

    2

    2

    j y C

    2

    j

    2

    ] g = 0 ;

    ( 5 . 1 6 )

    w h e r e t h e i n n u m a n d s u p r e m u m a r e a t t a i n e d a t

    u = u

    ( p ) a n d y = y

    ( p ) r e s p e c t i v e l y . T h e o p -

    t i m a l d i s t u r b a n c e i s w

    ( x ; p ) = C

    2

    ( x ) + y

    ( p )

    I n t e g r a t i n g t h e P D E ( 5 . 1 6 ) y i e l d s t h e d i s s i p a t i o n

    i n e q u a l i t y

    e ( x ( t ) ; p ( t ) ) +

    1

    2

    R

    t

    0

    j z ( s ) j

    2

    d s

    e ( x

    0

    ; p

    0

    ) +

    1

    2

    2

    R

    t

    0

    j w ( s ) j

    2

    d s

    ( 5 . 1 7 )

    f o r a n y w 2 L

    2 t

    , f o r a l l t 0

    I n g e n e r a l , t h e i n f o r m a t i o n s t a t e s o l u t i o n t o t h e

    ( n o n l i n e a r ) H

    1

    c o n t r o l p r o b l e m i s i n n i t e d i m e n -

    s i o n a l , s i n c e i n g e n e r a l i t i s n o t p o s s i b l e t o c o m -

    p u t e p

    t

    ( x ) u s i n g a n i t e s e t o f O D E ' s . T h u s

    i n g e n e r a l , p

    t

    e v o l v e s i n t h e i n n i t e d i m e n s i o n a l

    s p a c e . M o r e o v e r , c o m p u t i n g u

    ( p ) r e q u i r e s t h e

    s o l u t i o n o f a n i n n i t e d i m e n s i o n a l P D E | a v e r y

    d i c u l t t a s k i n g e n e r a l ! H o w e v e r , t h e i n f o r m a -

    t i o n s t a t e i s n i t e d i m e n s i o n a l i n s o m e c a s e s , s e e

    ( J a m e s & Y u l i a r , 1 9 9 5 ) , ( T e o l i s e t a l , 1 9 9 4 ) .

    I n t h e c a s e o f l i n e a r s y s t e m s , t h e i n f o r m a t i o n s t a t e

    i s g i v e n ( J a m e s & Y u l i a r , 1 9 9 5 ) e x p l i c i t l y b y

    p

    t

    ( x ) =

    2

    2

    ( x x ( t ) )

    0

    Y

    1

    ( t ) ( x x ( t ) ) + ( t ) ;

    w h e r e

    _

    x = ( A B

    1

    C

    2

    + Y ( t ) (

    1

    2

    C

    0

    1

    C

    1

    C

    0

    2

    C

    2

    ) ) x

    + ( B

    1

    + Y C

    2

    ) y ( t ) + ( B

    2

    +

    1

    2

    Y C

    1

    ) u ( t ) ;

    _

    Y = ( A B

    1

    C

    2

    ) Y + Y ( A B

    1

    C

    2

    )

    0

    + Y (

    1

    2

    C

    0

    1

    C

    1

    C

    0

    2

    C

    2

    ) Y ;

    _

    =

    1

    2

    j C

    1

    x + u j

    2

    2

    j y C

    2

    x j

    2

    ] ;

  • 7/28/2019 nolcos.ps

    10/12

    w i t h i n i t i a l d a t a p

    0

    s p e c i e d b y ^ x

    0

    = 0 , Y

    0

    0 ,

    0

    = 0 . C o n s e q u e n t l y , t h e i n n i t e d i m e n s i o n a l

    s t a t e v a r i a b l e p c a n b e r e p l a c e d b y t h e n i t e d i -

    m e n s i o n a l s t a t e ( ^ x ; Y ; ) . N o t e t h a t w e a r e u s i n g

    a R i c c a t i d i e r e n t i a l e q u a t i o n f o r Y ( t ) , w h e r e Y

    0

    i s c h o s e n i n t h e d o m a i n o f a t t r a c t i o n o f t h e s t a b i -

    l i z i n g s o l u t i o n o f t h e c o r r e s p o n d i n g a l g e b r a i c R i c -

    c a t i e q u a t i o n ( 1 . 4 ) , a n d s h o u l d s a t i s f y Y

    0

    X <

    2

    I ,

    w h e r e X 0 i s a s t a b i l i z i n g s o l u t i o n o f t h e R i c c a t i

    e q u a t i o n ( 1 . 3 ) . T h e v a l u e f u n c t i o n i s :

    W ( x ; Y ; ) =

    1

    2

    x

    0

    X ( 1

    1

    2

    Y X )

    1

    x +

    N o t e t h a t d o m W c o n t a i n s p o i n t s ( ^ x ; Y ; ) f o r

    w h i c h Y X <

    2

    I w h e n e v e r ^ x 6= 0 . T h e o p t i m a l

    c o n t r o l a n d o b s e r v a t i o n a r e :

    u

    ( x ; Y ; ) = ( C

    1

    + ( B

    2

    +

    1

    2

    Y C

    1

    ) X ( 1

    1

    2

    Y X )

    1

    ) x ;

    y

    ( x ; Y ; ) = ( C

    2

    + ( B

    1

    + Y C

    2

    ) X ( 1

    1

    2

    Y X )

    1

    ) x

    T h e s t o r a g e f u n c t i o n i s

    e ( x ; x ; Y ; ) =

    1

    2

    2

    ( x x )

    0

    Y

    1

    ( x x )

    + x

    0

    X ( I

    1

    2

    Y X )

    1

    x ]

    I n s u m m a r y , t h e s o l u t i o n t o t h e n o n l i n e a r o u t p u t

    f e e d b a c k H

    1

    c o n t r o l p r o b l e m i n v o l v e s :

    ( i ) t h e e x i s t e n c e o f a s o l u t i o n W ( p ) t o t h e i n n i t e

    d i m e n s i o n a l P D E ( 5 . 1 2 ) ,

    ( i i ) t h e e x i s t e n c e o f a s o l u t i o n p

    t

    t o t h e i n f o r m a -

    t i o n s t a t e d y n a m i c s ( 5 . 9 ) , a n d

    ( i i i ) c o r r e c t c h o i c e o f t h e i n i t i a l c o n d i t i o n p

    0

    2

    d o m W

    A n a p p r o p r i a t e c h o i c e f o r p

    0

    i s t h e s t a b i l i z i n g

    e q u i l i b r i u m s o l u t i o n p

    e

    o f ( 5 . 9 ) . F o r f u r t h e r

    d e t a i l s , s e e ( J a m e s & B a r a s , 1 9 9 5 ) , ( H e l t o n &

    J a m e s , 1 9 9 4 ) , ( H e l t o n & J a m e s , 1 9 9 7 ) . N o t e t h a t

    t h e i n f o r m a t i o n s t a t e f r a m e w o r k i s q u i t e g e n e r a l ,

    a n d a p p l i e s i n o t h e r c o n t e x t s , s e e ( B a r a s & J a m e s ,

    1 9 9 4 ) .

    C e r t a i n t y e q u i v a l e n c e . A n a p p r o a c h t o o u t -

    p u t f e e d b a c k g a m e s b u i l d i n g o n a c e r t a i n t y e q u i v -

    a l e n c e p r i n c i p l e w a s b e e n d e v e l o p e d b y ( B e r n h a r d ,

    1 9 9 0 ) , ( B a s a r & B e r n h a r d , 1 9 9 1 ) , a n d i s s i m i l a r

    t o t h e f r a m e w o r k o f ( W h i t t l e , 1 9 8 1 ) . I n t h i s a p -

    p r o a c h , t h e k e y a s s u m p t i o n i s t h a t t h e m a x i m u m

    o f

    p

    t

    ( x ) + V ( x )

    i s a t t a i n e d a t a u n i q u e p o i n t x ( t ) , c a l l e d t h e m i n i -

    m u m s t r e s s e s t i m a t e . W h e n t h i s i s t r u e ( a s s u m i n g

    a d e q u a t e s m o o t h n e s s ) , t h e o u t p u t f e e d b a c k c o n -

    t r o l l e r i s

    u

    ( t ) = u

    ( x ( t ) ) ;

    w h e r e u

    ( x ) i s t h e o p t i m a l s t a t e f e e d b a c k c o n -

    t r o l l e r ( 4 . 4 ) . T h i s p r i n c i p l e i s d i s c u s s e d f u r t h e r

    i n ( J a m e s , 1 9 9 4 ) , ( J a m e s & B a r a s , 1 9 9 6 ) , w h e r e

    i t i s p l a c e d i n t h e i n f o r m a t i o n s t a t e f r a m e w o r k .

    R i s k - s e n s i t i v e s t o c h a s t i c c o n t r o l . H i s t o r i -

    c a l l y , t h e o u t p u t f e e d b a c k r i s k - s e n s i t i v e s t o c h a s -

    t i c o p t i m a l c o n t r o l p r o b l e m w a s r s t s o l v e d b y

    ( W h i t t l e , 1 9 8 1 ) ( f o r d i s c r e t e - t i m e l i n e a r s y s t e m s ) ,

    b y ( B e n s o u s s a n & v a n S c h u p p e n , 1 9 8 5 ) ( f o r

    c o n t i n u o u s - t i m e l i n e a r s y s t e m s ) , a n d b y ( J a m e s

    e t a l , 1 9 9 4 ) ( f o r d i s c r e t e - t i m e n o n l i n e a r s y s t e m s ) .

    S i g n i c a n t l y , t h e c o n d i t i o n a l d e n s i t y i s n o t a s u f -

    c i e n t s t a t i s t i c f o r t h e r i s k - s e n s i t i v e p r o b l e m , a n d

    a n e w i n f o r m a t i o n s t a t e w a s n e e d e d . T h i s o b -

    s e r v a t i o n b y W h i t t l e w a s f u n d a m e n t a l t o s t o c h a s -

    t i c c o n t r o l a n d t o H

    1

    c o n t r o l , ( G l o v e r & D o y l e ,

    1 9 8 8 ) . A n i n t e r e s t i n g e x a m p l e o f r i s k - s e n s i t i v e

    c o n t r o l n o t d i r e c t l y r e l a t e d t o H

    1

    c o n t r o l i s b e i n g

    i n v e s t i g a t e d b y ( F e r n a n d e z - G a u c h e r l a n d & M a r -

    c u s , 1 9 9 4 ) .

    A s m e n t i o n e d a b o v e , t h e d e n i t i o n o f i n f o r m a t i o n

    s t a t e p

    t

    f o r t h e o u t p u t f e e d b a c k g a m e p r o b l e m w a s

    m o t i v a t e d ( i n f a c t o r i g i n a l l y d e r i v e d ) f r o m a n i n -

    f o r m a t i o n s t a t e

    t

    f o r a r e l a t e d o u t p u t f e e d b a c k

    r i s k - s e n s i t i v e p r o b l e m , s e e ( J a m e s e t a l , 1 9 9 4 ) ,

    ( J a m e s e t a l , 1 9 9 3 ) . I n d e e d , o n e h a s

    l i m

    " ! 0

    "

    2

    l o g

    t

    ( x ) = p

    t

    ( x )

    ( u p t o a c o n s t a n t ) . I f S ( ; T ) d e n o t e s t h e v a l u e

    f u n c t i o n f o r a n i t e h o r i z o n o u t p u t f e e d b a c k r i s k -

    s e n s i t i v e p r o b l e m ( c . f . ( 3 . 3 ) ) , t h e n

    l i m

    " ! 0

    "

    2

    l o g S ( e

    p

    "

    2

    ; T ) = W ( p ; T )

    i s t h e v a l u e f u n c t i o n f o r a n i t e h o r i z o n o u t p u t

    f e e d b a c k g a m e .

    F a c t o r i z a t i o n . T h e i n f o r m a t i o n s t a t e f r a m e w o r k

    c a n b e a p p l i e d t o s o l v e t h e J - i n n e r o u t e r f a c t o r -

    i z a t i o n p r o b l e m f o r t h e p l a n t

    ~

    G o b t i n e d f r o m G

    b y r e v e r s i n g t h e w a n d y a r r o w s . T h e p r o b l e m

    i s t o n d a f a c t o r i z a t i o n

    ~

    G = R , w h e r e i s J -

    i n n e r ( J - d i s s i p a t i v e a n d l o s s l e s s ) , a n d R i s o u t e r

    ( R a n d R

    1

    s t a b l e ) . T h e s e f a c t o r s c a n b e o b -

    t a i n e d b y a u g m e n t i n g t h e i n f o r m a t i o n s t a t e c e n -

    t r a l c o n t r o l l e r . F o r p r e l i m i n a r y r e s u l t s , s e e ( H e l -

    t o n & J a m e s , 1 9 9 4 ) .

    6 . C O N C L U S I O N

    I n t h i s p a p e r w e h a v e a t t e m p t e d t o s u m m a r i z e

    s o m e o f t h e k e y r e c e n t d e v e l o p m e n t s i n n o n l i n e a r

    H

    1

    c o n t r o l t h e o r y . A s w e h a v e s h o w n , p a r t i a l

    d i e r e n t i a l e q u a t i o n s a n d i n e q u a l i t i e s o f v a r i o u s

    t y p e s r e l a t e d t o t h e t h e o r y o f d i s s i p a t i v e s y s t e m s

    a r e t h e f u n d a m e n t a l m a t h e m a t i c a l e q u a t i o n s o f

    H

    1

    c o n t r o l . T h e s e e q u a t i o n s a r e a l s o r e l a t e d t o

    t h e e q u a t i o n s o f d y n a m i c g a m e t h e o r y a n d r i s k -

    s e n s i t i v e s t o c h a s t i c c o n t r o l . T h e m a i n t e c h n i c a l

  • 7/28/2019 nolcos.ps

    11/12

    ( a n d p r a c t i c a l ) d i c u l t y c o n c e r n s s o l v i n g t h e s e

    P D I ' s a n d P D E ' s , w h i c h i n g e n e r a l h a v e s o l u t i o n s

    w h i c h a r e n o t s m o o t h . F u r t h e r , o n e i s f a c e d w i t h

    B e l l m a n ' s \ c u r s e o f d i m e n s i o n a l i t y " i n g e n e r a l . I n

    s p i t e o f t h i s , c o n s i d e r a b l e i n s i g h t i n t o t h e n o n l i n -

    e a r H

    1

    c o n t r o l p r o b l e m h a s b e e n a t t a i n e d , a n d

    i n f u t u r e , m u c h w o r k n e e d s t o b e d o n e t o o b t a i n

    a p p r o x i m a t e s o l u t i o n s , a n d t o p r o d u c e c o n t r o l l e r s

    w h i c h a r e i n f a c t r o b u s t

    7 . R E F E R E N C E S

    B a l l , J . A . , a n d J . W . H e l t o n , ( 1 9 8 9 ) . H

    1

    C o n t r o l

    f o r N o n l i n e a r P l a n t s : C o n n e c t i o n s w i t h D i f -

    f e r e n t i a l G a m e s . I n : P r o c . 2 8 t h I E E E C D C ,

    T a m p a , F L , p p . 9 5 6 - 9 6 2 .

    B a l l , J . A . , a n d J . W . H e l t o n , ( 1 9 9 2 ) . N o n l i n e a r

    H

    1

    C o n t r o l T h e o r y f o r S t a b l e P l a n t s . M a t h .

    C o n t r o l S i g n a l s S y s t e m s , 5 p p . 2 3 3 - 2 6 1 .

    B a l l , J . A . , a n d J . W . H e l t o n , ( 1 9 9 3 ) . V i s c o s i t y S o -

    l u t i o n s o f H a m i l t o n - J a c o b i E q u a t i o n s A r i s i n g

    i n N o n l i n e a r H

    1

    C o n t r o l . M C S S , t o a p p e a r .

    B a l l , J . A . , J . W . H e l t o n a n d M . L . W a l k e r , ( 1 9 9 3 ) .

    H

    1

    C o n t r o l f o r N o n l i n e a r S y s t e m s w i t h O u t -

    p u t F e e d b a c k . I E E E T r a n s . A u t . C o n t r o l , A C -

    3 8 , p p . 5 4 6 - 5 5 9 .

    B a r a s , J . S . , a n d M . R . J a m e s , ( 1 9 9 4 ) . R o b u s t a n d

    R i s k - S e n s i t i v e O u t p u t F e e d b a c k C o n t r o l f o r F i -

    n i t e S t a t e M a c h i n e s a n d H i d d e n M a r k o v M o d -

    e l s . J . M a t h . S y s t e m s , E s t i m a t i o n a n d C o n t r o l ,

    t o a p p e a r .

    B a s a r , T . , a n d P . B e r n h a r d , ( 1 9 9 1 ) . H

    1

    { O p t i m a l

    C o n t r o l a n d R e l a t e d M i n i m a x D e s i g n P r o b -

    l e m s : A D y n a m i c G a m e A p p r o a c h , B i r k h a u s e r ,

    B o s t o n .

    B e n s o u s s a n , A . , a n d J . H . v a n S c h u p p e n , ( 1 9 8 5 ) .

    O p t i m a l C o n t r o l o f P a r t i a l l y O b s e r v a b l e

    S t o c h a s t i c S y s t e m s w i t h a n E x p o n e n t i a l - o f -

    I n t e g r a l P e r f o r m a n c e I n d e x . S I A M J . C o n t r o l

    O p t i m . , 2 3 p p . 5 9 9 - 6 1 3 .

    B e r n h a r d , P . , ( 1 9 9 0 ) . A M i n - M a x C e r t a i n t y

    E q u i v a l e n c e P r i n c i p l e a n d i t s A p p l i c a t i o n t o

    C o n t i n u o u s T i m e , S a m p l e d D a t a a n d D i s c r e t e

    T i m e H

    1

    O p t i m a l C o n t r o l . I N R I A R e p o r t ,

    S o p h i a A n t i p o l i s .

    B e r n h a r d , P . , ( 1 9 9 4 a ) . A M i n - M a x C e r t a i n t y

    E q u i v a l e n c e P r i n c i p l e f o r N o n l i n e a r D i s c r e t e -

    T i m e C o n t r o l P r o b l e m s . S y s t e m s & C o n t r o l

    L e t t e r s , t o a p p e a r .

    B e r n h a r d , P . , ( 1 9 9 4 b ) . D i s c r e t e a n d C o n t i n u o u s

    T i m e P a r t i a l I n f o r m a t i o n M i n i m a x C o n t r o l .

    P r e p r i n t .

    C a m p i , M . a n d M . R . J a m e s , ( 1 9 9 6 ) . D i s c r e t e -

    T i m e N o n l i n e a r R i s k - S e n s i t i v e C o n t r o l . I n t . J .

    R o b u s t N o n l i n e a r C o n t r o l , 6 , p p . 1 - 1 9 .

    D o y l e , J . C . , K . G l o v e r , P . P . K h a r g o n e k a r a n d

    B . A . F r a n c i s , ( 1 9 8 9 ) . S t a t e - S p a c e S o l u t i o n s t o

    S t a n d a r d H

    2

    a n d H

    1

    C o n t r o l P r o b l e m s . I E E E

    T r a n s . A u t . C o n t r o l , A C - 3 4 ( 8 ) p p . 8 3 1 - 8 4 7 .

    D o n s k e r , M . D . , a n d S . R . S V a r a d h a n , ( 1 9 7 5 ) .

    A s y m p t o t i c E v a l u a t i o n o f C e r t a i n M a r k o v P r o -

    c e s s E x p e c t a t i o n s f o r L a r g e T i m e , I , I I , I I I .

    C o m m . P u r e A p p l . M a t h . , 2 8 ( 1 9 7 5 ) p p . 1 - 4 5 ,

    2 7 9 - 3 0 1 ; 2 9 ( 1 9 7 6 ) p p . 3 8 9 - 4 6 1 .

    F e r n a n d e z - G a u c h e r l a n d , E . , a n d S . I . M a r c u s ,

    ( 1 9 9 4 ) . R i s k - S e n s i t i v e O p t i m a l C o n t r o l o f H i d -

    d e n M a r k o v M o d e l s : A C a s e S t u d y . 3 3 r d I E E E

    C D C , O r l a n d o .

    F l e m i n g , W . H . , a n d W . M . M c E n e a n e y , ( 1 9 9 1 ) .

    R i s k S e n s i t i v e O p t i m a l C o n t r o l a n d D i e r e n -

    t i a l G a m e s . I n : P r o c . C o n f . o n A d a p t i v e a n d

    S t o c h a s t i c C o n t r o l , U n i v . o f K a n s a s , S p r i n g e r

    V e r l a g .

    F l e m i n g , W . H . , a n d W . M . M c E n e a n e y , ( 1 9 9 3 ) .

    R i s k S e n s i t i v e C o n t r o l o n a n I n n i t e T i m e

    H o r i z o n . S I A M J . C o n t r o l O p t i m . , 3 3 , p p . 1 8 8 1 -

    1 9 1 5 .

    F l e m i n g , W . H . , a n d M . R . J a m e s , ( 1 9 9 5 ) . T h e

    R i s k - S e n s i t i v e I n d e x a n d t h e H

    2

    a n d H

    1

    N o r m s f o r N o n l i n e a r S y s t e m s . M C S S , 8 ,

    p p . 1 9 9 - 2 2 1 .

    F l e m i n g , W . H . , a n d H . M . S o n e r , ( 1 9 9 3 ) . C o n -

    t r o l l e d M a r k o v P r o c e s s e s a n d V i s c o s i t y S o l u -

    t i o n s , S p r i n g e r - V e r l a g , N e w Y o r k .

    G l o v e r , K . , a n d J . C . D o y l e , ( 1 9 8 8 ) . S t a t e S p a c e

    F o r m u l a e f o r a l l S t a b i l i z i n g C o n t r o l l e r s t h a t

    S a t i s f y a n H

    1

    N o r m B o u n d a n d R e l a t i o n s t o

    R i s k S e n s i t i v i t y . S y s t e m s a n d C o n t r o l L e t t e r s ,

    1 1 p p . 1 6 7 - 1 7 2 .

    G r e e n , M . , a n d D . L i m e b e e r , ( 1 9 9 4 ) . L i n e a r R o -

    b u s t C o n t r o l , P r e n t i c e - H a l l .

    H e l t o n , J . W . , a n d M . R . J a m e s , ( 1 9 9 4 ) . A n I n -

    f o r m a t i o n S t a t e A p p r o a c h t o N o n l i n e a r J -

    I n n e r / O u t e r F a c t o r i z a t i o n . 3 3 r d I E E E C D C ,

    O r l a n d o .

    H e l t o n , J . W . , a n d M . R . J a m e s , ( 1 9 9 7 ) . A G e n e r a l

    F r a m e w o r k f o r E x t e n d i n g H

    1

    C o n t r o l t o N o n -

    l i n e a r S y s t e m s . I n p r e p a r a t i o n f o r S I A M F r o n -

    t i e r s i n A p p l i e d M a t h e m a t i c s S e r i e s .

    H i l l , D . J . , a n d P . J . M o y l a n ( 1 9 7 6 ) . T h e S t a b i l i t y

    o f N o n l i n e a r D i s s i p a t i v e S y s t e m s . I E E E T r a n s .

    A u t o m a t . C o n t r . , 2 1 p p . 7 0 8 - 7 1 1 .

    H i l l , D . J . , a n d P . J . M o y l a n ( 1 9 8 0 ) . C o n n e c t i o n s s

    B e t w e e n F i n i t e { G a i n a n d A s y m p t o t i c S t a b i l i t y .

    I E E E T r a n s . A u t o m a t . C o n t r . , 2 5 p p . 9 3 1 - 9 3 6 .

    I s i d o r i , A . , a n d A . A s t o l , ( 1 9 9 2 ) . D i s t u r b a n c e

    A t t e n u a t i o n a n d H

    1

    C o n t r o l v i a M e a s u r m e n t

    F e e d b a c k i n N o n l i n e a r S y s t e m s . I E E E T r a n s .

    A u t o m a t . C o n t r . , 3 7 9 p p . 1 2 8 3 - 1 2 9 3 .

    J a c o b s o n , D . H . , ( 1 9 7 3 ) . O p t i m a l S t o c h a s t i c L i n -

    e a r S y s t e m s w i t h E x p o n e n t i a l P e r f o r m a n c e C r i -

    t e r i a a n d T h e i r R e l a t i o n t o D e t e r m i n i s t i c D i f -

    f e r e n t i a l G a m e s . I E E E T r a n s . A u t . C o n t r o l ,

    A C - 1 8 ( 2 ) p p . 1 2 4 - 1 3 1 .

    J a m e s , M . R . ( 1 9 9 2 ) . A s y m p t o t i c A n a l y s i s o f N o n -

    l i n e a r S t o c h a s t i c R i s k - S e n s i t i v e C o n t r o l a n d

    D i e r e n t i a l G a m e s . M a t h . C o n t r o l , S i g n a l s ,

    a n d S y s t e m s , 5 ( 4 ) p p . 4 0 1 - 4 1 7 .

    J a m e s , M . R . ( 1 9 9 3 ) . A P a r t i a l D i e r e n t i a l I n -

  • 7/28/2019 nolcos.ps

    12/12

    e q u a l i t y f o r D i s s i p a t i v e N o n l i n e a r S y s t e m s .

    S y s t e m s a n d C o n t r o l L e t t e r s , 2 1 p p . 3 1 5 - 3 2 0 .

    J a m e s , M . R . ( 1 9 9 4 ) . O n t h e C e r t a i n t y E q u i v a -

    l e n c e P r i n c i p l e f o r P a r t i a l l y O b s e r v e d D y n a m i c

    G a m e s . I E E E T r a n s . A u t o m a t . C o n t r . , A C -

    3 9 ( 1 1 ) , p p . 2 3 2 1 - 2 3 2 4 .

    J a m e s , M . R . a n d J . S . B a r a s , ( 1 9 9 5 ) . R o b u s t H

    1

    O u t p u t F e e d b a c k C o n t r o l f o r N o n l i n e a r S y s -

    t e m s , I E E E T r a n s . A u t . C o n t r o l . , A C - 4 0 ( 6 ) ,

    p p . 1 0 0 7 - 1 0 1 7 .

    J a m e s , M . R . , a n d J . S . B a r a s , ( 1 9 9 6 ) . P a r t i a l l y

    O b s e r v e d D i e r e n t i a l G a m e s , I n n i t e D i m e n -

    s i o n a l H J I E q u a t i o n s , a n d N o n l i n e a r H

    1

    C o n -

    t r o l . S I A M J . C o n t r o l O p t i m . , 3 4 ( 4 ) , p p . 1 3 4 2 -

    1 3 6 4 .

    J a m e s , M . R . , J . S . B a r a s a n d R . J . E l l i o t t , ( 1 9 9 3 ) .

    O u t p u t F e e d b a c k R i s k - S e n s i t i v e C o n t r o l a n d

    D i e r e n t i a l G a m e s f o r C o n t i n u o u s - T i m e N o n -

    l i n e a r S y s t e m s . 3 2 n d I E E E C D C , S a n A n t o n i o .

    J a m e s , M . R . , J . S . B a r a s a n d R . J . E l l i o t t , ( 1 9 9 4 ) .

    R i s k - S e n s i t i v e C o n t r o l a n d D y n a m i c G a m e s

    f o r P a r t i a l l y O b s e r v e d D i s c r e t e - T i m e N o n l i n e a r

    S y s t e m s . I E E E T r a n s . A u t . C o n t r o l , A C - 3 9 - 4

    p p . 7 8 0 - 7 9 2 .

    J a m e s , M . R . , a n d S . Y u l i a r , ( 1 9 9 5 ) . N u m e r i c a l

    A p p r o x i m a t i o n o f t h e H

    1

    N o r m f o r N o n l i n e a r

    S y s t e m s . A u t o m a t i c a , 3 1 ( 8 ) , p p . 1 0 7 5 - 1 0 8 6 .

    J a m e s , M . R . , a n d S . Y u l i a r ( 1 9 9 5 ) , A N o n l i n e a r

    P a r t i a l l y O b s e r v e d D i e r e n t i a l G a m e w i t h a F i -

    n i t e D i m e n s i o n a l I n f o r m a t i o n S t a t e . S y s t e m s &

    C o n t r o l L e t t e r s , 2 6 , p p . 1 3 7 - 1 4 5 .

    K r e n e r , A . J . ( 1 9 9 4 ) . N e c e s s a r y a n d S u c i e n t

    C o n d i t i o n s f o r N o n l i n e a r W o r s t C a s e ( H

    1

    )

    C o n t r o l a n d E s t i m a t i o n . 3 3 r d I E E E C D C , O r -

    l a n d o .

    K u m a r , P . R . , a n d P . V a r a i y a , ( 1 9 8 6 ) . S t o c h a s t i c

    S y s t e m s : E s t i m a t i o n , I d e n t i c a t i o n , a n d A d a p -

    t i v e C o n t r o l . P r e n t i c e - H a l l , E n g l e w o o d C l i s .

    M c E n e a n e y , W . M . , ( 1 9 9 5 ) . U n i q u e n e s s f o r V i s c o s -

    i t y S o l u t i o n s o f N o n s t a t i o n a r y H J B E q u a t i o n s

    u n d e r s o m e a p r i o r i C o n d i t i o n s ( w i t h A p p l i c a -

    t i o n s ) . S I A M J . C o n t r o l O p t i m . , 3 3 ( 5 ) p p . 1 5 6 0 -

    1 5 7 6 .

    M c E n e a n e y , W . M . , ( 1 9 9 5 ) . R o b u s t C o n t r o l a n d

    D i e r e n t i a l G a m e s o n a F i n i t e T i m e H o r i z o n .

    M C S S , 8 p p . 1 3 8 - 1 6 6 .

    P e t e r s e n , I . R . , B . D . O A n d e r s o n a n d E . A . J o n c k -

    h e e r e , ( 1 9 9 1 ) . A F i r s t P r i n c i p l e s S o l u t i o n t o t h e

    N o n s i n g u l a r H

    1

    C o n t r o l P r o b l e m . I n t . J . R o -

    b u s t N o n l i n e a r C o n t r o l , 1 p p . 1 7 1 - 1 8 5 .

    R h e e , I . , a n d J . L . S p e y e r , ( 1 9 9 1 ) . A G a m e T h e -

    o r e t i c A p p r o a c h t o a F i n i t e - T i m e D i s t u r b a n c e

    A t t e n u a t i o n P r o b l e m . I E E E T r a n s . A u t . C o n -

    t r o l , 3 6 p p . 1 0 2 1 - 1 0 3 2 .

    R u n o l f s s o n , T . ( 1 9 9 1 ) . T h e E q u i v a l e n c e B e t w e e n

    I n n i t e H o r i z o n C o n t r o l o f S t o c h a s t i c S y s t e m s

    w i t h E x p o n e n t i a l - o f - I n t e g r a l P e r f o r m a n c e I n -

    d e x a n d S t o c h a s t i c D i e r e n t i a l G a m e s . J o h n s

    H o p k i n s T R J H U / E C E 9 1 - 0 7

    S o r a v i a , P . ( 1 9 9 4 ) . H

    1

    C o n t r o l o f N o n l i n e a r S y s -

    t e m s : D i e r e n t i a l G a m e s a n d V i s c o s i t y S o l u -

    t i o n s . P r e p r i n t .

    T e o l i s , C . A . ( 1 9 9 4 ) . R o b u s t O u t p u t F e e d b a c k C o n -

    t r o l f o r N o n l i n e a r S y s t e m s , P h . D . D i s s e r t a t i o n ,

    U n i v e r s i t y o f M a r y l a n d .

    T e o l i s , C . A . , S . Y u l i a r , M . R . J a m e s a n d

    J . S . B a r a s , ( 1 9 9 4 ) . R o b u s t H

    1

    O u t p u t F e e d -

    b a c k C o n t r o l o f B i l i n e a r S y s t e m s , 3 3 r d I E E E

    C D C , O r l a n d o .

    v a n d e r S c h a f t , A . J . , ( 1 9 9 1 ) . O n a S t a t e S p a c e

    A p p r o a c h t o N o n l i n e a r H

    1

    C o n t r o l . S y s t e m s

    a n d C o n t r o l L e t t e r s , 1 6 p p . 1 - 8 .

    v a n d e r S c h a f t , A . J . , ( 1 9 9 2 ) . L

    2

    G a i n A n a l y s i s o f

    N o n l i n e a r S y s t e m s a n d N o n l i n e a r S t a t e F e e d -

    b a c k H

    1

    C o n t r o l . I E E E T r a n s . A u t . C o n t r o l ,

    A C - 3 7 ( 6 ) p p . 7 7 0 - 7 8 4 .

    v a n d e r S c h a f t , A . J . , ( 1 9 9 3 ) . N o n l i n e a r S t a t e

    S p a c e H

    1

    T h e o r y . I n : H . L . T r e e n t l e m a n a n d

    J . C . W i l l e m s , E s s a y s o n C o n t r o l : P e r s p e c t i v e s

    i n t h e T h e o r y a n d A p p l i c a t i o n s , B i r k h a u s e r ,

    B e r l i n .

    v a n d e r S c h a f t , A . J . , ( 1 9 9 6 ) . L

    2

    - G a i n a n d P a s s i v -

    i t y T e c h n i q u e s i n N o n l i n e a r C o n t r o l , S p r i n g e r

    V e r l a g , N e w Y o r k .

    W i l l e m s , J . C . ( 1 9 7 2 ) . D i s s i p a t i v e D y n a m i c a l S y s -

    t e m s P a r t I : G e n e r a l T h e o r y . A r c h . R a t i o n a l

    M e c h . A n a l . , 4 5 3 2 1 - 3 5 1 .

    W h i t t l e , P . , ( 1 9 8 1 ) . R i s k S e n s i t i v e L i n e a r

    Q u a d r a t i c G a u s s i a n C o n t r o l . A d v . A p p l . P r o b . ,

    1 3 p p . 7 6 4 - 7 7 7 .

    W h i t t l e , P . , ( 1 9 9 0 a ) . A R i s k - S e n s i t i v e M a x i m u m

    P r i n c i p l e , S y s t e m s a n d C o n t r o l L e t t e r s , 1 5

    p p . 1 8 3 - 1 9 2 .

    W h i t t l e , P . , ( 1 9 9 0 b ) . R i s k - S e n s i t i v e O p t i m a l C o n -

    t r o l . W i l e y , N e w Y o r k .

    W h i t t l e , P . , ( 1 9 9 1 ) . A R i s k - S e n s i t i v e M a x i m u m

    P r i n c i p l e : T h e C a s e o f I m p e r f e c t S t a t e O b s e r -

    v a t i o n . I E E E T r a n s . A u t . C o n t r o l , 3 6 p p . 7 9 3 -

    8 0 1 .

    Z a m e s , G . ( 1 9 8 1 ) . F e e d b a c k a n d O p t i m a l S e n s i -

    t i v i t y : M o d e l R e f e r e n c e T r a n s f o r m a t i o n s , M u l -

    t i p l i c a t i v e S e m i n o r m s , a n d A p p r o x i m a t e I n -

    v e r s e s . I E E E T r a n s . A u t . C o n t r o l , 2 6 p p . 3 0 1 -

    3 2 0 .