01.04.Motion Deblurring and Super-resolution From an Image Sequence

8/14/2019 01.04.Motion Deblurring and Super-resolution From an Image Sequence

1/10

M o t i o n D e b l u r r i n g a n d S u p e r - r e s o l u t i o n

f r o m a n I m a g e S e q u e n c e

B . B a s c l e , A . B l a k e , A . Z i s s e r m a n

D e p a r t m e n t o f E n g i n e e r i n g S c i e n c e , U n i v e r s i t y o f O x f o r d , O x f o r d O X 1 3 P J , E n g l a n d

A b s t r a c t . I n m a n y a p p l i c a t i o n s , l i k e s u r v e i l l a n c e , i m a g e s e q u e n c e s a r e

o f p o o r q u a l i t y . M o t i o n b l u r i n p a r t i c u l a r i n t r o d u c e s s i g n i c a n t i m a g e

d e g r a d a t i o n . A n i n t e r e s t i n g c h a l l e n g e i s t o m e r g e t h e s e m a n y i m a g e s i n t o

o n e h i g h - q u a l i t y , e s t i m a t e d s t i l l . W e p r o p o s e a m e t h o d t o a c h i e v e t h i s .

F i r s t l y , a n o b j e c t o f i n t e r e s t i s t r a c k e d t h r o u g h t h e s e q u e n c e u s i n g r e g i o n

b a s e d m a t c h i n g . S e c o n d l y , d e g r a d a t i o n o f i m a g e s i s m o d e l l e d i n t e r m s o f

p i x e l s a m p l i n g , d e f o c u s b l u r a n d m o t i o n b l u r . M o t i o n b l u r d i r e c t i o n a n d

m a g n i t u d e a r e e s t i m a t e d f r o m t r a c k e d d i s p l a c e m e n t s . F i n a l l y , a h i g h -

r e s o l u t i o n d e b l u r r e d i m a g e i s r e c o n s t r u c t e d . T h e a p p r o a c h i s i l l u s t r a t e d

w i t h v i d e o s e q u e n c e s o f m o v i n g p e o p l e a n d b l u r r e d s c r i p t .

1 I n t r o d u c t i o n

R e a l i m a g e s o f a m o v i n g o b j e c t c a n e a c h b e r e g a r d e d a s a d e g r a d e d r e p r e s e n -

t a t i o n o f t h e i d e a l i m a g e t h a t w o u l d h a v e b e e n c a p t u r e d a t a c e r t a i n i n s t a n t b y

a n i d e a l c a m e r a . T h e s e d e g r a d a t i o n s i n c l u d e : ( i ) o p t i c a l b l u r ( i i ) i m a g e s a m p l i n g

b y t h e C C D a r r a y ( i i i ) m o t i o n b l u r . O f t e n c h a n g i n g t h e c a m e r a s t o i m p r o v e t h e

q u a l i t y o f t h e i m a g e s i s n o t a n o p t i o n , s o p o s t - p r o c e s s i n g i s n e e d e d t o r e s t o r e t h e

i m a g e s . T h e a i m o f t h i s p a p e r i s t o r e c o v e r f r o m a s e q u e n c e o f i m a g e s a h i g h e r

r e s o l u t i o n d e b l u r r e d i m a g e t h a t i s a s c l o s e a s p o s s i b l e t o a n i d e a l i m a g e , b y r e -

m o v i n g t h e b l u r d u e t o t h e r e a l i m a g e f o r m a t i o n p r o c e s s . F i r s t l y , t h e o b j e c t i s

t r a c k e d u s i n g a r e a - b a s e d d e f o r m a b l e r e g i o n s . S e c o n d l y , g i v e n a n i n i t i a l e s t i m a t e

o f t h e i d e a l i m a g e , t h e p h y s i c a l i m a g e f o r m a t i o n p r o c e s s i s s i m u l a t e d . F i n a l l y

t h e i d e a l i m a g e i s e s t i m a t e d r e c u r s i v e l y b y m i n i m i s i n g t h e d i e r e n c e b e t w e e n

t h e r e a l i m a g e s a n d t h e s i m u l a t e d o n e s . T h e o r i g i n a l i t y o f o u r a p p r o a c h i s i n : ( i )

a v o i d i n g e x p l i c i t l y c a l c u l a t i n g a n i n v e r s e l t e r o f t h e b l u r r i n g p r o c e s s , w h i c h i s

i l l - c o n d i t i o n e d f o r a s i n g l e i m a g e ( i i ) a d d r e s s i n g t h e p r o b l e m o f r e m o v i n g m o t i o n

b l u r f o r n o n - p u r e l y t r a n s l a t i o n a l m o t i o n s a n d u s i n g a n i m a g e s e q u e n c e r a t h e r

t h a n a s i n g l e i m a g e , c o n t r a r y t o p r e v i o u s a p p r o a c h e s ( i i i ) s t u d y i n g t h e p r o b l e m

o f r e m o v i n g a c o m b i n a t i o n o f m o t i o n b l u r a n d o p t i c a l b l u r , w h i c h h a v e o n l y b e e n

s t u d i e d s e p a r a t e l y b e f o r e .

T h e p a p e r i s o r g a n i s e d a s f o l l o w s : r s t l y a g e n e r a l i m a g e f o r m a t i o n m o d e l

i s p r e s e n t e d . S e c o n d l y , w e r e v i e w r e l a t e d a p p r o a c h e s i n t h e l i t e r a t u r e . T h i r d l y ,

t h e a p p r o a c h p r o p o s e d b y t h i s p a p e r i s d e s c r i b e d . L a s t l y , e x p e r i m e n t a l r e s u l t s

o n r e a l i m a g e s a r e s h o w n .


2/10

2 M o d e l o f t h e i m a g e f o r m a t i o n p r o c e s s

T h i s s e c t i o n i n t r o d u c e s t h e m o d e l o f i m a g e f o r m a t i o n u s e d i n t h i s p a p e r . I t w i l l

b e u s e d t o r e c o v e r a h i g h - r e s o l u t i o n u n b l u r r e d i m a g e f r o m a n i m a g e s e q u e n c e .

L e t I

i d e a l

b e t h e \ i d e a l " i m a g e t h a t a p e r f e c t p i n h o l e c a m e r a w o u l d p r o d u c e

a t t i m e t = 0 . T h i s i s t h e i m a g e t h a t w e ' l l t r y t o e s t i m a t e a s c l o s e l y a s p o s s i b l e .

T h r e e t y p e s o f d i s t o r t i o n s o c c u r r i n g d u r i n g t h e i m a g e f o r m a t i o n p r o c e s s a n d

l e a d i n g f r o m t h e i d e a l i m a g e t o t h e o b s e r v e d i m a g e s e q u e n c e a r e c o n s i d e r e d :

o p t i c a l b l u r , m o t i o n b l u r a n d s p a t i a l s a m p l i n g ( s e e g . 1 ) . T h e y c a n b e d e s c r i b e d

a s f o l l o w s :

IDEAL IMAGE

MOTION BLUR

GAUSSIAN BLUR

SIMULATEDCAMERAIMAGE

CCD MATRIX

F i g . 1 . M o d e l o f t h e i m a g e f o r m a t i o n p r o c e s s u s e d f o r d e b l u r r i n g . T h e i d e a l

i m a g e h a s a r b i t r a r i l y h i g h r e s o l u t i o n . F i r s t , s i n c e t h e o b j e c t i s m o v i n g , i t i s i n t e g r a t e d

o v e r t i m e b y t h e c a m e r a , s o t h a t t h e r e s u l t i n g i m a g e i s d e g r a d e d b y m o t i o n b l u r . T h i s

b l u r c a n n o t b e t r e a t e d a s p u r e l y t r a n s l a t i o n a l a n d i s m o d e l l e d a s a n e i n o u r a p p r o a c h .

S e c o n d , g i v e n t h a t t h e c a m e r a m a y b e d e f o c u s s e d , a n d o t h e r i m a g e f o r m a t i o n p r o c e s s

d e f e c t s , s p a t i a l b l u r i s i n t r o d u c e d . I t i s m o d e l l e d t o a r s t a p p r o x i m a t i o n a s G a u s s i a n .

T h i r d t h e C C D m a t r i x l i m i t s t h e r e s o l u t i o n o f t h e i m a g e a n d p e r f o r m s a v e r a g i n g o v e r

p i x e l b l o c k s o f t h e i d e a l i m a g e . T h i s m o d e l a l l o w s u s t o s i m u l a t e t h e r e a l i m a g e s .

M O T I O N A 3 D m o t i o n o f t h e o b j e c t i n d u c e s a 2 D m o t i o n i n t h e i m a g e , s o t h a t

t h e i d e a l i m a g e I

i d e a l

t

t h a t w o u l d b e o b s e r v e d a t t i m e t i s a 2 D t r a n s f o r m o f t h e

i d e a l i m a g e I

i d e a l

a t t = 0 . I n t h e g e n e r a l c a s e , t h i s i m a g e t r a n s f o r m r e q u i r e s

a 3 D m o d e l 3 ] . I n m o r e r e s t r i c t e d c a s e s , t h i s t r a n s f o r m c a n b e w r i t t e n a s a

p u r e 2 D t r a n s f o r m . H e r e w e w i l l c o n s i d e r a 2 D a n e m o t i o n m o d e l , t h o u g h t h e

a p p r o a c h c a n b e e a s i l y a p p l i e d t o o t h e r p u r e 2 D t r a n s f o r m s s u c h a s h o m o g r a p h i c .

L e t M ( b ) b e t h e m o t i o n m o d e l w i t h p a r a m e t e r s b c h o s e n t o d e s c r i b e t h e i m a g e


3/10

t r a n s f o r m c o r r e s p o n d i n g t o t h e o b j e c t 3 D m o t i o n . T h e n :

I

i d e a l

t

( x ; y ) = I

i d e a l

0

( u

t

; v

t

) w i t h :

x

y

= M ( b )

t

0

u

t

v

t

M O T I O N B L U R T h e t r a n s f o r m e d v e r s i o n s I

i d e a l

t

o f t h e i d e a l i m a g e I

i d e a l

a r e

i n t e g r a t e d b y t h e c a m e r a d u r i n g i t s i n t e g r a t i o n t i m e T . I f t h e o b j e c t i s m o v i n g

s i g n i c a n t l y d u r i n g t h i s t i m e , t h e r e s u l t i n g i m a g e I

M o t

t

i s s m e a r e d b y m o t i o n

b l u r . T h i s e e c t i s p a r t i c u l a r l y n o t i c e a b l e w h e n t h e c a m e r a i s n o t e q u i p p e d w i t h

a n e l e c t r o n i c s h u t t e r , a s o f t e n i n s u r v e i l l a n c e a p p l i c a t i o n s . T h e m o t i o n - b l u r r e d

i m a g e I

M o t

t

c a n b e w r i t t e n a s f o l l o w s :

I

M o t

t

( x ; y ) =

Z

= t

= t ? T

I

i d e a l

t ? T

( u

; v

) d w i t h

x

y

= M ( b )

t ? T

u

v

( 1 )

w h e r e M ( b )

t ? T

i s t h e e s t i m a t e d m o t i o n o f t h e o b j e c t b e t w e e n t i m e t ? T a n d

t - w i t h p a r a m e t e r v a l u e s b - u s i n g t h e c h o s e n m o t i o n m o d e l .

O P T I C A L B L U R I n a d d i t i o n t o m o t i o n b l u r , t h e p h y s i c s o f i m a g e f o r m a t i o n b y

a c a m e r a c r e a t e o t h e r b l u r r i n g e e c t s , t h a t w e w i l l r e f e r t o a s \ o p t i c a l b l u r " , a n d

t h a t a e c t a s m u c h s t a t i c o b j e c t s a s m o v i n g o n e s . I t g r o u p s s e v e r a l e e c t s : ( i ) t h e

b l u r i n t r o d u c e d b y t h e o p t i c s a n d t h i c k l e n s e s o f t h e c a m e r a . R a d i a l d i s t o r t i o n s

i n t h e p e r i p h e r y o f t h e i m a g e a r e n o t c o n s i d e r e d h e r e ( i i ) t h e b l u r i n d u c e d b y

t h e c a m e r a b e i n g o u t - o f - f o c u s . T o a r s t a p p r o x i m a t i o n , t h e \ o p t i c a l b l u r " w i l l

b e m o d e l l e d b y 2 D G a u s s i a n b l u r .

S P A T I A L S A M P L I N G T h e i m a g e i s t h e n s a m p l e d b y t h e c a m e r a C C D a r r a y .

T h e c h a r a c t e r i s t i c s o f t h i s a r r a y d e t e r m i n e t h e i m a g e r e s o l u t i o n a n d t h e a m o u n t

o f a v e r a g i n g o c c u r r i n g w h e n t h e s i g n a l i s i n t e g r a t e d b y e a c h c e l l o f t h e C C D

a r r a y . T h i s s a m p l i n g e e c t i s m o d e l l e d b y a v e r a g i n g o f t h e i m a g e o v e r b l o c k s o f

p i x e l s . T h e C C D c e l l s ' p o i n t s p r e a d f u n c t i o n i s s u p p o s e d t o b e a l r e a d y m o d e l l e d

b y G a u s s i a n b l u r ( s e e p r e v i o u s p a r a g r a p h ) .

G i v e n t h e m o t i o n - b l u r r e d i m a g e I

M o t

t

, t h e i m a g e S

t

r e s u l t i n g a f t e r o p t i c a l

b l u r a n d s p a t i a l s a m p l i n g c a n b e w r i t t e n a s :

S

t

= " S

C C D

G

y

( x ; y ) G

x

( x ; y ) I

M o t

t

( x ; y ) ]

w h e r e G

x

a n d G

y

a r e 1 D G a u s s i a n k e r n e l s a l o n g r e s p e c t i v e l y t h e x a n d y d i r e c -

t i o n s . T h e s e t w o k e r n e l s a p p l y 2 D G a u s s i a n b l u r t o t h e i m a g e ( i n a s e p a r a b l e

w a y ) . S

C C D

r e p r e s e n t s t h e a v e r a g i n g o v e r p i x e l b l o c k s i n t r o d u c e d b y t h e C C D

m a t r i x . T h i s i m a g e i s f u r t h e r s a m p l e d b y t h e o p e r a t o r " s o t h a t o n l y 1 p i x e l o u t

o f t h e b l o c k o f a v e r a g e d p i x e l s i s r e t a i n e d . S

t

s i m u l a t e s t h e l o w - r e s o l u t i o n a n d

b l u r r e d i m a g e t h a t s h o u l d b e o b s e r v e d b y t h e c a m e r a a t t i m e t .


4/10

3 R e v i e w o f r e l a t e d a p p r o a c h e s

T h e a i m o f t h i s p a p e r i s t o r e t r i e v e t h e \ i d e a l " i m a g e o f a n o b j e c t , o f w h i c h

r e a l c a m e r a s g i v e o n l y a d e g r a d e d v e r s i o n , u s i n g a s e q u e n c e o f i m a g e s . T h e

p r e v i o u s s e c t i o n d e s c r i b e s o u r m o d e l o f t h e i m a g e f o r m a t i o n p r o c e s s , i n c l u d i n g

b o t h o p t i c a l b l u r a n d m o t i o n b l u r . T h i s s e c t i o n p r e s e n t s r e l a t e d a p p r o a c h e s i n

t h e l i t e r a t u r e . T o o u r k n o w l e d g e , t h e r e m o v a l o f t h e c o m b i n e d e e c t s o f o p t i c a l

a n d m o t i o n b l u r h a s n e v e r b e e n d o n e b e f o r e . H o w e v e r , t h e s e e e c t s h a v e b e e n

s t u d i e d s e p a r a t e l y .

I n v e r s e l t e r i n g o f o p t i c a l b l u r a n d s u p e r - r e s o l u t i o n : T h e a p p r o a c h e s a i m i n g

a t r e m o v i n g t h e e e c t s o f \ o p t i c a l b l u r " a n d s u b s a m p l i n g a r e c a l l e d \ s u p e r -

r e s o l u t i o n m e t h o d s " . T h e y d o n o t c o n s i d e r m o t i o n b l u r . T s a i a n d H u a n g 6 ]

s o l v e d t h e p r o b l e m i n t h e f r e q u e n c y d o m a i n , d i s r e g a r d i n g b l u r r i n g a n d a s s u m i n g

i n t e r - f r a m e t r a n s l a t i o n s . I t i s d i c u l t t o g e n e r a l i s e t o n o n - t r a n s l a t i o n a l m o t i o n s .

G r o s s 5 ] m e r g e d t h e l o w r e s o l u t i o n i m a g e s b y i n t e r p o l a t i o n a n d o b t a i n e d t h e

h i g h - r e s o l u t i o n i m a g e b y d e b l u r r i n g t h i s m e r g e d i m a g e . H e a l s o a s s u m e d t r a n s -

l a t i o n a l m o t i o n . P e l e g a n d K e r e n 9 ] s i m u l a t e t h e i m a g i n g p r o c e s s , a n d o p t i m i s e

t h e h i g h - r e s o l u t i o n i m a g e s o a s t o m i n i m i s e t h e d i e r e n c e b e t w e e n t h e o b s e r v e d

a n d s i m u l a t e d l o w - r e s o l u t i o n i m a g e s . H o w e v e r t h e m i n i m i s a t i o n m e t h o d i s r e l -

a t i v e l y s i m p l e : e a c h p i x e l i s e x a m i n e d i n t u r n , a n d i t s v a l u e i s i n c r e m e n t e d b y

1 , k e p t c o n s t a n t , o r d e c r e a s e d b y 1 , s o t h a t t h e g l o b a l c r i t e r i o n i s d e c r e a s e d .

I r a n i a n d P e l e g 7 , 8 ] m i n i m i s e t h e s a m e d i e r e n c e b e t w e e n o b s e r v e d a n d s i m u -

l a t e d i m a g e s , u s i n g a b a c k - p r o j e c t i o n m e t h o d s i m i l a r t o t h a t u s e d i n C o m p u t e r

A i d e d T o m o g r a p h y . H o w e v e r , t h e u s e o f a b a c k - p r o j e c t i o n o p e r a t o r l i m i t s t h e

m e t h o d t o b l u r r i n g p r o c e s s e s f o r w h i c h s u c h a n o p e r a t o r c a n b e c a l c u l a t e d o r

a p p r o x i m a t e d . Z e v i n a n d W e r m a n c o n s i d e r d i r e c t l y a 3 D m o d e l o f t h e w o r l d

w i t h p e r s p e c t i v e c a m e r a s . B e r t h o d e t a l 2 ] i m p r o v e d t h i s m e t h o d b y c o n s i d e r -

i n g r e e c t a n c e m o d e l s a n d t h e i r m e t h o d i s p a r t l y b a s e d o n h e i g h t f r o m s h a d i n g .

I n v e r s e l t e r i n g o f m o t i o n b l u r : T h e i n v e r s e l t e r i n g o f m o t i o n b l u r h a s a l s o

b e e n a d d r e s s e d i n t h e l i t e r a t u r e , s e p a r a t e l y f r o m t h e s u p e r - r e s o l u t i o n p r o b l e m s .

I t h a s m a i n l y b e e n s t u d i e d f o r t r a n s l a t i o n a l m o t i o n s a n d f o r s i n g l e i m a g e s . T h e

a p p r o a c h e s c a n b e d e c o m p o s e d i n t o t w o m a i n g r o u p s , d e p e n d i n g w h e t h e r l t e r -

i n g i s d o n e i n t h e s p a t i a l d o m a i n ( S o n d h i ' s l t e r 1 0 ] ) o r f r e q u e n c y s p a c e ( i n v e r s e

W i e n e r l t e r i n g 4 ] ) . B o t h t h e s e t y p e s o f a p p r o a c h e s a r e d i c u l t t o g e n e r a l i s e

t o m o r e c o m p l i c a t e d m o t i o n s t h a n p u r e l y t r a n s l a t i o n a l .

4 M o t i o n d e b l u r r i n g a n d S u p e r - r e s o l u t i o n f r o m a n i m a g e

s e q u e n c e

I n t h i s s e c t i o n , w e d e s c r i b e o u r w o r k i n d e t a i l . T h i s e x t e n d s t h e w o r k o f 8 ]

w h o s h o w e d f o r t h e c a s e o f o p t i c a l b l u r t h a t , t h o u g h r e s t o r i n g d e g r a d e d i m a g e s

i s a n i l l - c o n d i t i o n e d p r o b l e m , t h e u s e o f a s e q u e n c e o f i m a g e s t o a c c u m u l a t e

i n f o r m a t i o n a b o u t t h e o b j e c t c a n h e l p t o p a r t l y o v e r c o m e t h i s i n d e t e r m i n a c y .

H e r e w e a l s o c o n s i d e r d i s t o r t i o n s i n t r o d u c e d b y m o t i o n b l u r . M o t i o n b l u r i s


5/10

k n o w n t o b e a p a r t i c u l a r l y i l l - c o n d i t i o n e d b l u r a n d h a s p r e v i o u s l y b e e n s t u d i e d

f o r p u r e l y t r a n s l a t i o n a l m o t i o n s a n d s i n g l e i m a g e s o n l y ( s e e 4 ] ) .

O b j e c t t r a c k i n g a p p r o a c h : F i r s t t h e o b j e c t i s t r a c k e d t h r o u g h t h e s e q u e n c e o f

i m a g e s u s i n g a n a p p r o a c h c o m b i n i n g a r e a - b a s e d a n d c o n t o u r - b a s e d d e f o r m a b l e

m o d e l s 1 ] . T h e t r a c k i n g a p p r o a c h c a n b e d e s c r i b e d a s f o l l o w s : ( i ) F i r s t t h e r e g i o n

i s t r a c k e d b y a d e f o r m a b l e r e g i o n b a s e d o n t e x t u r e c o r r e l a t i o n a n d c o n s t r a i n e d

b y t h e u s e o f a n a n e m o t i o n m o d e l . T h e u s e o f t e x t u r e c o r r e l a t i o n e n s u r e s

t h e r o b u s t n e s s o f t r a c k i n g f o r t e x t u r e d i m a g e s , a n d i s a l s o m o r e r e l i a b l e t h a n

d e f o r m a b l e c o n t o u r s f o r b l u r r e d i m a g e s ( i i ) T h e n t h e r e g i o n c o n t o u r i s r e n e d b y

a d e f o r m a b l e c o n t o u r . T h u s t h e d e t e c t i o n o f t h e r e g i o n e d g e s i s m o r e p r e c i s e . I t

a l s o h e l p s t o c o r r e c t t r a c k i n g e r r o r s m a d e b y t h e d e f o r m a b l e r e g i o n i n t h e c a s e o f

o c c l u s i o n s a n d s p e c u l a r i t i e s . T h i s r e n e m e n t o f t h e r e g i o n c o n t o u r i s v e r y u s e f u l

i f t h e i m a g e t e x t u r e i s p o o r . B u t i t m u s t b e t u r n e d o i n c a s e o f m a j o r o c c l u s i o n s

o r i f t o o m u c h b l u r r e n d e r s t h e d e t e c t i o n o f e d g e s u n r e l i a b l e .

T h i s t r a c k i n g a p p r o a c h g i v e s a r e l i a b l e a n d s u b - p i x e l s e g m e n t a t i o n o f a m o v -

i n g o b j e c t . S u c h p r e c i s i o n i s n e c e s s a r y t o r e c o v e r a h i g h e r r e s o l u t i o n i m a g e f r o m

a s e q u e n c e o f i m a g e s . I t a l s o g i v e s a n e s t i m a t i o n o f t h e r e g i o n 2 D a p p a r e n t m o -

t i o n . T h i s m o t i o n e s t i m a t i o n i s u s e d t o r e g i s t e r t h e i m a g e s o f t h e s e q u e n c e b a c k

t o t h e r s t f r a m e , a n d t o d e t e r m i n e m o t i o n b l u r . L e t M ( b )

T

t ? T

= ( A ; B ) b e t h e

a n e m o t i o n m e a s u r e d b e t w e e n t h e t w o i m a g e s t a k e n a t t i m e t ? T a n d T . I t

i s s u p p o s e d t h a t t o a r s t a p p r o x i m a t i o n t h e m o t i o n M ( b )

t ? T

v a r i e s l i n e a r l y

b e t w e e n t h e t w o i m a g e s . T h e n , a c c o r d i n g t o e q . 1 , t h e i m a g e b l u r r e d b y t h e

m o t i o n ( A ; B ) c a n b e w r i t t e n a s :

I

M o t

t

( x ; y ) =

R

= t

= t ? T

I

i d e a l

t ? T

( u

; v

) d

w i t h

x

y

= A ( )

u

v

+ B ( )

a n d

A ( ) = ( A ? I ) + I , B ( ) = B

N o t e t h a t , o n c e t h e r e g i o n 2 D m o t i o n i s e s t i m a t e d , t h e t r a n s f o r m b e t w e e n a n

i m a g e a n d i t s m o t i o n - b l u r r e d v e r s i o n i s l i n e a r ( b u t n o t s p a t i a l l y i n v a r i a n t ) . T h u s

i t c a n b e w r i t t e n i n m a t r i x f o r m a s : I

M o t

= B I

i d e a l

.

D e b l u r r i n g a p p r o a c h : O n c e t h e m o v i n g o b j e c t i s t r a c k e d a n d i t s m o t i o n e s t i -

m a t e d , t h e i n f o r m a t i o n g a t h e r e d f r o m t h e m u l t i p l e i m a g e s c a n b e m e r g e d t o

e n h a n c e t h e i m a g e s o f t h e o b j e c t , a s s h o w n b y I r a n i a n d P e l e g 8 ] . T o t h i s e n d ,

w e u s e t h e i m a g e f o r m a t i o n p r o c e s s d e s c r i b e d e a r l i e r . A h i g h - r e s o l u t i o n d e b l u r r e d

i m a g e o f t h e o b j e c t i s i t e r a t i v e l y e s t i m a t e d b y m i n i m i s i n g t h e d i e r e n c e b e t w e e n

t h e r e a l o b s e r v e d i m a g e s a n d t h e c o r r e s p o n d i n g i m a g e s t h a t a r e p r e d i c t e d b y a p -

p l y i n g t h e m o d e l l e d i m a g e f o r m a t i o n p r o c e s s t o t h e c u r r e n t e s t i m a t i o n o f t h e

h i g h - r e s o l u t i o n i m a g e ( s e e g . 2 ) . O u r o p t i m i s a t i o n a p p r o a c h d i e r s f r o m 7 ] i n

t h a t i t d o e s n ' t u s e a n e x p l i c i t i n v e r s e l t e r - w h i c h c a n b e d i c u l t t o a p p r o x i m a t e

- o f t h e i m a g e d e g r a d a t i o n s i n t h e f e e d b a c k l o o p .


6/10

REAL IMAGES

SIMULATEDIMAGE FORMATION

PROCESS

REALIMAGE FORMATION

PROCESS

SIMULATED IMAGES

ESTIMATED RECONSTRUCTIONOF THE MOVING OBJECT

UNKNOWN IDEAL IMAGE OFTHE REAL MOVING OBJECT

OPTIMISATIONOF A

LEAST-SQUAREDISTANCE

BETWEEN THEREAL

&SIMULATED

IMAGES

F i g . 2 . D e b l u r r i n g a n d s u p e r - r e s o l u t i o n f r o m i m a g e s e q u e n c e s . G i v e n a n i n i -

t i a l e s t i m a t e o f t h e i d e a l i m a g e o f t h e o b j e c t , a n d h a v i n g e s t i m a t e d t h e o b j e c t ' s 2 D

m o t i o n b y t r a c k i n g , a p r e d i c t i o n o f t h e o b s e r v e d i m a g e s e q u e n c e c a n b e c o n s t r u c t e d b y

s i m u l a t i o n o f t h e i m a g e f o r m a t i o n p r o c e s s . T h e o p t i m i s a t i o n o f t h e r e c o n s t r u c t e d i d e a l

i m a g e i s t h e n p e r f o r m e d b y m i n i m i s i n g t h e d i e r e n c e b e t w e e n t h i s p r e d i c t e d a n d t h e

a c t u a l i m a g e s e q u e n c e . T h i s i s d o n e b y m i n i m i s a t i o n o f t h e c o r r e s p o n d i n g l e a s t - s q u a r e

c r i t e r i o n b y c o n j u g a t e g r a d i e n t d e s c e n t . A r e g u l a r i s a t i o n t e r m i s a l s o a d d e d , w h i c h e n -

s u r e s t h a t t h e r e c o n s t r u c t e d i m a g e i s n o t d o m i n a t e d b y p e r i o d i c n o i s e , a s c a n h a p p e n i f

t h e d e b l u r r i n g o f m o t i o n b l u r i s n o t d o n e c a r e f u l l y . T h e a d v a n t a g e o f t h i s m i n i m i s a t i o n

a p p r o a c h i s t h a t i t d o e s n o t r e q u i r e t h e c o n s t r u c t i o n o f i n v e r s e l t e r s f o r t h e d i e r e n t

i m a g e f o r m a t i o n a n d d e g r a d a t i o n p r o c e s s e s .

C o s t f u n c t i o n T h e c r i t e r i o n t o o p t i m i s e m e a s u r e s t h e d i s c r e p a n c y b e t w e e n t h e

r e a l o b s e r v e d i m a g e s R

i

a n d t h e i m a g e s S

i

s i m u l a t e d b y a p p l y i n g o u r i m a g e

f o r m a t i o n m o d e l ( d e s c r i b e d i n s e c t i o n 2 a n d e q . 4 ) t o t h e e s t i m a t e d \ i d e a l "

i m a g e I :

E =

P

N

i = 0

P

( x ; y ) 2 R

i

R

i

( x ; y ) ? S

i

( x ; y ) ]

2

+ :

P

( x ; y ) 2 I

2 I ( x ; y ) ? I ( x + 1 ; y ) ? I ( x ? 1 ; y ) ]

2

+ :

P

( x ; y ) 2 I

2 I ( x ; y ) ? I ( x ; y + 1 ) ? I ( x ; y ? 1 ) ]

2

w h e r e S

i

= " S

C C D

G

y

( x ; y ) G

x

( x ; y ) B

i

: I = D

i

I ]

w h e r e N i s t h e n u m b e r o f i m a g e s i n t h e s e q u e n c e . T h e s e c o n d t e r m a d d s

s e c o n d - o r d e r s m o o t h n e s s c o n s t r a i n t s o n t h e r e c o n s t r u c t e d i m a g e I . T h e s e c o n -

s t r a i n t s i m p r o v e t h e r o b u s t n e s s o f t h e m e t h o d t o n o i s e . I t a l s o i m p r o v e s t h e

c o n d i t i o n i n g a n d s t a b i l i t y o f t h e m i n i m i s a t i o n , w h i c h c a n b e i l l - c o n d i t i o n e d , e s -

p e c i a l l y b e c a u s e o f m o t i o n b l u r .


7/10

O p t i m i s a t i o n M i n i m i s a t i o n i s p e r f o r m e d b y a m u l t i d i m e n s i o n a l c o n j u g a t e g r a -

d i e n t m e t h o d . R e w r i t i n g E , i t s g r a d i e n t c a n b e w r i t t e n a s :

E =

N

X

i = 0

R

i

? D

i

I ]

2

+ : I H I a n d r =

N

X

i = 0

2 ( D

T

i

: D

i

? D

:

i

R

i

) : I ] + 2 H : I

w h e r e H i s a m a t r i x c o n t a i n i n g t h e s m o o t h n e s s c o n s t r a i n t s .

5 E x p e r i m e n t a l r e s u l t s

T h i s s e c t i o n i l l u s t r a t e s o u r a p p r o a c h t o a c h i e v e s u p e r - r e s o l u t i o n a n d d e b l u r r i n g

o f a m o v i n g o b j e c t u s i n g a s e q u e n c e o f i m a g e s , c o n s i d e r i n g b o t h o p t i c a l b l u r

a n d m o t i o n b l u r . A n a n e m o t i o n m o d e l i s c o n s i d e r e d . D o u b l e r e s o l u t i o n o f t h e

r e c o n s t r u c t e d i m a g e w i t h r e s p e c t t o t h e r e a l i m a g e s i s a c h i e v e d . T h e d e b l u r r i n g

a l g o r i t h m h a s b e e n a p p l i e d o n l y t o t h e r e g i o n o f i n t e r e s t i n t h e i m a g e , a n d t h e

r e s u l t s a r e s h o w n a s b l o w - u p s o f t h e s e r e g i o n s .

T h e r s t e x a m p l e i s r e l a t e d t o s u r v e i l l a n c e a p p l i c a t i o n s . A p e r s o n i s r u n n i n g

i n f r o n t o f t h e c a m e r a , i n d u c i n g m o t i o n b l u r i n t h e i m a g e ( s e e g . 3 ) . T h e p e r s o n ' s

f a c e i s t r a c k e d t h r o u g h f o u r i m a g e s a n d i t s 2 D a n e m o t i o n i s e s t i m a t e d ( s e e g .

3 ) . T h e s e m u l t i p l e r e g i o n s a n d m o t i o n e s t i m a t i o n s a r e t h e n u s e d t o p e r f o r m t h e

i n v e r s e l t e r i n g o f t h e m o t i o n b l u r o n t h e f a c e a n d t o a c h i e v e d o u b l e r e s o l u t i o n

f o r i t . T h e r e s u l t s ( s e e g . 4 ) s h o w a s i g n i c a n t i m p r o v e m e n t o f t h e l e v e l o f d e t a i l s

v i s i b l e o n t h e f a c e ( o b s e r v e t h e e a r a n d c h e e k s ) a n d g r e a t l y r e d u c e t h e s m e a r i n g

e e c t i n d u c e d b y m o t i o n b l u r . I t c a n b e n o t e d t h a t , w h e n m o t i o n b l u r o c c u r s ,

a v e r a g i n g t h e i m a g e s e q u e n c e a f t e r r e g i s t r a t i o n ( w h i c h i s a s t a n d a r d m e t h o d t o

i n c r e a s e r e s o l u t i o n ) g i v e s a n e v e n m o r e s m e a r e d i m a g e .

T h e s e c o n d e x a m p l e ( s e e g . 5 ) s h o w s t h e r e m o v a l o f b l u r f r o m s c r i p t i m -

a g e s . T h e o r i g i n a l i m a g e s ( a , b , d e t a i l A ) a r e l o w - r e s o l u t i o n a n d m o t i o n b l u r r e d .

O u r m e t h o d ( B ) p r o d u c e s a d e b l u r r e d a n d d o u b l e r e s o l u t i o n i m a g e o f t h e l a b e l

\ p a s t a " , u s i n g t h e t e n i m a g e s o f t h e s e q u e n c e . T h e l a b e l i s v i s i b l y i m p r o v e d .

6 C o n c l u s i o n

T h i s p a p e r h a s p r e s e n t e d a n e w m e t h o d f o r m o t i o n d e b l u r r i n g , f o c u s d e b l u r r i n g

a n d s u p e r - r e s o l u t i o n f r o m i m a g e s e q u e n c e s . P r e v i o u s r e s e a r c h h a s a d d r e s s e d c o -

p i o u s l y t h e p r o b l e m o f r e c o v e r y f r o m t h e s e i n d i v i d u a l d e g r a d a t i o n s , b u t h e r e i t

h a s p r o v e d c r u c i a l t o a d d r e s s t h e t h r e e d e g r a d a t i o n s a b o v e s i m u l t a n e o u s l y . I n

p a r t i c u l a r , m o t i o n b l u r p l a y s a k e y r o l e i n i m a g e d e g r a d a t i o n . A n a n e m o t i o n

b l u r i s c o n s i d e r e d , c o n t r a r y t o s t a n d a r d s t u d i e s l i m i t e d t o p u r e l y t r a n s l a t i o n a l

m o t i o n s . T h e m o t i o n b l u r i s n o t a s s u m e d t o b e k n o w n ; i n d e e d i t i s a c t u a l l y d e -

r i v e d f r o m t h e e s t i m a t e d o b j e c t m o t i o n . T h e m e t h o d o l o g y h a s b e e n i l l u s t r a t e d

b y e x p e r i m e n t a l r e s u l t s . I n t h e f u t u r e , i t i s p r o p o s e d t o e x t e n d m o d e l l i n g t o

3 D m o t i o n , n e c e s s a r y f o r l a r g e r b a s e l i n e s w i t h n o n - p l a n a r o b j e c t s . A n o t h e r a r e a

o f f u t u r e r e s e a r c h c o n c e r n s m o r e a m b i t i o u s a p p l i c a t i o n s o f t h e r e c o n s t r u c t i o n

m e t h o d . O n e t h a t i s p a r t i c u l a r l y a p p e a l i n g i s t o r e c o n s t r u c t n o t m e r e l y a s i n g l e

f r a m e b u t a n e n t i r e s e q u e n c e , b y r e i n t e g r a t i n g t h e e s t i m a t e d \ i d e a l " i m a g e o v e r

t h e r e c o v e r e d a n e m o t i o n e l d . T h i s w o u l d a l l o w , f o r i n s t a n c e , t h e r e g e n e r a t i o n

o f s l o w - m o t i o n \ a c t i o n r e p l a y " s e q u e n c e s u n d e g r a d e d b y e x c e s s i v e m o t i o n b l u r .


8/10

T i m e 0 T i m e 4 0 m s T i m e 8 0 m s

T i m e 1 2 0 m s T r a c k e d r e g i o n

F i g . 3 . D e b l u r r i n g m o t i o n b l u r a n d s u p e r - r e s o l u t i o n f r o m a n i m a g e s e -

q u e n c e . I n i t i a l l o w - r e s o l u t i o n i m a g e s e q u e n c e , t a k e n a t v i d e o r a t e . O n l y e v e n e l d s a r e

r e t a i n e d . B e c a u s e t h e c a m e r a i s n o t e q u i p p e d w i t h a n e l e c t r o n i c s h u t t e r , m o t i o n b l u r

i n t h e i m a g e i s s i g n i c a n t . H e r e t h e f a c e i s t r a c k e d b y a n a r e a - b a s e d d e f o r m a b l e r e g i o n

w i t h a n a n e m o t i o n m o d e l . A s c a n b e s e e n f r o m t h e t r a j e c t o r i e s , h e r e t h e m o t i o n i s

r e a l l y a n e a n d n o t p u r e l y t r a n s l a t i o n a l .

R e f e r e n c e s

1 . B . B a s c l e a n d R . D e r i c h e . R e g i o n t r a c k i n g t h r o u g h i m a g e s e q u e n c e s . P r o c e e d i n g s

o f t h e 5 t h I n t e r n a t i o n a l C o n f e r e n c e o n C o m p u t e r V i s i o n ( I C C V ' 9 5 ) , B o s t o n , U S A ,

J u n e 1 9 9 5 .

2 . M . B e r t h o d , H . S h e k a r f o r o u s h , M . W e r m a n , a n d J . Z e r u b i a . R e c o n s t r u c t i o n o f

H i g h R e s o l u t i o n 3 D V i s u a l I n f o r m a t i o n . R a p p o r t d e R e c h e r c h e 2 1 4 2 , I N R I A , D e c

1 9 9 3 .

3 . F a u g e r a s , O . T h r e e - d i m e n s i o n a l c o m p u t e r v i s i o n : a g e o m e t r i c v i e w p o i n t . M I T

P r e s s , 1 9 9 3 .

4 . R . C . G o n z a l e z a n d R . E . W o o d s . D i g i t a l I m a g e P r o c e s s i n g . A d d i s o n W e s l e y , 1 9 9 3 .


9/10

a . 4 t h i m a g e b . D e b l u r r e d i m a g e


q u e n c e . T h e o r i g i n a l i m a g e s ( a ) a r e l o w - r e s o l u t i o n a n d m o t i o n b l u r r e d . O u r m e t h o d

( b ) p r o d u c e s a d e b l u r r e d a n d s u p e r - r e s o l u t i o n ( h e r e d o u b l e ) i m a g e o f t h e f a c e , u s i n g

t h e f o u r i m a g e s o f t h e s e q u e n c e . D e t a i l s s u c h a s t h e n o s e a n d e a r a r e r e t r i e v e d .

5 . D . G r o s s . S u p e r - r e s o l u t i o n f r o m S u b - p i x e l S h i f t e d P i c t u r e s . M a s t e r ' s t h e s i s , T e l -

A v i v U n i v e r s i t y , O c t 1 9 8 6 .

6 . T . H u a n g a n d R . T s a i . A d v a n c e s i n C o m p u t e r V i s i o n a n d I m a g e P r o c e s s i n g , v o l -

u m e 1 , c h a p t e r M u l t i f r a m e I m a g e R e s t o r a t i o n a n d R e g i s t r a t i o n , p a g e s 3 1 7 { 3 3 9 .

J A I P r e s s I n c , 1 9 8 4 .

7 . M . I r a n i a n d S . P e l e g . I m p r o v i n g R e s o l u t i o n b y I m a g e R e g i s t r a t i o n .

C V G I P : G M I P , 5 3 ( 3 ) : 2 3 1 { 2 3 9 , M a y 1 9 9 1 .

8 . M . I r a n i a n d S . P e l e g . M o t i o n A n a l y s i s f o r I m a g e E n h a n c e m e n t : R e s o l u t i o n , O c -

c l u s i o n , a n d T r a n s p a r e n c y . J o u r n a l o f V i s u a l C o m m u n i c a t i o n a n d I m a g e R e p r e -

s e n t a t i o n , 4 ( 4 ) : 3 2 4 { 3 3 5 , D e c e m b e r 1 9 9 3 .

9 . D . K e r e n , S . P e l e g , a n d R . B r a d a . I m a g e S e q u e n c e E n h a n c e m e n t U s i n g S u b - p i x e l

D i s p l a c e m e n t . I n P r o c . o f I n t e r n a t i o n a l C o n f e r e n c e o n C o m p u t e r V i s i o n a n d P a t -

t e r n R e c o g n i t i o n ( C V P R ' 8 8 ) , p a g e s 7 4 2 { 7 4 6 , A n n A r b o r , M i c h i g a n , J u n e 1 9 8 8 .

1 0 . M . M . S o n d h i . I m a g e R e s t o r a t i o n : T h e R e m o v a l o f S p a t i a l l y I n v a r i a n t D e g r a d a -

t i o n s . P r o c . I E E E , 6 0 ( 7 ) : 8 4 2 { 8 5 3 , 1 9 7 2 .


10/10

a . I m a g e 1 b . I m a g e 1 0

A . D e t a i l o f I m a g e 1 B . D e b l u r r e d d e t a i l


q u e n c e . T h e o r i g i n a l i m a g e s ( s e e d e t a i l A ) a r e v e r y l o w - r e s o l u t i o n a n d m o t i o n b l u r r e d .

O u r m e t h o d ( B ) p r o d u c e s a d e b l u r r e d a n d d o u b l e r e s o l u t i o n i m a g e o f t h e l a b e l \ p a s t a " ,

u s i n g t h e 1 0 i m a g e s o f t h e s e q u e n c e . T h e l a b e l i s n o w m o r e e a s i l y r e a d a b l e t h a n b e f o r e .

T h i s a r t i c l e w a s p r o c e s s e d u s i n g t h e L

A

T

E

X m a c r o p a c k a g e w i t h E C C V ' 9 6 s t y l e

01.04.Motion Deblurring and Super-resolution From an Image Sequence

Documents

Transcript of 01.04.Motion Deblurring and Super-resolution From an Image Sequence