Software Reliability via Run-Time Result-Checking

8/14/2019 Software Reliability via Run-Time Result-Checking

1/24

S o f t w a r e R e l i a b i l i t y v i a R u n - T i m e R e s u l t - C h e c k i n g

H a l W a s s e r m a n

U n i v e r s i t y o f C a l i f o r n i a , B e r k e l e y

a n d

M a n u e l B l u m

C i t y U n i v e r s i t y o f H o n g K o n g a n d

U n i v e r s i t y o f C a l i f o r n i a , B e r k e l e y

W e r e v i e w t h e e l d o f r e s u l t - c h e c k i n g , d i s c u s s i n g s i m p l e c h e c k e r s a n d s e l f - c o r r e c t o r s . W e

a r g u e t h a t s u c h c h e c k e r s c o u l d p r o t a b l y b e i n c o r p o r a t e d i n s o f t w a r e a s a n a i d t o e c i e n t d e b u g -

g i n g a n d e n h a n c e d r e l i a b i l i t y . W e c o n s i d e r h o w t o m o d i f y t r a d i t i o n a l c h e c k i n g m e t h o d o l o g i e s t o

m a k e t h e m m o r e a p p r o p r i a t e f o r u s e i n r e a l - t i m e , r e a l - n u m b e r c o m p u t e r s y s t e m s . I n p a r t i c u l a r ,

w e s u g g e s t t h a t c h e c k e r s s h o u l d b e a l l o w e d t o u s e s t o r e d r a n d o m n e s s : i . e . , t h a t t h e y s h o u l d

b e a l l o w e d t o g e n e r a t e , p r e p r o c e s s , a n d s t o r e r a n d o m b i t s p r i o r t o r u n - t i m e , a n d t h e n t o u s e

t h i s i n f o r m a t i o n r e p e a t e d l y i n a s e r i e s o f r u n - t i m e c h e c k s . I n a c a s e s t u d y o f c h e c k i n g a g e n -

e r a l r e a l - n u m b e r l i n e a r t r a n s f o r m a t i o n ( f o r e x a m p l e , a F o u r i e r T r a n s f o r m ) , w e p r e s e n t a s i m p l e

c h e c k e r w h i c h u s e s s t o r e d r a n d o m n e s s , a n d a s e l f - c o r r e c t o r w h i c h i s p a r t i c u l a r l y e c i e n t i f s t o r e d

r a n d o m n e s s i s e m p l o y e d .

C a t e g o r i e s a n d S u b j e c t D e s c r i p t o r s : D . 2 . 5 S o f t w a r e E n g i n e e r i n g ] : T e s t i n g a n d D e b u g g i n g ;

F . 2 . 1 A n a l y s i s o f A l g o r i t h m s ] : N u m e r i c a l A l g o r i t h m s | C o m p u t a t i o n o f t r a n s f o r m s ; F . 3 . 1

L o g i c s a n d M e a n i n g s o f P r o g r a m s ] : S p e c i f y i n g a n d V e r i f y i n g a n d R e a s o n i n g a b o u t P r o g r a m s

G e n e r a l T e r m s : R e l i a b i l i t y , A l g o r i t h m s , V e r i c a t i o n

A d d i t i o n a l K e y W o r d s a n d P h r a s e s : B u i l t - i n t e s t i n g , c o n c u r r e n t e r r o r d e t e c t i o n , d e b u g g i n g , f a u l t

t o l e r a n c e , F o u r i e r T r a n s f o r m , r e s u l t - c h e c k i n g , s e l f - c o r r e c t i n g

T h i s w o r k w a s s u p p o r t e d i n p a r t b y a M I C R O g r a n t f r o m H u g h e s A i r c r a f t C o m p a n y a n d t h e

S t a t e o f C a l i f o r n i a , b y N S F G r a n t c c r 9 2 - 0 1 0 9 2 , a n d b y N D S E G F e l l o w s h i p d a a h 0 4 - 9 3 - g - 0 2 6 7 .

A p r e l i m i n a r y v e r s i o n o f t h i s p a p e r a p p e a r s a s : \ P r o g r a m r e s u l t - c h e c k i n g : a t h e o r y o f t e s t i n g

m e e t s a t e s t o f t h e o r y , " P r o c . 3 5 t h I E E E S y m p . F o u n d a t i o n s o f C o m p u t e r S c i e n c e ( 1 9 9 4 ) , p p .

3 8 2 { 3 9 2 .

N a m e : H a l W a s s e r m a n

A l i a t i o n : C o m p u t e r S c i e n c e D i v i s i o n , U n i v e r s i t y o f C a l i f o r n i a a t B e r k e l e y

A d d r e s s : B e r k e l e y , C A 9 4 7 2 0 , h a l w @ c s . b e r k e l e y . e d u , h t t p . c s . b e r k e l e y . e d u / h a l w

N a m e : M a n u e l B l u m

A l i a t i o n : C o m p u t e r S c i e n c e D e p a r t m e n t , C i t y U n i v e r s i t y o f H o n g K o n g

A d d r e s s : 8 3 T a t C h e e A v e . , K o w l o o n T o n g , K o w l o o n , H o n g K o n g , c s b l u m @ c i t y u . e d u . h k

A l i a t i o n : C o m p u t e r S c i e n c e D i v i s i o n , U n i v e r s i t y o f C a l i f o r n i a a t B e r k e l e y

A d d r e s s : B e r k e l e y , C A 9 4 7 2 0 , b l u m @ c s . b e r k e l e y . e d u , h t t p . c s . b e r k e l e y . e d u / b l u m

P e r m i s s i o n t o m a k e d i g i t a l o r h a r d c o p i e s o f p a r t o r a l l o f t h i s w o r k f o r p e r s o n a l o r c l a s s r o o m u s e i s

g r a n t e d w i t h o u t f e e p r o v i d e d t h a t c o p i e s a r e n o t m a d e o r d i s t r i b u t e d f o r p r o t o r d i r e c t c o m m e r c i a l

a d v a n t a g e a n d t h a t c o p i e s s h o w t h i s n o t i c e o n t h e r s t p a g e o r i n i t i a l s c r e e n o f a d i s p l a y a l o n g

w i t h t h e f u l l c i t a t i o n . C o p y r i g h t s f o r c o m p o n e n t s o f t h i s w o r k o w n e d b y o t h e r s t h a n A C M m u s t

b e h o n o r e d . A b s t r a c t i n g w i t h c r e d i t i s p e r m i t t e d . T o c o p y o t h e r w i s e , t o r e p u b l i s h , t o p o s t o n

s e r v e r s , t o r e d i s t r i b u t e t o l i s t s , o r t o u s e a n y c o m p o n e n t o f t h i s w o r k i n o t h e r w o r k s , r e q u i r e s p r i o r

s p e c i c p e r m i s s i o n a n d / o r a f e e . P e r m i s s i o n s m a y b e r e q u e s t e d f r o m P u b l i c a t i o n s D e p t , A C M

I n c . , 1 5 1 5 B r o a d w a y , N e w Y o r k , N Y 1 0 0 3 6 U S A , f a x + 1 ( 2 1 2 ) 8 6 9 - 0 4 8 1 , o r p e r m i s s i o n s @ a c m . o r g


2/24

2 H . W a s s e r m a n a n d M . B l u m

1 . R E S U L T - C H E C K I N G A N D I T S A P P L I C A T I O N S

1 . 1 A s s u r i n g S o f t w a r e R e l i a b i l i t y

M e t h o d o l o g i e s f o r a s s u r i n g s o f t w a r e r e l i a b i l i t y f o r m a n i m p o r t a n t p a r t o f t h e t e c h -

n o l o g y o f p r o g r a m m i n g . Y e t t h e p r o b l e m o f e c i e n t l y i d e n t i f y i n g s o f t w a r e b u g s

r e m a i n s a d i c u l t o n e , a n d o n e t o w h i c h n o p e r f e c t s o l u t i o n i s l i k e l y t o b e f o u n d .

S o f t w a r e i s g e n e r a l l y d e b u g g e d v i a t e s t i n g s u i t e s : o n e r u n s a p r o g r a m o n a

v a r i e t y o f c a r e f u l l y s e l e c t e d i n p u t s , i d e n t i f y i n g a b u g w h e n e v e r t h e p r o g r a m f a i l s

t o p e r f o r m c o r r e c t l y . T h i s a p p r o a c h l e a v e s t w o i m p o r t a n t q u e s t i o n s i n c o m p l e t e l y

a n s w e r e d .

F i r s t , h o w d o w e k n o w w h e t h e r o r n o t t h e p r o g r a m ' s p e r f o r m a n c e i s c o r r e c t ?

G e n e r a l l y , s o m e s o r t o f a n o r a c l e i s u s e d h e r e : o u r p r o g r a m ' s o u t p u t m a y b e

c o m p a r e d t o t h e o u t p u t o f a n o l d e r , s l o w e r p r o g r a m b e l i e v e d t o b e m o r e r e l i a b l e ,

o r t h e p r o g r a m m e r s m a y s u b j e c t t h e o u t p u t t o a p a i n s t a k i n g ( a n d l i k e l y s u b j e c t i v e

a n d i n c o m p l e t e ) e x a m i n a t i o n b y e y e .

S e c o n d , g i v e n t h a t a t e s t s u i t e f e e d s a p r o g r a m o n l y s e l e c t e d i n p u t s o u t o f t h e

o f t e n e n o r m o u s s p a c e o f a l l p o s s i b i l i t i e s , h o w d o w e a s s u r e t h a t e v e r y b u g i n t h e

c o d e w i l l b e e v i d e n c e d ? I n d e e d , p a r t i c u l a r c o m b i n a t i o n s o f c i r c u m s t a n c e s l e a d i n g t o

a f a i l u r e m a y w e l l g o u n t e s t e d . F u r t h e r m o r e , i f t h e t e s t i n g s u i t e f a i l s t o a c c u r a t e l y

s i m u l a t e t h e i n p u t d i s t r i b u t i o n w h i c h t h e p r o g r a m w i l l e n c o u n t e r i n i t s l i f e t i m e , a

s u p p o s e d l y d e b u g g e d p r o g r a m m a y i n f a c t f a i l q u i t e f r e q u e n t l y .

O n e a l t e r n a t i v e t o t e s t i n g i s f o r m a l v e r i c a t i o n , a m e t h o d o l o g y i n w h i c h m a t h -

e m a t i c a l c l a i m s a b o u t t h e b e h a v i o r o f a p r o g r a m a r e s t a t e d a n d p r o v e d . T h u s i t i s

p o s s i b l e t o d e m o n s t r a t e o n c e a n d f o r a l l t h a t t h e p r o g r a m m u s t b e h a v e c o r r e c t l y

o n a l l p o s s i b l e i n p u t s . U n f o r t u n a t e l y , c o n s t r u c t i n g s u c h p r o o f s f o r e v e n s i m p l e

p r o g r a m s h a s p r o v e d u n e x p e c t e d l y d i c u l t . M o r e o v e r , m a n y p r o g r a m m e r s w o u l d

l i k e l y n d i t u n p l e a s a n t t o h a v e t o f o r m a l i z e t h e i r e x p e c t a t i o n s o f p r o g r a m b e h a v i o r

i n t o m a t h e m a t i c a l t h e o r e m s .

A n o t h e r a l t e r n a t i v e i s f a u l t t o l e r a n c e . A c c o r d i n g t o t h i s m e t h o d o l o g y , t h e r e -

l i a b i l i t y o f c r i t i c a l s o f t w a r e m a y b e e n h a n c e d b y h a v i n g s e v e r a l g r o u p s o f p r o g r a m -

m e r s c r e a t e s e p a r a t e v e r s i o n s . A t r u n - t i m e , a l l o f t h e v e r s i o n s a r e e x e c u t e d , a n d

t h e i r o u t p u t s a r e c o m p a r e d . T h e g r o s s i n e c i e n c y o f t h i s a p p r o a c h i s e v i d e n t , i n

t e r m s o f p r o g r a m m i n g m a n p o w e r a s w e l l a s e i t h e r i n c r e a s e d r u n - t i m e o r a d d i t i o n a l

p a r a l l e l - h a r d w a r e r e q u i r e m e n t s . M o r e o v e r , t h e m e t h o d f a i l s i f c o m m o n m i s c o n c e p -

t i o n s a m o n g t h e s e v e r a l d e v e l o p m e n t g r o u p s r e s u l t i n c o r r e s p o n d i n g e r r o r s B u t l e r

a n d F i n e l l i 1 9 9 3 ] .

W e n d m o r e c o n v i n c i n g i n s p i r a t i o n i n t h e e l d o f c o m m u n i c a t i o n s , w h e r e e r r o r -

d e t e c t i n g a n d e r r o r - c o r r e c t i n g c o d e s a l l o w f o r t h e i d e n t i c a t i o n o f a r b i t r a r y

r u n - t i m e t r a n s m i s s i o n e r r o r s . S u c h c o d e s a r e p r a g m a t i c a n d a r e b a c k e d b y m a t h e -

m a t i c a l g u a r a n t e e s o f r e l i a b i l i t y .

W e w i s h t o p r o v i d e s u c h r u n - t i m e e r r o r - i d e n t i c a t i o n i n a m o r e g e n e r a l c o m p u -

t a t i o n a l c o n t e x t . T h i s m o t i v a t e s u s t o r e v i e w t h e e l d o f r e s u l t - c h e c k i n g .

1 . 2 S i m p l e C h e c k e r s

I t i s a m a t t e r o f t h e o r e t i c a l c u r i o s i t y t h a t , f o r c e r t a i n c o m p u t a t i o n s , t h e t i m e r e -

q u i r e d t o c a r r y o u t t h e c o m p u t a t i o n i s a s y m p t o t i c a l l y g r e a t e r t h a n t h e t i m e r e -

q u i r e d , g i v e n a t e n t a t i v e a n s w e r , t o d e t e r m i n e w h e t h e r o r n o t t h e a n s w e r i s c o r r e c t .


3/24

S o f t w a r e R e l i a b i l i t y v i a R u n - T i m e R e s u l t - C h e c k i n g 3

A s a n e a s y e x a m p l e , c o n s i d e r t h e f o l l o w i n g t a s k : g i v e n a s i n p u t a c o m p o s i t e i n t e g e r

c , o u t p u t a n y n o n - t r i v i a l f a c t o r d o f c . C a r r y i n g o u t t h i s c o m p u t a t i o n i s c u r r e n t l y

b e l i e v e d t o b e d i c u l t , a n d y e t , g i v e n I / O p a i r h c ; d i , i t t a k e s j u s t o n e d i v i s i o n t o

d e t e r m i n e w h e t h e r o r n o t d i s a c o r r e c t o u t p u t o n i n p u t c .

T h e s e i d e a s h a v e b e e n f o r m a l i z e d i n t o t h e c o n c e p t o f a s i m p l e c h e c k e r B l u m

1 9 8 8 ] . L e t f b e a f u n c t i o n w i t h s m a l l e s t p o s s i b l e c o m p u t a t i o n t i m e T ( n ) , w h e r e n

i s i n p u t l e n g t h ( o r , i f a s t r o n g l o w e r b o u n d c a n n o t b e d e t e r m i n e d , w e i n f o r m a l l y

s e t T ( n ) e q u a l t o t h e s m a l l e s t k n o w n c o m p u t a t i o n t i m e f o r f ) . T h e n a s i m p l e

c h e c k e r f o r f i s a n a l g o r i t h m ( g e n e r a l l y r a n d o m i z e d ) w i t h I / O s p e c i c a t i o n s a s

f o l l o w s :

| I n p u t : I / O p a i r h x ; y i .

| C o r r e c t o u t p u t : I f y = f ( x ) , a c c e p t ; o t h e r w i s e , r e j e c t .

| R e l i a b i l i t y : F o r a l l h x ; y i : o n i n p u t h x ; y i t h e c h e c k e r m u s t r e t u r n c o r r e c t o u t p u t

w i t h p r o b a b i l i t y ( o v e r i n t e r n a l r a n d o m i z a t i o n ) p

c

, f o r p

c

a c o n s t a n t c l o s e t o 1 .

| \ L i t t l e - o r u l e " : T h e c h e c k e r i s l i m i t e d t o t i m e o ( T ( n ) ) .

T h e \ l i t t l e - o r u l e " i s i m p o r t a n t i n t h a t i t r e q u i r e s a s i m p l e c h e c k e r t o b e e c i e n t ,

a n d a l s o i n t h a t i t f o r c e s t h e c h e c k e r t o d e t e r m i n e w h e t h e r o r n o t y = f ( x ) b y m e a n s

o t h e r t h a n s i m p l y r e c o m p u t i n g f ( x ) ; h e n c e t h e c h e c k e r m u s t b e i n s o m e m a n n e r

d i e r e n t f r o m t h e p r o g r a m w h i c h i t c h e c k s . W e w i l l s e e i n S e c t i o n 1 . 5 t h a t t h i s

g i v e s r i s e t o c e r t a i n h o p e s t h a t c h e c k e r s a r e i n d e e d \ i n d e p e n d e n t " o f t h e p r o g r a m s

t h e y c h e c k , a n d s o m a y m o r e r e l i a b l y i d e n t i f y p r o g r a m e r r o r s .

1

F o r a n e x a m p l e o f s i m p l e c h e c k i n g , c o n s i d e r a s o r t i n g t a s k : i n p u t ~x = ( x

1

; : : : ; x

n

)

i s a n a r r a y o f i n t e g e r s ; o u t p u t ~y = ( y

1

; : : : ; y

n

) s h o u l d b e ~x s o r t e d i n i n c r e a s i n g o r -

d e r . C o m p l e t i n g t h i s t a s k | a t l e a s t v i a a g e n e r a l c o m p a r i s o n - b a s e d s o r t | i s k n o w n

t o r e q u i r e t i m e ( n l o g n ) . T h u s , i f w e l i m i t o u r c h e c k e r t o t i m e O ( n ) , t h i s w i l l

s u c e t o s a t i s f y t h e l i t t l e - o r u l e .

G i v e n h ~ x ; ~ y i , t o c h e c k c o r r e c t n e s s w e m u s t r s t v e r i f y t h a t t h e e l e m e n t s o f ~y

a r e i n i n c r e a s i n g o r d e r . T h i s m a y e a s i l y b e d o n e i n t i m e O ( n ) . B u t w e m u s t a l s o

c h e c k t h a t ~y i s a p e r m u t a t i o n o f ~x . I t m i g h t b e c o n v e n i e n t h e r e t o m o d i f y o u r

s o r t e r ' s I / O s p e c i c a t i o n s , r e q u i r i n g t h a t e a c h e l e m e n t o f ~y h a v e a t t a c h e d a p o i n t e r

t o i t s o r i g i n a l p o s i t i o n i n ~x . A n y n a t u r a l s o r t i n g p r o g r a m c o u l d e a s i l y b e a l t e r e d

t o m a i n t a i n s u c h p o i n t e r s , a n d o n c e t h e y a r e a v a i l a b l e w e c a n r e a d i l y c o m p l e t e o u r

c h e c k i n t i m e O ( n ) .

B u t w h a t i f ~y c a n n o t b e a u g m e n t e d w i t h s u c h p o i n t e r s ? S i m i l a r l y , w h a t i f ~x

a n d ~y a r e o n l y a v a i l a b l e o n - l i n e f r o m s e q u e n t i a l s t o r a g e , s o t h a t O ( 1 ) - t i m e p o i n t e r -

d e r e f e r e n c i n g i s n o t p o s s i b l e ? T h e n w e m a y s t i l l e m p l o y a r a n d o m i z e d m e t h o d d u e

t o W e g m a n a n d C a r t e r 1 9 8 1 ; B l u m 1 9 8 8 ] , w h i c h r e q u i r e s o n l y o n e p a s s t h r o u g h

e a c h o f ~x a n d ~y .

1

V a r i a n t s o f t h e l i t t l e - o r u l e h a v e a l s o b e e n c o n s i d e r e d : f o r e x a m p l e , r e q u i r i n g c h e c k e r s t o u s e

l e s s s p a c e t h a n t h e p r o g r a m s t h e y c h e c k , o r t o b e i m p l e m e n t a b l e w i t h s m a l l e r - d e p t h c i r c u i t s . F o r

e x a m p l e , a r a t h e r t r i v i a l r e s u l t i s t h a t , i f t h e s u c c e s s i v e c o n g u r a t i o n s o f a n a r b i t r a r y T u r i n g

M a c h i n e c o m p u t a t i o n a r e a v a i l a b l e , t h e n t h e c o m p u t a t i o n m a y b e c h e c k e d b y a v e r y s h a l l o w

c i r c u i t . U n f o r t u n a t e l y , i t i s o n l y t h e m e c h a n i c a l o p e r a t i o n o f t h e T u r i n g M a c h i n e w h i c h i s b e i n g

c h e c k e d h e r e , n o t t h e c o r r e c t n e s s o f t h e T u r i n g M a c h i n e ' s p r o g r a m . H e n c e w e r e t u r n t o t h e

t r a d i t i o n a l l i t t l e - o r u l e , w h i c h h a s g e n e r a l l y p r o v e d t o b e t h e b e s t r o u t e t o c r e a t i v e , n o n - t r i v i a l

c h e c k e r s .


4/24


W e r a n d o m l y s e l e c t a d e t e r m i n i s t i c h a s h - f u n c t i o n h f r o m a s u i t a b l y d e n e d s e t

o f p o s s i b i l i t i e s ,

2

a n d w e c o m p a r e h ( x

1

) + + h ( x

n

) w i t h h ( y

1

) + + h ( y

n

) . I f ~y

i s i n d e e d a p e r m u t a t i o n o f ~x , t h e t w o v a l u e s m u s t b e e q u a l ; c o n v e r s e l y , i t i s r e a d i l y

p r o v e n t h a t , i f ~y i s n o t a p e r m u t a t i o n o f ~x , t h e t w o v a l u e s w i l l d i e r w i t h p r o b a b i l i t y

1

2

. T h u s , i f w e a c c e p t o n l y h ~ x ; ~ y i p a i r s w h i c h p a s s t s u c h t r i a l s , t h e n o u r c h e c k e r

h a s p r o b a b i l i t y o f e r r o r

1

2

t

, w h i c h m a y b e m a d e a r b i t r a r i l y s m a l l .

A n a l n o t e : o u r d e n i t i o n o f s i m p l e c h e c k i n g i s n o t n e w , b u t h a s p e r h a p s n o t

b e e n c l e a r l y e x p r e s s e d i n t h e c h e c k i n g l i t e r a t u r e . I n p a r t i c u l a r , s i m p l e c h e c k i n g

h a s b e e n d e n e d o n l y i m p l i c i t l y , a s t h e m o s t e c i e n t c a s e o f c o m p l e x c h e c k i n g

( S e c t i o n 1 . 3 ) . H e r e o u r p a r t i c u l a r i n t e r e s t i n v e r y f a s t c h e c k i n g h a s l e d u s t o b r i n g

o u t t h i s d i s t i n c t i o n .

1 . 3 S e l f - C o r r e c t o r s

A g a i n l e t f b e a f u n c t i o n w i t h s m a l l e s t ( k n o w n ) c o m p u t a t i o n t i m e T ( n ) . L e t D

b e a w e l l - d e n e d p r o b a b i l i t y d i s t r i b u t i o n o n i n p u t s t o f , a n d l e t P b e a p r o g r a m

s u c h t h a t , i f x i s c h o s e n D - r a n d o m l y , P ( x ) e q u a l s f ( x ) w i t h p r o b a b i l i t y o f e r r o r

l i m i t e d t o a s m a l l v a l u e p . I n t h e c u r r e n t p a p e r , D w i l l a l w a y s b e t h e u n i f o r m -

r a n d o m d i s t r i b u t i o n ; s o w e a r e r e q u i r i n g s i m p l y t h a t P c o m p u t e s f c o r r e c t l y o n

m o s t i n p u t s .

T h a t P i n d e e d h a s t h i s p r o p e r t y m a y b e d e t e r m i n e d ( w i t h h i g h p r o b a b i l i t y ) b y

t e s t i n g P o n

1

p

D - r a n d o m i n p u t s a n d u s i n g s o m e s o r t o f a n o r a c l e | o r a s i m p l e

c h e c k e r | t o d e t e r m i n e t h e c o r r e c t n e s s o f e a c h o u t p u t . W e e n v i s i o n t h i s t e s t i n g

s t a g e a s b e i n g c o m p l e t e d p r i o r t o r u n - t i m e . A n o t h e r p o s s i b i l i t y i s t h e u s e o f a s e l f -

t e s t e r B l u m e t a l . 1 9 9 3 ] , w h i c h c a n g i v e s u c h a s s u r a n c e s e c i e n t l y , a t r u n - t i m e ,

a n d w i t h l i t t l e r e l i a n c e o n a n y o u t s i d e o r a c l e .

A s e l f - c o r r e c t o r f o r f B l u m e t a l . 1 9 9 3 ; L i p t o n 1 9 9 1 ] i s t h e n a n a l g o r i t h m

( g e n e r a l l y r a n d o m i z e d ) w i t h I / O s p e c i c a t i o n s a s f o l l o w s :

| I n p u t : x ( a n i n p u t t o f ) , a l o n g w i t h P , a p r o g r a m k n o w n t o c o m p u t e f w i t h

p r o b a b i l i t y o f e r r o r o n D - r a n d o m i n p u t s l i m i t e d t o a s m a l l v a l u e p . T h e c o r r e c t o r

i s a l l o w e d t o c a l l P r e p e a t e d l y , u s i n g i t a s a s u b r o u t i n e .

| C o r r e c t o u t p u t : f ( x ) .

| R e l i a b i l i t y : F o r a l l h x ; P i : o n i n p u t h x ; P i t h e c o r r e c t o r m u s t r e t u r n c o r r e c t

o u t p u t w i t h p r o b a b i l i t y ( o v e r i n t e r n a l r a n d o m i z a t i o n ) p

c

, f o r p

c

a c o n s t a n t

c l o s e t o 1 .

| T i m e - b o u n d : T h e c o r r e c t o r ' s t i m e - b o u n d , i n c l u d i n g s u b r o u t i n e c a l l s t o P , m u s t

b e l i m i t e d t o a c o n s t a n t m u l t i p l e o f P ' s t i m e - b o u n d ; t h e c o r r e c t o r ' s t i m e - b o u n d ,

c o u n t i n g e a c h s u b r o u t i n e c a l l t o P a s j u s t o n e s t e p , m u s t b e o ( T ( n ) ) .

A s a n e x a m p l e B l u m e t a l . 1 9 9 3 ] , c o n s i d e r a t a s k o f m u l t i p l i c a t i o n o v e r a n i t e

e l d : i n p u t i s w ; x 2 F ; o u t p u t i s p r o d u c t w x 2 F . W e a s s u m e a d d i t i o n o v e r F t o

b e q u i c k e r a n d m o r e r e l i a b l e t h a n m u l t i p l i c a t i o n .

A s s u m e w e k n o w f r o m t e s t i n g t h a t p r o g r a m P c o m p u t e s m u l t i p l i c a t i o n c o r r e c t l y

f o r a l l b u t a

1

1 0 0

f r a c t i o n o f p o s s i b l e h w ; x i i n p u t s . ( N o t e t h a t t h i s k n o w l e d g e i s

2

A r a t h e r u n u s u a l s e t o f h a s h f u n c t i o n s i s r e q u i r e d ; m o r e o v e r , t h e t i m e r e q u i r e d t o c a l c u l a t e h ,

a n d h e n c e t o c o m p l e t e a c h e c k , i s d e b a t a b l e . R e f e r t o B l u m 1 9 8 8 ] f o r d e t a i l s .


5/24


i n i t s e l f o n l y a v e r y w e a k a s s u r a n c e o f t h e r e l i a b i l i t y o f P , a s t h a t

1

1 0 0

f r a c t i o n

o f \ d i c u l t i n p u t s " m i g h t w e l l a p p e a r f a r m o r e t h a n

1

1 0 0

o f t h e t i m e i n t h e l i f e o f

t h e p r o g r a m . ) T h e n a s e l f - c o r r e c t o r m a y b e s p e c i e d a s f o l l o w s :

A l g o r i t h m 1 . O n i n p u t h w ; x i ,

| G e n e r a t e u n i f o r m - r a n d o m r

1

; r

2

2 F .

| C a l l P f o u r t i m e s t o c a l c u l a t e P ( w r

1

; x r

2

) , P ( w r

1

; r

2

) , P ( r

1

; x r

2

) ,

a n d P ( r

1

; r

2

) .

| R e t u r n , a s o u r c o r r e c t e d v a l u e f o r w x ,

y

c

: = P ( w r

1

; x r

2

) + P ( w r

1

; r

2

) + P ( r

1

; x r

2

) + P ( r

1

; r

2

) :

W h y d o e s t h i s w o r k ? N o t e t h a t e a c h o f t h e f o u r c a l l s t o P i s o n a p a i r o f i n p u t s

u n i f o r m - r a n d o m l y d i s t r i b u t e d o v e r F

2

, a n d s o w i l l r e t u r n t h e c o r r e c t a n s w e r w i t h

p r o b a b i l i t y o f e r r o r a t m o s t

1

1 0 0

. T h u s , a l l f o u r r e t u r n v a l u e s a r e l i k e l y t o b e c o r r e c t :

t h e p r o b a b i l i t y o f e r r o r i s a t m o s t

4

1 0 0

. A n d i f a l l t h e r e t u r n v a l u e s a r e c o r r e c t , t h e n

y

c

= P ( w r

1

; x r

2

) + P ( w r

1

; r

2

) + P ( r

1

; x r

2

) + P ( r

1

; r

2

)

= ( w r

1

) ( x r

2

) + ( w r

1

) r

2

+ r

1

( x r

2

) + r

1

r

2

= ( w r

1

) + r

1

] ( x r

2

) + r

2

]

= w x :

N o t e t h a t c o r r e c t e d o u t p u t y

c

i s s u p e r i o r t o u n m o d i e d o u t p u t P ( w ; x ) i n t h a t

t h e r e a r e n o \ d i c u l t i n p u t s " : f o r a n y h w ; x i , e a c h t i m e w e c o m p u t e a c o r r e c t e d

v a l u e y

c

f o r w x , t h e c h a n c e o f e r r o r ( o v e r t h e c h o i c e o f r

1

; r

2

) i s

4

1 0 0

. M o r e o v e r

o b s e r v e t h a t , i f w e c o m p u t e s e v e r a l c o r r e c t e d o u t p u t s y

( 1 )

c

; : : : ; y

( t )

c

( u s i n g n e w r a n -

d o m v a l u e s o f r

1

; r

2

f o r e a c h y

( i )

c

) a n d p i c k t h e m a j o r i t y a n s w e r a s o u r n a l o u t p u t ,

w e t h e r e b y m a k e t h e c h a n c e o f e r r o r a r b i t r a r i l y s m a l l . T h e p r i c e w e p a y f o r t h i s

e n h a n c e d r e l i a b i l i t y i s a m u l t i p l i c a t i o n o f P ' s u s u a l r u n - t i m e b y a f a c t o r o f 4 t . T h i s

p e r f o r m a n c e l o s s w i l l b e f u r t h e r c o n s i d e r e d b e l o w .

A n a l n o t e o n s e l f - c o r r e c t i n g . A b o v e w e s p e a k o f n e e d i n g a n a s s u r a n c e t h a t P i s

c o r r e c t o n a l l b u t a s m a l l f r a c t i o n o f i n p u t s . S u c h l a n g u a g e i m p l i e s a n a s s u m p t i o n

t h a t P ' s b e h a v i o r i s x e d ( e x c e p t f o r p o s s i b l e r a n d o m i z a t i o n ) p r i o r t o t h e s e l f -

c o r r e c t i n g p r o c e s s : i . e . , t h a t P i s n o t a n a d v e r s a r y w h i c h c a n a d a p t i n r e s p o n s e t o

t h e c o r r e c t o r . T h i s a s s u m p t i o n i s n e c e s s a r y , a s a n a d a p t a b l e a d v e r s a r y c o u l d e a s i l y

f o o l a c o r r e c t o r s u c h a s t h e a b o v e .

3

A c h e c k e r , i n c o n t r a s t , i s r e q u i r e d t o b e s e c u r e

a g a i n s t e v e n a n a d a p t a b l e a d v e r s a r y .

O n e m a y a l s o d e n e a c o m p l e x c h e c k e r B l u m 1 9 8 8 ] , w h i c h o u t p u t s a n a c -

c e p t / r e j e c t c o r r e c t n e s s - c h e c k s i m i l a r t o t h a t o f a s i m p l e c h e c k e r , b u t w h i c h , l i k e

a s e l f - c o r r e c t o r , i s a l l o w e d t o p o l l P a t s e v e r a l l o c a t i o n s ( a n d s o , l i k e a s e l f - c o r r e c t o r ,

t e n d s t o b e l e s s e c i e n t t h a n a s i m p l e c h e c k e r ) . I n g e n e r a l , a c o m p l e x c h e c k e r s e e k s

t o d e t e r m i n e t h e c o r r e c t n e s s o f P ( x ) b y c o m p a r i n g P ( x ) t o s e v e r a l o f P ' s o t h e r

o u t p u t s . M o r e f o r m a l l y , a c o m p l e x c h e c k e r f o r f i s d e n e d a s f o l l o w s :

3

G e m m e l l e t a l . 1 9 9 1 ] h o w e v e r d e m o n s t r a t e s t h a t s e l f - t e s t i n g / c o r r e c t i n g m a y b e p o s s i b l e e v e n

w h e n a p r o g r a m h a s l i m i t e d a d v e r s a r i a l p o w e r .


6/24


| I n p u t : x ( a n i n p u t t o f ) , a l o n g w i t h P , a p r o g r a m w h i c h m a y c o m p u t e f o n

a l l , s o m e , o r n o i n p u t s . T h e c h e c k e r i s a l l o w e d t o c a l l P r e p e a t e d l y , u s i n g i t a s a

s u b r o u t i n e .

| C o r r e c t o u t p u t : I f P i s c o r r e c t b o t h o n x a n d o n a l l t h e o t h e r o u t p u t s s a m p l e d

b y t h e c h e c k e r , m u s t a c c e p t . I f P ( x ) i s i n c o r r e c t , m u s t r e j e c t .

| R e l i a b i l i t y : F o r a l l

hx ; P

i: o n i n p u t

hx ; P

it h e c h e c k e r m u s t r e t u r n c o r r e c t

o u t p u t w i t h p r o b a b i l i t y ( o v e r i n t e r n a l r a n d o m i z a t i o n ) p

c

, f o r p

c

a c o n s t a n t

c l o s e t o 1 .

| T i m e - b o u n d : T h e c h e c k e r ' s t i m e - b o u n d , i n c l u d i n g s u b r o u t i n e c a l l s t o P , m u s t

b e l i m i t e d t o a c o n s t a n t m u l t i p l e o f P ' s t i m e - b o u n d ; t h e c h e c k e r ' s t i m e - b o u n d ,

c o u n t i n g e a c h s u b r o u t i n e c a l l t o P a s j u s t o n e s t e p , m u s t b e o ( T ( n ) ) ( w h e r e T ( n )

i s a g a i n t h e s m a l l e s t p o s s i b l e t i m e t o c o m p u t e f ) .

O b s e r v e a n e c e s s a r y w e a k n e s s o f t h i s d e n i t i o n : i n t h e c a s e t h a t P ( x ) i s c o r r e c t

b u t a t l e a s t o n e o f P ' s o t h e r o u t p u t s s a m p l e d b y t h e c h e c k e r i s i n c o r r e c t , t h e

c h e c k e r m a y e i t h e r a c c e p t o r r e j e c t . T h i s w e a k n e s s i s n e c e s s a r y ( i f w e a r e t o

a l l o w a l g o r i t h m s w h i c h g o b e y o n d s i m p l e c h e c k i n g ) b e c a u s e , i n t h e c a s e t h a t P

r e t u r n s o n l y j u n k a n s w e r s , w e c a n n o t e x p e c t t h e c h e c k e r t o g u r e o u t w h e t h e r o r

n o t P ( x ) i s c o r r e c t . I n s p i t e o f t h i s w e a k n e s s , t h e c o m p l e x c h e c k e r t e l l s u s w h a t w e

n e e d t o k n o w : i f t h e c h e c k e r a c c e p t s , w e k n o w t h a t P ( x ) i s c o r r e c t ; i f t h e c h e c k e r

r e j e c t s , w e k n o w t h a t P f a i l e d o n a t l e a s t o n e o f a s m a l l , k n o w n s e t o f i n p u t s .

A n e x a m p l e c o m p l e x c h e c k e r ( f o r g r a p h i s o m o r p h i s m ) i s d e s c r i b e d i n S e c t i o n 1 . 7 .

F o r m o r e i n f o r m a t i o n o n r e s u l t - c h e c k i n g , r e f e r t o t h e a n n o t a t e d b i b l i o g r a p h y .

1 . 4 D e b u g g i n g v i a C h e c k e r s

W e w i l l a r g u e h e r e t h a t e m b e d d i n g c h e c k e r s i n s o f t w a r e p r o d u c t s m a y b e a s u b -

s t a n t i a l a i d i n d e b u g g i n g t h o s e p r o d u c t s a n d a s s u r i n g t h e i r r e l i a b i l i t y . I t i s o u r

h o p e t h a t r e s u l t - c h e c k i n g m a y f o r m t h e b a s i s f o r a d e b u g g i n g m e t h o d o l o g y m o r e

r i g o r o u s t h a n t h e t e s t i n g s u i t e a n d m o r e p r a g m a t i c t h a n v e r i c a t i o n .

T h r o u g h o u t t h e p r o c e s s o f s o f t w a r e t e s t i n g , e m b e d d e d c h e c k e r s m a y b e u s e d t o

i d e n t i f y i n c o r r e c t o u t p u t . T h e y w i l l t h e r e b y s e r v e a s a n e c i e n t a l t e r n a t i v e t o

a c o n v e n t i o n a l t e s t i n g o r a c l e . F u r t h e r m o r e , e v e n a f t e r s o f t w a r e i s p u t i n t o u s e ,

l e a v i n g t h e c h e c k e r s i n t h e c o d e w i l l a l l o w f o r t h e e e c t i v e d e t e c t i o n o f l i n g e r i n g

b u g s . W e e n v i s i o n t h a t , e a c h t i m e a c h e c k e r n d s a b u g , a n i n f o r m a t i v e o u t p u t

w i l l b e w r i t t e n t o a l e ; t h i s l e w i l l t h e n b e p e r i o d i c a l l y r e v i e w e d b y s o f t w a r e -

m a i n t e n a n c e e n g i n e e r s . A n o t h e r p o s s i b i l i t y i s a n i m m e d i a t e w a r n i n g m e s s a g e , s o

t h a t t h e u s e r o f a c r i t i c a l s y s t e m w i l l n o t b e d u p e d i n t o a c c e p t i n g e r r o n e o u s o u t p u t .

W h i l e i t c o u l d b e a r g u e d t h a t b u g g y o u t p u t w o u l d b e n o t i c e d b y t h e u s e r i n a n y

c a s e , a n a u t o m a t i c s y s t e m f o r i d e n t i f y i n g e r r o r s s h o u l d i n f a c t r e d u c e t h e p r o b a b i l i t y

t h a t b u g s w i l l b e i g n o r e d o r f o r g o t t e n . M o r e o v e r , a c h e c k e r c a n c a t c h a n e r r o r i n a

p r o g r a m c o m p o n e n t w h o s e e e c t s m a y n o t b e r e a d i l y a p p a r e n t t o t h e u s e r . T h u s

a c h e c k e r m i g h t w e l l i d e n t i f y a b u g i n a c r i t i c a l s y s t e m b e f o r e i t g o e s o n t o c a u s e

a c a t a s t r o p h i c f a i l u r e . M o r e o v e r , c h e c k e r s m a y t r i g g e r a u t o m a t i c s e l f - c o r r e c t i o n :

p o t e n t i a l l y a m e t h o d f o r t h e c r e a t i o n o f e x t r e m e l y r e l i a b l e s y s t e m s .

B y w r i t i n g a c h e c k e r , o n e g r o u p o f p r o g r a m m e r s m a y a s s u r e t h e m s e l v e s t h a t a n -

o t h e r g r o u p ' s c o d e i s n o t u n d e r m i n i n g t h e i r s b y p a s s i n g a l o n g e r r o n e o u s o u t p u t .

S i m i l a r l y , t h e s o f t w a r e e n g i n e e r w h o c r e a t e s t h e s p e c i c a t i o n s f o r a p r o g r a m c o m p o -


7/24


n e n t c a n w r i t e a c h e c k e r t o v e r i f y t h a t t h e p r o g r a m m e r s h a v e t r u l y u n d e r s t o o d a n d

p r o v i d e d t h e f u n c t i o n a l i t y h e r e q u i r e d . S i n c e c h e c k e r s d e p e n d o n l y o n t h e I / O s p e c -

i c a t i o n s o f a c o m p u t a t i o n a l t a s k , o n e m a y c h e c k e v e n a p r o g r a m c o m p o n e n t w h o s e

i n t e r n a l s a r e n o t a v a i l a b l e f o r e x a m i n a t i o n , s u c h a s a l i b r a r y o f u t i l i t i e s r u n n i n g o n a

r e m o t e m a c h i n e . T h u s c h e c k e r s f a c i l i t a t e t h e d i s c o v e r y o f t h o s e m i s u n d e r s t a n d i n g s

a t t h e \ s e a m s " o f p r o g r a m s w h i c h s o o f t e n u n d e r l i e a s o f t w a r e f a i l u r e . E v i d e n t l y ,

a l l o f t h i s a p p l i e s w e l l t o o b j e c t - o r i e n t e d p a r a d i g m s .

U n l i k e v e r i c a t i o n , c h e c k i n g r e v e a l s i n c o r r e c t o u t p u t o r i g i n a t i n g i n a n y c a u s e |

w h e t h e r d u e t o s o f t w a r e b u g s , h a r d w a r e b u g s , o r t r a n s i e n t r u n - t i m e e r r o r s . M o r e -

o v e r , s i n c e a c h e c k e r c o n c e r n s i t s e l f o n l y w i t h t h e I / O s p e c i c a t i o n s o f a c o m p u t a -

t i o n a l t a s k , t h e i n t r o d u c t i o n o f a p o t e n t i a l l y u n r e l i a b l e n e w a l g o r i t h m f o r s o l v i n g

a n o l d t a s k m a y n o t r e q u i r e s u b s t a n t i a l c h a n g e t o t h e a s s o c i a t e d c h e c k e r . A n d s o ,

a s a p r o g r a m i s m o d i e d t h r o u g h o u t i t s l i f e t i m e | o f t e n w i t h o u t a n a d e q u a t e r e p e a t

o f t h e t e s t i n g p r o c e s s | i t s c h e c k e r s w i l l c o n t i n u e t o g u a r d a g a i n s t e r r o r s .

1 . 5 C h e c k e r - B a s e d D e b u g g i n g C o n c e r n s

P e r f o r m a n c e l o s s : S i m p l e c h e c k e r s a r e i n h e r e n t l y e c i e n t : d u e t o t h e l i t t l e - o

r u l e , a s i m p l e c h e c k e r s h o u l d n o t s i g n i c a n t l y s l o w t h e p r o g r a m P t h a t i t c h e c k s .

S e l f - c o r r e c t o r s , o n t h e o t h e r h a n d , r e q u i r e m u l t i p l e c a l l s t o P , a n d s o m u l t i p l y

e x e c u t i o n - t i m e b y a s m a l l c o n s t a n t ( o r , a l t e r n a t i v e l y , r e q u i r e a d d i t i o n a l p a r a l l e l

h a r d w a r e ) . I n a r e a l - t i m e c o m p u t e r s y s t e m , s u c h a s l o w d o w n m a y n o t b e a c c e p t a b l e .

H e n c e i t i s d e s i r a b l e t o c h e c k a g i v e n p r o g r a m b y i m p l e m e n t i n g b o t h a s i m p l e

c h e c k e r a n d a s e l f - c o r r e c t o r . T h e s i m p l e c h e c k e r m a y t h e n b e r u n o n e a c h o u t p u t ,

w h i l e o n l y i n t h e ( h o p e f u l l y r a r e ) c a s e t h a t t h e o u t p u t i s i n c o r r e c t n e e d t h e s e l f -

c o r r e c t o r b e r u n a s w e l l ; h e n c e t h e s e l f - c o r r e c t o r i s k e p t o t h e c o m m o n - c a s e p a t h .

A l t e r n a t i v e l y , i n S e c t i o n 1 . 6 w e w i l l c o n s i d e r a c h a n g e t o o u r d e n i t i o n s w h i c h w i l l

a l l o w f o r c e r t a i n s e l f - c o r r e c t i n g a l g o r i t h m s t o r u n a t r e a l - t i m e s p e e d s .

R e a l - n u m b e r i s s u e s ( s e e G e m m e l l e t a l . 1 9 9 1 ; A r e t a l . 1 9 9 3 ] ) : T r a d i t i o n a l

r e s u l t - c h e c k i n g a l g o r i t h m s , s u c h a s t h e e x a m p l e s e l f - c o r r e c t o r f r o m S e c t i o n 1 . 3 ,

o f t e n r e l y o n t h e o r d e r l y p r o p e r t i e s o f n i t e e l d s . I n m a n y p r o g r a m m i n g t a s k s , w e

a r e m o r e l i k e l y t o e n c o u n t e r r e a l n u m b e r s | i . e . , a p p r o x i m a t e r e a l s r e p r e s e n t e d b y

a x e d n u m b e r o f b i t s .

S u c h n u m b e r s w i l l b e l i m i t e d t o a l e g a l s u b d o m a i n o f


8/24


B u g g y c h e c k e r s : W h a t i f w e n e v e r t h e l e s s f a i l t o d e b u g o u r c h e c k e r ? I n d e e d ,

i t m a y b e o b j e c t e d t h a t r e s u l t - c h e c k i n g b e g s t h e q u e s t i o n o f s o f t w a r e r e l i a b i l i t y : f o r

c h e c k i n g m a y f a i l d u e t o t h e c h e c k e r ' s c o d e b e i n g a s b u g g y a s t h e p r o g r a m ' s . T o

t h i s o b j e c t i o n w e r e s p o n d w i t h t h r e e a r g u m e n t s : a r g u m e n t s w h i c h a r e , h o w e v e r ,

h e u r i s t i c r a t h e r t h a n r i g o r o u s .

F i r s t , c h e c k e r s c a n o f t e n b e s i m p l e r t h a n t h e p r o g r a m s t h e y c h e c k , a n d s o , p r e -

s u m a b l y , l e s s l i k e l y t o h a v e b u g s . F o r e x a m p l e , m o d e r n c o m p u t e r s m a y u s e i n t r i c a t e ,

a r i t h m e t i c a l l y u n s t a b l e a l g o r i t h m s t o c o m p u t e m a t r i x m u l t i p l i c a t i o n i n t i m e , s a y ,

O ( n

2 3 8

) , r a t h e r t h a n t h e s t a n d a r d O ( n

3

) . A n d y e t F r e i v a l d s ' s O ( n

2

) - t i m e c h e c k e r

f o r m a t r i x m u l t i p l i c a t i o n F r e i v a l d s 1 9 7 9 ] u s e s o n l y t h e s i m p l e s t o f m u l t i p l i c a t i o n

a l g o r i t h m s , a n d s o i s s e e m i n g l y l i k e l y t o b e b u g - f r e e .

S e c o n d , o b s e r v e t h a t o n e o f t h e f o l l o w i n g f o u r c o n d i t i o n s m u s t h o l d e a c h t i m e a

( p o s s i b l y b u g g y ) s i m p l e c h e c k e r C c h e c k s t h e o u t p u t o f a p r o g r a m P :

( I ) . P ( x ) i s c o r r e c t ; C c o r r e c t l y a c c e p t s i t .

( I I ) . P ( x ) i s i n c o r r e c t ; C c o r r e c t l y r e j e c t s i t .

( I I I ) . \ F a l s e a l a r m " : P ( x ) i s c o r r e c t ; C i n c o r r e c t l y r e j e c t s i t .

( I V ) . \ M i s s e d b u g " : P ( x ) i s i n c o r r e c t ; C i n c o r r e c t l y a c c e p t s i t .

O n l y a \ m i s s e d b u g " i s a t r u l y b a d o u t c o m e : f o r a \ f a l s e a l a r m , " w h i l e a n n o y i n g ,

a t l e a s t d r a w s o u r a t t e n t i o n t o a b u g i n C .

T o r e d u c e t h e l i k e l i h o o d o f m i s s e d b u g s , i t s u c e s t o r u l e o u t a s t r o n g c o r r e l a t i o n

b e t w e e n x v a l u e s a t w h i c h P f a i l s a n d x v a l u e s a t w h i c h C ( x ; P ( x ) ) f a i l s . I t i s o u r

h e u r i s t i c c o n t e n t i o n t h a t s u c h a c o r r e l a t i o n i s u n l i k e l y . I n d e e d , r e c a l l t h a t o n e e e c t

o f t h e \ l i t t l e - o r u l e " i s t h a t C d o e s n ' t h a v e s u c i e n t t i m e t o m e r e l y r e d u p l i c a t e t h e

c o m p u t a t i o n p e r f o r m e d b y P . T h u s w e c l a i m ( h e u r i s t i c a l l y ) t h a t C m u s t b e d o i n g

s o m e t h i n g e s s e n t i a l l y d i e r e n t f r o m w h a t P d o e s , a n d s o , i f b u g g y , m a y r e a s o n a b l y

b e e x p e c t e d t o m a k e d i e r e n t e r r o r s . B u t t h e n w e w o u l d e x p e c t f e w c o r r e l a t e d

e r r o r s ; m o r e o v e r , w e w o u l d e x p e c t m o r e u n c o r r e l a t e d t h a n c o r r e l a t e d e r r o r s , s o

t h a t a g i v e n b u g c o u l d w e l l b e i d e n t i e d a n d x e d b e f o r e i t g o e s o n t o g e n e r a t e a n y

c o r r e l a t e d e r r o r s .

4

F i n a l l y , s a y t h a t c o r r e l a t e d e r r o r s n o n e t h e l e s s o c c u r . T h i s m i g h t i n p a r t i c u l a r

b e e x p e c t e d d u e t o f a u l t s i n h a r d w a r e o r s o f t w a r e c o m p o n e n t s o n w h i c h b o t h P

a n d C d e p e n d . W e a r g u e t h a t , e v e n i n t h i s c a s e , a \ m i s s e d b u g " m a y n o t r e s u l t .

I n d e e d , c o n s i d e r o u r c h e c k e r f o r a s o r t i n g p r o g r a m ( S e c t i o n 1 . 2 ) , w h i c h d e t e r m i n e s

w h e t h e r o r n o t ~y i s a p e r m u t a t i o n o f ~x b y c o m p a r i n g h ( x

1

) + + h ( x

n

) w i t h

h ( y

1

) + + h ( y

n

) : a s s u m i n g t h a t t h e s o r t i n g p r o g r a m h a s f a i l e d , h ( x

1

) + + h ( x

n

)

a n d h ( y

1

) + + h ( y

n

) w i l l n o t m a t c h ( w i t h p r o b a b i l i t y

1

2

) . I f t h e c h e c k e r

4

I t c o u l d b e a r g u e d t h a t t h e l i t t l e - o r u l e o n l y p r o h i b i t s C f r o m d u p l i c a t i n g t h e m o s t t i m e -

c o n s u m i n g o f P ' s c o m p o n e n t s ; P ' s s i m p l e r c o m p o n e n t s m a y b e t r i v i a l l y d u p l i c a t e d i n C , a n d

s o , i f b u g g y , m i g h t p r o d u c e c o r r e l a t e d e r r o r s . T o t h i s a r g u m e n t w e r e s p o n d t h a t C ' s p r i m a r y

f u n c t i o n i s t o c h e c k t h e c e n t r a l a l g o r i t h m o f P ; s m a l l e r c o m p o n e n t s n e e d e d a s s u b r o u t i n e s b y

b o t h P a n d C s h o u l d , i f n e c e s s a r y , b e c h e c k e d s e p a r a t e l y .

A s a n i l l u s t r a t i o n o f a r e l a t e d i s s u e , c o n s i d e r a s t a n d a r d m a x - f l o w p r o g r a m , w h i c h p r o c e e d s

b y s u c c e s s i v e l y a d j u s t i n g o w s u n t i l i t n d s a c o n g u r a t i o n w h i c h a c h i e v e s o p t i m a l o w a c r o s s a

p a r t i c u l a r c u t . A c h e c k e r f o r t h i s p r o g r a m n e e d d o l i t t l e m o r e t h a n v e r i f y t h a t o p t i m a l o w i s

i n d e e d a c h i e v e d a c r o s s t h e c u t | w h i c h i s w h a t t h e p r o g r a m i t s e l f d o e s i n i t s n a l s t a g e . H e n c e

c h e c k i n g t h i s s o r t o f p r o g r a m s e e m s t r i v i a l a n d i n e e c t i v e . O u r r e s p o n s e i s s i m p l y t h a t s u c h a

p r o g r a m i n d e e d r e q u i r e s n o s e p a r a t e c h e c k e r , b e c a u s e i t i s n a t u r a l l y s e l f - c h e c k i n g .


9/24


s i m u l t a n e o u s l y f a i l s , i t m a y m i s c a l c u l a t e h ( x

1

) + + h ( x

n

) a n d / o r h ( y

1

) + +

h ( y

n

) ; b u t , w e a r g u e , i t s e e m i n g l y i s n o t l i k e l y t o f a i l i n e x a c t l y s u c h a m a n n e r a s

t o g e t v a l u e s f o r t h e t w o s u m s w h i c h h a p p e n t o m a t c h e a c h o t h e r .

M a n y c h e c k e r s p r o c e e d i n t h i s w a y , c a l c u l a t i n g t w o q u a n t i t i e s a n d d e c l a r i n g a n

e r r o r i f t h e y d o n o t m a t c h . D e g e n e r a t e c h e c k e r b e h a v i o r s e e m s u n l i k e l y t o y i e l d

m a t c h i n g q u a n t i t i e s ; a n d s o w e a r g u e t h a t c h e c k e r s , e v e n w h e n b u g g y t h e m s e l v e s ,

h a v e a n a t u r a l r e s i s t a n c e t o t h e b a d c a s e o f m i s s i n g a p r o g r a m b u g .

1 . 6 S t o r e d R a n d o m n e s s

W e h e r e i n t r o d u c e a n e x t e n s i o n t o t r a d i t i o n a l c h e c k e r d e n i t i o n s : w e s u g g e s t t h a t

r a n d o m i z e d c h e c k e r s , r a t h e r t h a n h a v i n g t o g e n e r a t e f r e s h r a n d o m b i t s f o r e a c h

c h e c k , s h o u l d b e a l l o w e d t o u s e p r e p r o c e s s e d s t o r e d r a n d o m n e s s . T h a t i s , p r i o r

t o r u n - t i m e | w h i l e t h e p r o g r a m i s i d l e , o r d u r i n g b o o t - u p , o r e v e n d u r i n g s o f t w a r e

d e v e l o p m e n t | w e g e n e r a t e r a n d o m b i t s a n d d o s o m e ( p e r h a p s l e n g t h y ) p r e p r o c e s s -

i n g ; t h e s e r a n d o m b i t s , t o g e t h e r w i t h p r e p r o c e s s e d v a l u e s d e p e n d e n t o n t h e m , f o r m

o n e o r m o r e r a n d o m p a c k a g e s . T h e s e p a c k a g e s a r e s t o r e d ; t h e n , a t r u n - t i m e ,

e a c h c h e c k r e q u i r e s s u c h a p a c k a g e a s a n a d d i t i o n a l i n p u t .

5

S t o r e d r a n d o m n e s s h a s s e v e r a l p o t e n t i a l a d v a n t a g e s . F i r s t , i t a l l o w s f o r m u c h

o r a l l o f a c h e c k e r ' s r a n d o m n e s s t o b e g e n e r a t e d b e f o r e r u n - t i m e . T h i s c o u l d b e

u s e f u l p a r t i c u l a r l y i n d o i n g v e r y q u i c k c h e c k s o f l o w - l e v e l f u n c t i o n a l i t i e s s u c h a s

m i c r o p r o c e s s o r a r i t h m e t i c ( a s i n B l u m a n d W a s s e r m a n 1 9 9 6 ] ) : i n t h i s c o n t e x t ,

h a v i n g t o g e n e r a t e r a n d o m b i t s a t r u n - t i m e c o u l d b e a n i n c o n v e n i e n c e . S e c o n d , w e

s h a l l s e e t h a t s t o r e d r a n d o m n e s s a l l o w s f o r t h e u s e o f c h e c k i n g a l g o r i t h m s w h i c h

w o u l d o t h e r w i s e r e q u i r e t o o m u c h c o m p u t a t i o n a t r u n - t i m e : b y p a y i n g a t i m e - c o s t

o f ( T ( N ) ) i n p r e p r o c e s s i n g , w e \ c h e a t " s o m e w o r k o u t o f t h e w a y , s o t h a t e a c h

r u n - t i m e c h e c k c a n t h e n b e c o m p l e t e d i n t i m e o ( T ( N ) ) .

F o r a t r i v i a l e x a m p l e o f s t o r e d r a n d o m n e s s , w e c a n r e c o n s i d e r t h e m u l t i p l i c a -

t i o n s e l f - c o r r e c t o r o f S e c t i o n 1 . 3 . I f i n a p r e p r o c e s s i n g s t a g e r

1

; r

2

a r e g e n e r a t e d ,

P ( r

1

; r

2

) i s c a l c u l a t e d , a n d p a c k a g e R = h r

1

; r

2

; P ( r

1

; r

2

) i i s s t o r e d , t h i s l e a v e s

o n l y t h r e e c a l l s t o P a t r u n - t i m e , r a t h e r t h a n f o u r . H o w e v e r , t h i s i m p r o v e m e n t i s

n o t p a r t i c u l a r l y i m p r e s s i v e . S t o r e d r a n d o m n e s s w i l l b e f u r t h e r e x p l i c a t e d t h r o u g h

m o r e s u b s t a n t i a l e x a m p l e s : i n S e c t i o n s 2 . 1 a n d 2 . 5 , w e w i l l p r e s e n t a s i m p l e c h e c k e r

w h i c h i s p o s s i b l e o n l y i f o n e a l l o w s s t o r e d r a n d o m n e s s , a n d a s e l f - c o r r e c t o r w h i c h ,

i f o n e a l l o w s s t o r e d r a n d o m n e s s , c a n r u n a t r e a l - t i m e s p e e d s .

H o w m u c h r a n d o m n e s s m u s t b e s t o r e d ? L e t N b e o u r x e d i n p u t l e n g t h , a n d

l e t b e t h e n u m b e r o f c h e c k s w e e x p e c t t o c a r r y o u t a t r u n - t i m e . O n e a p p r o a c h

w o u l d b e t o p r e p r o c e s s p a c k a g e s . T h e n e a c h c h e c k w o u l d h a v e i t s o w n \ f r e s h "

r a n d o m n e s s , w h i c h w o u l d c e r t a i n l y b e g o o d f r o m t h e p o i n t o f v i e w o f r e l i a b i l i t y .

H o w e v e r , w e m i g h t e x p e c t t o b e N o r e v e n u n k n o w n d u r i n g p r e p r o c e s s i n g ; s o

t h i s t r i v i a l a p p r o a c h c o u l d h a v e t o o h i g h a c o s t i n p r e p r o c e s s i n g t i m e a n d s t o r a g e

s p a c e .

A n o p p o s i t e a p p r o a c h w o u l d b e t o g e n e r a t e a s i n g l e r a n d o m p a c k a g e a n d u s e i t

f o r e v e r y c h e c k . B u t w o u l d t h e r e p e a t e d u s e o f a \ s t a l e " r a n d o m p a c k a g e r e d u c e

5

T h i s m e t h o d r e q u i r e s i n p u t l e n g t h N t o b e x e d p r i o r t o r u n - t i m e ; e q u i v a l e n t l y , n e w p r e p r o c e s s -

i n g s t a g e s w i l l b e r e q u i r e d a s i n p u t l e n g t h i n c r e a s e s . T h i s u s e o f s t o r e d i n f o r m a t i o n i s a n a l o g o u s

t o t h a t i n t h e P / p o l y m o d e l o f c o m p u t a t i o n .


10/24

1 0 H . W a s s e r m a n a n d M . B l u m

t h e r e l i a b i l i t y o f o u r c h e c k e r ? S e c t i o n s 2 . 1 a n d 2 . 5 i n i t i a l l y c h o o s e t h i s a p p r o a c h ;

a n d L e m m a s 4 a n d 1 0 a r g u e t h a t t h e c o n s e q u e n t r e d u c t i o n i n r e l i a b i l i t y i s n o t f a t a l .

M o r e o v e r , i n S e c t i o n s 2 . 1 a n d 2 . 5 w e g o o n t o s u g g e s t a n i n t e r m e d i a t e a p p r o a c h ,

w h i c h r e q u i r e s a n u m b e r o f s t o r e d p a c k a g e s t h a t i s O ( N ) a n d i n d e p e n d e n t o f .

L e m m a s 5 a n d 1 1 a r g u e t h a t t h e r e s u l t i n g s t o r e d - r a n d o m c h e c k e r s a r e t h e n h i g h l y

r e l i a b l e .

1 . 7 V a r i a t i o n s o n t h e C h e c k i n g P a r a d i g m

I t m a y s t i l l b e o b j e c t e d t h a t m o s t p r o g r a m m i n g t a s k s a r e l e s s a m e n a b l e t o c h e c k i n g

t h a n a r e t h e c l e a n m a t h e m a t i c a l p r o b l e m s w i t h w h i c h t h e o r e t i c i a n s u s u a l l y d e a l .

N e v e r t h e l e s s , i t i s o u r e x p e r i e n c e t h a t m a n y s u c h t a s k s m a y b e s u b j e c t e d t o i n t e r -

e s t i n g c h e c k s . T h e f o l l o w i n g i s a l i s t o f c h e c k i n g i d e a s w h i c h m a y s u g g e s t t o t h e

r e a d e r h o w d e n i t i o n s c a n b e g e n e r a l i z e d t o m a k e c h e c k i n g m o r e s u i t a b l e a s a t o o l

f o r s o f t w a r e d e b u g g i n g .

P a r t i a l c h e c k s : O n e m a y n d i t s u c i e n t t o c h e c k o n l y c e r t a i n a s p e c t s o f

a c o m p u t a t i o n a l o u t p u t . P r o g r a m m e r s m a y f o c u s o n p r o p e r t i e s t h e y t h i n k p a r t i c -

u l a r l y l i k e l y t o r e v e a l b u g s | o r p a r t i c u l a r l y c r i t i c a l t o t h e s u c c e s s o f t h e s y s t e m .

C e r t a i n c h e c k e r s m i g h t o n l y b e c a p a b l e o f i d e n t i f y i n g o u t p u t s i n c o r r e c t b y a v e r y

l a r g e e r r o r - d e l t a . E v e n j u s t c h e c k i n g i n p u t s a n d o u t p u t s s e p a r a t e l y t o v e r i f y t h a t

t h e y f a l l i n a l e g a l d o m a i n m a y p r o v e u s e f u l .

T i m i n g c h e c k s : O n e m i g h t w i s h t o m o n i t o r t h e e x e c u t i o n - t i m e o f a s o f t w a r e

c o m p o n e n t ; a n u n e x p e c t e d l y l a r g e ( o r s m a l l ) t i m e c o u l d t h e n r e v e a l a b u g . F o r

i n s t a n c e , a p r o g r a m m e r ' s e x p e c t a t i o n t h a t a p a r t i c u l a r s u b r o u t i n e s h o u l d t a k e t i m e

1 0 n

2

o n i n p u t o f v a r i a b l e l e n g t h n c o u l d b e c h e c k e d a g a i n s t a c t u a l p e r f o r m a n c e .

C h e c k i n g v i a i n t e r a c t i v e p r o o f s : T h e r e e x i s t i n t e r a c t i v e p r o o f s o f c o r -

r e c t n e s s f o r c e r t a i n m a t h e m a t i c a l c o m p u t a t i o n s ; a n d m a n y s u c h i n t e r a c t i v e p r o o f s

m a y e q u i v a l e n t l y b e r e g a r d e d a s c o m p l e x c h e c k e r s . F o r e x a m p l e , i t f o l l o w s f r o m

t h e I P m e t h o d o f S h a m i r 1 9 9 2 ] t h a t , i f p r o g r a m P c l a i m s t o s o l v e a P S P A C E -

c o m p l e t e p r o b l e m , t h e n t h e r e i s a c h e c k e r f o r P w h i c h r e q u i r e s p o l y n o m i a l t i m e

p l u s a p o l y n o m i a l n u m b e r o f c a l l s t o P .

S i m i l a r l y , t h e f o l l o w i n g i n t e r a c t i v e - p r o o f m e t h o d , d u e t o G o l d r e i c h e t a l . 1 9 9 1 ] ,

m a y e q u i v a l e n t l y b e r e g a r d e d a s a c o m p l e x c h e c k e r . S a y t h a t P c l a i m s t o d e c i d e

g r a p h i s o m o r p h i s m . I f P s a y s t h a t A

=

B , w e c a n c h e c k t h i s b y r u n n i n g P o n

s u c c e s s i v e l y r e d u c e d v e r s i o n s o f A a n d B , t h e r e b y f o r c i n g P t o r e v e a l a p a r t i c u l a r

i s o m o r p h i s m . L e s s t r i v i a l l y , i f P c l a i m s t h a t A 6

=

B , w e r e p e a t s e v e r a l t i m e s t h e

f o l l o w i n g c h e c k : g e n e r a t e C , a r a n d o m i s o m o r p h i s m e i t h e r o f A ( w i t h p r o b a b i l i t y

1

2

) o r o f B ( w i t h p r o b a b i l i t y

1

2

) ; t h e n a s k P t o t e l l u s w h i c h o n e o f A o r B i s

i s o m o r p h i c t o C . I f A

=

B , P c a n o n l y g u e s s w h i c h o f t h e t w o w e p e r m u t e d .

F o r m o r e o n i n t e r a c t i v e p r o o f , r e f e r t o t h e b i b l i o g r a p h y .

C h a n g i n g I / O s p e c i c a t i o n s : I n S e c t i o n 1 . 2 , w e s a w h o w a n e a s y a u g m e n -

t a t i o n t o t h e o u t p u t o f a s o r t i n g p r o g r a m c o u l d m a k e t h e p r o g r a m e a s i e r t o c h e c k .

S i m i l a r l y , c o n s i d e r t h e p r o b l e m o f c h e c k i n g a ( l o g n ) - t i m e b i n a r y - s e a r c h t a s k . A s

t r a d i t i o n a l l y s t a t e d ( s e e B e n t l e y 1 9 8 6 , p . 3 5 ] , w h e r e i t f e a t u r e s i n a r e l e v a n t d i s -

c u s s i o n o f t h e d i c u l t y o f w r i t i n g c o r r e c t p r o g r a m s ) , b i n a r y s e a r c h h a s a s i n p u t a

k e y k a n d a n u m e r i c a l a r r a y a 1 ] ; : : : ; a n ] , w h e r e a 1 ] a n ] , a n d a s o u t p u t i

s u c h t h a t a i ] = k , o r 0 i f k i s n o t i n t h e a r r a y .

N o t e t h a t t h e p r o b l e m a s s t a t e d i s u n c h e c k a b l e : f o r , i f t h e o u t p u t i s 0 , i t w i l l


11/24

S o f t w a r e R e l i a b i l i t y v i a R u n - T i m e R e s u l t - C h e c k i n g 1 1

t a k e ( l o g n ) s t e p s t o c o n r m t h a t k i s i n d e e d n o t i n t h e a r r a y . B u t s a y t h a t w e

m o d i f y t h e o u t p u t s p e c i c a t i o n f o r o u r b i n a r y - s e a r c h t a s k t o r e a d : o u t p u t i s u c h

t h a t a i ] = k , o r , i f k i s n o t i n t h e a r r a y , h j ; j + 1 i s u c h t h a t a j ] < k < a j + 1 ] .

A n y n a t u r a l b i n a r y - s e a r c h p r o g r a m c a n e a s i l y b e m o d i e d t o g i v e s u c h o u t p u t , a n d

c o m p l e t i n g a n O ( 1 ) - t i m e c h e c k i s t h e n s t r a i g h t f o r w a r d .

W e a k o r o c c a s i o n a l c h e c k s B l u m , A . 1 9 9 4 ] : C e r t a i n p s e u d o - c h e c k e r s h a v e

o n l y a s m a l l p r o b a b i l i t y o f n o t i c i n g a b u g . F o r e x a m p l e , i f a s e a r c h p r o g r a m , g i v e n

k e y k a n d a r r a y a 1 ] ; : : : ; a n ] , c l a i m s t h a t k d o e s n o t o c c u r i n a , w e c o u l d c h e c k

t h i s b y s e l e c t i n g a n e l e m e n t o f a a t r a n d o m a n d v e r i f y i n g t h a t i t i s n o t e q u a l t o k .

T h i s w e a k c h e c k e r h a s p r o b a b i l i t y

1

n

o f i d e n t i f y i n g a n i n c o r r e c t c l a i m .

A l t e r n a t i v e l y , t o s a v e t i m e a l e n g t h y c h e c k m i g h t b e e m p l o y e d o n l y o n o c c a -

s i o n a l I / O p a i r s . G i v e n t h a t m a n y b u g s c a u s e f r e q u e n t e r r o r s o v e r t h e l i f e t i m e o f a

p r o g r a m , s u c h w e a k o r o c c a s i o n a l c h e c k s m a y w e l l b e u s e f u l .

B a t c h c h e c k s R u b i n f e l d 1 9 9 2 ] : F o r c e r t a i n c o m p u t a t i o n a l t a s k s , i f o n e s t o r e s

u p a n u m b e r o f I / O p a i r s , o n e m a y c h e c k t h e m a l l a t o n c e m o r e q u i c k l y t h a n o n e

c o u l d h a v e c h e c k e d t h e m s e p a r a t e l y . W h i l e i t m a y b e t o o l a t e t o c o r r e c t o u t p u t

a f t e r c o m p l e t i n g s u c h a r e t r o a c t i v e c h e c k , t h i s m e t h o d c a n w h e n a p p l i c a b l e p r o v i d e

a v e r y t i m e - e c i e n t i d e n t i c a t i o n o f b u g s .

I n e c i e n t a u t o - c o r r e c t i n g : W h e n a c h e c k e r i d e n t i e s a p r o g r a m e r r o r , i t

c o u l d c o r r e c t b y , f o r e x a m p l e , l o a d i n g a n d r u n n i n g a n o l d e r , s l o w e r , b u t h o p e f u l l y

m o r e r e l i a b l e v e r s i o n o f t h e p r o g r a m . T h i s s h o u l d b e n e c e s s a r y o n l y o n r a r e o c -

c a s i o n s , s o t h e o v e r a l l l o s s o f s p e e d s h o u l d n o t b e u n r e a s o n a b l e . F o r e x a m p l e , a

t r i v i a l O ( n

3

) - t i m e m a t r i x - m u l t i p l i c a t i o n p r o g r a m c a n b e k e p t i n r e s e r v e i n c a s e a

m o r e s o p h i s t i c a t e d O ( n

2 3 8

) - t i m e p r o g r a m f a i l s .

2 . C A S E S T U D Y : C H E C K I N G R E A L - N U M B E R L I N E A R T R A N S F O R M A T I O N S

W e w i l l n o w c o n s i d e r t h e p r o b l e m o f c h e c k i n g a n d c o r r e c t i n g a g e n e r a l l i n e a r t r a n s -

f o r m a t i o n , d e n e d a s f o l l o w s : i n p u t t o p r o g r a m P i s n - l e n g t h v e c t o r ~x o f r e a l

n u m b e r s ; c o r r e c t o u t p u t i s n - l e n g t h v e c t o r ~y = ~x A , w h e r e A i s a x e d n n m a t r i x

o f r e a l c o e c i e n t s . E x t e n s i o n s o f o u r r e s u l t s t o m o r e g e n e r a l c a s e s | e . g . , ~y o f d i e r -

e n t l e n g t h t h a n ~x , o r c o m p o n e n t s c o m p l e x r a t h e r t h a n r e a l | a r e s t r a i g h t f o r w a r d .

H o w e v e r , w e d o r e q u i r e n a n d A t o b e x e d p r i o r t o r u n - t i m e .

E v i d e n t l y , a n y s u c h t r a n s f o r m a t i o n m a y b e c o m p u t e d i n O ( n

2

) a r i t h m e t i c o p e r a -

t i o n s . W e a s s u m e t h a t , f o r n o n - t r i v i a l t r a n s f o r m a t i o n s A , t h e s m a l l e s t p o s s i b l e t i m e

t o c o m p u t e t h e t r a n s f o r m a t i o n m a y r a n g e f r o m ( n ) t o ( n

2

) . O u r s i m p l e c h e c k e r

w i l l t a k e t i m e O ( n ) ( a s w i l l o u r s e l f - c o r r e c t o r , n o t c o u n t i n g o n e o r m o r e c a l l s t o P ) ,

s o t h e l i t t l e - o r u l e i s s a t i s e d f o r a l l b u t t h e ( n ) - t i m e t r a n s f o r m a t i o n s .

6

F o r e x a m -

p l e , t h e F o u r i e r T r a n s f o r m i s l i n e a r a n d m a y b e c o m p u t e d i n t i m e ( n l o g n ) v i a t h e

F a s t F o u r i e r T r a n s f o r m ; i f o n e m a k e s t h e r e a s o n a b l e a s s u m p t i o n t h a t a n O ( n ) - t i m e

F o u r i e r T r a n s f o r m i s n o t p o s s i b l e , t h e n o u r a l g o r i t h m s q u a l i f y a s c h e c k e r s f o r t h i s

t r a n s f o r m .

A s s u m e n o w t h a t p r o g r a m P i s i n t e n d e d t o c a r r y o u t t h e ~x 7! ~x A t r a n s f o r m a t i o n

6

I n t h e m o r e g e n e r a l c a s e t h a t ~y h a s l e n g t h m , a n y n o n - t r i v i a l l i n e a r t r a n s f o r m a t i o n w i l l h a v e

s m a l l e s t p o s s i b l e c o m p u t a t i o n - t i m e o n r a n g e ( m a x f m ; n g ) t o ( m n ) . I t i s e a s i l y v e r i e d t h a t

o u r s i m p l e c h e c k e r a n d o u r s e l f - c o r r e c t o r e a c h t a k e t i m e O ( m a x f m ; n g ) ; a n d s o , o n c e a g a i n , t h e

l i t t l e - o r u l e i s s a t i s e d f o r a l l b u t t h e f a s t e s t o f t r a n s f o r m a t i o n s .


12/24


o n a c o m p u t e r w i t h a l i m i t e d - a c c u r a c y , x e d - p o i n t r e p r e s e n t a t i o n o f r e a l n u m b e r s .

P ' s I / O s p e c i c a t i o n s m i g h t t h e n b e f o r m u l a t e d a s f o l l o w s :

| I n p u t : ~x = ( x

1

; : : : ; x

n

) , w h e r e e a c h x

i

i s a x e d - p o i n t r e a l n u m b e r a n d s o i s

l i m i t e d t o a l e g a l s u b d o m a i n o f


13/24


W h y d o e s t h i s w o r k ? F i r s t n o t e t h a t

D

( k )

= ~y ~r

( k )

~x ~v

( k )

= ~y ~r

( k )

~x ( ~r

( k )

A

T

)

= ~y ~r

( k )

( ~x A ) ~r

( k )

= ( ~y ~x A ) ~r

( k )

=

~

~r

( k )

=

1

n

;

w h e r e e a c h

i s p o s i t i v e o r n e g a t i v e w i t h i n d e p e n d e n t 5 0 / 5 0 p r o b a b i l i t y .

8

L e m m a 1 . F o r a n y d e n i t e l y c o r r e c t h ~ x ; ~ y i ,

P r

~r

( k )

h

jD

( k )

j 6

p

n

i

1

1 0 ; 0 0 0 ; 0 0 0

:

P r o o f . E a c h j

i

j . T h u s , b y a C h e r n o B o u n d A l o n e t a l . 1 9 9 2 , T h e o r e m

A . 1 6 ] ,

P r

j

1

n

j 6

p

n

2 e

( 6

p

n )

2

= 2 n


14/24


W h i l e L e m m a 3 e m b o d i e s o u r i n t u i t i o n o f t h e c h e c k e r ' s c o r r e c t n e s s , i t d o e s

n o t d e a l w i t h t h e i m p l i c a t i o n s o f u s i n g t h e s a m e s t o r e d \ r a n d o m p a c k a g e " R =

h ~r

( 1 )

; : : : ; ~ r

( 1 0 )

; ~v

( 1 )

; : : : ; ~ v

( 1 0 )

i i n e a c h r u n - t i m e c h e c k . T h e f o l l o w i n g c l a i m s s u g -

g e s t t h a t t h i s u s e o f s t o r e d r a n d o m n e s s d o e s n o t s e r i o u s l y u n d e r m i n e t h e r e l i a b i l i t y

o f t h e c h e c k e r :

L e m m a 4 . A s s u m e t h a t w e p r e p r o c e s s r a n d o m p a c k a g e R a n d u s e t h i s p a c k a g e

t o c h e c k r u n s o f P . T h e n , f o r p r o b a b i l i t i e s o v e r t h e c h o i c e o f R ( w h e r e a l l r e s u l t s

e x c e p t ( I I ) a r e i n d e p e n d e n t o f t h e v a l u e o f ) :

( I ) . A s s u m e t h a t a b u g c a u s e s a t l e a s t o n e d e n i t e l y i n c o r r e c t I / O p a i r . T h e n

t h e p r o b a b i l i t y t h a t o u r c h e c k e r w i l l m i s s t h i s b u g i s

1

1 ; 0 0 0

.

( I I ) . I f 1 0 ; 0 0 0 , t h e n t h e p r o b a b i l i t y t h a t a n y d e n i t e l y c o r r e c t I / O p a i r w i l l

b e m i s t a k e n l y r e j e c t e d i s

1

1 0 0

.

( I I I ) . T h e p r o b a b i l i t y t h a t

1

2

o f a l l d e n i t e l y i n c o r r e c t I / O p a i r s w i l l b e m i s -

t a k e n l y a c c e p t e d i s

1

5 0 0

.

( I V ) . T h e p r o b a b i l i t y t h a t

1

1 0 ; 0 0 0

o f a l l d e n i t e l y c o r r e c t I / O p a i r s w i l l b e

m i s t a k e n l y r e j e c t e d i s

1

1 0 0

.

P r o o f . ( I ) a n d ( I I ) f o l l o w r e a d i l y f r o m L e m m a 3 . T o p r o v e ( I I I ) , n o t e a c o n s e -

q u e n c e o f L e m m a 3 ( I I ) : i f w e s e l e c t R r a n d o m l y a n d h ~ x ; ~ y i u n i f o r m - r a n d o m l y f r o m

t h e l i s t o f a l l d e n i t e l y i n c o r r e c t I / O p a i r s o u t o f o u r r u n s , t h e n t h e p r o b a b i l -

i t y t h a t o u r c h e c k e r a c c e p t s g i v e n i n p u t h ~ x ; ~ y i a n d r a n d o m i z a t i o n R i s

1

1 ; 0 0 0

.

B u t i f ( I I I ) w e r e f a l s e , t h e n t h i s s a m e p r o b a b i l i t y w o u l d , o n t h e c o n t r a r y , b e

>

1

5 0 0

1

2

=

1

1 ; 0 0 0

. ( I V ) i s p r o v e d a n a l o g o u s l y .

W h i l e L e m m a 4 g i v e s a r e a s o n a b l y s t r o n g a s s u r a n c e , i t i s n o t e n t i r e l y s a t i s f a c t o r y .

I n d e e d , w h e n s t o r e d r a n d o m n e s s i s u s e d a s d e s c r i b e d a b o v e , t h e r e i s n o r u n - t i m e

r a n d o m i z a t i o n , s o t h a t i f , f o r e x a m p l e , t h e c h e c k e r f a i l s o n a n i n p u t h ~ x ; ~ y i w h i c h

o c c u r s r e p e a t e d l y i n t h e r u n s , t h e n i t w i l l f a i l o n e a c h r e p e t i t i o n . T h i s h a s s e v e r a l

p o t e n t i a l l y b a d c o n s e q u e n c e s . F i r s t , i f P i s r e g a r d e d a s a n a d v e r s a r y , i t c a n d e f e a t

t h e c h e c k e r b y l e a r n i n g i t s \ b a d i n p u t s . " S e c o n d , o b s e r v e t h a t i f f r e s h r a n d o m n e s s

c o u l d b e u s e d f o r e a c h c h e c k , t h e n e a c h c h e c k w o u l d h a v e i n d e p e n d e n t p r o b a b i l i t y o f

e r r o r

1

1 ; 0 0 0

; h e n c e t h e p r o b a b i l i t y o f m a n y c h e c k e r e r r o r s d u r i n g r u n s o f P w o u l d

b e e x p o n e n t i a l l y s m a l l . W i t h s t o r e d r a n d o m n e s s , t h e p r o b a b i l i t y o f m a n y e r r o r s

i s s m a l l ( p e r L e m m a 4 ( I I I , I V ) ) b u t n o t e x p o n e n t i a l l y s m a l l . N o t e t h a t f r e q u e n t

e r r o r s c o u l d r e s u l t i n s y s t e m f a i l u r e , i f c h e c k e r e r r o r s t r i g g e r l e n g t h y s e l f - c o r r e c t i n g

p r o c e d u r e s a n d i f w e a r e d e a l i n g w i t h a s o f t r e a l - t i m e s y s t e m i n w h i c h a v e r a g e

r u n - t i m e m u s t b e k e p t l o w .

H e n c e w e n o w i n t r o d u c e a m o r e s o p h i s t i c a t e d a p p r o a c h t o s t o r e d r a n d o m n e s s ,

o n e w h i c h a l l o w s s t o r e d - r a n d o m c h e c k e r s t o b e a s r e l i a b l e a s c h e c k e r s u s i n g f r e s h

r a n d o m b i t s .

R e c a l l t h a t R = h ~r

( 1 )

; : : : ; ~ r

( 1 0 )

; ~v

( 1 )

; : : : ; ~ v

( 1 0 )

i i s t h e p r e p r o c e s s e d \ r a n d o m

p a c k a g e " n e e d e d b y o u r c h e c k e r , a n d t h a t h ~x ; ~ y i i s a n I / O p a i r t o b e c h e c k e d .

A l s o r e c a l l t h a t w e a r e a s s u m i n g i n p u t l e n g t h t o b e x e d b e f o r e r u n - t i m e : s p e c i f -

i c a l l y , l e t u s a s s u m e t h a t t h e v a l u e o f h ~ x ; ~ y i c a n b e c o m p l e t e l y r e p r e s e n t e d b y N

b i t s , s o t h a t t h e r e a r e a t m o s t 2

N

p o s s i b l e v a l u e s f o r h ~ x ; ~ y i .

A l g o r i t h m 3 . A t p r e p r o c e s s i n g t i m e , w e c r e a t e , n o t j u s t a s i n g l e r a n d o m p a c k -

a g e R , b u t 4 N r a n d o m p a c k a g e s R

1

; : : : ; R

4 N

. T h e n , a t r u n - t i m e , w e p i c k R

i

2

u


15/24


f R

1

; : : : ; R

4 N

g , a n d u s e R

i

t o c h e c k h ~ x ; ~ y i . F o r a s m a l l e r p r o b a b i l i t y o f e r r o r ,

w e c a n r e p e a t t h i s c h e c k w i t h s e v e r a l m o r e R

i

2

u

f R

1

; : : : ; R

4 N

g a n d r e t u r n t h e

m a j o r i t y a n s w e r .

T h e f o l l o w i n g l e m m a a r g u e s t h a t o u r i m p r o v e d s t o r e d - r a n d o m c h e c k e r h a s a n

i n d e p e n d e n t p r o b a b i l i t y o f e r r o r a t e a c h r u n - t i m e c h e c k w h i c h c a n b e m a d e a r b i -

t r a r i l y s m a l l . A l s o o b s e r v e t h a t P c a n n o t f o o l t h e c h e c k e r e v e n i f P i s a n a d v e r s a r y

w h i c h k n o w s t h e v a l u e s o f R

1

; : : : ; R

4 N

.

L e m m a 5 . W i t h p r o b a b i l i t y o f f a i l u r e 2

5 N

, R

1

; : : : ; R

4 N

w i l l b e s u c h t h a t , f o r

a l l h ~ x ; ~ y i , a t m o s t

1

4

o f R

1

; : : : ; R

4 N

a r e b a d f o r c h e c k i n g h ~x ; ~ y i . ( H e n c e , c h e c k i n g

w i t h t v a l u e s o f R

i

2

u

f R

1

; : : : ; R

4 N

g a n d t a k i n g t h e m a j o r i t y a n s w e r r e s u l t s i n a

r u n - t i m e e r r o r - p r o b a b i l i t y w h i c h i s e x p o n e n t i a l l y s m a l l i n t . )

P r o o f . A n a l o g o u s t o t h e s t a n d a r d p r o o f t h a t B P P

P / p o l y :

R e c a l l f r o m L e m m a 3 t h a t , f o r a n y g i v e n h ~ x ; ~ y i , t h e p r o b a b i l i t y ( o v e r t h e r a n d o m

c h o i c e o f a p a c k a g e R ) t h a t t h e c h e c k e r f a i l s g i v e n i n p u t

h~ x ; ~ y

ia n d r a n d o m i z a t i o n

R i s 2

1 0

.

H e n c e , f o r a n y g i v e n h ~ x ; ~ y i , t h e p r o b a b i l i t y ( o v e r t h e r a n d o m c h o i c e o f p a c k a g e s

R

1

; : : : ; R

N

) t h a t a l l o f R

1

; : : : ; R

N

a r e b a d f o r c h e c k i n g h ~x ; ~ y i i s 2

1 0 N

.

H e n c e t h e p r o b a b i l i t y ( o v e r t h e r a n d o m c h o i c e o f R

1

; : : : ; R

4 N

) t h a t t h e r e e x -

i s t s a n y h ~ x ; ~ y i a n d a n y s i z e - N s u b s e t R

1

; : : : ; R

N

o f R

1

; : : : ; R

4 N

s u c h t h a t a l l o f

R

1

; : : : ; R

N

a r e b a d f o r c h e c k i n g h ~x ; ~ y i i s 2

N

4 N

N

2

1 0 N

2

N

2

4 N

2

1 0 N

=

2

5 N

.

T h i s i s i n f a c t a g e n e r a l m e t h o d a l l o w i n g a n y s i m p l e c h e c k e r t o m a k e u s e o f s t o r e d

r a n d o m n e s s w i t h o u t c o m p r o m i s i n g i t s r e l i a b i l i t y . O n l y O ( l o g N ) b i t s o f r u n - t i m e

r a n d o m n e s s a r e t h e n n e e d e d f o r e a c h c h e c k .

2 . 2 A S t r o n g e r S i m p l e C h e c k e r

R e c a l l t h a t

~

= (

1

; : : : ;

n

) i s t h e \ e r r o r v e c t o r " ~y ~x A . A l s o r e c a l l t h a t ,

w h i l e t h e f u l l v a l u e o f v e c t o r

~

i s n o t c a l c u l a b l e i n t i m e O ( n ) , w e c a n u s e s t o r e d ,

p r e p r o c e s s e d ~r

( k )

a n d ~v

( k )

t o e c i e n t l y c a l c u l a t e r a n d o m i z e d s c a l a r v a l u e ~r

( k )

~

.

T h e a s s u r a n c e t h a t o u r s i m p l e c h e c k e r w i l l r e j e c t i n s t a n c e s f o r w h i c h a n y

j

i

j

6

p

n i s n o t e n t i r e l y s a t i s f a c t o r y : i t l e a v e s t o o l a r g e a g a p b e t w e e n i n s t a n c e s w h i c h

a r e r e l i a b l y a c c e p t e d a n d t h o s e w h i c h a r e r e l i a b l y r e j e c t e d . A s t r o n g e r m e t h o d

w o u l d b e t o a p p r o x i m a t e

j

~

j=

q

2

1

+

+

2

n

a n d a c c e p t o r r e j e c t b y c o m p a r i n g t h i s v a l u e t o a s u i t a b l e t h r e s h o l d . T h i s m e t h o d

i s p a r t i c u l a r l y a p p r o p r i a t e i n t h a t e n g i n e e r s o f t e n u s e t h i s r o o t - m e a n - s q u a r e

m e a s u r e t o r e p r e s e n t o v e r a l l e r r o r i n c a l c u l a t i o n s s u c h a s F o u r i e r T r a n s f o r m s .

W h a t w e n e e d t h e n i s a n e c i e n t m e t h o d f o r a p p r o x i m a t i n g j

~

j . T h e l e m m a s

b e l o w p r o v e t h a t i t i s i n d e e d p o s s i b l e t o e c i e n t l y a p p r o x i m a t e j

~

j

2

.

L e m m a 6 . L e t ~r

( 1 )

; : : : ; ~ r

( m )

b e n - l e n g t h v e c t o r s , e a c h c o m p o n e n t 1 w i t h i n d e -

p e n d e n t 5 0 / 5 0 p r o b a b i l i t y , a n d c o n s i d e r r a n d o m i z e d q u a n t i t y

X =

1

m

m

X

k = 1

h

~r

( k )

~

i

2

:


16/24


F o r a n y p o s i t i v e a n d p : i f m

2

p

2

, t h e n , w i t h p r o b a b i l i t y g r e a t e r t h a n 1 p ,

( 1 ) j

~

j

2

X ( 1 + ) j

~

j

2

:

P r o o f . O b s e r v e t h a t

h

~r

( k )

~

i

2

=

"

n

X

i = 1

r

( k )

i

i

#

2

=

n

X

i = 1

2

i

+

n

X

i = 1

X

j 6= i

r

( k )

i

r

( k )

j

i

j

= j

~

j

2

+ 2

n 1

X

i = 1

n

X

j = i + 1

r

( k )

i

r

( k )

j

i

j

:

= ) X =

1

m

m

X

k = 1

j

~

j

2

+

2

m

m

X

k = 1

n 1

X

i = 1

n

X

j = i + 1

r

( k )

i

r

( k )

j

i

j

= j

~

j

2

+

2

m

R ;

w h e r e

2

m

t i m e s R : =

m

X

k = 1

n 1

X

i = 1

n

X

j = i + 1

r

( k )

i

r

( k )

j

i

j

i s t h e r a n d o m i z e d \ e r r o r t e r m "

w h o s e s i z e w e w i s h t o b o u n d .

N o t e t h a t R i s a s u m o f

m n ( n 1 )

2

p a i r w i s e i n d e p e n d e n t q u a n t i t i e s . T h u s :

V a r R ] =

m

X

k = 1

n 1

X

i = 1

n

X

j = i + 1

V a r

h

r

( k )

i

r

( k )

j

i

j

i

=

m

X

k = 1

n 1

X

i = 1

n

X

j = i + 1

2

i

2

j

m

X

k = 1

1

2

n

X

i = 1

n

X

j = 1

2

i

2

j

=

1

2

m

X

k = 1

2

4

n

X

i = 1

2

i

!

0

@

n

X

j = 1

2

j

1

A

3

5

=

1

2

m

X

k = 1

h

j

~

j

2

j

~

j

2

i

=

m j

~

j

4

2

:

T h u s t h e v a r i a n c e o f \ e r r o r t e r m "

2

m

R i s

2

m

2

m j

~

j

4

2

=

2 j

~

j

4

m

. S i n c e w e a r e

a s s u m i n g m

2

p

2

, t h i s i s p

2

j

~

j

4

.

B u t t h e n t h e p r o b a b i l i t y t h a t

2

m

R

> j

~

j

2

m u s t b e l e s s t h a n p . T h i s f o l l o w s

b y C h e b y s h e v ' s I n e q u a l i t y : i . e . , i f t h e c o n t r a r y w e r e t r u e , t h e n w e w o u l d h a v e

V a r

2

m

R

> p

2

j

~

j

4

, w h i c h c o n t r a d i c t s w h a t w e h a v e p r o v e d a b o v e .


17/24


L e m m a 7 . R e c a l l o n c e a g a i n t h a t , u s i n g p r e p r o c e s s e d h ~r

( k )

; ~v

( k )

i , w e c a n c a l -

c u l a t e ~r

( k )

~

i n t i m e O ( n ) . T h e n : f o r a n y p o s i t i v e a n d p , w e c a n , i n t i m e

O ( n (

1

)

2

l o g (

1

p

) ) , c a l c u l a t e a v a l u e Y s u c h t h a t , w i t h p r o b a b i l i t y g r e a t e r t h a n 1 p ,

( 1 ) j

~

j

2

Y ( 1 + ) j

~

j

2

:

P r o o f . L e t t : = d 6 l n (

1

p

) e a n d m : = d

8

2

e . W e r e p e a t 2 t t i m e s t h e c a l c u -

l a t i o n o f a r a n d o m i z e d X - v a l u e a s d e s c r i b e d i n L e m m a 6 , u s i n g p r e p r o c e s s e d

h ~r

( 1 )

; : : : ; ~ r

( 2 t m )

; ~v

( 1 )

; : : : ; ~ v

( 2 t m )

i . W e t h e n r e t u r n t h e m e d i a n o f X - v a l u e s X

1

; : : : ;

X

2 t

a s o u r v a l u e f o r Y .

W h y d o e s t h i s w o r k ? B y L e m m a 6 , e a c h X

i

a p p r o x i m a t e s j

~

j

2

t o w i t h i n t h e

d e s i r e d r a n g e w i t h i n d e p e n d e n t p r o b a b i l i t y o f e r r o r l e s s t h a n

1

4

. A n d t h e m e d i a n

o f t h e X - v a l u e s c a n b e o u t o f r a n g e o n l y i f a t l e a s t t o f t h e 2 t X - v a l u e s a r e o u t o f

r a n g e . B y a C h e r n o B o u n d , t h e p r o b a b i l i t y o f t h i s i s < e

t = 6

p , a s d e s i r e d .

2 . 3 S i m p l e C h e c k e r | V a r i a n t s

A f u l l e r s t a t e m e n t o f o u r a l g o r i t h m w o u l d i n c l u d e c o n s i d e r a t i o n o f a r i t h m e t i c

r o u n d - o e r r o r i n t h e c h e c k e r i t s e l f a s w e l l a s i n P . H o w e v e r , u n d e r t h e r e a s o n a b l e

a s s u m p t i o n ( f o r a x e d - p o i n t s y s t e m ) t h a t a d d i t i o n a n d n e g a t i o n d o n o t g e n e r a t e

r o u n d - o e r r o r s , o u r c h e c k e r c o u l d g e n e r a t e e r r o r o n l y i n t h e n r e a l - n u m b e r m u l -

t i p l i c a t i o n s n e e d e d t o c a l c u l a t e ~x ~v

( k )

. I t i s o u r h e u r i s t i c e x p e c t a t i o n t h a t s u c h

e r r o r w o u l d n o t b e l a r g e e n o u g h t o s i g n i c a n t l y a e c t t h e v a l i d i t y o f o u r c h e c k e r .

E v i d e n t l y , d i e r e n t v a l u e s c o u l d b e u s e d f o r t h e c o n s t a n t s i n o u r a l g o r i t h m o f

S e c t i o n 2 . 1 . O u r g o a l w a s t o p a r t i c u l a r i z e a p r a g m a t i c c h e c k e r | o n e w h i c h s a t i s e s

r e a s o n a b l y w e l l e a c h o f t h e f o l l o w i n g d e s i r a b l e c o n d i t i o n s : s m a l l g a p b e t w e e n t h e

d e n i t i o n s o f d e n i t e l y c o r r e c t a n d d e n i t e l y i n c o r r e c t ; s m a l l c h a n c e o f a m i s t a k e n

a c c e p t ; v e r y s m a l l c h a n c e o f a m i s t a k e n r e j e c t ; a n d s m a l l r u n - t i m e .

T o g e n e r a l i z e : l e t o u r d e n i t i o n o f d e n i t e l y i n c o r r e c t b e t h a t t h e r e e x i s t s j

i

j

c

p

n . L e t o u r a l g o r i t h m c a l c u l a t e t v a l u e s o f D

( k )

a n d r e j e c t i a n y j D

( k )

j c

p

n .

( W e u s e d c = 6 , t = 1 0 a b o v e . ) T h e n t h e e r r o r b o u n d i n L e m m a 1 i s 2 e

c

2

= 2

. T h e

e r r o r b o u n d i n L e m m a 3 ( I ) i s 2 t e

c

2

= 2

, a n d t h a t i n L e m m a 3 ( I I ) i s

1

2

t

. L e m m a

4 ( I I I ) g e n e r a l i z e s : f o r a n y q 2 ( 0 ; 1 ] , t h e p r o b a b i l i t y t h a t a n a t l e a s t q p o r t i o n o f

a l l d e n i t e l y i n c o r r e c t I / O p a i r s w i l l b e m i s t a k e n l y a c c e p t e d i s

q

, w h e r e i s t h e

e r r o r b o u n d f r o m L e m m a 3 ( I I ) . L e m m a 4 ( I V ) g e n e r a l i z e s a n a l o g o u s l y . L e m m a

5 a p p l i e s t o a n y s i m p l e c h e c k e r w h i c h h a s p r o b a b i l i t y o f e r r o r 2

1 0

( a n d a n y

c h e c k e r c a n h a v e i t s e r r o r - b o u n d r e d u c e d t o t h i s l e v e l b y r e p e a t i n g t h e c h e c k a

s m a l l c o n s t a n t n u m b e r o f t i m e s ) .

2 . 4 A S e l f - C o r r e c t o r

M o t i v a t i o n : T o d e v e l o p a s e l f - c o r r e c t o r f o r P , w e s t a r t w i t h t h e t r a d i t i o n a l a p -

p r o a c h o f a d d i n g a r a n d o m d i s p l a c e m e n t t o t h e l o c a t i o n a t w h i c h w e m u s t p o l l P .

H o w e v e r , t o p r e v e n t t h e c o m p o n e n t s o f o u r i n p u t - v e c t o r s f r o m g o i n g o u t o f l e g a l

d o m a i n 1 ; 1 ] , w e h e r e n d i t n e c e s s a r y t o p o l l P a t a l o c a t i o n w h i c h i s a w e i g h t e d

a v e r a g e o f d e s i r e d i n p u t ~x a n d a r a n d o m i n p u t ~r . I f w e w e i g h t t h e a v e r a g e s o t h a t

~r d o m i n a t e s , t h e r e s u l t i n g v e c t o r i s n e a r - u n i f o r m r a n d o m , a l l o w i n g u s t o p r o v e t h e

r e l i a b i l i t y o f o u r s e l f - c o r r e c t o r . T h i s m e t h o d m a y b e c o m p a r e d t o t h o s e e m p l o y e d

i n G e m m e l l e t a l . 1 9 9 1 ] .


18/24


A s s u m e t h a t w e h a v e t e s t e d P o n a l a r g e n u m b e r o f r a n d o m i n p u t v e c t o r s :

i . e . , v e c t o r s ( o f x e d l e n g t h n ) g e n e r a t e d b y c h o o s i n g e a c h c o m p o n e n t u n i f o r m -

r a n d o m l y f r o m t h e s e t o f x e d - p o i n t r e a l n u m b e r s o n l e g a l d o m a i n 1 ; 1 ] . A s s u m e

w e h a v e v e r i e d t h a t P i s c o r r e c t o n t h e s e r a n d o m i n p u t v e c t o r s ( a n a l l o w a b l e

e r r o r - d e l t a ) ; a v e r s i o n o f o u r s i m p l e c h e c k e r m i g h t b e e m p l o y e d t o f a c i l i t a t e t h i s

v e r i c a t i o n . T h r o u g h s u c h a t e s t i n g s t a g e ( o r b y u s e o f a s e l f - t e s t e r E r g u n 1 9 9 5 ] ) ,

w e c a n s a t i s f y o u r s e l v e s t h a t ( w i t h h i g h p r o

Software Reliability via Run-Time Result-Checking

Documents

Transcript of Software Reliability via Run-Time Result-Checking