aaabook_9500toc

8/7/2019 aaabook_9500toc

1/10

Chebyshev and Fourier Spectral Methods

Second Edition

John P. Boyd

University of Michigan

Ann Arbor, Michigan 48109-2143

email: [email protected]://www-personal.engin.umich.edu/jpboyd/

2000

DOVER Publications, Inc.

31 East 2nd StreetMineola, New York 11501

1


2/10

Dedication

To Marilyn, Ian, and Emma

A computation is a temptation that should be resisted as

long as possible. J. P. Boyd, paraphrasing T. S. Eliot

i


3/10

Contents

PREFACE x

Acknow ledgments xiv

Errata and Extended-Bibliography xvi

1 Introduction 1

1.1 Series exp an sion s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1

1.2 First Exam ple . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2

1.3 C om p ar iso n w it h fi nit e elem en t m et ho d s . . . . . . . . . . . . . . . . . . . . 4

1.4 C om p ar iso ns w it h Fin it e D iffer en ces . . . . . . . . . . . . . . . . . . . . . . . 6

1.5 Parallel Com pu ters . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9

1.6 C hoice of ba sis fu n ction s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9

1.7 Bou nd ary con dition s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10

1.8 N o n-In ter p ola tin g a nd P seu d osp ect ra l . . . . . . . . . . . . . . . . . . . . . . 12

1.9 N onlin earity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131.10 Tim e-d ep en d en t p rob lem s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15

1.11 FA Q: Fr eq u en tly A sk ed Q u es tio ns . . . . . . . . . . . . . . . . . . . . . . . . 16

1.12 T he Ch rysalis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17

2 Chebyshev & Fourier Series 19

2.1 In trod uction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19

2.2 Fou rier series . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20

2.3 O rd ers of Con vergen ce . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25

2.4 Con vergen ce Ord er . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27

2.5 A ssu m ption of Eq ual Er ror s . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31

2.6 D ar bou xs Pr in cip le . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32

2.7 W hy Ta ylor Ser ies Fa il . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 352.8 Loca tion of Sin gu la rities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36

2.8.1 Corner Singularit ies & Compatibility Conditions . . . . . . . . . . . 37

2.9 FA CE: In teg ra tio n-b y-P ar ts Bo un d . . . . . . . . . . . . . . . . . . . . . . . . 41

2.10 Asymptotic Calculation of Fourier Coefficients . . . . . . . . . . . . . . . . . 45

2.11 C on v er ge nce Th eo ry : C h eb ys he v P oly n om ia ls . . . . . . . . . . . . . . . . . 46

2.12 La st C oeffi cien t Ru le-o f-Th u m b . . . . . . . . . . . . . . . . . . . . . . . . . . 50

2.13 Convergence Theory for Legendre Polynomials . . . . . . . . . . . . . . . . . 51

2.14 Q u asi-Sin u so id a l Ru le o f Th u m b . . . . . . . . . . . . . . . . . . . . . . . . . 54

2.15 Wit ch o f A gn esi Ru leo fTh u m b . . . . . . . . . . . . . . . . . . . . . . . . . 56

2.16 Bo u nd a ry La yer Ru le-o f-Th u m b . . . . . . . . . . . . . . . . . . . . . . . . . 57

ii


4/10

CONTENTS iii

3 Galerkin & Weighted Residual Methods 61

3.1 M ea n Weig ht ed Re sid u a l M et ho d s . . . . . . . . . . . . . . . . . . . . . . . . 61

3.2 C om p le ten ess a nd Bo un d ar y C on d it io ns . . . . . . . . . . . . . . . . . . . . 643.3 In ner Prod u ct & O rth og on ality . . . . . . . . . . . . . . . . . . . . . . . . . . 65

3.4 Galerkin Meth od . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67

3.5 In tegr ation -by -P ar ts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68

3.6 Ga ler kin M eth od : Ca se Stu d ies . . . . . . . . . . . . . . . . . . . . . . . . . . 70

3.7 Separation-of-Variables & the Galerkin Method . . . . . . . . . . . . . . . . . 76

3.8 H eisen berg M atr ix Mech an ics . . . . . . . . . . . . . . . . . . . . . . . . . . . 77

3.9 Th e Ga ler kin Meth od Tod ay . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80

4 Interpolation, Collocation & All That 81

4.1 Introd uction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81

4.2 Poly nom ial in ter polation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82

4.3 G au s sia n In t eg ra tio n & P se u d os p ect ra l G rid s . . . . . . . . . . . . . . . . . . 86

4.4 P se u d os p ect ra l Is G ale rk in M et ho d v ia Q u a d ra tu r e . . . . . . . . . . . . . . 894.5 Pseu d osp ectral Errors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93

5 Cardinal Functions 98

5.1 Introd uction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 98

5.2 W hit ta ker C ar d in al o r Sin c Fu n ct io ns . . . . . . . . . . . . . . . . . . . . . 99

5.3 Tr ig on om et ric In ter p ola tio n . . . . . . . . . . . . . . . . . . . . . . . . . . . . 100

5.4 C ar d in a l Fu n ct io n s fo r O rt h og on a l P oly n om ia ls . . . . . . . . . . . . . . . . 104

5.5 Tr an sfo rm a tio ns a nd In ter p ola tio n . . . . . . . . . . . . . . . . . . . . . . . . 107

6 Pseudospectral Methods for BVPs 109

6.1 In trod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109

6.2 Ch oice of Ba sis Set . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109

6.3 Boundary Conditions: Behavioral & Numerical . . . . . . . . . . . . . . . . . 1096.4 Bou n da ry -Bord er in g . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 111

6.5 Basis Recom bin ation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112

6.6 Tr an sfi nit e In ter p ola tio n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 114

6.7 Th e C ar d in al Fu n ct io n Ba sis . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115

6.8 Th e In ter pola tion Gr id . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 116

6.9 C om p u t in g Ba sis Fu n ct io n s & D er iv at iv es . . . . . . . . . . . . . . . . . . . . 116

6.10 H ig her D im en sio ns: In d exin g . . . . . . . . . . . . . . . . . . . . . . . . . . . 118

6.11 H ig her D im en sion s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120

6.12 C or ner Sin gu la rities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120

6.13 Matrix m eth od s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 121

6.14 C heckin g . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 121

6.15 Su m mary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123

7 Linear Eigenvalue Problems 127

7.1 Th e N o-Br ain Meth od . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127

7.2 Q R/ Q Z Algorith m . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 128

7.3 Eig en va lu e Ru le-of-Th u mb . . . . . . . . . . . . . . . . . . . . . . . . . . . . 129

7.4 Fo u r Kin d s o f St u rm -Lio u ville P ro ble m s . . . . . . . . . . . . . . . . . . . . . 134

7.5 C rit er ia fo r Re je ct in g Eig en v alu e s . . . . . . . . . . . . . . . . . . . . . . . . . 137

7.6 Sp u riou s Eig en va lu es . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 139

7.7 Red u cin g t he C on d it io n N u m ber . . . . . . . . . . . . . . . . . . . . . . . . . 142

7.8 Th e Pow er Meth od . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145

7.9 In ver se Pow er Meth od . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149


5/10

iv CONTENTS

7.10 C om b in in g G lo ba l & Lo ca l M et h od s . . . . . . . . . . . . . . . . . . . . . . . 149

7.11 D et ou r in g in to th e C om p lex P la ne . . . . . . . . . . . . . . . . . . . . . . . . 151

7.12 Com mon Errors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 155

8 Symmetry & Parity 159

8.1 In trod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159

8.2 Parity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159

8.3 M od ify in g t he G rid to Exp lo it P ar it y . . . . . . . . . . . . . . . . . . . . . . . 165

8.4 O th er D iscr et e Sy m met ries . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165

8.5 A xis ym m e tr ic & A p p le -Slicin g M od e ls . . . . . . . . . . . . . . . . . . . . . . 170

9 Explicit Time-Integration Methods 172

9.1 In trod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 172

9.2 Sp a tia lly -Va ry in g C oe ffi cie nt s . . . . . . . . . . . . . . . . . . . . . . . . . . . 175

9.3 Th e Sh am rock Pr in cip le . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 177

9.4 Lin ear an d N on lin ea r . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1789.5 Exa mp le: Kd V Eq ua tion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 179

9.6 Im p licit ly -Im p licit : RLW & Q G . . . . . . . . . . . . . . . . . . . . . . . . . . 181

10 Partial Summation, the FFT and MMT 183

10.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183

10.2 P a rtia l Su m mation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 184

10.3 Th e Fa st Fo u rie r Tr an sfo rm : Th eo ry . . . . . . . . . . . . . . . . . . . . . . . 187

10.4 M at rix M u lt ip lica tio n Tr an sfo rm . . . . . . . . . . . . . . . . . . . . . . . . . 190

10.5 C os ts o f t h e Fa st Fo u rie r Tr an sfo rm . . . . . . . . . . . . . . . . . . . . . . . . 192

10.6 Generalized FFTs and Multipole Methods . . . . . . . . . . . . . . . . . . . . 195

10.7 O ff-G rid In ter p ola tio n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 198

10.8 Fast Fourier Transform: Practical Matters . . . . . . . . . . . . . . . . . . . . 200

10.9 Su mm ary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 200

11 Aliasing, Spectral Blocking, & Blow -Up 202

11.1 In trod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202

11.2 A lia sin g a n d Eq u alit y-o n -t h e-G rid . . . . . . . . . . . . . . . . . . . . . . . . 202

11.3 2 h -Wa ve s a n d Sp e ct ra l Blo ck in g . . . . . . . . . . . . . . . . . . . . . . . . 205

11.4 Aliasing Instability: History and Remedies . . . . . . . . . . . . . . . . . . . 210

11.5 Dealiasing and the Orszag Two-Thirds Rule . . . . . . . . . . . . . . . . . . . 211

11.6 Energy-Conserving: Constrained Interpolation . . . . . . . . . . . . . . . . . 213

11.7 Energy-Conserving Schemes: Discussion . . . . . . . . . . . . . . . . . . . . 214

11.8 A lia sin g In st ab ilit y: Th eo ry . . . . . . . . . . . . . . . . . . . . . . . . . . . . 216

11.9 Su mm ary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 218

12 Implicit Schemes & the Slow Manifold 22212.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 222

12.2 D is p er sio n a n d A m p lit u d e Er ro rs . . . . . . . . . . . . . . . . . . . . . . . . . 224

12.3 Errors & CFL Limit for Explicit Schemes . . . . . . . . . . . . . . . . . . . . . 226

12.4 Im p licit Tim e -M ar ch in g A lg or it h m s . . . . . . . . . . . . . . . . . . . . . . . 228

12.5 Sem i-Im p licit M et ho d s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 229

12.6 Sp e ed -Re d u ct io n Ru le -o f-Th u m b . . . . . . . . . . . . . . . . . . . . . . . . . 230

12.7 Slo w M an ifo ld : M et eo ro lo gy . . . . . . . . . . . . . . . . . . . . . . . . . . . 231

12.8 Slo w M an ifo ld : D efi n it io n & Exa m p le s . . . . . . . . . . . . . . . . . . . . . . 232

12.9 N u m e rica lly -In d u ce d Slo w M an ifo ld s . . . . . . . . . . . . . . . . . . . . . . 236

12.10In itializ ation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239


6/10

CONTENTS v

12.11The Method of Multiple Scales(Baer-Tribbia) . . . . . . . . . . . . . . . . . . 241

12.12 N on lin ea r G aler kin M et ho d s . . . . . . . . . . . . . . . . . . . . . . . . . . . 243

12.13Weaknesses of the Nonlinear Galerkin Method . . . . . . . . . . . . . . . . . 245

12.14 Tr ack in g t he Slo w M an ifo ld . . . . . . . . . . . . . . . . . . . . . . . . . . . . 248

12.15Three Parts to Multiple Scale Algorithms . . . . . . . . . . . . . . . . . . . . 249

13 Splitting & Its Cousins 252

13.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 252

13.2 Fr act io n al St ep s fo r D iffu s io n . . . . . . . . . . . . . . . . . . . . . . . . . . . 255

13.3 Pitfalls in Split ting, I: Boundary Conditions . . . . . . . . . . . . . . . . . . . 256

13.4 Pitfalls in Split ting, II: Consistency . . . . . . . . . . . . . . . . . . . . . . . . 258

13.5 O p er at or Th eo ry o f Tim e -St ep p in g . . . . . . . . . . . . . . . . . . . . . . . . 259

13.6 H ig h O rd er Sp littin g . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 261

13.7 Sp lit tin g a n d Flu id M ech a n ics . . . . . . . . . . . . . . . . . . . . . . . . . . . 262

14 Semi-Lagrangian Advection 265

14.1 C on ce p t o f a n In t eg ra tin g Fa ct or . . . . . . . . . . . . . . . . . . . . . . . . . 265

14.2 M is u se o f In t eg ra tin g Fa ct or M et h od s . . . . . . . . . . . . . . . . . . . . . . 267

14.3 Semi-Lagrangian Advection: Introduction . . . . . . . . . . . . . . . . . . . . 270

14.4 A d v ect io n & M et ho d o f C ha ra ct er is tics . . . . . . . . . . . . . . . . . . . . . 271

14.5 Three-Level, 2D Order Semi-Implicit . . . . . . . . . . . . . . . . . . . . . . . 273

14.6 Mu ltip ly -U pstrea m SL . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 275

14.7 N umerical Il lustrations & Superconvergence . . . . . . . . . . . . . . . . . . 277

14.8 Tw o -Lev el SL/ SI A lg or it hm s . . . . . . . . . . . . . . . . . . . . . . . . . . . 280

14.9 Noninterpolating SL & Numerical Diffusion . . . . . . . . . . . . . . . . . . 281

14.10 Off-G rid In ter p ola tio n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 283

14.10.1 Off-Grid Interpolation: Generalities . . . . . . . . . . . . . . . . . . . 283

14.10.2 Sp ect ra l O ff-g rid . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 284

14.10.3 Low-order Polynomial Interpolation . . . . . . . . . . . . . . . . . . . 284

14.10.4 McGregors Taylor Series Scheme . . . . . . . . . . . . . . . . . . . . 286

14.11 H ig her O rd er SL M et ho d s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 286

14.12History and Relationships to Other Methods . . . . . . . . . . . . . . . . . . 286

14.13Su m mary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 289

15 Matrix-Solving Methods 290

15.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 290

15.2 St at io n ar y O n e-St ep It er at io n s . . . . . . . . . . . . . . . . . . . . . . . . . . . 291

15.3 P re co n d it io n in g : Fin it e D iffe re nce . . . . . . . . . . . . . . . . . . . . . . . . 293

15.4 Computing Iterates: FFT/ Matrix Multiplication . . . . . . . . . . . . . . . . 297

15.5 A lt er na tiv e P reco nd it io ner s . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29915.6 Raising the Order Through Preconditioning . . . . . . . . . . . . . . . . . . . 301

15.7 Mu ltig rid : A n O ver view . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 301

15.8 M RR Meth od . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 304

15.9 Delves-Freeman Block-and-Diagonal Iteration . . . . . . . . . . . . . . . . . 307

15.10Recursions & Formal Integration: Constant Coefficient ODEs . . . . . . . . . 312

15.11 D ir ect M et h od s fo r Se p ar ab le P DEs . . . . . . . . . . . . . . . . . . . . . . . 314

15.12Fast Iterations for Almost Separable PDEs . . . . . . . . . . . . . . . . . . . . 317

15.13Positive Definite and Indefinite Matrices . . . . . . . . . . . . . . . . . . . . . 318

15.14 Pr eco nd it io ned N ew t on Flo w . . . . . . . . . . . . . . . . . . . . . . . . . . . 320

15.15Su m ma ry & Prov er bs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 322


7/10

vi CONTENTS

16 Coordinate Transformations 323

16.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 323

16.2 P ro gr am m in g C heb ys hev M et ho d s . . . . . . . . . . . . . . . . . . . . . . . . 32316.3 Th eo ry o f 1-D Tr an sfo rm a tio n s . . . . . . . . . . . . . . . . . . . . . . . . . . 325

16.4 In fi nit e a n d Se m i-In fi nit e In t er va ls . . . . . . . . . . . . . . . . . . . . . . . . 326

16.5 Maps for Endpoint & Corner Singularit ies . . . . . . . . . . . . . . . . . . . . 327

16.6 Two-Dimensional Maps & Corner Branch Points . . . . . . . . . . . . . . . . 329

16.7 Periodic Problems & the Arctan/ Tan Map . . . . . . . . . . . . . . . . . . . . 330

16.8 A d ap tive Meth od s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 332

16.9 Almost-Equispaced Kosloff/ Tal-Ezer Grid . . . . . . . . . . . . . . . . . . . . 334

17 Methods for Unbounded Intervals 338

17.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 338

17.2 D om ain Tru n ca tion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 339

17.2.1 Domain Truncation for Rapidly-decaying Functions . . . . . . . . . . 339

17.2.2 Domain Truncation for Slowly-Decaying Functions . . . . . . . . . . 340

17.2.3 Doma in Trun cation for Time-Depend ent Wave Propaga tion:

Sp on ge Layers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 340

17.3 W h it ta ke r C ar d in a l o r Sin c Fu n ct io n s . . . . . . . . . . . . . . . . . . . . . 341

17.4 H er mite fu n ction s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 346

17.5 Semi-Infinite Interval: Laguerre Functions . . . . . . . . . . . . . . . . . . . . 353

17.6 N e w Ba sis Se ts v ia C h an g e o f C oo rd in a te . . . . . . . . . . . . . . . . . . . . 355

17.7 Rational Chebyshev Fun ctions: TBn . . . . . . . . . . . . . . . . . . . . . . . 356

17.8 Behavioral versus Numerical Boundary Conditions . . . . . . . . . . . . . . 361

17.9 Strategy for Slowly Decaying Functions . . . . . . . . . . . . . . . . . . . . . 363

17.10Nu merical Examples: Rational Chebyshev Functions . . . . . . . . . . . . . 366

17.11Semi-Infinite Interval: Rational Ch ebyshev TLn . . . . . . . . . . . . . . . . 369

17.12Nu merical Examples: Chebyshev for Semi-Infinite Interval . . . . . . . . . . 37017.13Strategy: Oscillatory, Non-Decaying Functions . . . . . . . . . . . . . . . . . 372

17.14 We id e m an -C lo ot Sin h M ap p in g . . . . . . . . . . . . . . . . . . . . . . . . . . 374

17.15Su mm ary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377

18 Spherical & Cylindrical Geometry 380

18.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 380

18.2 Polar, Cylindrical, Toroidal, Spherical . . . . . . . . . . . . . . . . . . . . . . 381

18.3 A p p aren t Sin gu la rity a t t he P ole . . . . . . . . . . . . . . . . . . . . . . . . . 382

18.4 P ola r C oo rd in a te s: P ar it y Th eo re m . . . . . . . . . . . . . . . . . . . . . . . . 383

18.5 Ra d ia l Ba sis Se ts a n d Ra d ia l G rid s . . . . . . . . . . . . . . . . . . . . . . . . 385

18.5.1 One-Sided Jacobi Basis for the Radial Coordinate . . . . . . . . . . . 387

18.5.2 Boundary Value & Eigenvalue Problems on a Disk . . . . . . . . . . . 389

18.5.3 Unbou nd ed Domains Includ ing the Origin in Cylind rical Coordinates 39018.6 A nn u lar D om ain s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 390

18.7 Sp h er ica l C oo rd i na te s: A n O v er vie w . . . . . . . . . . . . . . . . . . . . . . . 391

18.8 The Parity Factor for Scalars: Sphere versus Torus . . . . . . . . . . . . . . . 391

18.9 Parity II: Horizontal Velocities & Other Vector Components . . . . . . . . . . 395

18.10The Pole Problem: Spherical Coordinates . . . . . . . . . . . . . . . . . . . . 398

18.11 Sp h er ica l H a r m on ics : In tr od u ct io n . . . . . . . . . . . . . . . . . . . . . . . . 399

18.12 Le ge nd r e Tr an sfo rm s a n d O th er So rr ow s . . . . . . . . . . . . . . . . . . . . 402

18.12.1 FFT in Longitude/ MMT in Latitude . . . . . . . . . . . . . . . . . . . 402

18.12.2 Substitutes and Accelerators for the MMT . . . . . . . . . . . . . . . . 403

18.12.3 P ar it y a n d Le ge nd r e Tr an sfo rm s . . . . . . . . . . . . . . . . . . . . . 404


8/10

CONTENTS vii

18.12.4 Hurrah for Matrix/ Vector Multiplication . . . . . . . . . . . . . . . . 404

18.12.5 Re d u ce d G rid an d O th er Tr ick s . . . . . . . . . . . . . . . . . . . . . . 405

18.12.6 Schuster-Dilts Triangular Matrix Acceleration . . . . . . . . . . . . . 40518.12.7 Generalized FFT: Multipoles and All That . . . . . . . . . . . . . . . . 407

18.12.8 Su m mary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 407

18.13 Eq u ia rea l Reso lu t io n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 408

18.14Spherical Harmonics: Limited-Area Models . . . . . . . . . . . . . . . . . . . 409

18.15 Sp h e rica l H a r m on ics a n d P h ys ics . . . . . . . . . . . . . . . . . . . . . . . . . 410

18.16 Asy m pt ot ic A p p ro xim at io ns, I . . . . . . . . . . . . . . . . . . . . . . . . . . 410

18.17 As ym p t ot ic A p p ro xim a tio n s, II . . . . . . . . . . . . . . . . . . . . . . . . . . 412

18.18 So ft w ar e: Sp h er ica l H a r mo n ics . . . . . . . . . . . . . . . . . . . . . . . . . . 414

18.19 Se m i-Im p licit : Sh a llo w Wa te r . . . . . . . . . . . . . . . . . . . . . . . . . . . 416

18.20Fronts and Topography: Smoothing/ Filters . . . . . . . . . . . . . . . . . . . 418

18.20.1 Fro nt s a nd To po gr ap h y . . . . . . . . . . . . . . . . . . . . . . . . . . 418

18.20.2 M ech a nics o f Filt er in g . . . . . . . . . . . . . . . . . . . . . . . . . . . 419

18.20.3 Sp h er ica l sp lin es . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 420

18.20.4 Filter O rd er . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 422

18.20.5 Filtering with Spatially-Variable Order . . . . . . . . . . . . . . . . . 423

18.20.6 Topographic Filtering in Meteorology . . . . . . . . . . . . . . . . . . 423

18.21 Re so lu t io n o f Sp e ct ra l M od e ls . . . . . . . . . . . . . . . . . . . . . . . . . . . 425

18.22 Ve ct or H a r m on ics & H o u g h Fu n ct io n s . . . . . . . . . . . . . . . . . . . . . . 428

18.23Radial/ Vertical Coordinate: Spectral or Non-Spectral? . . . . . . . . . . . . . 429

18.23.1 Basis for Axial Coordinate in Cylind rical Coordinates . . . . . . . . . 429

18.23.2 Axial Basis in Toroidal Coordinates . . . . . . . . . . . . . . . . . . . 429

18.23.3 Vertical/ Radial Basis in Spherical Coordinates . . . . . . . . . . . . . 429

18.24Stellar Convection in a Spherical Annu lus: Glatzmaier (1984) . . . . . . . . . 430

18.25Non-Tensor Grids: Icosahedral, etc. . . . . . . . . . . . . . . . . . . . . . . . . 431

18.26 Ro be rt Ba sis fo r t he Sp h er e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43318.27Parity-Modified Latitudinal Fourier Series . . . . . . . . . . . . . . . . . . . . 434

18.28Projective Filtering for Latitudinal Fourier Series . . . . . . . . . . . . . . . . 435

18.29 Sp e ct ra l Ele m en t s o n t h e Sp h er e . . . . . . . . . . . . . . . . . . . . . . . . . . 437

18.30 Sp h e rica l H a r m on ics Be sie ge d . . . . . . . . . . . . . . . . . . . . . . . . . . . 438

18.31Elliptic and Elliptic Cylinder Coordinates . . . . . . . . . . . . . . . . . . . . 439

18.32Su m mary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 440

19 Special Tricks 442

19.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 442

19.2 Sid eba nd Tru n cation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 443

19.3 Special Basis Functions, I: Corner Singularities . . . . . . . . . . . . . . . . . 446

19.4 Special Basis Functions, II: Wave Scattering . . . . . . . . . . . . . . . . . . . 448

19.5 We ak ly N o n lo ca l So lit ar y Wa ve s . . . . . . . . . . . . . . . . . . . . . . . . . 45019.6 Ro ot -Fin d in g b y C h eb ys he v P oly n om ia ls . . . . . . . . . . . . . . . . . . . . 450

19.7 H ilber t Tr an sfor m . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 453

19.8 Sp e ct ra lly -A ccu r at e Q u ad r a tu r e M et h od s . . . . . . . . . . . . . . . . . . . . 454

19.8.1 Introduction: Gaussian and Clenshaw-Curtis Quadrature . . . . . . 454

19.8.2 C len sh aw -C u rt is A d ap tiv ity . . . . . . . . . . . . . . . . . . . . . . . 455

19.8.3 Mech an ics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 456

19.8.4 Integration of Periodic Functions and the Trapezoidal Rule . . . . . . 457

19.8.5 Infinite Intervals and the Trapezoidal Rule . . . . . . . . . . . . . . . 458

19.8.6 Sin gu la r In tegr an d s . . . . . . . . . . . . . . . . . . . . . . . . . . . . 458

19.8.7 Se ts a nd So lit ar ies . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 460


9/10

viii CONTENTS

20 Symbolic Calculations 461

20.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 461

20.2 Strategy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 462

20.3 E xam ples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 465

20.4 Su m m ar y a nd O p en P ro blem s . . . . . . . . . . . . . . . . . . . . . . . . . . . 472

21 The Tau-Method 473

21.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 473

21.2 -A p p ro xim a tio n fo r a Ra tio n al Fu n ct io n . . . . . . . . . . . . . . . . . . . . 474

21.3 D iffer en tia l Eq u at io ns . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 476

21.4 C an on ica l P oly no mia ls . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 476

21.5 N o men clatu re . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 478

22 D omain D ecomposition Methods 479

22.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 479

22.2 N o tation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 480

22.3 C on n ect in g t h e Su b d om a in s: P at ch in g . . . . . . . . . . . . . . . . . . . . . . 480

22.4 We ak C ou p lin g o f Ele m en ta l So lu t io n s . . . . . . . . . . . . . . . . . . . . . . 481

22.5 Va ria tio na l P rin cip les . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 484

22.6 C ho ice o f Ba sis & G rid . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 485

22.7 Patching versus Variational Formalism . . . . . . . . . . . . . . . . . . . . . . 486

22.8 M atr ix In ver sion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 487

22.9 Th e In flu en ce M at rix M et ho d . . . . . . . . . . . . . . . . . . . . . . . . . . . 488

22.10Two-Dimensional Mappings & Sectorial Elements . . . . . . . . . . . . . . . 491

22.11 Prosp ectu s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 492

23 Books and Review s 494

A A Bestiary of Basis Functions 495

A.1 Trigonometric Basis Functions: Fourier Series . . . . . . . . . . . . . . . . . . 495

A.2 Chebyshev Polynomials: Tn(x) . . . . . . . . . . . . . . . . . . . . . . . . . . 497

A.3 Chebyshev Polynomials of the Second Kind: Un(x) . . . . . . . . . . . . . . 499

A.4 Legendre Polynomials: Pn(x) . . . . . . . . . . . . . . . . . . . . . . . . . . . 500

A .5 Gegen ba uer P oly nom ia ls . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 502

A.6 Herm ite Polynomials: Hn(x) . . . . . . . . . . . . . . . . . . . . . . . . . . . 505

A.7 Rational Chebyshev Functions: TBn(y) . . . . . . . . . . . . . . . . . . . . . 507

A.8 Laguerre Polynomials: Ln(x) . . . . . . . . . . . . . . . . . . . . . . . . . . . 508

A.9 Rational Chebyshev Functions: TLn(y) . . . . . . . . . . . . . . . . . . . . . 509

A.10 Graphs of Convergence Domains in the Complex Plane . . . . . . . . . . . . 511

B D irect Matrix-Solvers 514

B.1 M atr ix Fa ctor iza tion s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 514

B.2 Ban ded Matrix . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 518

B.3 M at rix-o f-M at rices Th eo rem . . . . . . . . . . . . . . . . . . . . . . . . . . . . 520

B.4 Block-Banded Elimination: the Lindzen-Kuo Algorithm . . . . . . . . . . 520

B.5 Blo ck a nd Bo rd ered M at rice s . . . . . . . . . . . . . . . . . . . . . . . . . . 522

B.6 Cyclic Banded Matrices (Periodic Boundary Conditions) . . . . . . . . . . . 524

B.7 Partin g sh ots . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 524


10/10

CONTENTS ix

C N ew ton Iteration 526

C.1 In trod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 526

C.2 Exam ples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 529C.3 Eig en va lu e P rob lem s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 531

C.4 Su mm ary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 534

D The Continuation Method 536

D.1 In trod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 536

D.2 Exam ples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 537

D .3 In it ia liz at io n St ra teg ies . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 538

D.4 Lim it Poin ts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 542

D .5 Bifu rca tion p oin ts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 544

D .6 P se ud o arclen gt h C on tin u at io n . . . . . . . . . . . . . . . . . . . . . . . . . . 546

E Change-of-Coordinate D erivative Transformations 550

F Cardinal Functions 561

F.1 In trod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 561

F.2 G en er al Fo u rie r Se rie s: En d p o in t G rid . . . . . . . . . . . . . . . . . . . . . . 562

F.3 Fo u rie r C os in e Se rie s: En d p o in t G rid . . . . . . . . . . . . . . . . . . . . . . . 563

F.4 Fo u rie r Sin e Se rie s: En d p o in t G rid . . . . . . . . . . . . . . . . . . . . . . . . 565

F.5 C os in e C ar d in a l Fu n ct io n s: In t er io r G rid . . . . . . . . . . . . . . . . . . . . 567

F.6 Sin e C ar d in a l Fu n ct io ns : In t er io r G rid . . . . . . . . . . . . . . . . . . . . . . 568

F.7 Sinc(x): W hit ta ker ca rd in al fu n ct io n . . . . . . . . . . . . . . . . . . . . . . . 569F.8 C h eb ys he v G au s s-Lo ba tt o ( En d p o in ts ) . . . . . . . . . . . . . . . . . . . . 570

F.9 Chebyshev Polynomials: Interior or Roots Grid . . . . . . . . . . . . . . . 571

F.10 Legendre Polynomials: Gauss-Lobatto Grid . . . . . . . . . . . . . . . . . . . 572

G Transformation of D erivative Boundary Conditions 575

Glossary 577

Index 586

References 595

aaabook_9500toc

Documents

Transcript of aaabook_9500toc