universality of local eigenvalue statistics for random

UNIVERSALITY OF LOCAL EIGENVALUE STATISTICS FOR RANDOM SAMPLE COVARIANCE MATRICES

PRÉSENTÉEÀ LA FACULTÉ DES SCIENCES DE BASE SECTION DE MATHÉMATIQUES

ÉCOLE POLYTECHNIQUE FÉDÉRALE DE LAUSANNE POUR L'OBTENTION DU GRADE DE DOCTEUR ÈS SCIENCES

PAR

Sandrine PÉCHÉ DEA en modélisation stochastique et statistique, Université Paris XI, France et de nationalité française

acceptée sur proposition du jury: Prof. G. Ben Arous, directeur de thèse Prof. A. Guionnet, rapporteur Prof. T. Mountford, rapporteur Prof. N. O'Connell, rapporteur

Lausanne, EPFL 2003

Abstract In this thesis, we consider complex random sample covariance matrices ~ M C M obtained * from a p x N random complex matrix M , with i.i.d. entries of law p, and a random or deterministic N x N covariance matrix C. We then study the asymptotic local eigenvalue statistics, that is essentially the asymptotic spacing distribution between nearest neighbor P + y 2 1. eigenvalues, in the limit as N grows to infinity, N In the first part of this thesis, we assume that the covariance matrix C is the identity matrix I N . Then, for certain subclasses of law p, we prove that, as N grows to infinity, and 5 tends to one, the local eigenvalue statistics of such random sample covariance matrices become universal, that is, independent of the details of the law p. We prove such properties in the "bulk" of the spectrum, and at the "hard edge", i.e. in parts of the spectrum far from the largest eigenvalue. In the second part of the thesis, we study inhomogeneous generalized random sample covariance matrices, that is, for which C # IlV.Consider the p x p random matrix PMCM*, where M is a N x p random matrix with i.i.d. complex standard Gaussian entries, and C is an N x N diagonal random matrix with i.i.d. positive entries with law p. We identify the limiting local eigenvalue statistics in the " bulk" of the spectrum, in the large Nlimit (lim = y 2 I). We prove that these statistics are independent of the details of the law p, for some classes of probability distributions p. We also obtain the limiting statistics at the edges of the spectrum, except at the bottom edge when y = lim 5 = 1. Eventually, we consider the largest eigenvalue of such random matrices when C is a fixed non-random matrix, and prove universality of eigenvalue statistics close to the top edge of the spectrum.

Résumé Dans cette thèse, nous considérons les propriétés spectrales de grandes matrices de COvariance empirique complexes MCM*, formées à partir d'une matrice aléatoire M de taille p x N , dont les entrées sont des variables aléatoires indépendantes et identiquement distribuées de loi de probabilité p. La matrice de covariance C, de taille N x N est aléatoire, ou déterministe. Plus exactement, nous étudions les propriétés asymptotiques locales du spectre, à savoir essentiellement la loi asymptotique, quand N tend vers l'infini,

:

Abstract

4 l

de l'espacement entre deux valeuqs propres consécutives. Dans une première partie, nous considérons le cas où la matrice de covariance est l'identité IN. Pour certaines classes de loilp, nous prouvons, quand N tend vers l'infini, et si 5 tend vers un, que les propriétés statistiques locales des valeurs propres de telles matrices deviennent universelles, c'est à dii-e indépendantes des détails de la loi p. Nous obtenons de telles propriétés au centre du spectre, et au voisinage de la plus petite valeur propre. Dans une seconde partie, nous étudions les propriétés spectrales de matrices de covariance inhomogènes, c'est à dire pour lesquelles C # I N . NOUSconsidérons des matrices , M une matrice de taille N x p dont les entrées sont aléatoires du type ~ M C M *pour des Gaussiennes complexes standard indépendantes, et C une matrice diagonale à entrées i.i.d. de loi p. Nous identifions les propriétés statistiques locales limites au centre du = y 2 1. NOUSprouvons spectre, quand N tend vers l'infini, sous la condition hmN,, que ces statistiques sont indépendantes des détails de la loi p, sous certaines restrictions. Nous identifions également les propriétés statistiques limites au bord du spectre, i. e. pour les plus grandes valeurs propres, et pour les plus petites dans le cas où y # 1. Enfin, nous nous intéressons au cas d'une matrice de covariance déterministe, et obtenons l'universalité au voisinage de la plus grande valeur propre.

5

Contents 1 Introduction

11

2 A survey of known results for Wigner matrices

21

2.1 Random Hermitian ensembles . . . . . . . . . . . . . . . . . . . . . . . . . 23 2.2 Global results: the limiting ESD of large Wigner random matrices

. . . . 25

2.2.1 Convergence of the spectral measure: Wigner's theorem . . . . . . . 25 2.2.2

Convergence rates for the spectral measure of Wigner Random matrices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

26

2.3 Global behavior: fluctuations of the ESD of the GUE . . . . . . . . . . . . 26 2.4 Further studies of the speed of convergence of the ESD . . . . . . . . . . . 28 2.4.1

Concentration results: universal results . . . . . . . . . . . . . . . . 28

2.4.2 Moderate Deviations for Brownian Motion on

'HN . . . . . . . . .

28

2.4.3 Large Deviations for the spectral measure of the GUE . . . . . . . . 29

2.5 Local behavior of the spectrurn and correlation functions . . . . . . . . . . 31 2.5.1

The m-point correlation function . . . . . . . . . . . . . . . . . . . 31

. . . . . . . . . . . 31

2.5.1.1

Definition of the correlation functions

2.5.1.2

Determinantal Random Point Fields . . . . . . . . . . . . 32

2.5.1.3

Examples of Determinantal Random Point Fields . . . . . 33

2.5.1.4

Correlation functions of the GUE . . . . . . . . . . . . . . 34

2.5.2 Asymptotics of correlation of the GUE in the " bulk" of the spectrum 35 2.5.2.1

Fluctuations of the number of eigenvalues in an interval . 35

2.5.2.2

Repulsion of the eigenvalues . . . . . . . . . . . . . . . . . 36

CONTENTS

!

6

l

2.5.3 Universality in tye " bulk" of the spectrum for Hermitian matrices . 38 1

2.6 The edges of the spectrt& of Wigner Random matrices . . . . . . . . . . . 40 2.6.1

Convergence of the largest eigenvalue: universal results . . . . . . . 40

2.6.2 Fluctuation results for the largest eigenvalue

. . . . . . . . . . . . 40

2.6.3 Large deviations for the largest eigenvalue of the GUE . . . . . . . 41 3 Random sarnple covariance matrices: survey of known results

43

3.1 The Limiting Empirical Spectral Distribution . . . . . . . . . . . . . . . . 44 3.1.1 Random sample covariance matrices . . . . . . . . . . . . . . . . . . 44 3.1.2 The limiting Empirical Spectral Distribution . . . . . . . . . . . . . 44 3.1.3 Convergence rates for the empirical spectral distribution . . . . . . 46 3.2 The Laguerre Unitary Ensemble (LUE) . . . . . . . . . . . . . . . . . . . . 47 3.2.1 The joint eigenvalue distribution of the LUE . . . . . . . . . . . . . 48 3.2.2 Large Deviation Principle for the spectral measure of the LUE . . . 50 3.3 Local behavior in the "bulk" of the spectrum of the LUE . . . . . . . . . . 51 3.3.1 Correlation function of the LUE . . . . . . . . . . . . . . . . . . . . 51 3.3.2 Asyrnptotics of the correlation kernel in the " bulk" . . . . . . . . . 52

3.3.3 Consequences for the rescaled LUE . . . . . . . . . . . . . . . . . . 54 3.4 The bottom of the spectrum

. . . . . . . . . . . . . . . . . . . . . . . . . 56

3.4.1 The almost square case . . . . . . . . . . . . . . . . . . . . . . . . . 56 3.4.1.1

Location for the smallest eigenvalue of the LUE . . . . . . 56

3.4.1.2

The limiting kernel at the "hard edge" of the LUE . . . . 57

3.4.1.3 Fluctuations for the smallest eigenvalue of the LUE . . . . 57 3.4.1.4 Universality Results . . . . . . . . . . . . . . . . . . . . . 59 3.4.2 The rectangular case . . . . . . . . . . . . . . . . . . . . . . . . . . 60 3.5 The top of the spectrum . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62 3.5.1 The almost square case: universal results . . . . . . . . . . . . . . . 62 3.5.2 The rectangular case . . . . . . . . . . . . . . . . . . . . . . . . . . 63 3.5.2.1 The largest eigenvalue of the LUE . . . . . . . . . . . . . 63

CONTENTS

7 3.5.2.2

Universality results . . . . . . . . . . . . . . . . . . . . . . 63

4 Deformed Laguerre Ensembles and Bessel Processes

65

4.1 Definition of the Deformed Laguerre Ensemble (DLE) . . . . . . . . . . . . 67 4.2 The induced syrnmetrized eigenvalue density of the DLE . . . . . . . . . . 68 4.2.1 4.2.2

An expression for the correlation functions . . . . . . . . . . . . . . 71 Non coinciding squared Bessel processes . . . . . . . . . . . . . . .

4.3 Stochastic equation for the eigenvalues and eigenvectors

72

. . . . . . . . . . 77

4.3.1

ProofofTheorem4.3.1. . . . . . . . . . . . . . . . . . . . . . . . . 78

4.3.2

Proof of Theorem 4.3.2 . . . . . . . . . . . . . . . . . . . . . . . . . 80

4.3.3

Proof that

T

is infinite . . . . . . . . . . . . . . . . . . . . . . . . . 80

4.4 Eigenvalues of the Laguerre Ensemble and Poisson processes . . . . . . . . 82 4.4.1

Random matrices and Queues . . . . . . . . . . . . . . . . . . . . .

4.4.2

The Laguerre Unitary Ensemble and Queues . . . . . . . . . . . . . 83

4.4.3

Eigenvalues of the LUE and Poisson processes conditioned never to collide . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

82

84

4.4.4

Equality as Processes . . . . . . . . . . . . . . . . . . . . . . . . . . 86

4.4.5

The exit time in queues with exponential waiting times

. . . . . . 87

5 Universality in the bulk for sarnple covariance matrices 5.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

89 89

5.1.1

Definition ofthe mode1 . . . . . . . . . . . . . . . . . . . . . . . . . 89

5.1.2

Results: universality in the " bulk" of the spectrum . . . . . . . . . 91

5.2 Integral representation of the correlation kernel . . . . . . . . . . . . . . . 96 5.2.1

A first step towards the correlation function of the Deformed Laguerre Ensemble . . . . . . . . . . . . . . . . . . . . . . . . . . . .

96

5.2.2

Kazakov7stype formula . . . . . . . . . . . . . . . . . . . . . . . . . 97

5.2.3

Rewriting the kernel . . . . . . . . . . . . . . . . . . . . . . . . . . 99

5.3 Concentration of measure . . . . . . . . . . . . . . . . . . . . . . . . . . . 104 5.3.1

Preliminaries . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .104

CONTENTS 5.3.2 Concentration of mesure . . . . . . . . . . . . . . . . . . . . . . . 105 5.4 Saddle point

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 108

5.4.1 Contours for an aibitrary point in the "bulk"

. . . . . . . . . . . . 111

5.4.2 Saddle point analysis. . . . . . . . . . . . . . . . . . . . . . . . . . 112 5.4.3 Asymptotic of the Laguerre kernel . . . . . . . . . . . . . . . . . . . 115 5.4.4 Proof of the claim

. . . . . . . . . . . . . . . . . . . . . . . . . . . 115

5.5 Proof of universality of local eigenvalue statistics . . . . . . . . . . . . . . . 117 5.5.1 Proof of weak universality of correlation functions . . . . . . . . . . 117 5.5.2 Proof of the Spacing distribution . . . . . . . . . . . . . . . . . . . 118 5.5.3 Remarks . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120 6 The Hard edge of sarnple covariance matrices

123

Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123 Main Results . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .124 Correlation function . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127 Saddle point analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131 Universality of eigenvalue statistics at the "Hard Edge" . . . . . . . . . . . 134 6.5.1 Proof of weak un$versality of correlation functions 6.5.2 Fluctuations of the smallest eigenvalues

. . . . . . . . . 134

. . . . . . . . . . . . . . . 135

Remarks . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137

7 Generalized Wishart Ensembles

139

Introduction and results . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140 7.1.1 Reminder: the " soft edge" of the Laguerre Unitary Ensemble . . . . 140 7.1.2 Definition of the non-white Wishart ensembles . . . . . . . . . . . . 140 7.1.3 Results . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .142 The non-invariant distribution . . . . . . . . . . . . . . . . . . . . . . . . . 144 7.2.1 The joint eigenvalue density . . . . . . . . . . . . . . . . . . . . . . 144 7.2.2 A characterization in terms of non-intersecting particles . . . . . . . 145 7.2.3 The correlation h c t i o n s : Proof of Theorem 7.1.2

. . . . . . . . . . 147

CONTENTS

. . . . . . . . . . . . . . . . . . . . 147

7.2.3.1

Rewriting the density

7.2.3.2

The integral representation of the correlation kernel . . . . 149

7.3 The limiting bulk correlation functions . . . . . . . . . . . . . . . . . . . . 151 7.4 The edges of the spectrum of generalized Wishart ensembles . . . . . . . . 156 7.5 A fixed number of non-unit eigenvalues covariance matrix . . . . . . . . . . 160 7.5.1 The joint distribution of the eigenvalues . . . . . . . . . . . . . . . 160 7.5.2

The correlation functions . . . . . . . . . . . . . . . . . . . . . . . . 161

7.5.3 Asymptotic behavior: Proof of Theorem 7.1.5 . . . . . . . . . . . . 162

A Reminder of the Hermitian case

167

A.1 The " Johansson" Ensembles . . . . . . . . . . . . . . . . . . . . . . . . . . 167 A.l.l The joint eigenvalue density of the Deformed Ensemble . . . . . . . 169 A.1.2 Non colliding Brownian Motions . . . . . . . . . . . . . . . . . . . . 170

A .1.3 The correlation functions . . . . . . . . . . . . . . . . . . . . . . . . 171 A.1.4 Integral representation of the correlation kernel . . . . . . . . . . . 172

A .1.5 Concentration of measure . . . . . . . . . . . . . . . . . . . . . . . 173 A .1.6 Saddle Point . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174 A.1.7 Extension of the domain of universality . . . . . . . . . . . . . . . . 174 A.1.8 A remark about the GUE correlation functions

. . . . . . . . . . . 175

A.2 Extension to an arbitrary random matrix W . . . . . . . . . . . . . . . . . 177

JN M. . . . . . . . . . . . . . . 177 A.2.2 The limiting correlation functions in the bulk of the spectrum . . . 177 A.2.1 The limiting spectral measure ,LL

of

A.2.3 The edges of the spectrum for arbitrary random matrix W . . . . . 180

B Computation of some Correlation Functions

183