En mathématiques, un espace de Hilbert est un espace vectoriel réel (resp. complexe) muni d'un produit scalaire euclidien (resp. hermitien), qui permet de mesurer des longueurs et des angles et de définir une orthogonalité. De plus, un espace de Hilbert est complet, ce qui permet d'y appliquer des techniques d'analyse. Ces espaces doivent leur nom au mathématicien allemand David Hilbert.
Le concept d'espace de Hilbert étend les méthodes de l'algèbre linéaire en généralisant les notions d'espace euclidien (comme le plan euclidien ou l'espace usuel de dimension 3) et d'espace hermitien à des espaces de dimension quelconque (finie ou infinie).
Des espaces de Hilbert apparaissent fréquemment en mathématiques et en physique, essentiellement en tant qu'espaces fonctionnels de dimension infinie. Les premiers espaces de Hilbert ont été étudiés sous cet aspect pendant la première décennie du XXe siècle par David Hilbert, Erhard Schmidt et Frigyes Riesz. Ils sont des outils indispensables dans les théories des équations aux dérivées partielles, mécanique quantique, analyse de Fourier (ce qui inclut des applications au traitement du signal et le transfert thermique) et la théorie ergodique qui forme le fondement mathématique de la thermodynamique. John von Neumann forgea l'expression espace de Hilbert pour désigner le concept abstrait qui sous-tend nombre de ces applications. Les succès des méthodes apportées par les espaces de Hilbert menèrent à une époque très prolifique pour l'analyse fonctionnelle. En plus des espaces euclidiens classiques, les exemples les plus courants d'espaces de Hilbert sont les espaces de fonctions de carré intégrable, les espaces de Sobolev qui sont constitués de fonctions généralisées, et les espaces de Hardy de fonctions holomorphes.
L'intuition géométrique intervient dans de nombreux aspects de la théorie des espaces de Hilbert. Ces espaces possèdent des théorèmes analogues au théorème de Pythagore et à la règle du parallélogramme. En mathématiques appliquées, les projections orthogonales sur un sous-espace (ce qui correspond à aplatir l'espace de quelques dimensions) jouent un rôle important dans des problèmes d'optimisation entre autres aspects de la théorie. Un élément d'un espace de Hilbert peut être défini de manière unique par ses coordonnées relativement à une base de Hilbert, de façon analogue aux coordonnées cartésiennes dans une base orthonormale du plan. Quand cet ensemble d'axes est dénombrable, l'espace de Hilbert peut être vu comme un ensemble de suites de carré sommable. Les opérateurs linéaires sur un espace de Hilbert sont semblables à des objets concrets : dans les « bons » cas, ce sont simplement des transformations qui étirent l'espace suivant différents coefficients dans des directions deux à deux perpendiculaires, en un sens qui est précisé par l'étude de leur spectre.