L'idée d'un réservoir lointain de comètes a été formulée au milieu du XX^e siècle par l'astronome néerlandais Jan Hendrik Oort. En étudiant les orbites des comètes à longue période, Oort remarqua une particularité statistique importante. Ces comètes semblaient provenir de toutes les directions du ciel, sans se concentrer dans le plan de l'écliptique, contrairement à ce que l'on pourrait attendre de corps issus directement du disque protoplanétaire. De plus, leurs orbites indiquaient souvent des distances à l'aphélie extrêmement grandes. Oort proposa alors l'existence d'un vaste réservoir sphérique situé à la périphérie du Système solaire. Selon son hypothèse, les comètes auraient été formées dans les régions externes du disque protoplanétaire, puis éjectées vers des orbites très éloignées par les interactions gravitationnelles avec les planètes géantes. À de telles distances, elles seraient restées liées au Soleil, mais de manière extrêmement faible. Le nuage qui porte aujourd'hui son nom constitue donc, à l'origine, une hypothèse dynamique destinée à expliquer les propriétés orbitales des comètes.

La localisation exacte du nuage de Oort demeure difficile à définir, notamment parce que ses limites ne sont pas nettes. Les modèles actuels situent généralement sa région interne à plusieurs milliers d'unités astronomiques du Soleil. Une unité astronomique correspond à la distance moyenne entre la Terre et le Soleil, soit environ 150 millions de kilomètres. La partie externe du nuage pourrait s'étendre jusqu'à plusieurs dizaines de milliers d'unités astronomiques, voire autour de 100 000 unités astronomiques dans certaines estimations. À titre de comparaison, Neptune orbite à environ 30 unités astronomiques du Soleil, tandis que Pluton se situe en moyenne à environ 39 unités astronomiques. Même la ceinture de Kuiper, qui constitue une région très éloignée du Système solaire, apparaît donc extrêmement proche du Soleil par rapport au nuage de Oort. La limite externe de celui-ci est cependant progressive et dynamique : elle correspond davantage à une zone où l'influence gravitationnelle du Soleil devient comparable à celle des perturbations extérieures qu'à une frontière matérielle clairement définie.

La structure du nuage de Oort est généralement décrite en deux grandes composantes. 

• Le nuage de Oort externe. - La première est le nuage de Oort externe, de forme approximativement sphérique. Il s'agit de la partie la plus éloignée du Soleil et celle qui est généralement associée à l'image classique du nuage de Oort. Les objets qui la composent peuvent posséder des orbites très inclinées par rapport au plan de l'écliptique, voire des orbites rétrogrades. Cette distribution isotrope explique que les comètes à longue période puissent arriver dans le Système solaire interne depuis pratiquement n'importe quelle direction. 

• Le nuage de Hills. - La seconde composante est parfois appelée nuage de Oort interne ou nuage de Hills, en référence aux travaux de l'astronome Jack Hills. Elle se situerait plus près du Soleil et pourrait présenter une structure davantage aplatie ou moins isotrope. Son rôle dynamique serait particulièrement important, car elle pourrait constituer une réserve de comètes beaucoup plus abondante que le nuage externe et alimenter celui-ci sur de longues périodes.

La relation entre le nuage de Oort et les comètes à longue période constitue l'un des aspects les plus importants de son étude. Une comète à longue période possède généralement une période orbitale supérieure à 200 ans. Certaines mettent plusieurs milliers, voire plusieurs millions d'années à accomplir une révolution autour du Soleil. Leur excentricité orbitale est souvent très élevée : elles passent la majeure partie de leur existence à des distances extrêmement grandes, puis plongent temporairement dans les régions internes du Système solaire. Lorsqu'une perturbation gravitationnelle modifie leur orbite, un de ces objets peut être envoyé vers le Soleil. En approchant de celui-ci, la température augmente et les glaces présentes dans le noyau commencent à se sublimer. Le dégazage entraîne la formation d'une atmosphère ténue appelée coma et, lorsque les conditions sont favorables, de queues caractéristiques. La comète visible depuis la Terre ne représente donc qu'une phase très brève de l'existence de l'objet.

La dynamique gravitationnelle explique la mise en mouvement de ces corps. Un objet situé dans le nuage de Oort est soumis principalement à l'attraction du Soleil, mais cette attraction devient extrêmement faible à très grande distance. Les étoiles voisines peuvent alors exercer de petites perturbations gravitationnelles capables de modifier progressivement l'orbite d'une comète. Le passage d'une étoile à proximité du Système solaire peut également provoquer une perturbation plus importante. À cela s'ajoute l'influence gravitationnelle de la Voie lactée, notamment les forces de marée galactiques. Le Soleil et les objets du nuage de Oort ne subissent pas exactement la même accélération gravitationnelle de la part de la Galaxie. Cette différence produit une force de marée susceptible de modifier lentement les orbites des corps lointains. La combinaison de ces perturbations peut faire passer une comète d'une orbite stable à une trajectoire qui la dirige vers le Système solaire interne.

Le rôle des planètes géantes est également essentiel dans l'histoire du nuage de Oort. Les modèles de formation du Système solaire indiquent que les comètes se sont probablement formées dans les régions externes du disque protoplanétaire, au-delà de la ligne des glaces. Cependant, les planètes géantes, en particulier Jupiter et Saturne, ont exercé sur ces petits corps des interactions gravitationnelles répétées. Certaines comètes ont été capturées sur des orbites éloignées, tandis que d'autres ont été éjectées hors du Système solaire. Une fraction des objets a toutefois été placée sur des orbites très elliptiques et faiblement liées au Soleil. Le nuage de Oort serait donc le résultat d'un processus de diffusion gravitationnelle particulièrement efficace au cours des premières centaines de millions d'années de l'histoire du Système solaire. Cette conception permet de comprendre pourquoi les objets du nuage de Oort ne se trouvent pas nécessairement à l'endroit où ils se sont formés.

Les simulations numériques montrent que la migration des planètes géantes a probablement joué un rôle majeur dans la redistribution des petits corps. Au début de l'histoire du Système solaire, les orbites des planètes géantes n'étaient pas nécessairement identiques à leurs orbites actuelles. Les interactions entre les planètes et le disque de planétésimaux ont pu provoquer des déplacements orbitaux importants. Les objets glacés ont alors été dispersés dans différentes directions et sur des orbites très variées. Certains modèles indiquent même qu'une partie des objets aujourd'hui attribués au nuage de Oort pourrait avoir été capturée dans l'environnement stellaire primitif du Soleil. Le Soleil serait en effet probablement né au sein d'un amas d'étoiles relativement dense, où les interactions gravitationnelles étaient plus fréquentes qu'aujourd'hui. Cette hypothèse demeure discutée, mais elle montre que l'histoire du nuage de Oort pourrait être liée non seulement à l'évolution interne du Système solaire, mais également à son contexte de naissance.

L'absence d'observation directe constitue la principale difficulté scientifique associée au nuage de Oort. À une distance de plusieurs dizaines de milliers d'unités astronomiques, un objet de quelques kilomètres de diamètre serait extrêmement faible et pratiquement indétectable avec les instruments actuels. Il ne réfléchirait qu'une quantité infime de lumière solaire et se déplacerait très lentement sur le fond du ciel. Les astronomes doivent donc étudier le nuage de manière indirecte, en analysant les propriétés orbitales des comètes qui pénètrent dans le Système solaire interne. Cette méthode est comparable à l'étude d'un phénomène invisible à partir de ses effets observables. Les distributions statistiques des périodes orbitales, des inclinaisons et des directions d'arrivée des comètes fournissent des indices sur la structure et la dynamique du réservoir dont elles proviennent.

Les comètes à longue période ne constituent toutefois pas un échantillon parfaitement représentatif du nuage de Oort. Il existe un biais d'observation majeur : les comètes les plus brillantes et les plus actives sont beaucoup plus faciles à détecter. De plus, seules les comètes dont l'orbite les amène suffisamment près du Soleil peuvent être observées depuis la Terre. Les données disponibles ne donnent donc accès qu'à une fraction très limitée de la population totale. Les astronomes utilisent des modèles statistiques et des simulations numériques pour corriger autant que possible ces biais. La détermination du nombre total d'objets, de la densité du nuage ou de la proportion exacte entre ses composantes interne et externe demeure ainsi entourée d'une marge d'incertitude importante.

L'étude des comètes offre néanmoins des informations précieuses sur la composition chimique du Système solaire primitif. Les noyaux cométaires sont souvent considérés comme des archives relativement anciennes de la nébuleuse solaire. Ils ont subi moins de transformations thermiques que les corps situés plus près du Soleil. L'analyse spectroscopique des gaz et poussières libérés par les comètes permet de déterminer la présence de molécules organiques et de composés volatils. Certaines comètes contiennent des molécules complexes à base de carbone, ce qui nourrit les recherches sur la chimie prébiotique. Il serait cependant scientifiquement incorrect d'affirmer que le nuage de Oort a directement apporté la vie sur Terre. Les relations entre les comètes, l'apport de molécules organiques et l'origine de la vie restent complexes et ne peuvent être réduites à une explication unique.

Le nuage de Oort présente également un intérêt dans l'étude de l'évolution à long terme du Système solaire. Sa dynamique est influencée par des événements extrêmement lents à l'échelle humaine, mais importants sur des centaines de millions ou des milliards d'années. Le passage d'une étoile relativement proche peut modifier la distribution des comètes. Les variations de l'environnement galactique peuvent également affecter la fréquence des perturbations. Certains objets peuvent être expulsés du Système solaire, tandis que d'autres sont envoyés vers l'intérieur. Il est donc plus pertinent de considérer le nuage de Oort comme une structure dynamique que comme une enveloppe immuable. Son contenu et son organisation évoluent continuellement sous l'effet de la gravitation.

L'existence du nuage de Oort est par ailleurs cohérente avec les observations d'autres systèmes planétaires. Les astronomes ont découvert de nombreuses exoplanètes et constaté que les architectures planétaires peuvent être très diverses. Les processus de diffusion gravitationnelle des petits corps semblent cependant être des conséquences naturelles de la formation de systèmes planétaires comportant des planètes géantes. Il est donc probable que des réservoirs analogues au nuage de Oort existent autour d'autres étoiles. Leur détection directe est encore plus difficile que celle du nuage de Oort, mais l'étude des comètes interstellaires pourrait à terme fournir des informations sur les populations de petits corps d'autres systèmes. La découverte de tels objets traversant le Système solaire montre que les petits corps peuvent être échangés entre les étoiles ou être éjectés dans l'espace interstellaire.