Après la mort de Hubble en 1953, Sandage prend la relève de son programme de recherche, ce qui va définir le coeur de son travail pendant plus de six décennies. Il rejoint le personnel de l'Observatoire du Mont Wilson et de l'Observatoire Palomar. Très tôt, il contribue à affiner la compréhension de l'âge de l'univers en corrigeant les hypothèses précédentes. Après que Baade ait démontré en 1952 l'existence de deux populations distinctes d'étoiles variables Céphéides, ce qui a doublé l'estimation de l'âge de l'univers, Sandage montre que l'hypothèse selon laquelle les étoiles les plus brillantes des galaxies possèdent la même luminosité intrinsèque est erronée pour les régions HII, augmentant à nouveau l'âge calculé de l'univers à environ 5,5 milliards d'années.

Tout au long des années 1950 et jusqu'aux années 1980, Sandage est reconnu comme le cosmologiste observationnel prééminent de son époque. Sa quête principale est la détermination précise de la constante de Hubble, le taux d'expansion de l'univers. En 1958, il publie la première estimation fiable de cette constante, révisant la valeur de Hubble (250 km/s/Mpc) à 75 km/s/Mpc, une valeur remarquablement proche de celle acceptée aujourd'hui. Plus tard, il devient le principal défenseur d'une valeur encore plus basse, autour de 50 km/s/Mpc, ce qui implique un âge de l'univers d'environ 20 milliards d'années, nécessaire pour que cet âge soit cohérent avec celui des objets les plus vieux qu'il contient. Ce débat avec l'astronome Gérard de Vaucouleurs, qui plaide pour une valeur de 100 km/s/Mpc, va durer des décennies et ne sera tranché qu'à la fin des années 1990 grâce aux données du télescope spatial Hubble.

Au-delà de la constante de Hubble, les contributions  de sandage couvrent un spectre très large de l'astrophysique. Il produisit deux atlas de galaxies célèbres, en 1961 et 1981, basés sur le système de classification de Hubble. Avec Olin J. Eggen et Donald Lynden-Bell, il co-signe un article désormais connu sous le sigle ELS, qui décrivt l'effondrement d'un nuage de gaz protogalactique pour former notre Voie lactée. Ses études photométriques des amas globulaires, avec Martin Schwarzschild, lui font estimer leur âge à au moins 25 milliards d'années, ce qui le conduit à spéculer que l'univers ne serait pas en simple expansion, mais suivvrait un cycle d'expansion et de contraction d'une durée de 80 milliards d'années.

Sandage a joué également un rôle dans l'étude des quasars. En 1960, il réalise la première identification optique d'une source radio (3C 48) qui s'avére être un quasar, un objet d'apparence stellaire mais au redshift très élevé. En 1965, il fait une découverte majeure en identifiant le premier quasar "radio-silencieux", c'est-à-dire ne présentant pas d'émission radio forte, et en découvre de nombreux autres grâce à leur excès de rayonnement ultraviolet. Cette découverte révèle que ces objets, extrêmement lumineux et lointains, sont bien plus nombreux qu'on ne le pensait. Il découvre également des jets éruptifs provenant du noyau de la galaxie M82, qui témoignent d'explosions massives dans son centre.

Sa vie personnelle a été marquée par son mariage en 1959 avec Mary Connelley, elle-même astronome, avec qui il a eu deux fils, David et John. En 1983, il annonce publiquement sa conversion au christianisme et se met à rédiger des essais sur la relation entre science et religion. Il continue à travailler activement jusqu'à quelques mois avant sa mort, publiant plus de 500 articles scientifiques au cours de sa carrière. Allan Sandage s'éteint en 2010 à son domicile, à l'âge de 84 ans, des suites d'un cancer du pancréas.