C'est ainsi qu'il a traduit : de J. Stuart Mill, la Philosophie de Hamilton, l'Assujettissement des femmes, l'Autobiographie et les Essais sur la Religion; de Moleschott, la Circulation de la vie; de Herbert Spencer, les Premiers principes, les Principes de biologie et les Principes de sociologie, ces derniers formant seuls 4 vol. in-8; de Bain, les Sens et l'intelligence; de Bentham, l'Analyse de l'influence de la religion naturelle sur le bonheur temporel, sous ce titre abrégé : La religion naturelle. 

Une partie de ces travaux furent menés de front avec ceux de la vie publique, à laquelle Cazelles fut appelé une première fois par les événements de 1870 comme secrétaire général de la préfecture du Gard, puis de nouveau et définitivement en mars 1878, comme préfet de la Creuse d'abord, et, l'année suivante, de l'Hérault. Après avoir passé à la direction de l'administration pénitentiaire, il avait celle de la sûreté générale en 1881, lors de l'exécution des décrets contre les congrégations religieuses non autorisées. Préfet de Meurthe-et-Moselle en 1882, il le fut ensuite des Bouches-du-Rhône (1884), et durant le choléra de Marseille, sa compétence comme médecin, jointe à son autorité administrative, lui permit de rendre les plus grands services. Cazelles fut conseiller d'État à partir de 1887; et reprit momentanément (1889) la direction de la sûreté au ministère de l'intérieur. (H. Marion).