Erstmals entdeckt wurde das Mineral 1794 durch Nicolaus Poda von Neuhaus, der es als Muriacit bezeichnete, in der irrtümlichen Ansicht, es wäre salzsaurer Kalk und würde Salzsäure (acidum muriaticum) enthalten:
„Eben dieser Herr Abbé Poda hat unlängst eine neue Kalkart entdeckt, die er nach ihren Bestandtheilen salzsauren Kalk, oder nach der heutigen Methode, neue Foßilien zu taufen, Muriacit nennt, weil sie aus Kalkerde, Kochsalzsäure, und Waßer bestehet.“
Durch spätere Analysen konnte jedoch nachgewiesen werden, dass es sich um schwefelsauren Kalk handelte, also um wasserfreies Calciumsulfat. Der französische Mineraloge René-Just Haüy benannte das Mineral 1801 daher nach dieser Eigenschaft als chaux sulfatée anhydre (deutsch: wasserfreier Sulfatkalk). Martin Heinrich Klaproth bestätigte 1803 ebenfalls, dass das irrtümlich als Muriacit bezeichnete Mineral keinerlei Salzsäure enthielt, da es durch Silbernitrat (salpetersaure Silbersolution) keine Trübung erfuhr. Klaproth überließ es allerdings den stimmberechtigten Mineralogen, entweder den Namen Muriacit beizubehalten oder die von B. R. Werner geprägte Bezeichnung Anhydrit anzunehmen.
Den bis heute gültigen Namen Anhydrit prägte ein Jahr später schließlich Abraham Gottlob Werner in seinem Handbuch der Mineralogie.
Als Typlokalitäten gelten das Salzbergwerk bei Hall in Tirol in Österreich und das Kaliwerk bei Leopoldshall in Deutschland.
Das Typmaterial des Minerals wird an der Technischen Universität Bergakademie Freiberg in Deutschland unter der Katalog-Nr. 16538 aufbewahrt.