Zur Geschichte der Entstehung des Begriffs existieren mehrere Versionen:
Vom 17. Jahrhundert bis 1970 wurde auf den Schiffen der Royal Navy Rum als tägliche Schiffsration an die Mannschaft ausgegeben (Rum Ration). Disziplinlosigkeit und Trunkenheit waren nicht selten die Folge. Da zudem das mitgeführte Trinkwasser auf den langen Reisen schnell verdarb, wurde mit der Vermischung mit der Rumration versucht, dieses Wasser wieder genießbar zu machen. Daher ließ seit dem Jahr 1740 der englische Vize-Admiral Edward Vernon (1684–1757) seine Matrosen das Wasser nur noch mit Rum versetzt trinken; meist im Verhältnis 4:1. Später wurde das Getränk auch mit Zucker und Limettensaft versetzt. Vernons Spitzname war „Old Grog“, da er meist einen warmen Umhang aus Grogram trug, einem groben Stoff aus Seide und Wolle. Angeblich soll dieser Name bald auf das neue Getränk übertragen worden sein. Jedoch gilt die Legende heute als widerlegt. Im kälteren Klima Großbritanniens wurde der Grog dann heiß getrunken. Spätestens seit Beginn des 19. Jahrhunderts ist das Getränk auch in Deutschland bekannt, insbesondere an den Küsten.
Nach einer anderen Interpretation steht das Wort Grog für „Grand Rum Of Grenada“ und wurde von den Engländern nach der Eroberung der karibischen Insel im 18. Jahrhundert geprägt. Diese Version beruht aber vermutlich auf einem nachträglichen Erklärungsversuch (Backronym).
Tatsächlich geht die Bezeichnung Grog nicht auf Vernon und die britische Marine zurück. In der Karibik wurde mit Wasser verdünnter Rum vielmehr schon im 17. Jahrhundert als Grogg bezeichnet, die Schanklokale hießen Grogg Shoppe. Bei der Erzählung über Vernons Mantel handelt es sich um eine Legende, die erst nach seinem Tod kolportiert wurde.