Der Weiße Elbling ist eine der ältesten Rebsorten Deutschlands und wie der Weiße Räuschling wahrscheinlich im Rheintal entstanden. Wegen der sprachlichen Ähnlichkeit der Synonyme Alben und Elben mit den lateinischen Wörtern Albuelis, Albuelos und Vitis alba entstand die Vorstellung, dass die Römer spätestens im 4. Jahrhundert den Elbling über Gallien an den Rhein gebracht hätten. Tatsächlich erwähnten Plinius der Ältere und Columella in ihren Schriften im 1. Jahrhundert n. Chr. die Vitis alba. Andererseits weisen die Synonyme Allemand, Raisin blanc des Allemands oder auch Rheinelbe eher auf eine deutsche Herkunft hin. Nach Marcel Aeberhard wurde der ‘Elbling’ unter dem Namen «Elseser» schon im 13. Jahrhundert in einem Hofrecht des Schweizer Klosters Engelberg erwähnt. Die Notiz betraf einen Rebberg auf einem Lehensgut in Wingreis am Bielersee. Hieronymus Bock erwähnt die Sorte im Jahr 1577 in seinem Kreutterbuch.
Der Elbling ist eine spontane Kreuzung zweier Sorten mit heunischen und fränkischen Anteilen. Als heunische Sorte konnte zweifelsfrei Weißer Heunisch identifiziert werden. Als fränkische Sorte ist es ein Traminer-Sämling (Genetisch ist auch die Abstammung des Riesling vom Heunisch – der andere Elternteil ist ebenfalls ein Traminer-Sämling).