Der Ursprung des Golfspiels ist nicht abschließend geklärt. Eine Legende besagt, dass schottische Schäfer aus Langeweile mit einem Hirtenstab kleine runde Steine in Mauslöcher schlugen. Hieraus sei dann das heute uns bekannte Golfspiel entstanden. Dass das so aber wahrscheinlich nicht stimmt, belegt das Folgende:
Vorläufer des Golfs gab es bereits in der Antike. So sind Darstellungen aus Persien, Ägypten, Griechenland, Italien und auch China und Japan überliefert, in denen sich Spieler ihre Zeit damit vertrieben, Bälle über eine gewisse Distanz mit Stöcken zu treiben. Die Bälle waren dabei zumeist aus Holz oder aus einem mit Federn oder Wolle ausgestopftem Lederbeutel.
Die direkten Vorfahren des Golfsports stammen jedoch aus dem mittelalterlichen Europa. Im Jahre 1147 wurde erstmals das Spiel "Chole" erwähnt, wo man einen Holzball über größere Entfernungen auf ein bestimmtes Ziel spielte. Dazu wurden bereits mehrere verschiedene Schlägerarten verwendet.
Eine niederländische Chronik aus dem Jahre 1297 erwähnt einen Wettbewerb namens "Colf", der zum Ziel hatte, in möglichst wenigen Versuchen über eine Entfernung von 4.500 Metern einen Holzball mit ebensolchen Schlägern an ein bestimmtes Ziel zu befördern. Das Spiel erstreckte sich daber über vier Spielbahnen, war ein reiner Mannschaftssport (zwei Teams zu je vier Spielern) und erfreute sich über 400 Jahre lang großer Beliebtheit. Um 1700 entwickelte sich dann ein Ableger namens "Kolf", da es der vornehmen niederländischen Gesellschaft nicht mehr fein genug war, bei Wind und Wetter zu "colfen". Deshalb wurde das Spiel in wettergeschützte Anlagen verlagern und es entwickelte sich daraus ein Spiel, bei dem nur noch Präzision gefragt war. Die einfache, aber in der Ausführung durchaus diffizile Anforderung war dabei, mit einem geschlagenen Ball über eine Entfernung von ungefähr 20 Metern einen Eisenpfosten zu treffen. Ein weiterer Vorläufer des heutigen Golfs wurde während dieser Zeit unter dem Namen "gouf" in Schottland gespielt. Es läßt sich heute nicht mehr nachvollziehen, ob es sich dabei um eine Parallelentwicklung handelte oder ob die Urform des Spiels aus den Niederlanden nach Schottland kam. Erstmals urkundlich erwähnt wurde das Spiel jedenfalls im Jahre 1457, als Soldaten verboten wurde, "gouf" zu spielen, damit sie nicht ihre militärischen Pflichten vernachlässigen. Es wurde bereits so gespielt, wie das heutige Golf: Mit mehreren Schlägern, einem kleinen Ball und zahlreiche, über die Spielfläche verteilte Löcher. 1553 tauchte dann erstmals der bis heute im Golfsport legendäre Name "St. Andrews" auf. Der Erzbischof dieses schottischen Ortes gestattete den Einwohnern auf den "links" - öffentliches Land in den Dünen ohne Wert für den Ackerbau - Golf zu spielen.
1608 wurde Golf in England eingeführt und 1744 der erste Golfclub, "The Honourable Company of Edinburgh Golfers" gegründet. Im selben Jahr fand auch das erste Damenturnier urkundliche Erwähnung, das vom Royal Musselburgh Golfclub veranstaltet wurde. Zehn Jahre später wurde der Golfclub von St. Andrews gegründet, der später zum "Royal and Ancient Club of St. Andrews" wurde und von den anderen Clubs den Auftrag erhielt, umfassende und für alle verbindliche Regeln zu erstellen. Damit wurde St. Andrews zur obersten Institution im Golfsport und ist dies auf internationaler Ebene auch noch heute. Während dieser Zeit hatte der Golfsport auch in Amerika bereits Fuss gefasst. Das erste Mal erwähnt wurde er im Jahre 1659 in einer Verfügung des Stadtrates von Fort Orange, in der das Golfspiel in den Straßen verboten wurde, da es immer wieder zu Beschädigungen und Verletzungen gekommen war. 1786 wurde der erste nachweisbare amerikanische Golfclub in Charleston, South Carolina, gegründet.
Im Jahr 1888 legte St. Andrews das erste vollständige Regelwerk vor dem kurz darauf ein weiteres mit insgesamt nicht weniger als 40 Regeln (plus 14 Sonderbestimmungen für Zählwettspiele und zehn Absätze über Golf-Etikette) folgte. Zur Überwachung dieser Regeln wurde 1897 eine Regelkommission eingesetzt, die heute gemeinsam mit der USGA alle vier Jahre das gültige Regelwerk überarbeitet und auch weltweit die oberste Instanz für die korrekte Regelauslegung ist.
1971 war Golf in aller Munde, als Captain Alan Shephard, Kommandant der Raumkapsel "Apollo 14" bei einer Mondlandung den ersten Golfball auf dem Erdtrabanten schlug und so Golf zur Ehre verhalf, die erste intergalaktisch verbreitete Sportart zu sein. In den neunziger Jahren übertraf die Zahl der weltweit Golf spielenden Menschen erstmal die 40 Millionen-Marke. In den USA ist diese Sportart mit seinen vielen Millionen zählenden aktiven Spielern und mehr als 14.000 Plätzen einer der beliebtesten. In Europa gibt es mittlerweile mehr als drei Millionen aktive Golfer, gut ein Drittel davon in Großbritannien.
In Deutschland spielen rund 500.000 Menschen Golf, in Österreich sind es mehr als 40.000 und in der Schweiz rund 30.000.