Σύμφωνα με την Ελληνική μυθολογία η θεά Αθηνά, για να κερδίσει την εύνοια των κατοίκων της περιοχής που μετέπειτα πήρε το όνομά της, τους προσφέρει ως δώρο το δένδρο της ελιάς. Με αυτό τον τρόπο καταφέρνει να νικήσει ακόμα και τον Θεό της θάλασσας, Ποσειδώνα. Έτσι η πόλη ονομάζεται Αθήνα και η θεά Αθηνά είναι αυτή που θα την προστατεύει.
Το ελαιόδεντρο κατοικεί στη Λεκάνη της Μεσογείου πάνω από 6.000 χρόνια. Κατάγεται από τη Μικρά Ασία και εξαπλώθηκε από το Ιράν, τη Συρία και την Παλαιστίνη στην υπόλοιπη Μεσόγειο. Είναι ένα από τα αρχαιότερα καλλιεργούμενα δένδρα στον κόσμο, το οποίο υπάρχει πριν από την ανακάλυψη της γραφής. Καλλιεργήθηκε στην Κρήτη πριν από 3.000 χρόνια και ίσως αποτελούσε την πηγή πλούτου του Μινωικού πολιτισμού. Οι Φοίνικες διέδωσαν την καλλιέργεια της ελιάς στις Μεσογειακές ακτές της Αφρικής και της Νότιας Ευρώπης.Επίσης, καρποί ελιάς έχουν βρεθεί σε αιγυπτιακούς τάφους που χρονολογούνται από το 2.000 π.χ. Η καλλιέργεια της ελιάς εξαπλώθηκε στους Έλληνες και αργότερα στους Ρωμαίους.
Η χρήση του ελαιολάδου είναι γνωστή σε πολλές θρησκείες και πολιτισμούς. Χρησιμοποιείται πολλές φορές κατά τη διάρκεια θρησκευτικών τελετών, όπως π.χ. στο μυστήριο της βάπτισης. Κατά την περίοδο των ισπανικών κατακτήσεων, ιεραπόστολοι μετέφεραν το αμπέλι και την ελιά στην Καλιφόρνια, για τροφή αλλά και για τελετουργική χρήση. Το ελαιόλαδο χρησιμοποιήθηκε επίσης για να χριστούν οι νέοι βασιλείς των Ελλήνων και των Ιουδαίων. Επίσης, οι Έλληνες στεφάνωναν τους νικητές των αγώνων με κλαδιά ελιάς. Τέλος, το ελαιόλαδο χρησιμοποιήθηκε για να αλείφουν τους νεκρούς σε πολλούς πολιτισμούς. Τα ελαιόδεντρα στο Όρος των Ελαιών στην Ιερουσαλήμ, υπολογίζεται ότι βρίσκονται εκεί περισσότερο από 2000 χρόνια. Εντούτοις, δεν είναι γνωστή η ποικιλία των δένδρων στον ελαιώνα αυτό.
Το ελαιόδεντρο έχει καλλιεργηθεί τόσο πολύ από τον άνθρωπο στο πέρασμα του χρόνου, ώστε είναι δύσκολο να προσδιοριστεί η εξέλιξη των ποικιλιών και των κλώνων της ελιάς. Στους περασμένους αιώνες, η καλλιέργεια της ελιάς έχει εξαπλωθεί στη Βόρεια και Νότια Αμερική, στην Ιαπωνία, τη Ν. Ζηλανδία και την Αυστραλία.