La légende raconte que l'olivier n'est autre que le fruit d'une querelle entre Athéna, déesse de la sagesse et Poséidon, dieu de la mer, voulant tous deux être placés à la tête de la plus grande ville de Grèce. Afin de les départager, Zeus leur demanda de faire chacun le cadeau qu'ils pensaient le plus utile à l'humanité et les hommes les départageraient en choisissant le don le plus utile.
Poséidon brandit son trident et fit jaillir d'un rocher un cheval magnifique pouvant porter cavalier et armes, traîner des chars et faire gagner des batailles. De son côté, Athéna se pencha sur un morceau de terre, et, en le touchant, fit sortir un arbre à la vie éternelle permettant de nourrir, soigner les blessures et les rhumes. L'olivier, car tel était l'arbre ainsi sorti du sol, fut déclaré « le don le plus utile à l'humanité » et Athéna obtint la protection de la ville qui porte encore son nom : « Athènes.
Selon la mythologie grecque, l'arme la plus puissante d'Hercule était sa massue taillée dans un tronc d'oléacée.
Dans la mythologie, Jupiter a choisi l'olivier comme un don divin, plaçant une branche dans la main de Minerve (la déesse de la sagesse ). C'est pour cette raison que la mythologie attribue la création de l'olivier à Minerve. Autrefois l'huile d'olive était utilisée à plusieurs fins : les athlètes massaient avec leurs muscles pour les rendre plus souples ; les femmes enduisaient avec leur peau pour paraître plus jeunes ; elle était considérée comme un tonique fortifiant pour la prévention des calvities.
- Symbole de force et de sagesse dans la Grèce antique, l'olivier et son huile sont alors les rois des jeux olympiques. Les vainqueurs se voyaient offrir non seulement une couronne en rameau d'olivier mais également des jarres remplies d'huile d'olive.
- Symbole de longévité et d'espérance, l'olivier est réputé éternel. Dans tout le bassin méditerranéen, on rencontre des oliviers millénaires.
- Symbole de force, l'olivier est réputé pour son bois très compact, très lourd et très dur. C'est en bois d'olivier que sont faites les massues d'Hercule et c'est avec un pieu en bois d'olivier qu'Ulysse terrasse le Cyclope dans l'Odyssée
- L'olivier est aussi une des plantes les plus citées dans la Bible. La colombe lâchée par Noé après le déluge (Genèse 8/11) revint, avec en son bec un rameau d'olivier, après avoir trouvé une terre émergée, où Jacob recouvrit d'huile d'olive la pierre de "Beith-El" après sa vision de l'échelle céleste (Genèse 35/14).
- Dans le judaïsme et le christianisme, l'huile d'olive est utilisée pour les onctions sacramentelles et l’olivier symbolise la paix, la réconciliation, la bénédiction et le sacrifice; l'huile utilisée durant les rites du judaïsme doit avoir obligatoirement été pressée à la main.
- Dans le Coran, l'olivier est un arbre béni, symbole de l'homme universel, et l'huile d'olive est source de lumière divine pour guider les hommes (moubârakatin zaytounatin dans le verset 35 de la 24e sourate intitulée "La Lumière" / An-Nour).
