Oliven var symbolet på hele Middelhavet i oldtiden. Sammen med egetræet er det det mest ærede træ i græsk mytologi. Interessant nok brugte grækerne oliven som den vigtigste kilde til fedt. Kød var barbarernes mad og blev derfor betragtet som usundt.
Græsk mytologi forklarer oprindelsen af oliventræet i Athen som følger. Athena er datter af Zeus (den øverste gud i græsk mytologi) og Metis, som symboliserede list og forsigtighed. Athena var en krigsgudinde, hvis egenskaber var spyd, en hjelm og et skjold. Derudover blev Athena betragtet som gudinden for retfærdighed og visdom, kunstens og litteraturens beskytter. Hendes hellige dyr var uglen, og oliventræet var et af hendes karakteristiske symboler. Grunden til, at gudinden valgte oliven som sit symbol, forklares i følgende mytiske fortælling:
I Grækenland symboliserer oliventræet fred og velstand, såvel som opstandelse og håb. Dette bevises af de begivenheder, der fandt sted efter afbrændingen af Athen af den persiske kong Xerxes i det 5. århundrede f.Kr. Xerxes brændte hele byen Akropolis sammen med de århundrede gamle athenske oliventræer. Men da athenerne trådte ind i den brændte by, havde oliventræet allerede startet en ny gren, der symboliserer den hurtige bedring og fornyelse i lyset af modgang.
Hercules, en af de mest berømte mytologiske helte, er også forbundet med oliventræet. På trods af sin meget unge alder lykkedes det kun Hercules at besejre løven Chitaeron ved hjælp af sine hænder og en pind af et oliventræ. Denne historie glorificerede oliven som en kilde til styrke og kamp.
Oliventræet, der er helligt, blev ofte brugt som et offer til guderne fra dødelige. Dette er godt beskrevet i historien om Theseus, Attikas nationale helt. Theseus var søn af den ægæiske konge af Attika, som gennem hele sit liv gik på utallige eventyr. En af dem var konfrontationen med Minotaurus på øen Kreta. Før slaget bad Theseus også Apollo om beskyttelse.
Frugtbarhed var en anden egenskab ved oliventræet. Athena er frugtbarhedsgudinden, og hendes symbol var et af de mest dyrkede træer i Grækenland, hvis frugter fodrede hellenerne i århundreder. Således ledte de, der ønskede at øge frugtbarheden af deres jorder, efter oliven.
Forholdet mellem det antikke græske samfund og oliventræet var meget intenst. Oliven symboliserede styrke, sejr, skønhed, visdom, sundhed, frugtbarhed og var et helligt offer. Ægte olivenolie blev betragtet som et objekt af høj værdi og blev tilbudt som en præmie til vindere i konkurrencer.