L'attuale nome è di origine greca ('pàn-ormos' = tutto porto), anche se i greci non hanno mai dominato Palermo. Infatti, dopo essere stata controllata dai Fenici e dai Cartaginesi, la città fu assorbita dai Romani nel 254 a.C.. Anche in età romana continuò a svolgere il suo ruolo di porto strategico: in seguito le invasioni barbariche la devastarono fino al 535, quando fu occupata dai Bizantini, che ne fecero il loro centro principale in Sicilia. Del periodo romano-bizantino non è rimasto quasi nulla perché, per un lungo periodo, la città fu ogni volta ricostruita dentro le mura, distruggendo regolarmente gli edifici preesistenti.
Tre secoli dopo (831), Palermo fu conquistata dagli Arabi che la resero una delle belle e floride città del tempo, specialmente dopo che fu eletta capitale dell'Emirato di Sicilia. La città si sviluppo con l'edificazione di quartieri, fortezze e palazzi: le vecchie mura, così, rimasero a cingere un quartiere chiamato el-qasr, da cui il nome di Cassaro, che indica attualmente anche il Corso Vittorio Emanuele. Furono gli Arabi ad impiantare i primi agrumeti nella Conca d'Oro aprendo nuove possibilità di sviluppo economico. L'influenza della loro cultura fu talmente forte che anche dopo la conquista della città da parte dei Normanni (1072), si continuarono a costruire giardini, chiese e palazzi secondo il gusto arabo.

I Normanni, prima, e gli Svevi, successivamente, svilupparono la vocazione commerciale della città rendendola un nodo importante dei collegamenti fra Europa e Asia. Allo stesso tempo, essi diedero un forte impulso alla vita intellettuale che continuò comunque ad arricchirsi dell'esperienza e della cultura arabe. E' in questo periodo che nasce la "Scuola Siciliana" di poesia, legata in particolare alla corte di Federico II, primo nucleo poetico-letterario consapevole sul territorio italiano.
E' questo il primo periodo di cui, nella Palermo di oggi, ritroviamo testimonianze significative. Tra le altre: il Palazzo dei Normanni, edificato da Ruggero II su una vecchia fortezza araba, e alcune chiese come S. Giovanni dei Lebbrosi, la Martorana, S. Giovanni degli Eremiti, S. Cataldo, tutte con evidenti echi architettonici arabi. E come, per così dire, arabo-normanne possono essere considerati la Zisa, residenza dei reali svevi, il Ponte dell'Ammiraglio, la Cuba e la Cubula, due padiglioni contenuti in un grande parco realizzato da Guglielmo II. Nel 1184 venne fondata la Cattedrale che, attraverso modifiche e rimaneggiamenti, rimarrà "in costruzione" fino al XIX secolo.
L'avvento degli Angioini (1266) segnò invece per Palermo l'inizio di un periodo di malgoverno e declino, reso ancor più evidente dalla perdita del ruolo di capitale in favore di Napoli. E' da tale situazione che sfociò la famosa rivolta del 1282 nota come "i Vespri Siciliani", che spinse gli Aragonesi a conquistare l'isola. Palermo conobbe quindi una nuova crescita, che coincise con un periodo di sostanziale autonomia amministrativa fondata sulle famiglie feudali che di fatto gestivano il potere, nonostante la presenza degli Aragonesi. I Vespri e la fase immediatamente seguente furono, fino al Risorgimento, l'ultimo periodo in cui la Sicilia prese parte attiva alla propria storia, prima di divenire un semplice oggetto di scambio fra le grandi potenze.
Alcune delle famiglie più influenti si fecero costruire una residenza in Palermo: per esempio i Chiaromonte e gli Sclafani, che danno il nome ai due palazzi più belli del periodo.
A partire dal 1412, con l'annessione effettiva al Regno d'Aragona, le famiglie feudali iniziarono lentamente a perdere il loro potere; contemporaneamente iniziò a scemare la prosperità economica della città lungo un processo che sarebbe proseguito, fra alti e bassi, nei secoli successivi.
Durante il Quattrocento furono costruiti alcuni edifici in stile tardo-gotico catalano, fra cui i palazzi Senatorio, Ajutamicristo e Abatellis, il quale ospita la Galleria Regionale della Sicilia
I secoli XVI-XVIII, durante i quali Palermo fu sotto il governo spagnolo, segnarono, come già accennato, un ristagno dell'economia, una diminuzione delle industre e un calo dei traffici commerciali.
Al Cinquecento risalgono la splendida chiesa di S. Maria della Catena, ancora in stile tardo-gotico catalano, la Gancia (S. Maria degli Angeli) e la Chiesa del Gesù. Nella seconda metà del secolo venne prolungato il Cassaro e furono realizzate le porte alle sue estremità (Porta Felice e Porta Nuova), e fu risistemata la Piazza Pretoria con la monumentale fontana composta da scale, statue e balaustre.
Nei secoli XVII e XVIII Palermo assunse una fisionomia barocca ( che ha in buona parte conservato ), sia con la costruzione di nuovi edifici, sia con aggiunte e rifacimenti di strutture preesistenti. Le chiese di S. Domenico e, soprattutto, di S. Teresa sono considerate due capolavori del Barocco palermitano. Di straordinario pregio sono le decorazioni in stucco realizzate da Giacomo Serpotta negli oratori di S. Rita, del Rosario di S. Domenico e di S. Lorenzo.
Di questo periodo è la novità urbanistica più importante nella storia della città, l'apertura della barocca via Maqueda, che incrocia perpendicolarmente il Cassaro (corso Vittorio Emanuele), dividendo in quattro parti l'area cittadina.
Nel 1711 ebbe termine il dominio spagnolo e, dopo un breve periodo di controllo sabaudo, la città cadde sotto i Borboni che ne ressero il governo fino all'unità d'Italia. Quello borbonico, specie nella seconda metà del XVIII secolo, fu un periodo di riforme economiche e politiche importanti che ebbero come conseguenza un forte aumento della popolazione.
Nella seconda metà del Settecento furono infatti realizzati l'orto botanico, con numerose piante tropicali rare, Villa Giulia, primo giardino pubblico di Palermo, e il Parco della favorita con la Palazzina Cinese.
All'Ottocento risalgono il prolungamento di via Maqueda con via R. Settimo e viale della Libertà, lungo la quale sorsero poi splendide ville in stile Liberty, e l'edificazione di due grandi opere in stile neoclassico, il Teatro Politeama e il Teatro Massimo.