Lo stemma, molto semplice, nella forma aulica è caricato su di un “cartoccio” dorato ed è formato da uno scudo inquartato di rosso e d’argento, timbrato da una corona ducale. Secondo la tradizione lo stemma deriva da quello di papa Gelasio II, al secolo Giovanni Gaetani d’Aragona nato nella città intorno al 1064, monaco benedettino.

Durante il brevissimo pontificato (10 marzo 1118?-28 gennaio 1119) fu perseguitato dai ghibellini romani e Cencio dei Frangipani lo imprigionò in una torre dalla quale fu liberato dalla popolazione, ma fu costretto a fuggire prima a Capua e poi a Gaeta, mentre a Roma l’imperatore Enrico V imponeva un antipapa: Gregorio VIII. Famoso l’episodio della sua ulteriore fuga a Benevento, sulle spalle del cardinale Ugo di Alatri, perché infermo e incapace di camminare speditamente. Da quella città il papa raggiunse il mare e, passando per Genova, andò a morire di pleurite presso l’abbazia di Cluny in Borgogna.

Nota: non ci sono certezze sull’esistenza dello stemma di papa Gelasio II, che alcuni autori rappresentano “inquartato d’argento e di rosso, alla banda azzurra attraversante caricata di tre stelle d’oro a sei punte”.