Il toponimo Rubano deriva dal prediale latino Rubianus, ossia territorio di Rubius, che si suppone essere stato un legionario o un importante funzionario di epoca romana cui sarebbero stati assegnati terreni nella zona dell'attuale Rubano.

In epoca preistorica, il territorio rubanese era attraversato dal fiume Medoacus (oggi Brenta) che vi scorreva con numerose anse, del cui paleoalveo rimane traccia ancora oggi nell'andamento di alcune strade interne, fossati e parcelle territoriali; Rubano si trova infatti all'interno di una fascia di canali denominata 'Mestrino-Rubano' datata tra il VI ed il IV millennio a.C., poi abbandonata dal fiume Brenta per un tragitto simile a quello dell'attuale Bacchiglione durante l'età del Bronzo.

In epoca romana, i fiumi dovevano già seguire un percorso più vicino agli attuali percorsi (il Brenta a nord, la Storta o il Bacchiglione a sud) e quindi ai margini del territorio rubanese. Era attraversato dalla romana Via Gallica nel tratto tra Padova e Vicenza lungo il percorso dell'attuale Strada Regionale 11 Padana Superiore. Si ipotizza che Rubano sorga in corrispondenza del quinto miglio (7400 m) da Padova, che in particolare cadrebbe all'altezza della vecchia chiesa all'incrocio tra le attuali SR11 e via Palù; in corrispondenza del terzo miglio (4440 m) si troverebbe l'area della vecchia chiesa di Sarmeola, demolita alla fine degli anni '60. L'origine del conteggio miliare corrisponde all'incrocio tra gli attuali Ponte Molino e via Savonarola in Padova, in corrispondenza della porta romana presso cui terminava a nord il cardo maximus della città, e da cui si originavano anche le strade verso Asolo e Feltre (via Aurilia, corrispondente circa all'attuale SS 307 "del Santo"), verso la Valsugana e Trento (attuale SS 47), e verso Marostica e l'Altopiano di Asiago (l'attuale direttrice Padova - Villafranca Padovana - Piazzola sul Brenta - Carmignano - Marostica.

Il territorio rubanese era soggetto ad allagamenti in conseguenza delle piene stagionali dei fiumi vicini. La relativa vicinanza tra il corso del Medoacus e la via Gallica, può spiegare la presenza in età medioevale di una seconda importante via di comunicazione che corre al margine meridionale del territorio rubanese: la strada Pelosa, che partiva da Padova e procedeva con andamento rettilineo (di cui oggi rimangono alcuni tratti separati) fino a Montegalda, per poi terminare anch'essa a Vicenza. Studi recenti tendono ad escludere l'origine romana della strada Pelosa.

Non si hanno comunque notizie storicamente attestate su Rubano ed il suo territorio nel periodo romano ed alto-medioevale, ma solamente pochi resti archeologici, relativi ad abitazioni rurali risalenti al I-II secolo d. C.

Diversi testi accennano alla presenza di guarnigioni di Sarmati nella zona di Sarmaticula (l'attuale Sarmeola) [4] nel V secolo d.C., poste a guardia dei confini occidentali della città di Padova. Il toponimo Sarmeòla deriverebbe quindi dal nome della popolazione dei Sarmati, tramite Sarmaticula poi Sarmedaula, si veda anche il toponimo Sarmego, località a 15 km da Sarmeòla in direzione Vicenza; un'ipotesi alternativa fa risalire l'etimologia del nome alla radice sar- o ser- indicante l'acqua, ed al suffisso -meola (midollo), con il significato di "(territorio) in mezzo all'acqua" , in probabile riferimento alla presenza in tempi antichi del fiume Brenta nel territorio o alla natura paludosa dei terreni (da cui sicuramente il toponimo locale paludi delle mojacche per la zona di campagna a nord del paese, toponimo tuttora presente nel nome di una via). La corretta accentazione Sarmeòla è attestata dalle cartine IGM presso il Portale Cartografico Nazionale nonché dal Pellegrini, benché nella zona sia invalso l'uso di pronunciare il nome come Sarmèola.

Tardo medio-evo
Le prime notizie storicamente attestate del territorio risalgono a dopo l'anno Mille. In particolare, il toponimo Sarmeola compare nell'anno 1026, Rubano nel 1073, Villaguattera nel 1191, Bosco verso la fine del XIII secolo. Del 1130 è il primo riferimento al toponimo Bibano, piccolo centro abitato nella parte meridionale del Comune, poi scomparso nei secoli successivi. Le chiese di Sarmeola e Rubano dipendevano dal Duomo di Padova; il territorio di Bosco invece era un possedimento dell'Abbazia della Vangadizza. La vecchia chiesa di Rubano (oggi sconsacrata ed adibita ad Auditorium comunale), risalente alla fine del XIII secolo, è presumibilmente il più antico edificio del territorio sopravvissuto in forma riconoscibile fino ad oggi.

Nel corso dei secoli successivi, la storia di Rubano ha seguito le vicende della vicina città di Padova.