Secondo il Rohlfs, “Novoli” deriverebbe dal latino Novulum, Novale (campo da arare, campo lasciato a riposo). Sembra che il nome Novoli fosse quello usato dai paesani e forestieri poiché negli atti ufficiali veniva usato invece il nome S. Maria de Novis.
Anche l’origine del paese è poco chiara. Secondo l’illustre scrittore G. Marciano gli abitanti del vicino casale Porziano situato in contrada S. Nicola (sulla via per Veglie), abbandonarono il luogo paludoso di questo casale e si trasferirono dove oggi sorge Novoli (erano quivi anticamente prima che vi fosse edificato il casale tre antichissime chiese, vicine l’una all’altra sotto il nome del Salvatore, S. Giovanni, e S. Maria Madre del Signore) fondando il casale di S. Maria de Novis (e rinnovata l’antica Chiesa di S. Maria, l’abbracciarono per loro Chiesa Madre, e chiamarono insieme il casale di S. Maria Nova).
La conferma dell’esistenza di un casale abbandonato in tale contrada fu data anche da L.G. De Simone durante una delle sue escursioni archeologiche a Novoli. Indagini di superficie condotte recentemente hanno dimostrato che effettivamente un insediamento medievale è esistito nell’area indicata dai due scrittori. In agro di Novoli, le testimonianze più antiche sono rappresentate dai rinvenimenti delle grotte di Cardamone, dove nel 1872 fu trovata una grandissima quantità di ossa fossili catalogate dal Botti, risalenti al Pleistocene superiore e anche selci scheggiate neolitiche. Nel 1939 furono scoperti resti di un menhir nella contrada Petra Rossa sulla strada partifeudo per campi Salentina, mentre una specchia doveva esistere in contrada omonima, a circa 2 Km dall’attuale centro, sulla via per Salice.
Tracce magno-greche invece sono emerse a Novoli nel 1935 quando furono trovate due tombe a Villa Portaccio (a 1 Km. circa, a est di Novoli) dotate di corredo funerario – costituito prevalentemente da ceramica Attica, a figure rosse, del VI secolo a.C. – ora conservato presso il Museo Nazionale di Taranto. Nell’attuale centro abitato invece le testimonianze più remote sono i due affreschi conservati nell’attuale chiesa dell’Immacolata (anticamente intitolata a S. Maria Madre di Dio) che fu molto probabilmente la prima chiesa parrocchiale. Il primo scoperto nel 1865 è un affresco bizantineggiante che rappresenta la Madonna in trono col Bambino (divenuta poi stemma civico) con ai lati dell’immagine il titolo in greco Madre di Dio e potrebbe essere datato al XV secolo, mentre il secondo (un frammento di affresco) scoperto nel 1951, raffigurante un angelo e una figura di donna aureolata e databile forse al XIII secolo, venne intitolato all’epoca del ritrovamento dagli studiosi “Ospitalità di Abramo”. Recenti studi invece attribuiscono questo frammento alla raffigurazione della “Madre del Risorto” poiché nella chiesa dell’Immacolata si celebrava la festa della Mater Dei il martedì di Pasqua, festa che coincide con quella della “Madre del Risorto” del calendario liturgico bizantino.
