Le testimonianze più remote della presenza umana sull'attuale territorio di Cannole risalgono al perioo del Paleolitico inferiore.
Nella zona sono stati, inoltre, ritrovati reperti risalenti al Neolitico e all'Età del Bronzo. Un tempo nel centro abitato erano presenti menhir oggi scomparsi (il menhir Osanna) e da poco ritrovati (Anfiano I e Anfiano II).

La pianta della canna, effigiata anche sullo stemma, è il simbolo del centro salentino. Cannole fece parte del Principato di Taranto fino al XIII secolo per poi passare sotto il controlllo dei baroni Personè nel 1583, signori del comune salentino per quasi cento anni. Il passaggio di Cannole ai Granafei nel 1747 coincise probabilmente con il periodo di maggior splendore per la piccola comunità salentina: risalgono, infatti, a quell'epoca una notevole crescita demografica e molti lavori di ammodernamento del paese.