Per gran parte della sua storia, la Grecia antica fu divisa in città-stato, ciascuna delle quali manteneva il potere entro i propri confini. Sulla piccola isola di Rodi c'erano tre di queste città: Ialysos, Kamiros e Lindos. Nel 408 a.C., le città si unirono a formare un unico territorio con una sola capitale, Rodi. La città prosperava commercialmente ed aveva forti legami economici con il suo principale alleato, Tolomeo I Sotere, sovrano d'Egitto. Nel 305 a.C. gli Antigoni di Macedonia, che erano rivali dei Tolomei, assediarono Rodi nel tentativo di rompere l'alleanza con l'Egitto. Essi, però, non riuscirono a penetrare nella città. Quando nel 304 a.C. fu raggiunto un accordo di pace, gli Antigoni levarono l'assedio, lasciando sul posto ricchissimi equipaggiamenti militari. Per celebrare la propria unità, gli abitanti di Rodi decisero di vendere gli armamenti e usarono il denaro per erigere una statua gigantesca al loro dio del sole, Helios.
La costruzione del colosso durò dodici anni, e fu completata nel 282 a.C. Per anni, la statua rimase all'ingresso del porto, fino a che un forte terremoto colpì Rodi intorno al 226 a.C. La città fu danneggiata in modo grave e il colosso fu colpito nel suo punto più debole, il ginocchio. Gli abitanti ricevettero da Tolomeo III Evergete un immediata offerta di provvedere a tutti i costi per il restauro dei monumenti pericolanti. Venne consultato l'oracolo che, tuttavia, proibì la ricostruzione: l'offerta venne così rifiutata.
Per quasi un millennio la statua rimase in rovina. Nel 654 d.C. gli Arabi invasero Rodi. Essi smontarono i resti del colosso distrutto e li vendettero ad un ebreo della Siria. Si dice che le parti dovettero essere trasportate in Siria sul dorso di novecento cammelli. A te, o Sole, il popolo Dorico di Rodi eleva questa statua di bronzo che raggiunge l'Olimpo, dopo aver pacificato le onde di guerra e incoronato la propria città con il bottino sottratto ai nemici. Essi accendono la torcia preziosa di libertà non soltanto al di sopra dei mari, ma anche sulla terra.

Occorre innanzitutto eliminare un malinteso circa l'aspetto del Colosso. E' stato ritenuto per molto tempo che il colosso si trovasse davanti al porto di Mandraki, una delle molte città di Rodi, a cavallo del suo ingresso. Considerando l'altezza della statua e la larghezza dell'apertura del porto, questa immagine è certamente impossibile più che improbabile. Inoltre il colosso, una volta abbattuto, avrebbe bloccato l'ingresso al porto. Studi recenti suggeriscono che fosse collocato o sul promontorio orientale del porto di Mandraki o anche più verso l'interno. In ogni caso, non si trovava all'entrata del porto.
Il progetto fu commissionato dagli abitanti di Rodi allo scultore Carete di Lindo. Per costruire la statua, i suoi operai fusero la parti esterne di bronzo. La base fu costruita in marmo bianco, e le prime parti ad essere fissate furono il piede e la caviglia. La struttura venne elevata gradualmente man mano che la forma di bronzo veniva fortificata con un'armatura di ferro e pietra. Per raggiungere le parti più alte, fu costruita intorno alla statua una rampa di terra, che successivamente venne rimossa. Quando il colosso fu portato a termine, misurava circa 33 m di altezza.