Στην αρχαία Ελλάδα, το Ηράκλειο αποτελούσε έναν από τους δήμους του Κλεισθένη με το όνομα Ιφιστιάδαι ή Ηφαιστιάδαι. Στα βόρεια του προαστίου υπήρχε το ιερό του Ηρακλή, από όπου πήρε και το νεότερο όνομά του. Την εποχή του Βυζαντίου ονομαζόταν Αράκλι ή Χαλκωματάδες. Στα νεώτερα χρόνια, την εποχή του Όθωνα χτίστηκε στο Παλαιό Ηράκλειο η Στρατιωτική αποικία των Βαυαρών (1837), που ήταν οι μισθοφόροι που είχε φέρει μαζί του ο Όθωνας όταν ήρθε ως βασιλιάς της Ελλάδας.

Η περιοχή δεν επιλέχτηκε τυχαία. Λέγεται ότι οι αυλικοί του Όθωνα μετά από διαταγή του έσφαξαν αρνιά και τα άφησαν σε διάφορα σημεία της Αττικής. Εκεί που τα αρνιά θα σάπιζαν αργότερα θεωρούσαν ότι είχε λιγότερη υγρασία και καλύτερο κλίμα. Πράγματι τα αρνιά σάπισαν αργότερα στο Ηράκλειο και έτσι επέλεξαν την περιοχή.

Με το πέρασμα των χρόνων οι Βαυαροί κάτοικοι αφομοιώθηκαν από τους ντόπιους και εξελληνίστηκαν διατηρώντας μόνο το Καθολικό δόγμα και το όνομα. Συχνά είναι τα Βαυαρικά επώνυμα ακόμα και στις μέρες μας (Βάγγερ, Πίτλιγγερ, Κελμάγερ, Φιξ και άλλα).

Μετά τη Μικρασιατική καταστροφή, το 1922, εγκαθίστανται στην περιοχή Έλληνες Μικρασιάτες πρόσφυγες, αυξάνοντας ραγδαία τον πληθυσμό του Ηρακλείου.

Από τη δεκαετία του 1960 παρατηρείται εισροή και εγκατάσταση νέων κατοίκων λόγω της αστυφιλίας, από πολλές περιοχές της Ελλάδας.

Ο παραδοσιακός οικισμός του Ηρακλείου αναπτύχθηκε στο δυτικό τμήμα του δήμου, πλησίον της Λεωφόρου Ηρακλείου που παρείχε πρόσβαση από την Αθήνα και τη Νέα Ιωνία. Το κέντρο μετατοπίστηκε στο Νέο Ηράκλειο, συνοικία η οποία αναπτύχθηκε στο ανατολικό τμήμα του δήμου, γύρω από τον ομώνυμο σταθμό του ηλεκτρικού σιδηροδρόμου, ενώ στη βόρεια πλευρά, γύρω από τον Πράσινο Λόφο αναπτύχθηκε το Άνω Ηράκλειο, ενώ η συνοικία η οποία συνορεύει με τη Μεταμόρφωση είναι γνωστή ως Καναπίτσα. 

Το Ηράκλειο Αττικής περιβάλλεται από τους δήμους Αμαρουσίου, Νέας Ιωνίας, Μεταμόρφωσης και Πεύκης Λυκόβρυσης.