A település területén és határában feltárt régészeti leletek arról vallanak, hogy az első jelentős emberi megtelepedés a Krisztus előtti I. évezredben, a szkíta korszakban volt. A honfoglalás korából gazdag női sírlelet került elő Heves külterületén, a Kapitányhegyen.

Az Árpád-házi királyok korában Heves királyi várbirtok volt, névadó központja a Hevesújvári vármegyének. Ispáni központként a hevesi részek világi igazgatását látták el. Feltehetően faszerkezetű földvár is állott a településen. Heves a Tarna, az Eger patak és a Tisza által határolt terület főesperességi székhelye is volt. Nevét 1203-ban említi először oklevél Hewes alakban. Az Aba nemzetségből származó Kompolti, majd az Országh család birtoka volt. A település erősödését elősegítette, hogy fontos kereskedelmi és hadi útvonalak vezettek itt keresztül. Az első "város" megnevezéssel 1467-ben találkozunk, amikor Hevest mezővárosnak mondja az oklevél. Ekkor már vásártartási joggal is bírt. Koraközépkori gazdagságát illusztrálja XIII. sz-ban épült temploma is, melyen ma is jól láthatók a gótikus stílusjegyek.

A város virágzásának a XV. sz-ban a török pusztítás vetett véget. Az 1540-es évektől Heves is török hódoltsági terület lett, a hatvani szandzsák része, ezen belül náhijeközpont. Vidékünk gazdag élelemforrás volt a török számára a Jászságból Egerbe vezető útvonalon. Eger eleste, 1596 után Heves is tartósan katonai véghellyé vált. Az Eger elleni kiváló stratégiai helyzetet kihasználva erődítményt, palánkvárat is építettek itt, mely feltételezhetően a mai város központjában, a ligetben állt. A lakosságot kiűzték a városból, akik Heves északnyugati részére menekültek. Így itt új település jött létre Kisheves néven. A törökök lakta város az oklevelek szerint a Nagy Heves, a magyarok lakta új település a Kis Heves nevet kapta.

A felszabadító harcok során a császári hadtest 1685. október 16-án érte el a várost, ami a palánkvárral együtt harc nélkül került a császáriak kezébe. Az elvonuló törökök a várat felégették. A felszabadult területeket a bécsi kormányzat fegyverjog címén lefoglalta a kincstár számára. A város nagy részét Glöcksberg Dietrich vásárolta meg az udvartól a környékbeli községekkel együtt.

Megkezdődött a szinte lakatlan város újranépesülése. Visszaköltözött az elmenekült magyar lakosság, valamint jelentős számú jobbágynép érkezett Mezőszemere, Ónod, Mezőkövesd községekből. A felvidékről tótok, Gömör vármegyéből több református nemesi család költözött Heves környékére, akik a helyi reformátusság magját alkották a római katolikus többségű településen. Frankfurt vidékéről 21 téglaégetéssel foglalkozó német család érkezett. Ez időben - a XVIII. sz. elején - a délvidéki rácok pusztításaitól, valamint pestisjárványtól is szenvedett a hevesi nép.

E korszak legnagyobb helyi birtokosai Haller Sámuel, a Nyáry leszármazott Négy Línea (Bossányi, Orczy, Szunyogh és Török család) és a község ötödrészét birtokló un. "ötödrészi nemesek". Később házassági kapcsolatok révén a gróf Berényi, majd az Orczy család lett a főbirtokos. 1835-ben Ferdinánd Szász-Coburg Gothai herceg megvásárolta az Orczy-birtokokat, így a város legnagyobb földesurává vált. A hét közép- és nagybirtokos mellett több mint 100 olyan kisnemes élt a településen, akiknek jobbágyaik nem voltak, majorságaikat zsellérekkel műveltették. Ebben az időben a településen két kastély és hat kúria épült, melyek a körülöttük lévő zsellérházakkal tömböket alkotva sokfelé tagolták a települést.

1848 után a félbe maradt jobbágyfelszabadítás és földtulajdonlás kérdése hosszú ideig megoldatlan volt. Az 1860-ban végrehajtott földbirtokrendezés, tagosítás óriási hatással volt a község életére. Fellendült a mezőgazdasági termelés, országos hírűvé vált a dinnye- és dohánytermelés. Elsősorban a jó mezőgazdasági adottságoknak köszönhetően a XX. sz. elejére Heves népessége jelentősen emelkedett.

A város - mint járási székhely - jelentős közigazgatási szerepkörrel rendelkezett. Ez elősegítette a polgárosodás, városiasodás folyamatát. A hevesi társadalmi és kulturális élet a XX. sz. elején igen élénk volt.

A boldog békeidők virágzó korszaka 1914-ig tartott. Az első világháború frontjain 110 hevesi katona vesztette életét. E hősi halottak neveit az 1924-ben, a Hősi ligetben felállított emlékmű őrzi. Az 1920-as években új községrész kezdett épülni Újtelep néven, ahol ekkor csaknem 700 új telket osztottak ki.

A II. világháború a hevesiektől is nagy áldozatot követelt. 350 zsidó lakost hurcoltak haláltáborokba, nagyon sokan kerültek szovjet munkatáborokba. A háború katonai és polgári áldozatainak emlékét, neveit őrzi az 1993-ban felállított hősi emlékmű.

1945. után a földosztás eredményeképpen sok kisgazdaság alakult elmaradott gazdasági felszereléssel. Később kis termelőszövetkezetek jöttek létre, melyeket 1964-ben Rákóczi néven szerveztek eggyé. Ipari és szolgáltató üzemek is alakultak. Az 1956-os forradalom idején Hevesen is munkástanács alakult, nemzetőrséget állítottak.

Szembetűnő gazdagodás, fejlődés az 1960-as évektől figyelhető meg a településen. Ekkor létesült a Szociális Otthon, az SZTK, a Szülőotthon, bővült a Strandfürdő, Gimnázium, Művelődési Ház, áruház, iskolák épültek. Megnyílt az Állami Zeneiskola és a Helytörténeti Múzeum.

1984-ben Heves újra városi rangot kapott, mint közigazgatási központhoz 16 település tartozik. Felépült a Középfokú Oktatási Intézet, Sakkmúzeum költözött a városba. Az Újtelepen új orvosi rendelő, lakás és gyógyszertár nyílt.

Az Állami Gazdaság és a Rákóczi Tsz. megszűnt, az ipari vállalatokat privatizálták. A munkanélküliség a lakosság jelentős hányadát érinti.

A közel tizenkétezer lakosú város arculatát napjainkban is a mezővárosi jelleg határozza meg.