Régészeti kutatások alapján a település már a középkorban is létezett, de kevés ismeretanyag maradt fenn róla. Nevének "Tarján" része az azonos nevű magyar honfoglaló törzs nevéből származik, a "salgó" régi magyar szó jelentése pedig: „fényes”
A források „kenyeretlen Tarjánként” említik, jelezvén azt, hogy a település igen szegény volt, többségében mezőgazdasággal foglalkoztak. A XVII. században a falunak 247 lakosa volt.
Fülek várának 1682-es ostroma után a település elnéptelenedett, és tíz évig lakatlan maradt. A lassan újra benépesülő település még sokáig nem tartozott a jelentősebbek közé.
XIX. század közepén barnaszenet fedeztek fel a falu közelében. Beindult a bányászat, majd az erre alapuló ipar, így a település is gyors növekedésnek indult. Az 1860-as évek végén megalapították a Salgótarjáni Kőszénbánya Rt.-t, ami az akkori idők egyik legnagyobb társasága volt. 1881-ben hatalmas gyárkomplexum alakul ki elsősorban az itteni szénlelőhelyeknek köszönhetően: a Rimamurány-Salgótarjáni Vasmű Rt. Ez akkoriban az ország második legnagyobb vasfinomító vállalata volt. Az ide özönlő idegen munkások miatt ekkoriban a város etnikai viszonyai is jelentősen megváltoztak.
A Társulat Szilárdy Erzsébettől még az alapítás évében megvásárolt a Salgó-patak mentén elterülő gyártelep területét és a kiterjedt szénmezőket Salgópuszta, Eresztvény, Medves, Vecseklő határában. A vasgyártáshoz szükséges vizet a Salgó patak szolgáltatta. A bányatelep és a gyártelep közötti 200 méteres szintkülönbségét három siklópályával hidalták át, a vízszintes szállítást lóvontatással oldották meg. A bányászat átalakította a táj külső képét, bányavasutak szelték át a kopár dombokat. Még nagyobb volt azonban a változás a felszín alatt. Salgótarján település alatt bányamezők húzódtak. Az 1880-as évektől kezdve már általánossá vált a vízkiemelés, a levegőellátás és a szállítás területén a gépi erő alkalmazása. Az első gőzzel hajtott szivattyút 1870-ban állítottál be az Emma-aknába. A község fejlődésében különösen városias jellegének erősítésében a bányáknál nagyobb szerepet játszott a Salgótarjáni Vasfinomító Rt. 1892-ben megalapították az Egyesült Magyarhoni Üveggyárak Rt.-t, amely zöld palackok gyártása szakosodott. 1904 és 1909 között Salgótarjáni Palackgyár Rt. néven önállósodott. 1933-tól gyár Salgótarjáni Üveggyár Rt. néven dolgozott megváltozott gyártási programmal.
1898-ban jött létre a Hirch és Frank Budapest-Salgótarjáni Gépgyár és Vasöntöde Rt. Termékei között díszöntvények, majd 1909-től vaskályhák szerepeltek. A lakosság döntő hányada ezekben a gyárakban dolgozott és a gyárak által létrehozott és fenntartott telepeken lakott.
Salgótarján felépítése közigazgatásilag három egységre szakadt:
- Északon a „RIMA”,
- délen a bánya
- a település központjában pedig a kereskedők,iparosok és a többi lakos.
Az országosan is jelentős két mamutvállat: a bánya és acélgyár mindvégig megőrizte teljes különállását. Telepein a vállalt törvényei uralkodtak, melyeket a tőkések akarata határozott meg. A község a telepek irányításába nem szólhatott bele. A dualizmus időszakában a telepek államok voltak az államban.
A közvilágítás mellett a XIX. század központi problémájaként kezelték a tűzoltás kérdést. 1876-ban elfogadták a tűzrendőrség, illetve a tűzoltóegylet megalapítását.
Salgótarján ipari fejlődése szükségszerűen állandó napirenden tartotta a község és a külvilág közötti kapcsolat javítását, a közlekedés fejlesztését. A vasútépítés mellet a közút közlekedés javítása is fontossá vált.
1880-ban megkezdték a Salgótarján és környékét összekötő utak építését. Míg Salgótarján összeköttetése javult a község belső közlekedése súlyos gondokkal küzdött. 1892-ben megkezdték a járdák építését, a Tarján patak szabályozását, azonban a község csatornázása elmaradt.
1922-ben Salgótarján megkapta a városi rangot. A közigazgatás rendezése során 1929-ben új jogi kategória lépett életbe Salgótarján megyei város elnevezést kapott. Ez év május elsején indult meg a rendszeres autóbusz közlekedés Salgótarján és a megye második legnagyobb városa Balassagyarmat között. Akkorra a középületek többsége – köztük a többször átépített városháza a régi temető helyén megépült, s a 30-as években az új város számottevő állami intézmény hálózattal (adóhivatal, járásbíróság, csendőriskola és laktanya, honvédlaktanya, közvágóhíd, reálgimnázium, városi sporttelep, uszoda, egészségház) rendelkezett. A központ az 1913-ban épült vasútállomás előtti tér a hajdani piactér lett. Itt kapott helyet az 1914-ben létesült postaépület, valamint 1923-ban felavatott első világháborús hősi emlékmű Ditrói Siklódy Lőrinc alkotása.
A gazdasági világválság a második világháborús készülődés és a harcok feszültségei nem múltak el azonban nyomtalanul. A munkásmegmozdulások (éhségmenet, bányász sztrájk, karancslejtősi ellenállás stb.) a megélhetésért vívott kemény küzdelem jelei voltak, amelyek áldozatokat is követeltek. 1942. július 7.-én megindult a keleti frontra a salgótarjáni 53/III. Számú zászlóalj, amelyből sokan odavesztek. A helyi izraelita hitközség is nagy veszteségeket szenvedtek el, különösen az 1944. június 16-án befejeződött deportálás révén.
A háború végét a városban a szovjet csapatok 1944 karácsonyi bevonulása jelentette. Ennek első évfordulóján 1945. december 25.-én Kádár János először mondott beszédet Salgótarjánban. Bár 1946-ban fontos városfejlesztési tervet fogadott el a képviselő testület azonban sokáig ezen a téren semmi lényeges nem történt. Azok a politikai küzdelmek domináltak, amelyekből a kommunista párt került ki győztesen. Salgótarján a tanácsrendszer bevezetését követően 1950-ben lett Nógrád megye székhelye bár a döntés már korábban megszületett. A határozatnak politikai, gazdasági, és közigazgatási okai egyaránt voltak. A város, azonban mint település nem volt felkészülve erre a funkcióra, s rengeteg pótolnivalója maradt az 1950 június 15-én Balassagyarmaton Gerst János elnökletével megalakult megyei tanácsnak. Néhány intézmény, azonban, mint például a megyei bíróság, az ügyészség az Ipoly parti városban már 1790-től a megyeszékhelyen működött. A modernizálás tervei ezekben az években elkészültek ugyan, de többek között az ötven évek eleji politikai visszásságok torzulások miatt, amelyek végül is az 1956-os forradalomhoz vezettek még viszonylag sokat kellett várnai megvalósulásukra. Salgótarján tragikus módon írta be nevét a forradalom krónikájába. 1956. december 8-án a megrettent hatalom szovjet katonai biztosítással a megyei tanács és a rendőr-főkapitányság épülete előtt összegyűlt tömegbe lövetett. A 131 sebesültből 46 halott neve őrződött meg Salgótarján történetének mártírokat nyilvántartó lapjain.
A városi tanács 1956 után újult erővel látott munkához és 1958 márciusában három évre szóló várospolitikai tervet fogadott el.
A célkitűzés a fő feladatokat a következőkben foglalta össze:
- El kell fogadni a város általános rendezési tervét.
- Új közlekedési útvonalakat kell rögzíteni.
- A vízellátást meg kell oldani.
- A város fejlesztési alapját a helyi források igénybevételével kell növelni.
- A helyi utak, járdák építését, csatornázást meg kell gyorsítani.
- Az új kórház és kultúrház megépítése.
- A Fő-tér rendezése.
- Az iskolai hálózat fejlesztése.
- A kereskedelmi hálózat korszerűsítése.
- Az évi 200 állami lakás és 300 magánerős családi ház építésének támogatása.
A centrum kialakítása a jelenlegi központ tejes szanálásával és átépítésével valósult meg. A város irányítóinak a hároméves várospolitikai tervelőirányzat mellet javítani kellett az egyre növekvő számú lakosság ellátását. A lakáshiány mellet egyre nagyobb gondot okozott a víz. Salgótarján ivóvízellátása a város legégetőbb alapvető problémája. Többféle elképzelés vetődött fel a mélyfúrású kutaktól a völgyzáró gátig. Kisgedőc puszta mellett mélyült 1960-ban a nógrádi terület legmélyebb 2232 méteres fúrása. Azonban leginkább reálisnak az Ipoly vizének felhasználását tartották. A megindult munkák 1959. végére hozták meg az eredményt, amikor jelentős társadalmi munka segítségével sikerült bekötni az újonnan fúrt kút vizét a városi hálózatba.
Hasonló jellegű feladat volt 1959-ben a város főutcájának a Rákóczi útnak az átépítése. A forgalom növekedése szempontjából a városközpont átépítése mellet szerepet játszott a 21-es számú főközlekedési út átkelési szakasza, mely a határ felé vezet tovább.
Folytatódott a lakásépítési program megvalósítása 1960-ra a szabad területek beépültek, ezért folyamatos tervmódosításokra volt szükség. A tervezők – Maróthy Győző vezetésével – a földrajzi adottságokat és az addigi városszerkezet vették alapul. Mindezekre tekintettel négy beépítési övezetet határoztak meg. A peremkerületek, családi házas, beljebb egy-két szintes zárt sorú városias jellegű, majd három-ötszintes új városi övezet, mely közvetlenül körülveszi a központot. A központot ahol magas házas beépítést terveztek. Az 1960. évi terv összességében kb. 38 ezer ember életterét próbálták felvázolni 15-20 éves távlatban.
Salgótarjánban 1948-1950 között két kórház – az OTI kórházaként működő acélgyári és bányatárspénztári – volt. A két kórházat a városi tanács 1950-ben egyesítette városi kórházzá. 1952-ben kapta meg a megyei kórház rangot de ezzel csak a feladatok növekedtek, de a z adottságok nem javultak. Ennek a problémának megoldását csak egy új korszerű kórháza megépítése jelentette. Az új kórház tervezése 1959-ben, építése 1960 -1961-ben kezdődött. Az impozáns korszerűen felszerelt új kórház avatóünnepségére 1967. április 29-én került sor. A kórház ágyszáma 634, tizenegy klinikai osztály és több, mint 600 fő dolgozott ott. Az egészségügy tárgyi és személyi ellátottsága különösen 1966 óta javult sokat hiszen a kórház mellett számos más intézmény is új korszerű épületbe költözött.
A kulturális és oktatási területen is jelentős volt az előrelépés a József Attila Megyei Művelődési Központ átadásával. 1966. április 4-én a 660 férőhelyes színházterem, valamint az akkor épületben helyet kapó Balassi Bálint Megye Könyvtár és kereskedelmi egységek (könyvesbolt, Képcsarnok) volt található. 1968-ban Salgótarjánba került a Nógrád Megyei Levéltár és a Nógrád Megyei Történeti Múzeum.
A Nógrád Megyei Történeti Múzeum, aminek elődje a Nógrád Megyei Munkásmozgalmi Múzeum 1959 tavaszán alakult meg a Jankovich kúria épületében. Kezdetben a megye munkásmozgalmának történetére vonatkozó emlékeket gyűjtötte össze majd Salgótarján helytörténetének emlékeit is. A város rekonstrukciójának előrehaladása során a régi épület a további építkezés akadálya lett, ezért a hatvanas évek végén megkezdődött az új múzeum tervezése és 1980. október 3-án átadásra került. A múzeumot Nógrádi Sándorról a megye szülöttjéről, partizánvezérről nevezték el. 1991-től Nógrádi Történeti Múzeum néven szerepel.
Hazánk első földalatti bányamúzeuma szinte a város szívében 1965. április 30-án nyitotta meg kapuit a bel- és külföldi látogatók előtt, az egykori József lejtősakna felhagyott (1951) de még épségben lévő vágatrendszerében.
Kiemelt feladat volt a város oktatási intézményrendszerének a kiépítése is, amely a rekonstrukció megkezdése óta mind a mai napig folyamatosa halad. Az államosítás utáni első tanévben kilenc, zömében korszerűtlen általános iskolában kezdték meg a tanítást. A Rákóczi út úgynevezett központi iskola és a harmincas években nagyon korszerűnek számító volt acélgyári iskola. 1953-ban a Csizmadia Sándor úti iskolát, majd 1955-ben a Bartók Béla úti és a Baglyasalja nyolc osztályos iskolákat hozták létre. Salgótarjánban 1950-ig két középiskola egy Gimnázium és Közgazdasági Gimnázium működött. 1950-ben ipari gimnázium indult. A Gimnázium 1951-ben vette fel Madách Imre nevét. Az ipari gimnázium 1955-ben Stromfeld Aurél nevét vette fel. A Közgazdasági Gimnázium 1953-ben közgazdasági technikummá szerveződött át és Táncsics Mihály nevét vette fel.
Még 1959-ben felépült a Május 1. Úti általános iskola (ma Kodály János nevét viseli), mely kimagasló ének- zenei nevelő munkát folytat. A Gagarin általános iskola 1978-ban épült már modern városképbe illő formában és anyagból. Különösen kedveltté tette tanuszodája, mely első volt a maga nemében a városban. Vele szemben a Pécskő dombon 1967-ben készült el a város második gimnáziuma a Bolyai János Gimmnázium. 1963-ban megnyitotta kapuit az egészségügyi és az építőipari szakközépiskola és 1964-ben a szakmunkásképző intézet. A felsőoktatási intézmények sorában 1972-től működik a Pénzügyi Számviteli Főiskola.
A város sport létesítményei is gyarapodtak az elmúlt évtizedekben. Ámbár az első lépés nem volt sikeres mert a 25 000 nézőt befogadó stadion építése ugyan elkezdődött, de a befejezése még várat magára. Ennek oka, hogy a városban leállították a szénbányát, ami a labdarúgó csapat bázisa volt és elfogyott a politikai hatalom, amely támogatta volna ezt a monstre intézményt. Működik azonban az ötvenes években felújított bővített SKSE-pálya a város egyik legszebb pontján a Dolinka-völgy bejáratánál. A Dolinka a városlakók kedvelt pihenőhelye egy zöld pont a város szívében. 1976-ban felépült a városi sportcsarnok, amely szép és elegáns is csak éppen ostoba takarékoskodás miatt nem alkalmas egyes sportok nemzetközi szintű versenyek megrendezésére. De még így is számtalan színvonalas sport- és zenei rendezvénynek ad otthont. Jó tíz évvel később nyitotta meg kapuit a városi fedett uszoda. 1963-ban épült a városi strandfürdő, a csónakázó tóval, majd 1970 bővítésre került.
Salgótarján lakosságának növekvő létszámát, valamit a város területének növekedését eredményezte a megyeszékhellyé nyilvánítással egyidőben az 1950-ben, a városhoz csatolt Baglyasalja, 1961-ben Zagyvapálfalva, 1973-ban Zagyvaróna, 1977-ban pedig a határközség Somokőujfalu, valamint Somoskő és Salgóbánya is.
A nyolcvanas évek végéig a város iparát alapvetően a nehézipari nagyüzemi termelés (szénbányászat, kohászat, gépgyártás, öblös- és síküveggyártás) jellemezte. Ennek következtében az 1989-1990-ben bekövetkezett társadalmi rendszerváltozással szükségszerűen együtt járó gazdasági átalakulás nagyon nehéz helyzetbe, csődközeli állapotba hozta Salgótarjánt. A bányák bezártak (az utolsó 1992-en), a gyárakban drasztikus létszámleépítés következett be. Hirtelen magas lett a munkanélküliek aránya (nagy százalékban a szakképzetlen roma lakosság körében). A profilváltás felemás módon ment végbe, a privatizációval nyugati tőkével a nagyvállalatok csak kis részét lehetett stabilizálni. A kevesebb munkahellyel egyenes arányban fokozódott az elvándorlás, aminek következtében egyre csökkent a lakosságszám. A város nagyságrendjéhez képest alacsony volt – és máig is az – a vállalkozók és vállalkozások száma, viszonylag szűk a tehetős, jól adózó szponzorképes vállalkozó réteg, s kicsi a vásárlóképes kereslet. Éppen ezért több év a válságkezeléssel, a város működőképességének megtartására tett erőfeszítésekkel telt el.
Az 1994-től megyei jogú város címmel rendelkező településen, csak az utóbbi időszakban kezdenek visszaigazolódni az új fejlesztések, az ezredfordulós léptékváltás törekvései – például a déli városrészben a 21-es számú út mentén kialakított vállalkozói övezet, a 32 hektárnyi ipari park első és második ütemének fokozatos kiépítésével, benépesítésével, munkahelyek teremtésével, a rendkívül szép természeti környezetben fekvő város idegenforgalmának fellendítéséhez szükséges feltételek megteremetésével.
A hangsúly továbbra is és egyre fokozottabban a környezeti adottságok, kihasználásán van, mivel az idegenforgalom lehetőséget ad a gazdasági hanyatlás és következményeinek mérséklésére. Salgótarján 2022-ben ünnepeli várossá nyilvánításának 100 éves évfordulóját.
