Grundlæggelsen
Luxembourgs officielle grundlæggelse fandt sted i 963, da greven Siegfried købte et klippefremspring ved floden Alzette af kirken i den nærliggende by Trier.
Klippefremspringet var mødested for to gamle romerske veje, og der menes at have ligget en form for militær bebyggelse kaldet Lucilinburhuc, der senere er blevet til Luxembourg. Lucilinburhuc betyder en lille fæstning, hvilket fortsat i dag tydeligt ses mange steder i byen.
Klipperne blev hurtigt bebygget af Siegfried med en borg, og hurtigt efter kom de første bymæssige opførelser til. Det var blandt andet håndværkere og handlende, der slog sig ned på og neden for borgklippen, og derved var de såkaldte øvre og nedre byer allerede etablerede på dette tidlige tidspunkt af Luxembourgs historie.
Byen vokser
Stedet viste sig hurtigt at være af den tydelige strategiske vigtighed for området, som Siegfried havde tænkt. Gennem de næste mange århundreder var styrkede befæstninger af den stadigt voksende bebyggelse de største anlægsarbejder. I slutningen af 1100-tallet blev den første ring af stenbastioner opført, og derved kunne man tale om en egentlig by.
I begyndelsen af 1300-tallet var befolkningspresset på den oprindelige, fem hektarer store by indenfor murene blevet så markant, at nye forsvarsværker blev bygget med vest, så Luxembourg kunne blive udvidet i denne retning til 23 hektarer. Det var en stor udvidelse, og den nye, vestlige bymur (der løb ved dagens Boulevard Royal) kom da også til at danne bygrænsen helt indtil 1867. Indbyggertallet i starten af 1300-tallet var på 5.000.
Hertugdømme og nye herskere
I 1354 fik Luxembourg status af hertugdømme, og kom i de følgende århundreder til at blive draget ind i de omliggende magters politiske og militære kampe. Første gang var i 1443, hvor Filip den Gode, der var hertug af Burgund, erobrede byen, som blev integreret i Nederlandenes territorium. Derved blev Luxembourg også trukket med i stridighederne med habsburgerne.
Luxembourg skiftede hænder fire gange inden for en årrække, før den tilfaldt de sejrrige spanske habsburgere. Spaniere forstærkede byens forsvarsværker, og resultatet blev en stærkt befæstet by, der ikke bare var blevet styrket mod den åbne slette mod vest, men også på skrænterne mod floddalene i nord, syd og øst.
Fransk, habsburgsk og tysk tid
Habsburgernes tid varede til 1684, hvor Ludvig XIVs franske tropper under militæringeniøren Vaubans ledelse erobrede Luxembourg. Under det 13 år lange franske styre, udbyggede og restrukturerede Vauban byens forsvar i stor stil. De nedre bydele, der var sværere at forsvare, blev integreret i hele områdets forsvar gennem nye byggerier.
I 1697 blev Luxembourg returneret til habsburgerne, og herefter var næsten et århundrede med relativ ro. Befolkningstallet var i slutningen af 1700-tallet steget til omkring 8.500.
Efterhånden blev de spanske habsburgeres magt svækket, og efter lang tids blokade erobrede Frankrig Luxembourg 1795. Gennem fredsforhandlinger efter Napoleonskrigene blev Storhertugdømmet Luxembourg etableret som en del af Den Tyske Konføderation i 1815, og i den forbindelse blev byen en tysk garnisonsby.
Neutralitet og vækst
I 1867 var der tæt på at udbryde krig mellem Bismarcks Tyskland og Napoleon IIIs Frankrig. Krigen blev undgået, og med underskrivelsen af fredsaftalen i London blev Luxembourg erklæret som en neutral stat i fortsat personalunion med Nederlandene. En konkret konsekvens blev også, at store dele af byen Luxembourgs forsvarsværker skulle rives ned.
Efter en 900 års periode som fæstningsby skulle Luxembourg nu finde en ny identitet uden de mange forsvarsbyggerier. Ganske hurtigt blev det klart, at det skabte en enestående mulighed for en hidtil uset ekspansion, idet de gamle bymures grænser for vækst ikke længere var en hindring, hverken geografisk eller befolkningsmæssigt. Eksempler på den tids planlægning var anlægget af byparken mod vest, forstæderne Belair og Limpertsberg samt pragtgaden Avenue de la Liberté på Bourbon-plateauet. Mange nye indbyggere kom til, og efter 1. Verdenskrig boede der 46.500 mennesker i byen.
1900-tallet til i dag
I forbindelse med 1. Verdenskrig blev Luxembourg besat af tyske tropper i perioden august 1914-november 1918. Under 2. Verdenskrig blev byen og landet igen besat, og hovedstaden blev befriet 10. september 1944. Herefter fortsatte bombardementer fra tyske V3-kanoner.
Luxembourg søgte at få internationale organisationer til at etablere sig i byen, og dette eskalerede hastigt fra 1952, hvor udenrigsministrene fra landende i forgængeren til vore dages EU, Kul- og Stålunionen, mødtes i byen og besluttede sig for at gøre den til foreløbigt hovedsæde. Med etableringen af EF i 1957 kom flere af fællesmarkedets institutioner til at ligge i Luxembourg: Domstolen, Investeringsbanken og Parlamentets Sekretariat er nogle af dem.
Fra 1960erne tog byggeriet i Luxembourg igen til. Det europæiske kvarter i forstaden Kirchberg blev anlagt, og i dag arbejder der 8.000 her. Finanssektoren voksede også kraftigt, antallet af bankrepræsentationer voksede fra 17 i 1960 til 218 i 1994.
EU og den finansielle sektor har udover velstand medført en høj grad af internationalisering. Således er næsten halvdelen af Luxembourgs indbyggere udlændinge. Det sætter sit præg på byen, der på trods af sin i europæisk sammenhæng beskedne størrelse virker som en kosmopolitisk storby med et spændende kulturliv.