I 1869 vedtog Aarhus Byråd at ansætte den første stads- og havneingeniør. Byen stod overfor flere større anlægsarbejder bl.a. omkring havnen, vandforsyning og jernbaneanlæg, og i byrådet havde man indset behovet for den tekniske assistance, som en stadsingeniør kunne yde. Da embedet blev ledigt igen i 1876 valgte byrådet at dele det og ansætte både en stadsingeniør og en havneingeniør.

Stadsingeniørens arbejdsområde var underlagt udvalgene for vandværk, brolægning, vejvæsen, belysningsvæsen, byens udvidelse og bebyggelse, hovedanløb og kasernebygninger med mere.

Stadsingeniøren havde til opgave, at udarbejde tegninger og forslag til de arbejdsopgaver, der var underlagt ham, og lede implementeringen af disse. Stadsingeniøren skulle endvidere stå for at forbedre og vedligeholde ældre foretagender.

Stadsingeniøren havde de første år ingen eller kun ringe medhjælp, som blev hyret ind alt efter opgavernes kompleksitet. Først i 1901 blev hhv. en ingeniør- og vejassistentstilling oprettet, og et egentligt kontor begyndte at tage form. Byens vækst og udbygning gav naturligt mange opgaver til kontoret. Udbygningerne på Frederiksbjerg, Bispetoften, vandforsyningssagen og den store kloakplan herunder indførelsen af vandklosetter blot for at nævne nogle få.

I 1919 skete den første store omstrukturering af kontoret. Det blev besluttet at oprette 3 afdelinger med en ingeniør som leder for hver. Afdelingerne var sanitær-teknisk tjeneste, vej- og broafdeling og en afdeling for kloakanlæg og husspildevandsinstallationer.

I 1933 overførtes vandværkets tekniske drift fra 1. afdeling til en selvstændig afdeling med en ingeniør som leder.

I 1944 bestod kontoret af 5 afdelinger; Vej- og broafdelingen, Byplan- og opmålingsafdelingen, Kloakafdelingen, Vejvedligeholdelsesafdelingen, Ekspeditions- og regnskabsafdelingen, mens den sanitære-tekniske afdeling var flyttet til Stadsarkitektens kontor.

Med Aarhus Byråds indførelse af magistratsstyret i 1950 blev Stadsingeniørens Kontor langt under magistratens 2. afdeling sammen med Juridisk-Teknisk kontor, Stadsarkitektens kontor og Aarhus Brandvæsen.

I de efterfølgende årtier var der primært fokus på den langsigtede trafikplanlægning.

Stadsingeniørens Kontor opretholdt sin organiseringsform med 5 underliggende afdelinger frem til 1990, dog med visse navneforandringer og nye opgaver. I 1990 kom 6. afdeling, Renovationsafdeling, til. Denne afdeling var vokset ud af hygiejniske afdeling (tidligere kloakafdeling).

I 1990 var fordelingen af afdelinger således; vej, og trafikafdelingen, forvaltningsafdelingen, hygiejnisk afdeling, anlæg, drift og vedligeholdelse, administrationsafdelingen og renovationsafdelingen.

Frem mod 1998 nedlægges Stadsingeniørens Kontor som en samlende paraply for de 6 afdelinger, og i stedet blev flere af de tidligere afdelinger nu egne forvaltningsenheder hovedsageligt placeret under Magistratens 2. afdeling.