I 1943 blev Alfred Mogensen ansat som stadsarkitekt i Aarhus, hvor han fortsatte frem til 1968. I de første år sideløbende med, at han havde sit eget private arkitektkontor. Som stadsarkitekt i efterkrigsårene fik han en stor indflydelse på den moderne byplanlægning i byen.

Allerede i 1931 vandt Alfred Mogensen Aarhus en arkitektkonkurrence sammen med Harald Salling-Mortensen om Aarhus Hovedbibliotek ved Mølleparken. Endvidere er han kendt for Strandparken (1935-38).

Han var inde over opførelserne af mange institutionelle bygninger som eksempelvis skoler og plejehjem. Et af de større og mest vellykkede projekter var Vorrevangskolen, der med sine små gårdhaver mellem klasseværelserne var revolutionerende som skolebyggeri.