Kaløgade blev ligesom Helgenæsgade og Molsgade anlagt og navngivet i 1900 og er ligesom disse gader opkaldt efter landsdele eller steder på det sydlige Djursland. Navnet Kalø kendes fra slottet, der var en af Erik Menveds tvangsborge, opført omkring 1313 på den lille ø Kalø inderst i Kalø Vig. Bl.a. sad Gustav Vasa som fange på Kalø Slot 1518-19. Slottet blev i 1670'erne nedbrudt af Ulrik Frederik Gylden-løve og kendes nu som Kalø Slotsruin.

På arealet, hvor Kaløgade, Helgenæsgade og Molsgade blev anlagt, lå indtil 1899 en stor tømmerhandel. I 1899 opstod der ild i et hjørne af tømmerlageret. Det udviklede sig til en kæmpebrand, der endte med at ødelægge tømmerhandelen, et savskæreri, mange huse og købmandsgårde samt det store nye Mejlborg-kompleks, der var opført i Mejlgade 1896-98. I alt 19 ejendomme nedbrændte.

Kaløgades nordlige side og første del af den sydlige side blev bebygget i årene 1901-02 med 4 1/2-etages beboelsesejendomme som sluttet randbebyggelse, der er opført som udlejningsboliger af forskellige håndværksmestre. Bygningerne er fortrinsvis opført i rød tegl i tidens renæssanceinspirerede arkitektur med mange facadedetaljer og ofte med refendfugede underetager. Gadehjørnerne markeres med smigfag, oftest med karnapper og tårne og et enkelt med spir.

Kaløgade 5-7, der er en 2 1/2-etages rødstenshjørnebygning, blev opført i 1944 for M. Seests Maskinfabrik A/S. Den anvendes nu af Arkitektskolen i Aarhus.

Den sidste del af Kaløgade - mellem Helgenæsgade og Kærlighedsstien - støder mod syd op til et areal, der i 1956 blev ryddet for nogle gamle erhvervsbygninger og indrettet til offentlig parkeringsplads. Gadens sydlige side har således ikke i samme grad som den nordlige en sammenhængende karakter. Til gengæld giver den lavere bygning nr. 5-7 og parkeringspladsen adgang for mere lys til den vestlige ende af Kaløgade. Gadebilledet præges noget af nogle uheldige vinduesudskiftninger og af en enkelt uheldig facadebeklædning i underetagen.

Trafikalt er gaden relativt fredelig, men er dog præget af tæt kantstensparkering i den ene side samt af parkeringssøgende og nogen gennemkørende trafik, bl.a. til Arkitektskolens parkeringsplads, der har til-og frakørsel via Kaløgade. Den vestligste ende af gaden - over for parkeringspladsen - fungerer som stiforbindelse, og et enkelt træ og en bænk i solsiden giver her lille åndehul i det ellers noget mørke og bare gaderum.

Se arkitekturtegninger og byggesagskorrespondance på Aarhus Kommunes digitaliserede byggesagsarkiv på https://byggesager.aarhuskommune.dk/