Sandgravvej fik officielt sit navn omkring 1890, men eksisterede væsentligt tidligere, hvor den fungerede som indkørselsvej til baksandgrav på Knudrisbakke - en grus- og sandgrav, hvorfra man bl.a. forsynede sig med sand og grus til brolægning og til sejlskibsballast. Sandgraven blev omkring 1900 overdraget til sportsklubberne og fungerer nu som tennisbaner.

Med undtagelse af den i 1928-29 opførte store 5-etages rødstenshjørneejendom på det nordlige hjørne af Sandgravvej og Skovvejen består Sandgravvejs bebyggelse af 1-2 etages beboelseshuse opført i perioden 1866-94.

Husrækken består på den nordlige side af 3 sammenbyggede, pudsede og malede enfamiliehuse, og på den sydlige side af 2 rødstenshuse samt en 2-etages gulstensejendom, nr. 3-5, opført i 1894 af Arbejdernes Byggeforening.

Gadebilledet i den korte lukkede gade præges af mange uheldige vinduesudskiftninger og blænding af et par vinduer mod gaden samt udskiftning af tagbelægningen til bølgeeternit på flere af de små gamle huse. Den gamle brostensbelægning er endnu velbevaret på kørebanen, hvorimod fortovenes asfaltbelægning flere steder er krakeleret og afskallet.

Sandgravvej afsluttes i den vestlige ende af skrænten mod Nordre Kirkegårdsanlægget og af Sandgraven med de heri anlagte tennisbaner. Vejen fungerer som indkørselsvej til tennisbaneanlægget og er forsynet med en trappeadgang til det højere beliggende kirkegårdsanlæg.

Beplantningen og de store træer ved anlægget afslutter på en fin måde den lille gade og tilfører gade-rummet nogle væsentlige miljømæssige kvaliteter.

Se arkitekturtegninger og byggesagskorrespondance på Aarhus Kommunes digitaliserede byggesagsarkiv på https://byggesager.aarhuskommune.dk/