I april 1910 blev N.J. Fjordsgades Skole indviet under navnet Fjordsgades Borgerskole. Indvielsen fandt sted, selv om det kun var syv år siden Ingerslevs Boulevards Skole, også kaldet Frederiksbjerg Byskole, var blevet indviet blot 100 meter derfra. Tilsammen kunne de to borgerskoler tilbyde gratis undervisning til over 2000 aarhusianske børn fra Frederiksbjerg.

Skolen har adresse på N.J. Fjords Gade 2 - opkaldt efter landøkonomen Niels Johannes Fjord.

I 2016 blev N. J. Fjordsgades Skole nedlagt, og skoledriften overgik til den nyopførte Frederiksbjergsskole ved Ingerslevs Boulevard.