Aarhus Gymnastikforening eller blot AGF blev stiftet 26. september 1880. Foreningen blev stiftet på initiativ af C. Christensen, Chr. Nielsen, C.R. Byberg, E. Floor, købmand Axel Schmidt, O. Dewsen, boghandler Chr. Poulsen, J. Philipson, N. Pommerincke, cand. jur. M. Anchersen, A. Hvilsted.

Foreningens oprindelige formål var "at fremme og udvikle færdighed i legemsøvelser og våbenbrug blandt sine medlemmer". Senere blev det ændret til: "at virke for gymnastikkens og andre legemsøvelsers udbredelse til så vide kredse som muligt ". I god forlængelse af disciplinerne inden for våbenbrug blev foreningens første formand, stabschef og senere generalmajor Christian Heinrich Ferdinand Baumann, fundet inden for militærets rækker. Bauman var nu heller ikke ubekendt med gymnastikken, da han fungerede som gymnastiklærer på Katedralskolen.

Yderligere medlemmer af den første bestyrelse var: Grosserer Carl Bertelsen som kasserer, købmand Axel Schmidt som sekretær. Desuden valgtes boghandler Chr. Poulsen og cand. jur. sagførerfuldmægtig A.H.M. Anchersen.

Foreningen betegnede sig selv som et barn af det aarhusianske borgerskab, men i løbet af nogle år ændrede foreningen imidlertid formål til at udbrede idrætten til hele byens befolkning.

I starten var gymnastik i foreningen blot forebeholdt mænd. Mellem 1902-1906 blev damegymnastik også en del af foreningen.