Aarhus Gymnastikforening (AGF) blev stiftet den 26. september 1880. Selvom AGF i dag er bedre kendt for sit fodboldhold, så kom fodboldklubben først til i 1902/1906. I 1896 fik AGF et atletikafdeling og i 1902 svømmeafdeling. I 1905 blev man enig om at oprette en tennisafdeling.

I 1902 blev 13 af foreningens bedste gymnaster rekrutteret til et fodboldhold, hvilket var en succes. Fra den 1. januar 1906 blev AGF fodboldhold indmeldt i Jydsk Boldspil Union, og allerede i 1907/08 vandt de det jyske mesterskab.