Stiftet som den første faglige organisation og blev få år senere til en lokalafdeling af en landsdækkende Arbejdernes Fællesorganisation. Oprindeligt stiftet under navnet De samvirkende Fagforeninger, men skiftede navn til Arbejdernes Fællesorganisation ca. 1910. Fra 1898 hørte fællesorganisationen under De samvirkende Fagforbund, som blev oprettet som en landsdækkende paraplyorganisation for alle danske fællesorganisationer inden for fagbevægelsen. Under Arbejdernes Fællesorganisation i Aarhus hørte eksempelvis i 1908 50 organisationer, og i 1942 86 organisationer. Ved en reorganisering af strukturen engang i 1900-tallet blev de forskellige lokale fællesorganisationer samlet og lagt under LO.

I dag hører Fællesorganisationen i Aarhus direkte under LO.

Arbejdernes Fællesorganisationen administrerede fra år 1900 arbejderbevægelsens forsamlingsbygning i Aarhus, som siden dennes etablering i 1888 havde tilhørt det private Arbejdernes Byggeselskab, der i 1900 overgik til Arbejdernes Fællesorganisation som en byggefond. Fællesorganisationen overtog byggeselskabets byggegrund i Christiansgade, som i 1907 som følge af tidsnød, akut lokalemangel og tekniske udfordringer blev mageskiftet med Frimurerlogens ejendom i Amaliegade 23. I 1937-1939 blev Arbejdernes Forsamlingsbygning underlagt massive ombygninger, der mere end fordoblede nyttearealet. Ved samme lejlighed blev Arbejdernes Forsamlingsbygning omdøbt til Folkets Hus. Foruden flere forsamlingssale blev forsamlingsbygningen fra starten indrettet med bl.a. restauration, selskabslokaler, sanglokaler og bar. I det hele taget blev Folkets Hus hurtigt tyngdepunktet i den voksende arbejderbevægelse og holdt sin position gennem resten af århundredet. I 2004 solgte LO Aarhus forsamlingsbygninger, der i 1970 havde fået navnet Århus Kongreshus, til byggeselskabet Mogens de Linde.