Klubben blev grundlagt 4. maj 1937 på initiativ af Holger Lustrup, formand for Dansk Arbejder Idrætsforbund Jyllandskreds og brandmand Hans Larsen. I 1952 ændredes klubbens officielle navn til "Roklubben ARA" som en markering af, at roning var for alle.

Klubben havde fra starten hold for både mænd og kvinder og fra slutningen af 1950'erne kom også ungdomshold til. Hans Larsen blev klubbens første formand og stod for etableringen af klubhuset på Fiskerivej 5 i Aarhus Fiskerihavn samme år som klubbens stiftelse. Fra 1943 installeredes også en afdeling af klubben ved Brabrand Søen. Den blev siden optaget i det fælles Brabrand Rostadion, der blev indviet i 1952. Klubemblemet blev på et medlemsmøde den 28. september 1937 bestemt til at have hvid bund med grøn kant og navnet "ARA". Det blev dog på et møde den 5. december 1940 ændret til det nuværende grønne og hvide. I 1938 stillede et hold fra ARA for første gang op i kaproningskonkurrence. Det blev dog ikke til en placering ved regattaen i Silkeborg. I 1948 lykkedes det for en herre letvægtsfirer fra klubben at vinde klubbens første Danmarksmesterskabet på Sorø Sø.

Klubben var første gang repræsenteret ved et langdistanceløb i 1968. Året efter i 1969 roede herreholdet sig til en førsteplads. I 1973 arrangeredes for første gang Århus Bugtens Røde Rose, som ARA's herrehold vandt. I 1946 udgav klubben sit første blad "RO", der udkom til og med 1948/1950. I 1955 udsendtes et nyt klubblad under navnet "ARA-Nyt". Bladet udkommer stadig i dag. Klubben udgiver også ”Kanin-Nyt” henvendt til nye medlemmer, som kaldes ”kaniner”.

Oversigt over klubbens formænd:

• Brandmand Hans Larsen 1937-1948

• Fuldmægtig Magnus Jensen 1948-1952

• Elektriker Knud Erik Petersen 1952-1954

• Bogholder Verner Christensen 1954-1958

• Tømrer Hans Peter Juul 1958-1961

• Politibetjent Henning Poulsen 1961-1964

• Maskinarbejder Jørgen Tvermose 1964-1969

• Maskinarbejder Palle Vangsø 1969-1973

• Tømrer Poul Henning Jensen 1973-1977

• Montør Jørgen Wedel Jensen 1977-1978

• Portør Lars Madsen 1978-87

• John Høck 1987-1989

• Ingen formand 1989-1990

• Bjørn Bisgaard 1990-