I 1827 kom han til Aarhus, hvor han blev handelsbetjent hos C. F. W. Lewerkhusen, der havde købmandsgård i Mindegade 12. I 1834 åbnede han købmandshandel med A. C. J. Leth i Vesterport. De lejede i første omgang ejendommen af Lewerkhusen, men købte den i 1837. Købmandshandlen handlede hovedsageligt med korn og andre vare. Men udvidede langsomt over i andre brancher, så som: blegeri, kalk og salt.

Langballes rederi var ikke kun for handelssejlads, han havde også skibe til fiskeri. I 1828 købte Langballe et Tegl- og Kalkbrænderi ved Vesterport.Firmaet blev også udvidet med saltraffinaderi i 1851.Medlem af Borgerrepræsentationen fra 1848-1854