Jens Andersen kom i 1870'erne til Aarhus, efter at han i sin tidligste ungdom havde arbejdet som møllersvend på landet. I 1892 løste han borgerskab i Aarhus, hvor han etablerede sig med et olieblanderi og en sæbefabrik.

Han var medlem af Aarhus Byråd 1900-1913 for Socialdemokratiet. I 1907 kom det imidlertid til en konflikt mellem ham og partiet, da han imod dettes principper modtog ridderkorset som en anerkendelse af sine fortjenester i afholdssagen. Han blev dermed ekskluderet af partiet.

Han var endvidere medlem af Aarhus Amts skoleråd fra 1903 og af Værgerådet fra 1905.

Han var optaget af afholdsbevægelsen, og i begyndelsen af 1880'erne var han med til at stifte den første I.O.G.T.-loge 'De 10 Brødre' i Aarhus.