Han blev i 1662 student fra Aarhus Katedralskole.

Han kom efter endt skolegang til København for at studere og i 1672 til Paris, hvor han i 1675 på basis af observationer af Jupiters måner påviste at lyset bruger tid til sin udbredelse, "lysets tøven".

I foråret 1681 vendte han tilbage til København, hvor han var blevet udnævnt til professor i astronomi. Han kom til at gennemføre et nyt rationelt system for mål og vægt. Medvirkede til indførelsen af den gregorianske kalender i Danmark i 1699. Han fik med årene tildelt mange offentlige hverv.

Ole Rømer Observatoriet i Højbjerg og Ole Rømers Gade på Frederiksbjerg er opkaldt efter astronomen. På rådhusets facade ud mod Park Allé findes ligeledes en mindeplade for Ole Rømer.