Poul Hyldgaard var i knap 40 år økonomi- og senere administrerende direktør i firmaet Marius Hansen & Søn.

I 1968, kort efter hans sønner var begyndt at spille i klubben, blev Poul Hyldgaard valgt ind i AGF's bestyrelse. Han var i 70'erne kasserer i fodboldafdelingen, og i 1979 overtog han posten som formand for AGF, en post som han varetog indtil 1981.

Fra 1981-1991va rPoul Hyldgaard kasserer i DBU, inden han overtog formandsposten, som han bestred indtil sin pensionering i 2002.

I perioden 1984-1996 var Hyldgaard medlem af FIFA's eksekutivkomite.