Sinds 2001 is hij gemeenteraadslid en burgemeester in Bièvre. Hij was toen de jongste burgemeester van het land. Bij de lokale verkiezingen van 2006 en 2012 behaalde zijn lijst een absolute meerderheid in de gemeenteraad. Bij de verkiezingen van 2018 had hij geen concurrentie van andere lijsten en bemachtigde Clarinval alle zetels in de gemeenteraad.
In 2006 werd hij provincieraadslid voor het district Dinant-Beauraing-Gedinne. In 2007 nam hij ontslag, nadat hij was verkozen tot volksvertegenwoordiger. Hij had aan de federale verkiezingen deelgenomen als plaatsvervangend kandidaat op de MR-lijst en kwam in het parlement toen de verkozene, Sabine Laruelle, in december 2007 toetrad tot de regering Verhofstadt III.
Bij de federale verkiezingen van 2010 stond hij op de 2de plaats van de MR-lijst in de kieskring Namen en werd herkozen in de Kamer. Bij de federale verkiezingen van 2014 was hij lijsttrekker van de MR-lijst van deze kieskring en verlengde hij zijn mandaat in de Kamer. Ook in 2019 werd hij herkozen in de Kamer. Van juli 2017 tot oktober 2019 was hij MR-fractieleider in de Kamer. In maart 2020 verliet hij de Kamer toen hij minister werd in de regering Wilmès II.
Op 27 oktober 2019 volgde hij Sophie Wilmès op als minister van Begroting, Ambtenarenzaken en Wetenschapsbeleid, nadat zij premier werd. Sinds oktober 2020 is hij minister van Middenstand, Zelfstandigen en KMO’s en landbouw, Institutionele Hervormingen en Democratische Vernieuwing in de regering De Croo.