بدأ ماتاريلا مسيرته السياسية في إطار الحركة الاجتماعية الإصلاحية الكاثوليكية. وفي عام 1983، انتُخب عضوا في البرلمان عن حزب الديمقراطية المسيحية في دائرة صقلية الغربية.

وأثناء سنوات عضويته في مجلس النواب، التي امتدّت حتى عام 2008، كان عضوا في لجنة الشؤون الخارجية، واللجنة البرلمانية للتحقيق في الإرهاب والمجازر، واللجنة البرلمانية للتحقيق في المافيا.

كما شغل منصب نائب رئيس اللجنة البرلمانية الثنائية لإصلاح المؤسسات، وتولّى رئاسة اللجنة التشريعية، ثمّ رئاسة اللجنة القضائية في مجلس النواب.

وبين عامي 1987 و1989، شغل منصب وزير العلاقات مع البرلمان، ثمّ وزير التعليم حتى 1990.

في أكتوبر/تشرين الأول 1998، تولّى منصب نائب رئيس الوزراء، ثم عُيّن وزيرا للدفاع عام 1999. وفي فترة تولّيه المنصب، اعتُمدت تشريعات لإلغاء الخدمة العسكرية الإلزامية، كما عززت إيطاليا حضورها في بعثات الأمم المتحدة لحفظ السلام، بما في ذلك عملياتها في البوسنة والهرسك وكوسوفو.