بعد استقلال الجزائر، بدأ زروال مسيرته في الجيش وتولى عدة مناصب حتى أصبح قائد القوات البرية في قيادة الأركان حيث كانت تلك المرحلة مهمة في حياته المهنية، وبعد فترة من الزمن، استقال من الجيش في عام 1989 وانتقل إلى السلك الدبلوماسي حيث تم تعيينه سفيراً في رومانيا في عام 1990، وفي عام 1993، تولى منصب وزير الدفاع مما زاد من تأثيره السياسي.
رئاسة زروال للجزائر
في يناير 1994، أصبح زروال رئيساً للجزائر لتسيير شؤون البلاد خلال فترة انتقالية صعبة، وبعد ذلك، تم انتخابه رسمياً رئيساً في نوفمبر 1995، حيث كانت تلك الفترة مليئة بالتحديات السياسية والاقتصادية والاجتماعية.
في سبتمبر 1998، أعلن زروال عن إجراء انتخابات رئاسية مبكرة، ومع حلول أبريل 1999، غادر منصبه ليخلفه الراحل عبد العزيز بوتفليقة، تاركاً خلفه إرثاً سياسياً معقداً في تاريخ الجزائر.