Ο Τσερνομίρντιν διορίστηκε πρωθυπουργός το 1992 από τον πρόεδρο Μπόρις Γέλτσιν και διατήρησε το αξίωμά του ως το 1998 με μια μικρή διακοπή, όταν ανέλαβε την προεδρία επειδή ο Γέλτσιν υποβλήθηκε σε εγχείριση καρδιάς.
Τον Ιούνιο του 1995 όταν τσετσένοι αντάρτες κατέλαβαν νοσοκομείο στο Μπουντενόβσκ της νότιας Ρωσίας, με αποτέλεσμα να χάσουν τη ζωή τους 150 άνθρωποι, ο Τσερνομίντιν διαχειρίστηκε προσωπικά την κρίση, διατηρώντας συνεχή τηλεφωνική επαφή με τους δράστες.
Ο Τσερνομίρντιν ήταν ο μακροβιότερος πρωθυπουργός της μετασοβιετικής Ρωσίας, αλλά είναι περισσότερο γνωστός ως ιδρυτής της Gazprom, της οποίας διατέλεσε πρόεδρος.
Το 2001 διορίστηκε πρεσβευτής της Ρωσίας στην Ουκρανία. Οκτώ χρόνια αργότερα εν μέσω της ρωσο-ουκρανικής ενεργειακής κρίσης απαλλάχθηκε των καθηκόντων του και κινδύνευσε να θεωρηθεί persona non grata στην Ουκρανία εξαιτίας δηλώσεών του που θεωρήθηκαν “μη φιλικές” από το Κρεμλίνο.
Σχεδόν την ίδια ημέρα διορίστηκε σύμβουλος και ειδικός απεσταλμένος του προέδρου Ντμίτρι Μεντβέντεφ για την οικονομική συνεργασία με τα μέλη της Κοινοπολιτείας Ανεξαρτήτων Κρατών.