Ξεκίνησε το ποδόσφαιρο από τον Αχιλλέα Δομοκού και το καλοκαίρι του 1977 μεταγράφηκε στον Πανιώνιο, έπειτα από εισήγηση του Σοβιετικού προπονητή Ιγκόρ Νέτο. Πρώτα είχε δοκιμαστεί στην Παναχαϊκή.
Έκανε το ντεμπούτο του στην Α΄ Εθνική στις 10 Ιανουαρίου 1978 σε αγώνα εκτός έδρας με την Καστοριά κι έκτοτε καθιερώθηκε στο αριστερό άκρο της άμυνας του Πανιωνίου επί μία δεκαετία. Ήταν μέλος της ομάδας του Πανιωνίου που κατέκτησε το Κύπελλο Ελλάδος το 1979, για πρώτη φορά στην ιστορία του. Αφού απέκλεισε τον Άρη με 2-5, 5-1 και τον Ολυμπιακό με 2-1, 2-3 (με το εκτός έδρας γκολ), νίκησε στον τελικό την ΑΕΚ με 3-1.
Ως το 1988 που έπαιξε στο σύλλογο γνώρισε τόσο τις άσχημες χρονιές 1983 και 1984 που η ομάδα σώθηκε από τον υποβιβασμό έπειτα από αγώνες μπαράζ, αλλά και την αναγέννηση της ομάδας από τη σεζόν 1984-85 και εξής με προπονητές το Νίκο Αλέφαντο (12 ματς χωρίς ήττα)και Ούρμπεν Μπραμς (1985 ως 1988), με την καταπληκτική πορεία ως τα ημιτελικά του Κυπέλλου Ελλάδος το 1986-87 και την 4η θέση κι έξοδο στο Κύπελλο UEFA το 1988. Στην Παναχαϊκή πήγε το 1988 και το 1989 στον Α.Ο. Πάτραι για να τελειώσει την καριέρα του στη Α.Ε. Αχαϊκή σαν παίκτης και προπονητής.
Διακρινόταν για την τεχνική του, τη ταχύτητά του, που του επέτρεπε να βγαίνει μπροστά επιθετικά και να έχει γρήγορες επιστροφές στην άμυνα, και την μαχητικότητά του. Συμπλήρωσε 275 συμμετοχές στην Α΄ Εθνική και πέτυχε 14 γκολ.
Η προπονητική του καριέρα
Mε το τέλος της καριέρας του εγκαταστάθηκε μόνιμα στην Πάτρα. Ακολούθησε το επάγγελμα του προπονητή και έχει καθίσει στον πάγκο πολλών ερασιτεχνικών ομάδων της Ε.Π.Σ. Αχαΐας, όπως ο Φωστήρας Οβρυάς, η Αστραπή και ο Αχιλλέας Καμαρών, ο Α.Σ. Ωλενιακός . Τελευταίος του σταθμός ως προπονητής ήταν η Αθλητική Ένωση Περιβόλας στην Α1 κατηγορία της Ε.Π.Σ. Αχαΐας.
Στην εθνική ομάδα
O Γιάννης Γραβάνης υπήρξε τρεις φορές διεθνής με την εθνική ομάδα. Αγωνίστηκε σε τρία φιλικά παιχνίδια το 1982. Η πρώτη φορά ήταν στις 27/10/1982 στον εκτός έδρας ισόπαλο 1-1 αγώνα με την Κύπρο, όταν μπήκε ως αλλαγή στο 62΄. Η δεύτερη συμμετοχή του ήταν στις 1/12/1982 στον εντός έδρας αγώνα με την Ελβετία. Η Ελλάδα ηττήθηκε 1-3 αλλά ο ίδιος είχε εξαιρετική απόδοση. Για τελευταία φορά αγωνίστηκε με την εθνική στις 22/12/1982 στον εντός έδρας νικηφόρο αγώνα με την Κύπρο (σκορ 1-0), όταν μπήκε ως αλλαγή στο 65΄. Επίσης, υπήρξε στέλεχος της Εθνικής Ελπίδων με 25 συμμετοχές.