Ο Άγιος Ιωάννης ο Νηστευτής γεννήθηκε στην Κωνσταντινούπολη και όταν έγινε έφηβος έκανε το επάγγελμα του χαράκτη. Η καρδιά του όμως, ήταν δοσμένη στα θεία και κάθε μέρα διάβαζε την Αγία Γραφή και άλλα θρησκευτικά βιβλία, πλουτίζοντας έτσι τις γνώσεις του. Τα πλεονεκτήματα του αυτά, εκτίμησε ο Πατριάρχης Ιωάννης ο Γ’ και τον χειροτόνησε διάκονο.
Από τη θέση αυτή ανέπτυξε ιδιαίτερα την ελεημοσύνη, βοηθώντας πλήθος φτωχών και άλλων απόρων. Αργότερα έγινε πρσβύτερος, και μετά το θάνατο του Πατριάρχη Ευτυχίου, με κοινή υπόδειξη αρχόντων και λαού, εκλέχτηκε διάδοχος του ο Ιωάννης ο Νηστευτής σαν Ιωάννης Δ’ (12/04/582 μ.Χ. επί βασιλέως Μαυρικίου).
Το πόσο έλαμψε και σαν Πατριάρχης ο Ιωάννης, έχουμε πολύ εύγλωττες μαρτυρίες: Ο επίσκοπος Σενιλλίας Ισίδωρος τον παριστάνει σαν Άγιο και Ο Πατριάρχης Ιεροσολύμων Σωφρόνιος τον αποκάλεσε «σκήνωμα πάσης ἀρετῆς». Στον Ιωάννη επίσης, Σύνοδος των Πατριαρχών που συνήλθε στην Κωνσταντινούπολη το 587 μ.Χ., του απένειμε τον τίτλο «Οἰκουμενικός». Σχετικά με τις εκκλησιαστικές ποινές ο Ιωάννης θέσπισε σοφό κανονικό, που βρίσκεται στο Πηδάλιο. Έγινε ιδιαιτέρως γνωστός διά την έριδα μεταξύ Ρώμης και Κωνσταντινουπόλεως ως προς τον τίτλο οικουμενικός, τον οποίο εδέχετο αποδιδόμενο ο πατριάρχης Ιωάννης Δ´. Η αντίδραση των παπών Ρώμης Πελαγίου Β´ και Γρηγορίου Α´ απετυπώθη στις πηγές και τις περίφημες επιστολές του πάπα Γρηγορίου Α´. Τα κείμενα ταύτα αποδεικνύουν ότι υπήρχε διαφορετική κατανόηση του τίτλου οικουμενικός εις την Ανατολή και την Δύση, οπωσδήποτε δε δεν μπορεί να συνδεθεί με φιλόδοξες τάσεις του ασκητικού πατριάρχου. Στη συνάφεια της έριδος ταύτης ο πάπας Γρηγόριος Α´ χαρακτήρισε αντιθετικώς τον εαυτό του, ως δούλον των δούλων του Θεού (servus servorum Dei).
Κοιμήθηκε στις 2 Σεπτεμβρίου του 595 μ.Χ. και το λείψανο του τάφηκε στο ναό των Αγίων Αποστόλων.