Ο Όσιος Ζωσιμάς περιήλθε περί τους χίλιους διακρινόμενους για την αρετή τους ασκητές, για να διδαχτεί από την αρετή και την σοφία τους και εγκαταβίωσε σε μοναστήρι της Παλαιστίνης. Πόθος του ήταν να υποτάξει τη σάρκα στο πνεύμα. Έκανε υπακοή στους γέροντες της μονής και με μεγάλη χαρά εφάρμοζε όσους κανόνες και είδη ασκήσεως του έδιναν. Η τροφή του ήταν λιτή και την εξοικονομούσε κάνοντας εργόχειρο. Η μεγαλύτερη ασχολία του ήταν η ψαλμωδία και η μελέτη των Θείων Γραφών. Πολλές φορές ο Όσιος είχε αξιωθεί να δει οράματα, σύμφωνα και με τον λόγο του Κυρίου «Μακάριοι οἱ καθαροὶ τὴ καρδία, ὅτι αὐτοὶ τὸν Θεὸν ὄψονται». Με τους πνευματικούς του αγώνες έφθασε σε ύψη αρετής, σοφίας εγκράτειας και αγιότητος . Έτσι σιγά σιγά η φήμη της αγιότητός του έφθασε παντού και πολλοί μοναχοί από γειτονικά και μακρινά μοναστήρια τον επισκέπτονταν, για να τον συμβουλευτούν και να ωφεληθούν πνευματικά από τις διδαχές του.
Σε αυτό το μοναστήρι ο Αγιος Ζωσιμάς διήλθε με όλες του τις δυνάμεις τον ασκητικό βίο μέχρι τον πεντηκοστό τρίτο χρόνο της ηλικίας του. Αγαπούσε όμως την ερημική και ησυχαστική ζωή. Θέλοντας να αγωνιστεί περισσότερο πνευματικά, απεφάσισε να εγκατασταθεί στη Μονή του Τιμίου Προδρόμου στον Ιορδάνη ποταμό. Εκεί αφιερώθηκε στην αυστηρή άσκηση και νηστεία. Η πύλη του μοναστηριού έμενε πάντα κλειστή, για να μπορούν οι μοναχοί να προσεύχονται και να ασκούνται απερίσπαστοι. Ανοιγε μόνο όταν κάποιος μοναχός είχε μεγάλη ανάγκη να εξέλθει της μονής, αλλά αυτό ήταν σπάνιο γιατί το μοναστήρι ήταν έρημο και η περιοχή άγνωστη και δύσκολη στο πέρασμά της.
Κατά την περίοδο της Μεγάλης Τεσσαρακοστής ο Όσιος Ζωσιμάς αναχωρούσε για την έρημο, όπου κατ’ ευδοκίαν του Θεού συνάντησε την Οσία Μαρία την Αιγυπτία (1 Απριλίου), στην οποία μετέδωσε τα άχραντα μυστήρια και εκήδευσε.
Ο Όσιος Ζωσιμάς κοιμήθηκε με ειρήνη σε βαθύ γήρας.