Ο Όσιος Γερμανός γεννήθηκε στη Θεσσαλονίκη το 1252 μ.Χ. από φιλάνθρωπους, ευκατάστατους, ευσεβείς και πολύτεκνους γονείς. Ήταν ο τρίτος από τα οκτώ τέκνα των γονέων του. Τον κατά κόσμον Γεώργιο από μικρό τον διέκρινε «ευταξία τις και σύννοια θαυμαστή και απλότης, εύκαιρος τε σιωπή στόματος μετ’ ηρεμίας ψυχής και ήθους υποβεβηκότος τε και μετρίου, και το παν, ως ειπείν, ειρήνης και σωφροσύνης και πραότητος άγαλμα». Από μικρός αγάπησε υπέρμετρα την ησυχία, την προσευχή, την άσκηση, τη νηστεία, την αγρυπνία, την κατάνυξη, τη φιλαδελφία και φιλοπτωχία. Ο ένθεος και ενάρετος βίος του διακρινόταν με την απαθή στάση του και τη με πραότητα, υπομονή του στη σκληρή και άπρεπη στάση των ζωηρών συμμαθητών του απέναντι του στο σχολείο. Στους ταλαιπωρημένους εργάτες των κτημάτων τους συμπεριφερόταν με ιδιαίτερη στοργή.
Όταν τους είδε κάποτε καταϊδρωμένους και αποκαμωμένους, τους είπε να διακόψουν την εργασία και να αναπαυθούν. Ο πατέρας του τον επετίμησε, αλλά κατα βάθος χάρηκε για τα φιλάνθρωπα αισθήματα του ενάρετου παιδιού του.
Οι γονείς του σκέπτονταν να τον νυμφεύσουν, αλλά αυτός δεν ήθελε κανένα σύνδεσμο με τον μάταιο κόσμο, γιατι ετοιμαζόταν για μόνιμη αναχώρηση. Τότε ήλθε από το Άγιον Όρος στη Θεσσαλονίκη ο ενάρετος Αγιορείτης Γέροντας Ιωάννης, που κατοικούσε σε Δοχειαρίτικο Κελλί: «Ενταύθα και τω μεγάλω και στερρώ περιτυχών της ασκήσεως και της ησυχίας στύλω, Ιωάννη φημί τω πάνυ, του Άθω και της καλής ερημίας άρτι τότε προς επίσκεψιν και διδασκαλίαν εκείσε κατιόντι των λογικών εαυτού θρεμμάτων». Περί το 1270 μ.Χ., νέος, μόλις είχαν φανεί τα γένεια του, ακολούθησε τον Γέροντα Ιωάννη στο Άγιον Όρος: «Άθως δ’ εκείθεν ο μέγας δεξάμενος, το πίον και τετυρωμένον, εποί τις αν κανταύθα δικαίως, όρος, το όρος του Θεού, εν ω κατοικείν ο «τα πάντα πληρών» ευδόκησε διά την αρετήν δηλονότι των ενοικούντων, έθρεψέ τε πνευματικώς, είπερ τινά που των πάντων, και εις άνδρα προαγαγών τέλειον, «εις μέτρον ηλικίας του πληρώματος του Χριστού»’ μετά πολλού γε πάνυ του περιόντος, πυρσόν ανέδειξε περιφανή τε και διαέριον σοφίας τε και γνώσεως πάσης τοις εκ του κοσμικού τούτου πελάγους και των ενταύθα πνευμάτων τε και του κλύδωνος εις τον σωτήριον εκείνον κατιούσι λιμένα».
Μετά σύντομη διαδικασία εκάρη μοναχός από τον Γέροντά του Ιωάννη και από Γεώργιος ονομάσθηκε Γερμανός. Διακρίθηκε για την υπεράνθρωπη άσκησή του και την πρόθυμη υπακοή του. Ως εργόχειρο είχε την καλλιγραφία. Μετέβαιναν στην «του Βατοπεδίου μεγάλην συνεχώς Λαύραν» προς προσκύνιση και συμμετοχή στις ιερές ακολουθίες αλλά και «θέας τε και ομιλίας των αδελφών χάριν». Οι Βατοπαιδινοί πατέρες τους είχαν σε μεγάλη εκτίμηση κι ευλάβεια. Ο νεαρός Γερμανός θαυμαζόταν και από τον γηραιό Γέροντά του, γιατί παρά το βάρος που σήκωνε, πήγαινε τον μακρύ και δύσκολο δρόμο από το κελλί τους στο Βατοπαίδι αγόγγυστα κι ευχάριστα, αλλά και όταν δοκιμάσθηκε ενώπιον πάντων των Βατοπαιδινών μοναχών, υπέμεινε γενναία, προς διδασκαλία και εντυπωσιασμό όλων για την αρετή του νεαρού μοναχού, που τόσο πρόθυμα ασκούνταν στην ταπείνωση και την υπακοή.
Μετά τη μαρτυρική τελείωση του προσφιλούς του Γέροντος Ιωάννου, στη Θεσσαλονίκη με τον υποτακτικό του Γρηγόριο από τους Λατινόφρονες, αφού προείδε το τέλος του και προφήτευσε την ασκητική πρόοδο του αγαπητού του υποτακτικού, ο όσιος Γερμανός αναχώρησε για τις Καρυές και κατόπιν για τα όρια της Μεγίστης Λαύρας. Υποτάχθηκε στον Γέροντα Ιώβ, που ασκήτευε στο σπήλαιο της Παναγίας, κοντά στη Μεγίστη Λαύρα. Αργότερα ο Ιώβ ανέλαβε την ηγουμενία της Μεγίστης Λαύρας. Λόγω της ανυπακοής των Λαυριωτών επέστρεψε στο σπήλαιο των αγωνισμάτων του με τον Γερμανό. Μετά την εξορία του Ιώβ ο όσιος υποτάχθηκε στους Γέροντες Μύρωνα, Μαλαχία, Αθανάσιο και Θεοδώρητο, ώστε όλη του η ζωή να είναι στη μακάρια υπακοή, ως «παίς και μαθητής». Κατόρθωσε με τη συνεχή μαθητεία του να κερδίσει «του μεν τον λόγον, του δε τον βίον, του δε την θεωρίαν, του δε την πράξιν, και πάντων ομού μιμησάμενος πάντα και προς την εαυτού συλλέξας ψυχήν μετά παντός του βελτίστου, μίαν τινά θεοειδή της αρετής εικόνα θαυμασίως ο γενναίος απηκριβώσατο».
Προς το τέλος της ζωής του δέχθηκε ως υποτακτικό του τον ανάπηρο Ιωαννίκιο, τον όποιο έσωσε από βέβαιο θάνατο με την προσευχή του, όπως τον ασθενή ανηψιό του Ιωάννη, που τον επισκέφθηκε στην έρημο και τον βαρειά ασθενή συγγενή του Ιάκωβο. Σε ηλικία 84 ετών μετά μικρή ασθένεια, προσευχόμενος ανεπαύθη εν Κυρίω. Μόνο τα 18 πρώτα έτη του έζησε στον κόσμο κι όλα τα άλλα τα πέρασε στην αθωνική έρημο, με υπακοή, άσκηση και προσευχή. Γι’ αυτό χαριτώθηκε από τον Θεό πλούσια.