Ο Μαντέλα γεννήθηκε στις 18 Ιουλίου του 1918 στο μικρό χωριό Μβέζο, στο νοτιοανατολικό τμήμα της χώρας, και του δόθηκε το όνομα Ρολιλάχλα Μαντέλα.

Το όνομα Νέλσον το πήρε από έναν Δάσκαλό του την πρώτη του μέρα στο Σχολείο, αλλά στη χώρα θα γινόταν αργότερα γνωστός και απλά ως Μαντίμπα, το όνομα της φυλής του.
Το 1937 στάλθηκε σε Κολέγιο Μεθοδιστών Ιεραποστόλων, όπου για πρώτη φορά στη ζωή του απέκτησε φιλική σχέση με ανθρώπους από διαφορετική φυλή από αυτόν.

Τελικά, για να αποφύγει ένα προξενιό, κατέληξε στο Γιοχάνεσμπουργκ, όπου ξεκίνησε Σπουδές Νομικής.
Ως Φοιτητής αγωνίστηκε για να δοθούν πολιτικά και κοινωνικά Δικαιώματα στις πάμπολλες ομάδες αυτοχθόνων στην Νότιο Αφρική.

Το 1944 μπήκε στην οργάνωση «Αφρικανικό Εθνικό Κογκρέσο» (ANC), ιδρύοντας μαζί με άλλους και τη Νεολαία του ΑΝC.
Στην πολιτική θεώρηση του Μαντέλα θα μπλέκονταν ο Αντιαποικιακός Αγώνας, η μάχη κατά των θεσμοθετημένων διακρίσεων βάσει φυλής, ο Μαρξισμός και ακόμη και η αρχή της Αντίστασης χωρίς βία του Μαχάτμα Γκάντι.
Το 1952 ήλθε αντιμέτωπος για πρώτη φορά με το Δικαστικό σύστημα του Απαρτχάιντ, όταν του επιβλήθηκαν περιοριστικοί όροι για την πολιτική του δραστηριότητα, με βάση τον Νόμο για την "αντιμετώπιση του Κομμουνισμού.
Αργότερα τον ίδιο χρόνο άνοιξε, μαζί με τον Όλιβερ Τάμπο, το πρώτο Δικηγορικό Γραφείο της Νοτίου Αφρικής μόνο με μαύρους Νομικούς.

Εξασκώντας τη Δικηγορία, ο Μαντέλα έκανε εκστρατεία για την καταπολέμηση του Απαρτχαϊντ και το 1956 κατηγορήθηκε για εσχάτη προδοσία. Μετά την πολύχρονη Δίκη εναντίον του ίδιου και των συγκατηγορούμενών του, οι κατηγορίες τελικά κατέπεσαν.
Το καθεστώς του Απάρτχαιντ σκλήραινε όμως όλο και περισσότερο την στάση του και τελικά το 1960 το Εθνικό Αφρικανικό Κογκρέσο κηρύχθηκε παράνομο. Μαζί του πέρασε στην παρανομία και ο Μαντέλα, που απομακρύνθηκε από την αρχή της μη βίας. Τελικά, συνελήφθη ξανά, κατηγορήθηκε για σαμποτάζ και απόπειρα ανατροπής της Κυβέρνησης και Καταδικάστηκε το 1964 σε ισόβια.