Jacobus was een van 'de twaalf', de kring van Jezus' meest intieme leerlingen. Om hem te onderscheiden van de andere Jacobus uit de twaalf, wordt hij ook wel 'de Meerdere' (dit is 'de oudere') genoemd. Ook zijn jongere broer Johannes, de latere evangelist, hoorde daartoe. Zij waren zonen van Zebedeus, een welvarende visser uit het plaatsje Bethsaïda aan het Meer van Gennesareth; hun moeder heette Maria Salome.
De evangelist Marcus vertelt hoe Jacobus en Johannes Jezus' leerlingen werden: Toen Jezus eens langs het Meer van Galilea liep, zag Hij Simon en de broer van Simon, Andreas, terwijl ze bezig waren het net uit te werpen in het meer; zij waren namelijk vissers. Jezus sprak tot hen: "Komt, volgt Mij; Ik zal maken, dat je vissers van mensen wordt." Terstond lieten zij hun netten in de steek en volgden Hem. Iets verder gaande zag Hij Jacobus, de zoon van Zebedeus, en diens broer Johannes; ook zij waren in de boot bezig hun netten klaar te maken. Onmiddellijk riep Hij hen. Zij lieten hun vader Zebedeus achter en volgden Hem. (Mc. 1,16-20)
Volgens het Evangelie van Mattheüs kwamen de twee op een keer met hun moeder op Jezus af en wierpen zich aan Zijn voeten ten teken dat zij iets te vragen hadden. Hij vroeg aan hun moeder: "Wat verlangt u?", waarop zij antwoordde: "Laat deze twee jongens van mij in Uw koninkrijk zitten, een aan Uw rechterhand en een aan Uw linkerhand." Dit tot woede van de andere tien leerlingen. Voor Jezus was dit aanleiding om iets te zeggen over ware grootheid: "Wie onder jullie groot wil worden, moet dienaar van jullie zijn." (Mt. 20, 20-28)
Met Petrus en Johannes maakte Jacobus deel uit van het groepje van drie apostelen dat getuige was van een aantal grote momenten uit Jezus' leven. Ze mochten erbij zijn, toen Jezus het dochtertje van Jaïrus uit de dood deed opstaan (Mc. 5, 35-43); en ook bij de gedaanteverandering van Jezus op de berg (Mc. 9, 2-8), en op de vooravond van Zijn lijden en dood in de tuin van Gethsemané, waar Jezus Zich afzonderde om in doodsangst tot Zijn Vader te bidden (Mc. 14, 32-34).
Volgens de Handelingen van de Apostelen werd Jacobus op last van koning Herodes met het zwaard gedood (Hand. 12, 2). Dat moet omstreeks het jaar 44 gebeurd zijn. Hij is de eerste martelaar van de twaalf leerlingen.
Volgens een legende zou de apostel Jacobus na het eerste Pinksterfeest naar Spanje zijn getrokken om daar het Evangelie te verkondigen.
Sint Jacobus is patroon van de steden Den Haag, Leeuwarden en Sint Jacobiparochie. Verder is hij patroon van Spanje en van de stad Santiago de Compostela (Sant-Iago), waar zich ook de beroemde bedevaartskerk bevindt. Sinds de negende eeuw vormt deze plaats een van de beroemdste en drukst bezochte bedevaartsoorden van de westerse wereld. In de Middeleeuwen kwam het na Rome en Jeruzalem op de derde plaats. Langs de aanlooproutes ontstonden talloze kerken, kloosters, kapellen en gasthuizen.
Jacobus wordt afgebeeld als pelgrim met een lange mantel, een breedgerande hoed, staf, reistas en drinkfles. Op zijn hoed en op zijn borst is de pelgrimsschelp te zien. Deze Sint-Jacobsschelpen werden door de pelgrims aangetroffen op het strand bij Santiago en als souvenirs meegenomen, meestal vastgenaaid op de hoed of een andere opzichtige plek op de kleding. Het werd het pelgrimsinsigne bij uitstek. Wie zulke schelpen draagt, staat onder de persoonlijke bescherming van Sint Jacobus.