Wiadomo, że św. Jakub Starszy był synem Zebedeusza i bratem św. Jana Apostoła. Zajmowali się oni rybactwem i zamieszkiwali okolice jeziora Tyberiadzkiego. Niestety ewangelia nie wskazuje dokładnej miejscowości ich zamieszkania. Można jedynie domyślać się, że zamieszkiwali Betsaide, tak jak św. Piotr, Andrzej i Filip, ponieważ wszyscy uczestniczyli we wspólnych połowach. W ewangelii św. Mateusza podawana jest informacja, że Jan i Jakub byli wspólnikami Szymona Piotra. Wiadomo, że matką św. Jana i Jakuba była Salome, która w późniejszych latach swojego życia wiernie towarzyszyła Jezusowi w trakcie jego wędrówek. Niektórzy sugerują nawet, że św. Jakub był spokrewniony z samym Jezusem, jednak nie istnieją na to żadne dowody.

Jezus powołał św. Jakuba do grona swych uczniów nad rzeką Jordan w trakcie połowu ryb: „Gdy (Jezus) przechodził obok jeziora Galilejskiego ujrzał dwóch braci – Szymona zwanego Piotrem i brata jego Andrzeja, jak zarzucali sieć w jezioro i rzekł do nich: «Pójdźcie za Mną, a uczynię was rybakami ludzi». Oni natychmiast zostawili sieci i poszli za Nim. A gdy poszedł stamtąd dalej, ujrzał innych braci: Jakuba syna Zebedeusza i brata jego Jana, jak z ojcem swym Zebedeuszem naprawiali w łodzi swe sieci. Ich też powołał. A oni natychmiast zostawili łódź i ojca, i poszli za Nim” (Mt 4,21-22).

Św. Jakub był jednym z bardziej uznanych apostołów. W ewangelii św. Mateusza i Łukasza jest on stawiany na trzecim miejscu zaraz po św. Piotrze i Andrzeju, a św. Marek stawia go wręcz na drugim miejscu zaraz po św. Piotrze. Również Jezus wyróżnił św. Jakuba jako jednego z trzech najbardziej zaufanych apostołów, którzy byli świadkami wskrzeszenia córki Jaira, Przemienienia Pańskiego oraz cierpienia w Ogrójcu.

Św. Jakub był przywódcą Kościoła w Jerozolimie, gdzie panował Herod Agryppa, który był wnukiem Heroda Wielkiego. Chciał on koniecznie udowodnić żydom, że płynie w nim krew tego narodu. Dlatego też wiernie przestrzegał prawa Mojżesza i podjął się opieki nad świątyniom w Jerozolimie. Z tych powodów Żydzi darzyli Heroda wielkim szacunkiem i liczyli się z jego zdaniem.

Sympatia ta została wykorzystana przez kapłanów i starszych, którzy nakłonili Heroda Agryppa I do prześladowania chrześcijan. Postanowiono całą tę walkę rozpocząć od stracenia przywódców Kościoła.

Św. Łukasz apostoł pisze: „W tym samym czasie Herod zaczął prześladować niektórych członków Kościoła. Ściął mieczem Jakuba, brata Jana…” (Dz 12,1-2). Jakub został stracony bez wyroku sądowego, co jest zadziwiające. Herod zapewne chciał uniknąć wydarzeń towarzyszących przy śmierci Jezusa i postanowił ściąć św. Jakuba w celi.

Pierwszym historykiem kościoła był Biskup Euzebiusz, napisał on, że przed ścięciem św. Jakub ucałował kata, który się tak bardzo tym przejął, że sam wyznał Chrystusa i w tym samym czasie poniósł za to karę śmierci. Po straceniu św. Jakuba natychmiast kazano pojmać św. Piotra.

W VII wieku Arabowie przejęli panowanie nad Jerozolimą, z  tego powodu obawiano się zniszczenia grobu św. Jakuba i sprowadzono jego szczątki do Santiago de Compostela. Od XI wieku  mieści się tam stolica arcybiskupstwa. W 1211 roku konsekrowano tamtejszą katedrę, w której umieszczono relikwie apostoła.

Św. Jakub jest głównym patronem Hiszpanii, a jego grób w okresie średniowiecza był trzecim najpopularniejszym celem pielgrzymek, zaraz po Ziemi Świętej i Rzymie. W obecnych czasach, co roku miasto jest odwiedzane przez tysiące pielgrzymów, a grób św. Jakuba należy do największych sanktuariów duchowych na świecie.