Jakub, syn Alfeusza zwanego Kleofasem i Marii Kleofasowej, a brat świętego Judy Tadeusza, pochodził z tradycyjnej rodziny żydowskiej zachowującej prawo Mojżesza i oczekującej nadejścia zapowiedzianego przez proroków Mesjasza. Jeden z dwunastu Apostołów zwany jest Mniejszym albo Młodszym dla odróżnienia od innego ucznia Pańskiego o tym imieniu – prawdopodobnie dlatego, że został powołany do apostolskiego grona później niż Jakub Większy.

W obrazie Świętego, jaki przechował się w przekazach, jawi się on jako asceta budzący szacunek zarówno wśród chrześcijan, jak i wrogich Chrystusowi żydów. Dla podbicia ciała pod prymat ducha spał na gołej ziemi, często pościł i nie stronił od surowych warunków życia. Po zmartwychwstaniu Pana Jezusa, który ukazał się również Jakubowi, Apostoł uczestniczył w pracach nad rozwinięciem wspólnoty w Jerozolimie. Jego rola widocznie była niebagatelna, gdyż Dzieje apostolskie nazywają go filarem kościoła jerozolimskiego. Po śmierci Jakuba Większego został biskupem diecezji w Ziemi Świętej. Cieszył się poważaniem samego Księcia Apostołów, który po cudownym oswobodzeniu z więzienia prosił, by poinformować o tym Jakuba. Brał też udział w zjeździe Apostołów zwanym soborem jerozolimskim, gdzie rozważano sprawę ważności rytuałów żydowskich. W końcu orzeczono, iż obrzędy Starego Zakonu wygasły i nie mają więcej mocy usprawiedliwienia. Sprzeciwiali się temu chrześcijanie przywiązani jeszcze do żydostwa – dla ich uspokojenia Jakub miał przeforsować zakaz spożywania pokarmów poświęconych bałwanom, o co też się spierano.

W swoim liście, wchodzącym w skład tak zwanych listów katolickich, Jakub Młodszy oprócz udzielania rad duchowych naucza o usprawiedliwieniu przez wiarę i przez uczynki. Ta oczywista prawda była nie do zniesienia dla Marcina Lutra, głoszącego niemoralną, bo zwalniającą od odpowiedzialności za własne czyny doktrynę sola fides – dlatego list świętego Jakuba został całkowicie usunięty z „biblii” spreparowanej przez herezjarchę.

Faryzeusze widząc, jak wielki respekt budzi wśród ludu święty biskup i jak wiele dusz pociąga do wiary ukrzyżowanego Zbawiciela, poczęli zmawiać się na jego życie. Korzystając z wakatu, jaki nastał po śmierci namiestnika Jerozolimy i czując się przez chwilę zwolnionymi spod jurysdykcji rzymskiej, która odbierała sanhedrynowi prawo wykonywania kar śmierci – skazali Świętego na ukamienowanie i wyrok wykonali pospiesznie w roku 62. O poważaniu, jakim cieszył się Święty, świadczy przytoczony przez Józefa Flawiusza fakt, iż arcykapłan Annasz został ukarany i odsunięty od urzędu przez Heroda Agryppę II właśnie z powodu mordu dokonanego na Jakubie Mniejszym.

W roku 351 święty Epifaniusz otrzymał objawienie dotyczące miejsca złożenia szczątek Jakuba, Zachariasza i Symeona, po poszukiwaniach zorganizowanych przez świętego Cyryla jerozolimskiego zbudowano tam niewielką świątynię. W VI wieku relikwie świętego Jakuba zostały przeniesione do Konstantynopola i złożone w kościele pod jego wezwaniem.

Kościół wspomina św. Jakuba Mniejszego 6 maja.