Podľa starobylej miestnej tradície sa 2. januára roku 40 n. l. Jakubovi zjavila Panna Mária na brehu rieky Ebro v Cézarauguste, keď hlásal evanjelium v Španielsku. Údajne sa zjavila na stĺpe Nuestra Señora del Pilar a tento stĺp je zachovaný a uctievaný v súčasnej Bazilike Panny Márie na stĺpe v Zaragoze v Španielsku. Po tomto zjavení sa svätý Jakub vrátil do Judska, kde ho v roku 44 sťal kráľ Herodes Agrippa I.
Preloženie jeho relikvií z Judey do Galície na severozápade Pyrenejského polostrova sa podľa legendy uskutočnilo sériou zázračných udalostí: jeho telo, ktoré v Jeruzaleme sťal mečom sám Herodes Agrippa, vzali anjeli a na lodi bez kormidla a bez dozoru ho previezli do Iria Flavia v Španielsku, kde sa okolo jeho relikvií uzavrela mohutná skala a neskôr boli prenesené do Compostely. Historia Compostellana z 12. storočia podáva zhrnutie legendy o svätom Jakubovi, ako sa verilo v Compostele. Hlavné sú v nej dve myšlienky: po prvé, že svätý Jakub hlásal evanjelium v Španielsku aj vo Svätej zemi; po druhé, že po jeho mučeníckej smrti z rúk Herodesa Agrippu I. jeho učeníci previezli jeho telo po mori do Španielska, kde sa vylodili v Padróne na pobreží Galície, a previezli ho do vnútrozemia, aby ho pochovali v Santiagu de Compostela.
Pravosť posvätných relikvií z Compostely bola potvrdená v bule pápeža Leva XIII. "Omnipotens Deus" z 1. novembra 1884.
Tradícia v Compostele kladie objavenie relikvií svätca do obdobia kráľa Alfonza II (791-842) a biskupa Teodemíra z Irie. Tieto tradície boli základom pre pútnickú cestu, ktorá sa začala vytvárať v 9. storočí, a svätyňa zasvätená Jakubovi v Santiagu de Compostela v španielskej Galícii sa stala najznámejším pútnickým miestom v kresťanskom svete. Jakubská cesta je stromom trás, ktoré prechádzajú západnou Európou a cez severné Španielsko prichádzajú do Santiaga. Nakoniec sa Jakub stal patrónom Španielska.
Meno "James" v angličtine pochádza z latinského "Iacobus" (Jakub). Vo východnom Španielsku sa Jacobus stal "Jacome" alebo "Jaime", v Katalánsku "Jaume", v západnom Španielsku "Iago" a v Portugalsku a Galícii "Tiago". "Svätý Jakub" ("Sanctus Jacobus") sa stal "Sant' Iago", čo sa skrátilo na Santiago. Jakubovým emblémom bola mušľa hrebenatky (alebo "lastúra kohúta") a pútnici do jeho svätyne často nosili tento symbol na klobúku alebo na odeve.