Počátky farního chrámu sv. Jakuba jsou spjaty s dobou, kdy se začal utvářet organizovaný rozvrh města. Po živelném osídlení místa po objevu stříbrné rudy koncem 30. let 13. století se tak mohlo stát brzy po roce 1240. Záměr výstavby farního chrámu jistě tvořil součást prvotního rozvrhu. Místo bylo vybráno na ostrohu u hradeb, dobře chráněných svahem k říčce Jihlávce. Leželo přitom příhodně blízko středu města. Premonstráti z nedalekého kláštera v Želivi, kteří v oblasti už dříve vlastnili nějaké pozemky, si zajistili patronátní právo i nad nově vznikajícím farním kostelem. A právě jim bývají přisuzovány i zdejší první stavební aktivity. Tehdy byl určen základní rozvrh stavby budoucího chrámu jako trojlodí s delším kněžištěm. Byly vystavěny obvodové zdi kostela, následně celé kněžiště i se sakristií a poté také hlavní vstupní portál v západním průčelí. Po slohové stránce jde o konzervativní, prakticky románský stavební rozvrh.
Tento přístup se však počátkem druhé poloviny 13. století zřetelně proměnil. Je možné, že tato výrazná proměna souvisí s aktivitou postupně se vzmáhajícího jihlavského měšťanstva. Pro stavbu farního chrámu mohlo získat síly moderně zaměřené stavební huti, která do Jihlavy byla povolána v souvislosti se stavbou dominikánského kostela. Radikální přestavbou prošlo kněžiště, jehož nové prostorové pojetí bylo nyní bližší slohu klasické gotiky. V této souvislosti se proměnil také záměr výstavby trojlodí, které získalo rozvrh více sjednoceného vnitřního prostoru halového typu. Roku 1257 kostel vysvětil olomoucký biskup a královský rádce Bruno ze Schauenburka. S tímto aktem se sem přenesla farní práva z kostela sv. Jana Křtitele. Ačkoliv v té době byla vysvěcena i loď kostela, stavební práce zdaleka neskončily.
Následujících sto let bylo pro Jihlavu dobou velkého rozkvětu, který přinášela nejprve těžba stříbra, později pak hlavně rozvoj řemesel i obchodu. Tato prosperita se odrážela i v postupu stavebních prací na kostele, neboť pro bohaté jihlavské měšťany měla podoba farního chrámu výrazně reprezentativní charakter. V poslední čtvrtině 14. století prošel úpravami interiér trojlodí, byly postaveny osmiboké pilíře a již tehdy snad trojlodí dostalo křížovou klenbu. Interiér trojlodí se také mnohem více prosvětil díky přestavbě oken s pozdně gotickou plaménkovou kružbou. Stále větší iniciativa města na stavbě kostela vyústila v rozepře se želivskými premonstráty, které řešil i papež. Roku 1400 městské radě povolil vybudování oltářů s vlastním patronátním právem. Tehdy byla nejspíše pro výzdobu nové kaple pořízena také známá socha sv. Kateřiny v provedení krásného slohu. Městská objednávka tak definitivně převážila a hrála rozhodující roli v dokončení interiéru kostela a jeho důrazu na vznešenou formu. Zdejší vysokou kulturní úroveň dosvědčují mimo jiné i další dochovaná sochařská díla a iluminovaný rukopis. Pro potřeby města a jeho cechů byly v průběhu 15. a 16. století přistavovány další kaple.
15. století bylo pro Jihlavu velmi neklidné. Ještě roku 1436 se v kostele, při příležitosti kompaktátních jednání, konala mše za přítomnosti císaře. V následujícím období, zřejmě v důsledku obléhání a snad i zemětřesení, byl však kostel značně poškozen. V 80. letech 15. století tak musel být rozsáhle renovován. Do této doby bývá také kladen vznik sousoší Olivetské hory, které bylo původně určeno pro hřbitovní kapli. Požár roku 1523 kostel opět poničil a jeho obnova probíhala po několik desetiletí. Nově musela být vybudována část klenby a střecha kostela. Věže v průčelí byly před polovinou 16. století navýšeny o jedno patro. Jižní věž ale musela být záhy kvůli statickým potížím opět snížena. 17. století vlivem nestabilní společenské situace nepřineslo výraznější stavební aktivity, a tak se kostel dočkal významnější úpravy až počátkem 18. století, kdy k jeho severní lodi byla přistavěna dispozičně velmi výrazná barokní kaple Bolestné Panny Marie na centrálním osmistěnném půdorysu. Barokní dostavby tehdy pozměnily i západní průčelí.
Na přelomu 19. a 20. století proběhla rozsáhlá rekonstrukce interiéru a částečně i exteriéru kostela. V duchu „regotizace“ se tato akce snažila odstranit všechny barokní úpravy a určila tak dnešní vzhled kostela. Mimo jiné dostal nové omítky včetně výmalby kostelní interiér. Ačkoliv část těchto maleb byla opět odstraněna, a to s rekonstrukcí v 80. letech 20. století, zbytek úprav zůstal zachován. Z novodobých oprav kostela je třeba zmínit alespoň kompletní rekonstrukci krovů a střechy v letech 2017–2019.
DN