Jos Hooiveld inledde 2003 sin A-lagskarriär i den holländska klubben SC Heerenveen innan han fortsatte i PEC Zwolle och Kapfenberger SV. 2007 lockade FC Inter från Åbo med ett kontrakt och han flyttade för första gången upp till Norden. Under sina två säsonger i Veikkausliiga utsågs han till ligans bäste back bägge åren och han vann under 2008 både ligan samt ligacupen med FC Inter. I januari 2009 kom AIK överens med Hooiveld om ett kontrakt. Tävlingsdebuten i AIK-tröjan skedde i den allsvenska premiären hemma mot Halmstads BK (1–0) den 5 april 2009 inför 21 867 åskådare på Råsunda Fotbollstadion då han bildade mittlås med Per Karlsson.

Han spelade totalt 31 tävlingsmatcher, samtliga från start, för AIK under debutsäsongen och växte under säsongen in i rollen som den verbale ledaren i Gnagets backlinje. Holländaren var även en av två spelare från Allsvenskan som nominerades som ”årets back” till Fotbollsgalan 2009. Utmärkelsen gick till slut till landslagets och Olympiakos Olof Mellberg som guldåret 1998 spelade i AIK.

Jos Hooiveld svarade för tre mycket viktiga målgivande passningar – samtliga framspelningar till nätkänning i Råsundas södra mål – under hösten i AIK:s avslutande intensiva jakt på att vinna dubbeln. I bortaderbyt mot Hammarby (2–1) flög han högre än alla andra i offensivt straffområde och nickskarvade Bojan Djordjics högerhörna till Antônio Flávio som stötte in 1–0 vid den bortre stolpen. I Svenska cupens semifinal hemma mot BK Häcken (3–2 efter förlängning) spelade han fram backkollegan Nils-Eric Johansson till 2–2-målet i förlängningens absoluta slutminuter. Han avslutade karriären i AIK med att i cupfinalen hemma mot IFK Göteborg (2–0) avlossa en frisparkskanon från ca 35 meter med sin vänsterfot som Iván Obolo på målvaktsreturen kunde slå in 1–0 på. Den 11 januari 2010 meddelade AIK Fotboll att Jos Hooiveld efter en fantastisk debutsäsong lämnade klubben för skotska Celtic FC.

Holländaren skrev på ett 3,5-årsavtal med Celtic och debuterade mot Hamilton Academical FC den 30 januari 2010, men skadade sig redan i den andra matchen och missade resten av säsongen. I januari 2011 lånades han ut till FC Köpenhamn som säsongen 2010/11 vann Alka Superligaen och under de sista timmarna av transferfönstret i augusti samma år lånades Hooiveld ut till Southampton FC på den engelska sydkusten. I december 2011 kom Southampton överens med Celtic om en permanent övergång och den 193 cm långe mittbacken bidrog till att ”The Saints” åter gick upp i Premier League. Under säsongen 2014/15 var han utlånad till de båda Championship-klubbarna Norwich City FC och Millwall FC.

Den 10 juli 2015 kom AIK Fotboll överens med den holländske mittbacken om en comeback i klubben och kontraktet sträcker sig över säsongen 2017.