元朝末年，各地義軍四起，胡深嘆息道：「浙東地氣盡白，是有大禍將要來臨。」於是聚集裏中弟子結寨自保。石抹宜孫任萬戶鎮守處州，闢胡海參贊軍事，招募士兵數千人，收捕諸山寇。溫州韓虎等人殺了主將叛敵，胡深前去用理說服他們，軍民感動得流涕，殺韓虎投降。

　　至正十八年（1358年），胡深與章溢討伐龍泉之亂，收捕附近各縣的盜賊，並依次將其平定。此時石抹宜孫已晉升爲行省參政，胡深被任命爲元帥。

　　同年十二月，朱元璋親徵婺州，胡深帶領兵車數百輛前去援救，行至松溪而不能救，大敗而去，婺州於是被攻下。

　　至正十九年（1359年），耿再成進攻處州，石抹宜孫分別派元帥葉琛、參謀林彬祖、鎮撫陳中真和胡深率兵拒戰。遇上胡大海的部隊來到，和再成會合，大破石軍，抵達城下。石抹宜孫戰敗，與葉琛、章溢逃到建寧，處州於是被攻下。胡深以龍泉、慶元、松陽、遂昌四縣投降朱元璋。

　　朱元璋之前聽說過胡深、章溢等人的名號，於是召見胡深，授予左司員外郎，派他回到處州，召集部曲。從徵江西，平定後，任命爲親軍指揮，鎮守吉安。處州苗軍叛亂，殺了守將耿再成，胡深隨平章邵榮前往討伐，將其誅殺。朱元璋改中書分省爲浙東行中書省，任命胡深爲行省左右司郎中，總制處州軍民事務。此時山寇暗在當地作亂，百姓還不安定。胡深招兵一萬餘人，捕殺賊寇渠帥。沿海軍隊素來驍勇，胡海殺了他們中幾個十分橫行的，民患得以平息。九月，諸全叛將謝再興帶張士誠的部隊進犯東陽。左丞李文忠命令胡深率兵擔任前鋒，謝再興大敗而走。胡深建議把諸全作爲浙東的藩屏，於是經過度量在離諸全五十裏處連着五指山修築新城，分兵戍守。朱元璋剛一聽說再興叛敵，就急忙派使者告訴文忠，要他另築新城守備，使者到達時工程已經完工。後來張士誠將領李伯升大舉來犯，到達新城下，但攻城不下，大敗而去。朱元璋大力嘉獎胡深的功勞，賜給他名馬。

　　吳元年（1367年），朱元璋稱吳王，任命胡深爲王府參軍，仍鎮守處州。溫州豪民周宗道聚衆佔據平陽，多次遭到方國珍侄子方明善的威逼，於是以城前來歸附朱元璋。方明善大怒，下令攻打平陽。胡深派兵趕跑了方明善，於是攻下了瑞安，進兵溫州。方明善十分害怕，請求年輸送白銀三萬充實軍隊。朱元璋於是命令胡深班師，重新回到處州鎮守。

　　同年，陳友定率軍攻打處州，胡深將其擊敗，陳又定率部逃走，胡深乘勝追擊，又將其擊敗，進而攻佔浦城、松溪，擒獲陳友定部將張子玉。因而請求發動廣信、撫州、建昌三路的部隊，攻取八閩。朱元璋非常高興說：「張子玉是員驍將，他被俘後陳友定肯定膽破，趁這個時候攻打，沒有攻不破的道理。」因此命令廣信指揮朱亮祖由鉛山、建昌出發，左丞王溥由杉關出發，會合胡深一起進軍。

　　不久，亮祖等人攻克崇安，進攻建寧。陳友定將領阮德柔固守。胡深感覺到敵人的動靜有點不對勁，想暫緩攻擊，但朱亮祖說：「軍隊已到達這裏，怎麼能暫緩呢？況且天道幽遠，山澤之氣變化無常，哪裏是什麼不祥的徵兆呢？」此時阮德柔屯兵在錦江，逼近胡深部隊後方，朱亮祖急於作戰。胡深率兵還擊，擊破敵二柵。阮德柔率軍力戰，與陳友定前後夾擊。戰到天黑，胡深率軍突圍，戰馬失蹄而被俘，隨後被殺，終年五十二歲。朱元璋追封胡深爲縉雲郡伯。