更新时间：2024-04-20 21:11
胡遵出自曹魏安定郡临泾县，才兼文武，早年由历任雍、凉二州刺史的张既以礼征辟而进入仕途。
青龙元年（233年）九月，安定郡的保塞匈奴大人胡薄居姿职发动叛乱，胡遵在司马懿指挥下追击，成功迫使胡薄居姿职投降而平叛。
青龙二年（234年），蜀汉丞相诸葛亮北伐，胡遵在司马懿指挥下与雍州刺史郭淮共同在阳遂防守，在积石遭遇诸葛亮的蜀汉军队，双方紧邻五丈原开战，诸葛亮不能前进而退回五丈原。
景初元年（237年）公孙渊反叛，次年（238年）六月，胡遵在司马懿指挥下击破公孙渊将领卑衍、杨祚，最终平定公孙渊叛乱。
嘉平四年（252年）四月，吴大帝孙权去世。时任征东将军的胡遵与征南大将军王昶、镇南将军毌丘俭同时上疏献策，请求征讨东吴，但三人献策各不相同。当年十一月，王昶、胡遵、毌丘俭奉命分三路征吴。胡遵与镇东将军诸葛诞等率兵七万攻打东兴（今安徽含山西南）濡须水上的东吴筑堤，命令各军作浮桥渡水，陈兵于大堤之上，分兵攻打吴军在大堤左右依山而建的两座城堡，因城在高峻险要之处而不能很快攻破。十二月东兴之战被吴将诸葛恪击败。
正元二年（255年）正月，毌丘俭、文钦在淮南发动叛乱。胡遵奉命督青州、徐州的军队出于谯、宋之间，断绝叛军归路。当年七月，胡遵升任卫将军。
曹魏三征：三国魏征南将军王昶、征东将军胡遵、镇南将军毌丘俭的合称。《资治通鉴·魏邵陵厉公嘉平四年》：“是时，征南大将军王昶 、征东将军胡遵 、镇南将军毌丘俭等，各献征吴之计。朝以三征计异，诏问尚书傅嘏 。”胡三省注：“ 汉置四征将军，谓征东、征西、征南、征北…… 毌丘俭方为镇南而曰三征，史概言之。”《宋书·百官志上》：“四征，魏武帝置，秩二千石。黄初中，位次三公。汉旧诸征与偏裨杂号同。”详见征东将军。
有六子，最著名者是胡奋，他在晋武帝时屡立战功，官做到尚书仆射、镇南大将军、开府仪同三司。他的孙女胡芳是晋武帝司马炎的贵嫔（三夫人之首、位同三公），从此成为外戚，权势更加显赫。
《三国志》注解引用《晋诸公赞》：「胡烈儿名渊，字世元，遵之孙也。遵，安定人，以才兼文武，累居籓镇，至车骑将军。子奋，字玄威，亦历方任。女为晋武帝贵人，有宠。太康中，以奋为尚书仆射，加镇军大将军、开府。弟广，字宣祖，少府。次烈，字玄武，秦州刺史。次岐，宇玄嶷，并州刺史。广子喜，凉州刺史。渊小字鹞鸱，时年十八，既杀会救父，名震远近。」
南北朝时期，拓跋氏统治的北魏对清河崔氏、范阳卢氏、太原郭氏、河东柳氏几个大姓重重打击，而胡奋后裔胡国珍之女却成为北魏皇太后，安定胡氏于是步入了历史上最为辉煌的时期。从胡遵以后的二百多年中，安定临泾胡氏位至三公、九卿及将军、太守者多达数十人，北朝还出了四位皇太后、皇后以及两位王妃（北魏宣武灵皇后、北魏孝明皇后、东魏孝静帝之母清河王妃、江阳王元叉妃、北齐武成皇后、北齐后主皇后），盛极一时。
1994年电视剧《三国演义》：汪瑞饰演胡遵。