胡俨，字若思，南昌人。通览天文、地理、律历、卜算等，尤对天文纬候学有较深造诣。洪武年间考中举人，朱棣成帝后，以翰林检讨直文渊阁，迁侍讲，累拜国子监祭酒。重修《明太祖实录》、《永乐大典》、《天下图志》，皆充总裁官。洪熙时进太子宾客，仍兼祭酒，后退休回乡，同时擅长书画，着有《颐庵文选》、《胡氏杂说》。
胡俨，以举人身份被授予华亭县教谕，能以师道自任，母亲去世，他守孝期满后，改到长垣任教谕，请求给予便地养家，后又改到余干县任职，批准学官请求便地即是从胡俨开始。胡俨被推荐任为桐城县知县，他主持开凿桐陂水，灌溉田地，使百姓获利，县境有虎伤人，胡俨斋戒沐浴后向神灵祷告，老虎便逃走了，桐城县人把他供祀在朱邑祠。
建文年间，副都御史练子宁把胡俨推荐给朝廷，说：“胡俨具有的知识足以通达天人，他的才智足以参佐帷幄。”等胡俨被召来时，燕王的部队已渡过了长江。朱棣即位后，说：“胡俨懂得天文，就让钦天监考考他。”考完之后，钦天监官员上奏说胡俨确实通象纬、气候之学。不久又因解缙的推荐，授予胡俨翰林检讨之职，与解缙等人一同在文渊阁当值。升为侍讲，再升为左庶子。胡俨因父亲去世守丧，守孝期满后胡俨又出来任职，胡俨在内阁时，受皇上顾问，他从不与人争先，但稍嫌戆直。
永乐年间，胡俨被任为国子监祭酒，便不再参预机务，当时国子监用法严峻，国子生请事假回家的，也被判戍边，胡俨到任后，立即上奏废除了这条规定。朱棣率军北征，命胡俨以祭酒兼侍讲，掌管翰林院事务，辅佐皇太孙留守北京，后改任北京国子监祭酒。当时，海内统一已近五十年，朱棣正内兴礼乐，外怀要荒之地，公卿大夫彬彬然多是文学之士。胡俨作为馆阁宿儒，朝廷大着多出自他之手，重修《太祖实录》、《永乐大典》、《天下图志》，他都担任总裁官，他主持国学二十余年，以身率教，一行一动都有师法。
洪熙初年，胡俨以病请求退休，明仁宗朱高炽赐给敕书，奖励慰劳他，进升他为太子宾客，仍兼祭酒。退休后，朝廷免除他子孙的赋税徭役。明宣宗朱瞻基即位后，以礼部侍郎之衔召胡俨，胡俨推辞归家。
胡俨在家二十年，方岳重臣都以师礼对待他，胡俨与他们交谈，从不曾说到他个人的事。他自处淡泊，岁时的衣食才刚够需要。当初他任湖广考官时，看到杨溥的文章，非常惊异，在其上题写道：“此文作者必能为董子之正言，而不为公孙之阿曲。”世人都认为他知人。
胡俨作洪崖诗三首，为七律诗，系为“洪崖山房图”而题，《颐庵文集》中均未收录，应属集外之作。洪崖山位于江西南昌城西山之中，峰峦秀拔，林壑深窅。胡俨自24岁领乡荐便宦游南北，至明永乐十四年已达30年。“既衰且老，不能不慨然追念畴昔，望洪崖之山，悠然兴其倦归之思。”遂将所作数篇及当时阁僚为洪崖而作者合为一卷，请中书舍人画家陈宗渊绘《洪崖山房图》。此三首即为题画而作，表达了内心对归隐洪崖、耕桑读书、为太平之民的向往之情。第一首末两句“陈郎胸次如摩诘，丘壑能令画里传”是称赞陈宗渊绘画技艺之高妙。此篇书法笔画矫健而苍劲，精神外露，具有俊爽雄放的风度，是胡俨56岁时的翰墨佳构。胡俨又有“三台令”等词作被收录于《明词综》。