宋天禧五年(1021)，27岁的范仲淹调任泰州西溪盐仓监官，这也是他人生的转折点。据《崇祯·泰州志》记载，在泰期间，他目睹沿海地区海潮泛滥，遂使田地盐碱化、民舍毁坏、民不安生的状况，提出在泰州沿海修建捍海堰的倡议，首先得到江淮转运使张纶的赞同。张纶(后任泰州知州)向朝廷举荐范仲淹任兴化知县，获准。天圣四年，范仲淹离开泰州。捍海堰后来在张纶等人的主持下修成，全长150多里。因范仲淹的首倡之功，泰州民众一直称之为“范公堤”。

正是在这一时期，范仲淹结识了胡瑗。当时，范仲淹同窗好友滕子京也来到泰州任中郡从事。滕子京主持在郡治所内修建了文会堂，“与范希文、富彦国、胡翼之、周春卿唱和其中”(见《崇祯·泰州志》卷一)。胡翼之就是胡瑗，翼之系字，正当而立之年。胡瑗生于宋太宗淳化四年(993)，祖父胡修曾任泰州司寇参军，迁居泰州如皋县，父亲胡讷为宁海节度推官。因祖籍在京兆安定里(今陕西西安市)，人称安定先生。年少时，他求学于泰山之侧，学习很刻苦。家中寄来书信“得家问有平安二字，即投涧中不复展读”。可见他和范仲淹青少年时期一样，学习与生活条件很艰苦，对学问的钻研很是用心。

文会堂建成后，成了范仲淹与胡瑗等会面的场所。文会堂经常相聚的五人志趣相同，血气方刚，心怀大志，谈吐不俗。在文会堂见面后，通过交流应酬，彼此推心置腹，互相欣赏，关系日趋亲密，成为知己朋友。这个情形，被范仲淹用诗记载了下来：“诗书对周孔，琴瑟视羲皇。君子不独乐，我朋来远方。德星相聚会，千载有余光。道味清可挹，文思高若翔。笙磬得同声，精色俱激扬。栽培尽桃李，栖之俱鸾凰。”

范仲淹离开泰州后，与胡瑗天各一方十余年间联系不断。直到景祐元年( 1034)，范仲淹因谏废郭后，被贬知睦州，移知苏州，始建苏州郡学，延聘胡瑗来教郡学。在海陵期间，他深知胡瑗教学有方，是当地杰出的教育家，且教育理念相似：社会治理和民风改善在于教化，而民众的教化在于教育。于是延请一直在泰州教书的胡瑗至苏州郡学首任教授、“掌学”(负责人)。范仲淹自己有扎实的学识，对教育、教学并不陌生。之后，他所到郡州任职都把办学放在重要位置。由于范仲淹的重视，郡学很快办了起来，学生逐渐增多。范仲淹延聘胡瑷教授郡学，从而让胡瑗离开家乡走出海陵，由从事私塾教学到主持公办郡学教育，教学实践能力与业务水平得到提高，知名度得到提升。

之后，范仲淹将胡瑗推荐给宋仁宗，虽然胡瑗当时是“白衣”，没有一官半职，但是因范仲淹极力推荐，皇帝还是在祟政厅召见胡瑗。胡瑗以丰富的历史知识和乐理知识打动了宋仁宗，得授“校书郎”，并与阮逸同校钟律(见《崇祯·泰州志》胡瑗传)。

康定元年(1040)，西夏扰边，战火不断。宋仁宗决定起用范仲淹戍边，召他为天章阁待制，知永兴军。七月升职龙图阁学士，并与韩琦同被任命为陕西经略安抚副使。在去延州的途中，范仲淹推荐胡瑗为陕西丹州(今陕西宜川)军事推官。胡瑗到陕西后，“辟丹州推官，实与府事”(见《崇祯·泰州志》卷六)，跟随范仲淹，出谋划策，为范成功守边作出了贡献。范仲淹与胡瑗分析敌我双方优劣势，攻守利弊，主张结合实际边情，实行积极的防御策略。

胡瑗跟随范仲淹戍边近两年，因丁父忧去职，回乡奔丧。服除后恰逢滕子京邀请去湖州讲学，于是告别边防，重回讲坛。宋庆历三年(1043)，范仲淹因守边有功，受到宋仁宗的重用，擢除枢密副使，后又任参知政事。范仲淹推荐有司到湖州“以先生之法为太学法”，将胡瑗的教学做法和经验用于太学。并奏请批准胡瑗、李觏到太学来任教(见《范仲淹全集》)。胡瑗被“召为诸王宫教授”。

庆历五年(1045)，罢范仲淹参知政事职，以资政殿学士出知邠州。庆历新政改革失败，所有新政都被“沮止”，唯诏郡县都立学未废行。改革失败对胡瑗打击也是很大的，他以身体有病为由，恳请至杭州儿子处就养。于是以太子中舍殿中丞“致仕”，离开了京城。