抗日战争胜利后，国民党政府积极准备内战。为了抢得先机，国民党政府与美帝国主义勾结，利用美国海军运送国民党军队到沿海、东北、华北各处抢占战略要地。在美国海军的帮助下，国民党政府完成战争准备后，撕毁停战协定，于1946年6月26日向解放区发动全面进攻。在美国及国民党海军的有力支持下，迅速完成了战场部署，在战略要地的兵力具有压倒性优势，解放区一度陷入被动局面。到1947年初，东北、华东、陕甘宁边区等大片解放区在国民党军队的强力攻势下被压缩，晋察冀解放区的首府张家口亦被占领。

在极端艰苦的条件下，中国共产党领导人民军队经过一年多的浴血奋战，成功地遏制住了国民党军队的全面进攻，由战略防御转入战略反攻，扭转了战场局势。尽管如此，巨大的牺牲也为中国共产党人敲响了警钟，大家意识到海洋通道和海上力量对战争全局的影响是无法估量的。建立人民海军的设想已经开始谋划。

解放战争进入战略决战期，在辽沈、淮海、平津三大战役中，中国人民解放军取得了几乎全歼战区内敌军的辉煌战果，但由于缺乏海上武装力量支援，致使国民党陆军残余多次在其海军和美国海军的掩护下从海上顺利撤逃。

历史的经验教训和现实斗争的需要，使中国共产党人深刻认识到建立人民海军的重要性。1949年1月8日，中共中央政治局会议通过了《目前形势和党在一九四九年的任务》的决议，首次提出争取组建一支保卫沿海沿江海军的任务。根据会议精神，中央军委将组建人民海军的任务交给了第三野战军，具体筹建工作由原华中军区副司令员张爱萍负责。

1949年，三大战役后，国民党在长江以北的陆军主力已经丧失殆尽，实现全国解放指日可待。国民党海军中的有识之士早已厌倦了其内部的反动腐朽和派系斗争，认清了当前形势，并主动寻求与中共地下党组织取得联系，选择采取起义、投诚等方式，毅然决然地走向人民一边。

1949年2月12日，“黄安”号军舰在青岛海面起义，开创了国民党海军率舰起义的先例。2月25日，“重庆”号军舰在吴淞口起义。“重庆”号巡洋舰是当时国民党海军中最大的一艘军舰，排水量达 5270吨，船员600人。在如此大型现代化军舰上成功武装起义的壮举震惊中外。蒋介石得知此事后甚为慌张，命令不惜一切代价也要将“重庆”号击沉。3月19日凌晨，在国民党和美国空军飞机的反复轰炸下，没有空中力量保护的“重庆”号船体受损严重。为将损失降到最低，全体船员集体决定将战舰自沉于葫芦岛港口内，以待适当时机打捞修复。3月24日，正在进京“赶考”途中的毛泽东和朱德得知这一悲壮消息后，第一时间给起义的“重庆”号巡洋舰全体官兵发来慰问电报，对他们的英勇壮举表示嘉勉，并鼓励他们“中国人民必须建设自己强大的国防，除了陆军，还必须建设自己的空军和海军，而你们就将是参加中国人民海军建设的先锋”。这充分表明了党中央组建人民海军的信心和决心。与此同时，国民党海防第二舰队的起义工作也已经在运作之中。随着国民党起义海军力量的不断注入，中共中央敏锐地意识到建设人民海军的时机已经成熟。

三大战役后，国民党政府已经意识到其在大陆的统治岌岌可危，为了实现划江而治的企图，国民党政府开启和谈把戏，实则是为加强江防而拖延时间，以达到阻止解放军渡江的目的。为了争取早日实现和平，中共中央顺应民意决定与南京国民党政府进行北平和谈。经过反复谈判，双方谈判代表达成了《国内和平协定（最后修正案）》，但国民党政府却拒绝在协议上签字，谈判破裂。1949年4月，渡江战役正式打响，人民解放军势如破竹一举攻破长江防线。4月23日，人民解放军占领了南京国民党总统府，结束了国民党在大陆延续了22年的反动统治。正是在这伟大的历史关键节点上，在第三野战军司令部所在地江苏泰州白马庙，中国人民解放军第一支海军部队——华东军区海军宣告成立，张爱萍任司令员兼政治委员，负责在接收国民党起义、投诚舰艇的基础上着手开展海军组建工作。经过周密安排，就在华东军区海军成立的同一天，在时任中共中央副主席周恩来亲自组织策动下，原国民党海防第二舰队的25艘舰艇在南京笆斗山江面成功起义，为中国人民海军的成功建立注入了一针强心剂。

华东军区海军成立时，第一批报到的成员连同张爱萍及其司机在内仅有13人，他们成为人民海军的第一批创建者。对于这些来自老解放区的“旱鸭子”来说，他们对当时的海军知识一窍不通，想组建海军，只有先网罗真正懂得海军技术的人员才行。

第三野战军司令员兼政治委员陈毅依照中共中央指示将三野教导师师部、教导师三团、三野司令部直属侦察营、苏北军区海防纵队等部共计4000余人首先划拨给新组建的海军。当时，三野划拨给海军的部队和起义的国民党海军人员多分散在南京、镇江等地。因此，去完成接管他们的任务就成了第一要务。明确目标后，当晚首批参加海军的13人便分乘3辆美式吉普车离开白马庙匆匆赶往江阴。

1949年4月28日，在原国民党军江阴要塞司令部礼堂举行华东军区海军领导机关成立大会。会上，根据中共中央批准，宣布华东军区海军机关的组成和领导人员名单。会后向三野前委汇报相关情况。三野前委又向华东局总前委和中央军委报告了有关华东军区海军组建的请示。5月4日，中央军委复电三野前委，告华东局总前委，表示同意华东军区海军司令部的组织形式、党委会组织及人选，并批示其关防印信同军级。

华东军区海军成立最初，主要工作就是接管国民党起义、投诚的海军部队舰船和遗留在沿海城市的物资。国民党海军官兵特别是新型舰艇官兵，多数具有较高的文化水平，不少人曾有过到国外受训或接收军舰的经历。优渥的成长环境造就了一些原国民党海军人员相对傲慢的习性，他们对来接管的解放军陆军干部表现得很冷淡，究其原因，主要是他们认为外行指导不了内行。这种态度并非个例，原国民党海防第二舰队司令官林遵本人对人员调整工作也不是很理解，起初采取消极态度应对。尽管如此，中共中央还是相信只要是怀着爱国的民族意识，抱有建设一支强大海军想法的仁人志士就是我们的同志，就需要想办法去团结。

为了让林遵更好地配合整编，张爱萍首先想到邀请当时兼任南京市市长的第二野战军司令员刘伯承出面协调。刘伯承是著名的军事家，在国共两党内均地位较高，由他出面做林遵的工作比较合适。刘伯承专程接见了林遵和全体起义官兵代表，推心置腹地与他们交流建设强大人民海军的设想，鼓励第二舰队的官兵要团结一心，为建设一支强大的人民海军而共同奋斗，并设宴款待。经过刘伯承做工作，原国民党海军人员对接管整编工作的认识有了一定转变，渐渐接受了对起义人员的调整安排。

1949年5月27日，上海解放，华东军区海军机关由江阴迁驻上海。28日，华东军区海军接管人员开始接管国民党海军遗留的机构、工厂、器材、营房等。海军要想发展壮大，除了接收物资外，更为急需的是能够利用好这些物资的人才。原国民党起义人员的数量还是远远不够的，到哪里去找到足够多懂得海军技术的专业人才，成了摆在华东军区海军面前的又一个难题。

早在国民党海军机关逃离上海时，不少有识之士毅然脱离国民党海军，以隐蔽身份留在了大陆。探知相关情况后，华东军区海军决定招收这些原国民党海军人才为人民海军所用。1949年6月12日，经党委会研究通过，张爱萍以华东军区海军司令员兼政治委员的身份在上海版《大公报》上刊登了《中国人民解放军华东军区海军司令部登记国民党海军人员办事处通告（登字第一号）》。次日，又在《大公报》上刊发《登记国民党海军人员办事处通告》，通告写明办理登记的时间、地点和要求。通告在社会上产生了强烈反响，有过海军从业经历的人员解开了心结，踊跃报名参加人民海军。在很短的时间内，登记报名参加人民海军的人数达到千余人，经仔细甄别，择优录取，大部分人员得到任用。通过这种“公开招聘”形式，华东军区初创时海军人才短缺问题得到了有效解决，也使得这些早就有心报效祖国的专业技术人员有了用武之地，成为人民海军初创时不可或缺的力量。

华东军区海军组建初期，部队官兵中大部分来自人民解放军陆军成建制地抽调，另一部分则是国民党起义、投诚海军和从新解放城市中招募的有过海军从业经历的相关人员。为了使得两方面人员实现尽早融合，张爱萍司令员首先从对海军人员的称呼上入手。为避开刺耳字眼儿，经党委会讨论通过，确定国民党起义、投诚海军名称为“原海军人员”。称谓的改变使得原海军人员更加有了归属感。与“原海军人员”自然相对，从陆军来的那些同志就被称作“新海军人员”。此举对新老海军人员关系的和谐发展有了一个良好的开端。

新海军人员具有优良革命传统，有很多干部战士是红军时期就入伍的老兵，对党、对革命无比忠诚，作战勇敢、屡立战功，在政治、思想、组织、纪律等方面都是标兵骨干，是华东军区海军的脊梁。但是，他们也有自己的不足，那就是文化水平低，尽管陆上作战经验丰富，但对海军知识却是零基础，编入海军之前有些战士甚至从未见过大海和舰艇。由于没有受过专业训练，经常在训练和战斗中犯下舰艇撞码头、搁浅等低级错误。原海军人员大多来自起义、投诚的国民党海军部队，他们不满国民党反动统治的腐败及其推行的政策，怀着满腔的报国热情，积极投身于人民海军建设。他们多半有过英、美受训的经历，文化水平高，海军专业知识和业务技能过硬。但是，他们也有硬伤，由于多年受旧军队不良风气的熏染，自私自利心理严重。这归根结底缘于他们没有信仰支撑，没有为人民服务的意识，导致生活作风腐化、热衷于搞小圈子，对我军历来严格的纪律、作风要求很不适应，还未能完全融入人民军队中。

这两部分人在海军业务技术和政治思想觉悟方面，分别“瘸了一条腿”，张爱萍司令员形象地将他们比喻为“两个跛子”。如果这“两个跛子”能够认清各自存在的优点和不足，各自补足短板，互相学习，取长补短，那人民海军必将快速成长，成为党和人民无坚不摧的海上力量。

1949年8月中旬，华东军区海军机关迁驻南京后，为了进一步激发原海军人员投身人民海军建设的热情，张爱萍请示党中央和毛主席接见华东军区海军原海军人员中的主要人员。中共中央即刻作出同意决定，不久，张爱萍便接到中央指示，奉命率林遵、曾国晟、金声等原国民党海军高级将领进京，接受党中央和毛主席接见。到北京后，海军人员先后受到刘少奇、周恩来、朱德的接见，华东军区海军组建以来的工作得到了各位中央领导的充分肯定。

1949年8月28日，毛泽东从百忙之中专门抽出时间在中南海怀仁堂正门大厅接见了张爱萍、林遵等一行人。张爱萍向毛泽东介绍了华东军区海军组建的相关情况。毛泽东对原海军人员关于人民海军组建作出的突出贡献给予了充分肯定。同时针对原海军人员缺乏政治觉悟的现状指出：人民军队之所以能战胜国内外敌人，逐步壮大，关键在于我们的军队属于人民，人民拥护我们，我们依靠人民，为人民服务。关于原海军人员与新海军人员的融合问题，毛泽东给出了明确指示：原海军人员懂得科学知识，有技术，新海军人员要向原海军人员学习；新海军人员有优良的政治工作和战斗作风，原海军人员也要向新海军人员学习；新老同志要团结，相互学习，共同为建设强大的人民海军而奋斗。毛泽东对华东军区海军的建设和发展寄予厚望，专门为华东军区海军题词：“我们一定要建设一支海军，这支海军要能保卫我们的海防，有效地防御帝国主义的可能的侵略。”并为日后华东军区海军政治部创办的《人民海军》军报题写报名，这是领袖对人民海军建设的莫大支持。根据毛泽东的指示，对原海军人员执行“争取、团结、教育、改造”的政策，并采取了一系列具体措施。在中国共产党的正确政策感召下，绝大多数原海军人员都焕发出高度的革命积极性，在人民海军的作战、训练和教学工作等各个方面表现积极，作出了突出贡献。

1950年4月14日，中国人民海军领导机关在北京成立，人民海军正式成为中国人民解放军的一个军种。1955年10月24日，华东军区海军更名为“中国人民解放军海军东海舰队”。在新时代，东海舰队依旧不负祖国和人民重托，履行着战备警巡职责，保卫着祖国领土主权、维护着国家海洋权益，成为人民海军中披荆斩棘、乘风破浪的中流砥柱。