1875年(光绪元年)，朝仪海防大讨论，依洋务派《筹议海防折》，光绪特命北洋大臣李鸿章创设北洋水师，通过总税务司R.赫德在英国订造4舰炮船(即伦道尔炮艇)，此为清朝海军向国外购军舰之始。1879年，向英国订造了两艘撞击巡洋舰扬威号、超勇号。

1880年，向德国船厂订造铁甲舰定远号、镇远号。1881年，先后选定在旅顺和威海两地修建海军基地。1880年在天津设立负责海军事务的机构——海军营务处。1881年，派丁汝昌统领北洋海军。英人琅威理、德人式百龄先后担任海军训练。又设立北洋水师学堂，修筑旅顺和威海卫军港。北洋舰队各主要战舰舰长及高级军官几乎全为福州船政学堂毕业，大部分还到过英国海军学院留学实习。中法战争后李鸿章加速购置舰船，扩充北洋海军。

1885年，总理海军事务衙门设立，李鸿章遣驻外公使分别向英国、德国订造了两艘穹甲巡洋舰致远号、靖远号与两艘装甲巡洋舰经远号、来远号。1888年12月17日，北洋水师正式成军，同日颁布施行《北洋水师章程》。主要军舰大小共有25艘，辅助军舰50艘，运输船30艘，官兵4，000余人。从此，中国正式拥有了一支当时东亚第一，世界第九的海军舰队。

1888年以后，由于翁同龢户部”减省开支“导致舰队经费大幅减少，多被政府挪往他处。1894年，当时日本正为海军技术突飞猛进之时，但北洋水师至中日甲午战争爆发时已多年未置新舰，部分应进行的更新工程亦未能进行。原有的战舰已开始落伍，虽火力远在日舰之上，但无论航速、射速、火炮数量、弹药积累等方面皆落后于日本海军。因而北洋海军在中日甲午战争中，几乎全军覆没。1896年始后逐渐购置舰船，大有恢复。1909年(宣统元年)南、北洋海军被改编为巡洋舰队与长江舰队，从此北洋水师之名亦不复存在。