1899年(光绪二十五年)，余联沅由福建布政使转任江苏苏松太道(上海道)，开启了其在这一重要口岸一年有余的执政生涯。苏松太道下辖苏州府、松江府与太仓直隶州，主管该地区的军事监督、江海关行政，同时直接负责江南制造总局、轮船招商局等洋务企业，并具有一定主管“洋务”的外交职能，具有较大的行政权力。次年，义和团运动在北方发展迅速，作为清政府经济重点及列强窥伺中国的主要区域，苏松一带的安全便显得尤为重要。而身居上海道台要职的余联沅则在这一背景下发挥了重要作用。

　　义和团团员

　　义和团运动席卷华北之初，余联沅便迅速组织上海县各保甲及武装兵力在城厢地带严密巡防，以将“匪患”堵在县城之外;同时，余联沅通知各国驻上海领事，将洋人、教民迁入城中，以防止出现不必要的外交麻烦。

　　局势随着外国势力的干预发生变化——英法等国企图以保护本国利益为民派兵进驻上海，这引起了东南地区主政官员的注意。在盛宣怀的提倡下，李鸿章、刘坤一、张之洞等地方大员发起“东南互保”，而上海道台余联沅因与外国领事级别对等，而成为与外方谈判的主要对象。在这一过程中，余联沅主持拟定了《保护上海长江内地通共章程》《保护上海租界城厢内外章程》等主要外交文件，并与外方代表在会审公廨举行了多轮谈判，基本与外方人员达成了共识，确立了“东南互保”的部分合法性。

　　但谈判并未彻底阻止西方列强向上海派兵。自1900年8月起，英、法、德、日等国军队接踵而至，余联沅对这一行为提出了严厉交涉，但终究遭受冷遇，西方列强军队一直在上海停留两年之久。