兵抗清，后与张名振等奉鲁王朱以海转战于浙东沿海，入据舟山，清军攻陷舟山后，二张又奉鲁王跑到福建依附于郑成功。
永历九年，张名振与张煌言合兵三入长江，抵燕子矶，因兵力单弱无功而返，于是又会同郑成功部甘辉、陈六御等收复舟山。张名振死后，原本遗嘱由张煌言统领其军，而郑成功却下令由陈六御接掌。
次年清军再度占领舟山，陈六御阵亡，张煌言率领残部逃回厦门继续依附郑成功，郑成功令其率军驻金门。
张煌言奉鲁监国为主，但鲁王朱以海已经于永历七年自去“监国”号，如今鲁王监国一系文官武将基本都被郑成功收买拉拢，只有张煌言不愿投效于他。
大明已亡，但汉人还没有死绝，鞑子早晚要被赶出中原，可最有希望完成这个壮举的不是郑成功，而是汉王！
在张煌言看来，晋王李定国英雄了得，尚且投于汉王门下，可见汉王绝非浪得虚名之辈，况且大兴军兵强马壮，坐拥七省之地，连鞑子都要避其锋芒。
郑成功却负隅顽抗，此举无异于螳臂当车，还不如降了大兴军，一同对付鞑子才是上策。
但郑成功可没有投降的想法。李元利在广东之时，便给郑成功连三信劝他投降，