海军衙门设立之后,全国的海军事务虽统辖于中央所有,实则负责的仍为各地区的督抚,因此以前所产生的种种问题,依旧存在而未获解决。南洋不论,仅以北洋而言,由于该军受命先练,作为全国的模范,甚为各方所关注,是以李鸿章所遭遇的困难也特别多。他既要应付朝臣的攻击,又要面对大吏的掣肘。如同户部尚书翁同龢便常对于海军经费加以挑剔,不肯与之合作。御史李慈铭也不以建设海军为然,认为是“竭中华凋敝之赋,买狡夷窳下之船,用我之短,争彼之长”,殊为非计。同时,又指责李鸿章“深信夷人,动效夷法,广作机器,久糜巨资”。兵部侍郎黄体芳反对李氏训练海军尤烈,认为如此一来,“则是水师者非中国沿海之水师,乃直隶天津之水师;非海军衙门之水师,乃李鸿章之水师也”。
朝廷之外,在各地督抚之中,李鸿章也遇到不少的阻力。尤其是湘淮二系之间,更是时有摩擦发生。远在海防与塞防之争时,湘系领袖左宗棠即与鸿章的意见不合,各持己见,互不相让。以致“数年来竭东南财力以助西征”,使得海防经费大受影响。另一湘军领袖刘坤一,也是李鸿章的反对者,不论在两广总督或两江总督任内,都不肯与之合作。除嘲笑李氏所购的蚊炮船多是些无用的废物之外,并在购买铁甲船方面而与之意见相左,不断地埋怨其过于糜费,几使“东南巨款悉数投掷外洋。”他如湘军水师出身的彭玉麟等,态度也非常保守,不肯将长江水师所用战船汰旧换新,以与外海水师配合,此外,张之洞在两广总督时期,也想独树一帜,另创一个舰队,而与北洋对抗。甚至到甲午战争时,还有人认为只是直隶一省与日本作战,与南方的海军并不相干。故致威海告急,而南洋舰队却坐视不救,而为世界各国所不解。于兹可见,当时的地方官吏是何等地缺乏整体意识与爱国观念。李鸿章以直隶总督而兼北洋大臣,既要推行政令,又要办理外交,另外还要负责军事、国防、洋务等,百事丛脞,集于一身。对于海军的发展,实难以专注,这也是中国创建现代海军失败的另一症结所在。