日本在正式对德奥宣战后，首先行动的不是陆军而是海军根据与协约国商定的分工，日本海军将组织南遣舰队，负责保障西太平洋航线的安全并夺取德国在赤道以北的全部岛屿，包括马里亚纳群岛，加罗林群岛，马绍尔群岛，帛琉群岛以及太平洋海底电报的通信中心雅浦岛。为此，日本海军组织了两支南遣舰队，第一南遣舰队在9月12日便南下了。但兵力却原逊于英法的期望，第一南遣舰队由战列巡洋舰鞍马号为旗舰，战列巡洋舰筑波号、装甲巡洋舰浅间号、第16驱逐舰队（2艘驱逐舰）以及运输舰南海丸、远江丸组成。在日本发动对华战争时，第二南遣舰队尚在编成中。
但日本海军主力并未将肃清德国海外殖民地当做第一要务，主力投入到了侵华战争中。至9月15日中日谈判尚未破裂之前，日本海军已将主力编为三个舰队，其中第一舰队由加藤友三郎中将指挥，负责黄海方面哨戒并保护通航。计有战列舰2艘（摄津、安艺），轻巡洋舰2艘（笠置、音羽）以及5艘驱逐舰组成的三支驱逐舰队。
第二舰队负责青岛攻略，由加藤定吉中将指挥，计有4艘战列舰（周防、石见、河内、丹后），3艘装甲巡洋舰（磐手、八云、常磐）、2艘轻巡洋舰（千岁、千代田、）海防舰2艘（冲岛、见岛），水上飞机母舰若宫丸。驱逐舰8艘以及5艘大型运输舰。
为了遏制孱弱的中国海军，日本还组织了第三舰队，负责东中国海方面哨戒，任务是封锁并相机歼灭以上海、广州为基地的中国海军，该舰队由土屋光吉少将指挥，编有战列舰2艘（摄津、石见）战列巡洋舰2艘（金刚、比睿），轻巡洋舰3艘（新高、秋津州、利根），海防舰春日、日进，以及9艘驱逐舰和5艘炮舰。
相比于陆军，日本根本没有将中国海军放在眼里。的确。比起亚洲第一、世界第四的日本海军。中国海军实在是太弱小了。
以日本海军的实力，完全可以攻入长江进入中国腹地。根据日本掌握的情报，中国在吴淞口及长江沿岸并未修筑大型江防炮台，但海军军令部给第三舰队的兵力却仅够封锁上海中国海军。这就有些意思了。俄国对日本的海上威胁已经解除。日本在西太平洋几无敌手。如果彻底消灭中国那几万吨军舰，有什么必要组建以哨戒黄海保证通航的第一舰队？海军是进攻型军种，被动防御注定要吃败仗的。日本人这样排兵布阵。既有外部的因素，更主要的是内部因素。
外部原因之一是因为英法强烈禁止日本攻入长江进入中国腹地以挑起与中国的全面战争。英法担心中国做出过激的反应，就此将中国逼入同盟国阵营，青岛之战后这种情绪尤为强烈。内部因素呢，日本并不准备与中国全面开战，既因财政之困扰，拿不出钱来打一场灭国之战，也因为没有把握。更重要的是他们获知了中国海军拥有两个潜艇编队，拥有20艘以上的进口潜艇，军令部担心舰队的反潜能力不足，如果被中国潜艇击沉大型军舰就是笑话了，所以才编组了以护航为目的的第一舰队和以封锁为目的的第三舰队。日本对中国的海上战略就是封锁，将中国海军堵在港口内就行。
跟阵容豪华的日本海军相比，中国海军就很寒酸了。有些乞丐跟龙王斗宝的感觉。
新中华成立后，全面接管了满清留下的海军遗产，海军以上海、福建、广东为三大基地，对于渤海湾和黄海反而放弃了。这是无奈之举。山东拥有漫长的海岸线，但由于德国和英国舰队的存在，几无中国海军的立足之地，渤海湾自旅顺丢失后，这片中国内海反而没有中国海军的活动空间。于是将基地设于南方，缓慢地积蓄力量，以待时机。
龙谦定都北京的第二个月便组建了海军司令部，以他老资格的总参谋长、山东军司令官方时俊出任海军总司令。龙谦为海军发展确定了“培养人才、积蓄力量、等待时机”十二字方针。确定国防建设的重点在陆不在海，至少在十年内，国家不会为海军建设花大钱。
方时俊正确地理解了龙谦的意图。没有跟陆军建设争资源，而是积极落实龙谦的十二字方针，一方面搜罗人才，请出了萨镇冰、严复、载泽等海军耆宿，组建了福州海军军官学校和上海海军技术研究院，请来了美国海军退役及现役军官充任教官以培养海军人才并展开海军兵器研究。一方面整顿现有力量，组建了东海、南海两支舰队以培训官兵。第三就是大力扶持造船工业，为海军腾飞打下基础。
这个过程中方时俊最展现自己能力的就是搜罗人才。不惜降尊纡贵请出了萨镇冰、严复等人。进而通过他们将满清培养的海军人才“一网打尽”，全部吸纳至新中华海军中。然后又大力招收回国效力的华侨加盟海军，最后则是花大钱聘卿美、德等国的海军教官及技术人才，费尽心力地搭起了海军的架子。
方时俊总理1910年出访美国时，捡起了满清与美国签署的海军一揽子协定，这是美国乐于达成的。但中方修改了原协定的内容，大幅度减少了水面舰只的购置，特别是巡洋舰和驱逐舰的购置，转而购买造船设备，扩充了江南造船厂，添置了大型船坞，并与美国联合成立了美中太平洋航运公司以扩大中美航运能力。当然也买了几艘美国的战舰以满足美国人的要求。至1914年夏，中国海军两支舰队的水面舰只共有巡洋舰7艘。驱逐舰7艘，炮舰11艘，总吨位不足5万吨，其中大半兵力被置于环境相对安全的南海舰队。
至1914年夏，海军总兵力超过了两万人。值得一提的是，海军兵员不是来自于陆军，而是招收自大中学毕业生。海军军官（除了几位耆宿），全部来自福州海军学院（最初学制两年，1913年起延长至3年）及留美、留德的学员。海军中来自陆军的军官（包括海军司令部各级参谋）极少，完全不成比例。这个情况使得海军彻底脱离了陆军。成为了一支观念、思维都与陆军有着极大差别的军种。到了1914年。陆海两军的不同风格已经展现，比如陆军官兵抽烟的居多，而海军官兵则基本没有吸烟着，比如海军军官通一门外语的比例很高。但陆军则很少。导致一些蒙山军高级将领讥笑海军为假洋鬼子。当时。没有任何人意识到海军摆脱陆军自行发展的意义。直到建国二十余年后，海军已经发展为一支不容陆军小觑的大军种，海军才在国家大政上发出越来越强烈的声音。
方时俊并非故意走上“独立”于陆军之外的道路。一方面是因为龙谦要求他立足自身培养人才。另一方面是陆军军官基本不愿意去海军，就连他司令部的组建都费了很大力气。
龙谦虽然确定了先陆后海的原则，但对于海军的投入还是逐年增加的，加上美国的专项贷款，建国五年来对于海军的投入接近了满清打造北洋舰队的总量。这些钱却大部花在了潜艇购买和制造上。
1911年春，中德签订了海军合作秘密协议，除了购买德国2艘最新的u型潜艇外，还委托德国制造4艘同型潜艇并购买了全套图纸，拉开了海军潜艇发展的大幕。以后三年间，购买德国潜艇的数量逐年增加，累计达22艘之多。不仅如此，德国还在1912年转让了一座潜艇工厂和全套的鱼雷技术，中国在南昌建立了鱼雷工厂，可以在德国工程师的指导下在本土建造远洋潜艇及潜艇的主要武器鱼雷。
就潜艇技术而言，德国领先全球，所以中国瞄准了德国而不是美国。1912年底，上海海军技术研究院在德国专家的帮助下设计了一款大型潜艇，这艘潜艇是在德国u型攻击型潜艇基础上改进的，大的结构没有改变，但吨位及全艇尺寸增加了。定员32人，柴油动力，水面1700马力，水下1200马力，水下排水量达到900吨，吃水3。65米，全高8。25米，航速水面15节，水下9节，潜深达到50米，最大的变化是取消了德国潜艇装备的105mm舰炮，使得该型潜艇的武备只剩了鱼雷。可携带16枚鱼雷，共有4具鱼雷发射管（前2后2）。
这款被命名为剑鱼级潜艇是共和国第一艘有着自己设计思想的远洋潜艇，对德国潜艇思维有了革新。获得了德国潜艇专家的肯定，德国专家对中国人取消火炮的思维认为是一次革命性颠覆，将引发潜艇战术的巨大改变。建议德国海军也仿效中国取消火炮那个基本不发挥作用的鸡肋，专心发展鱼雷攻击战术。
虽然潜艇发展取得很不错的成绩，但当时在海军霸主英国的影响下，大炮巨舰主义盛行，各海军强国专心发展新一代战列舰，认为战列舰才是决定海战胜负的关键。对于潜艇这种新玩意，除了受到英国强力打压的德国，包括日本在内，都不太重视。
中国海军另辟蹊径的战略思路受到了海军内部的质疑。随着国力的复苏，海军要求添置大型战舰的呼声也出现了。1913年春节，南海舰队司令官萨镇冰海军中将致信龙谦，请求购置两艘战列舰以壮声势。为此，国防部在上海召开了绝密的海军发展研讨会，龙谦在会上抛出了令海军耆宿们难以接受的“战列舰”无用论。
“我可以大胆预言，战列舰这种海上霸王很快就会退出历史舞台了。随着航空技术的发展，海军将呈现与现在完全不同的格局。与其花大钱去打造大型的海上棺材，还不如一开始就走正确的道路。海军的发展要抓两头，促中间。什么是两头？潜艇和飞机，中间当然是水面舰只了。不要战列舰不等于不要水面舰只，驱逐舰，巡洋舰，运输舰还是要的，但要服从于飞机和潜艇。你们要相信，我所规划的海军发展道路会得到证明的。”龙谦在1913年春在海军总司令部召开的海军发展研讨会上这样讲。
“飞机？飞机能对付战列舰？”没有人相信只能携带五公斤炸弹，航程极短的飞机会威胁到战列舰的生存。这不是开玩笑吗？
“谁说飞机只能带五公斤炸弹？”龙谦反问，“如果飞机可以携带250公斤的巨型炸弹呢？如果飞机的航程提高到一千公里甚至更长呢？诸位海军同仁们，请你们记住一句话，‘技术决定战术’，每一种新技术的出现将改变现有的战术，这就是我格外重视海军研究院的缘故。战列舰我们不搞，现在不搞，将来也不搞。你们算过没有，一艘战列舰可以换多少架飞机？多少艘潜艇？我们还很穷，陆军在换装，航空兵在发展，海军也要跟上来。以我们的国力和技术底子，跟在别人后面永远落后，但我们可以在新领域当领头羊，这个新领域，一是飞机，二是潜艇。等我们证明飞机和潜艇威力的时候，那些大力建造无畏舰的海军强国就会后悔到死！”
龙谦的巨大权力决定了海军只能按着他的步调走。几年来，水面舰只增加缓慢，但潜艇部队却初具规模，海军组建了独立的潜艇司令部，下辖两支潜艇战队，在崇明岛和舟山群岛建造了潜艇基地，1914年夏，可以用于海战的潜艇总数达到20艘，其中2艘是自行建造的剑鱼级攻击潜艇。
潜艇的作用在1914年春海军在南海举行的小规模演习中得到了证明，从舟山出发的4艘潜艇（其中1艘剑鱼级）秘密穿越台湾海峡准时抵达演习区域，靠近南海舰队的旗舰海雄号巡洋舰300米未被发觉。如果是实战，海雄号可能已经沉没了。而在随后的实弹射击中，萨镇冰亲眼目睹了潜艇实施的鱼雷攻击靶船的过程，感到十分震惊。在反潜技术还未成形的当时，潜艇就是来去无踪的幽灵杀手，对付巨无霸战列舰似乎力不从心，但如果攻击小吨位的驱逐舰或者运输舰，一条鱼雷就可以将目标舰送入海底！
对于即将爆发的中日战争，海军司令部根据总参的总体战略制定了自己的作战计划。必须说明的是，总参谋部正确地预料到了日本海军的作战思维，预料到日本海军将采取封锁战略堵死中国海军的出口，因此协助海军针对性地制定了避开日本海军主力、以袭击其运兵船和运输舰为主要目的的作战方案。这个方案下，潜艇部队将担负主要的作战任务，制定了东海两大潜艇基地被日军摧毁后的备用方案。方时俊总司令面对海军强烈求战的情绪，强调海军实力尚不足于正面迎战日本海军，“我们不做傻瓜。这不是怯弱，而是审时度势。保留火种以待时间是正确的方针，业已得到总统的批准。陆军不会责难我们的，我向你们保证。”