中国史上最早的海军可以追溯到东吴海军
现在一说到东吴，大家就想到吴所拥有的长江水军，可是东吴其实还拥有一支规模庞大的海军，其航路遍及于东海、黄海、渤海、南海之间，势力纵横于当时中国海岸线，也曾远涉重洋，但却少人留意。
秦汉之际造船业之快速发展为三国时代的大型船只远航奠定了良好基础，从1955年在广州出土的东吴陶制船模，船模从船首到船尾有八个横梁，八根横梁说明有八副隔舱板，它们把船体分成九个严密的分舱（船舱）。这就是用横梁和隔舱板形成的分隔舱结构造船技术。船在航行时，即使有一两个船舱受到破坏进水了，水也不会流入其他船舱中，船也不会马上沉没。进水的船舱可以抓紧时间抽水、堵塞漏洞和进行其他修理，并不影响船的继续航行。
东吴的海船最多达七帆，据康泰《吴时外国传》述，这种船自南海加那调州乘风航行至大秦（罗马）只需一月，在多帆多桅船上，斜移的帆面各自迎风，后帆就不会挡住前帆的受风了。而据吴人万震（曾任丹阳太守）所著《南州异物志》记载，当时在南海航行的多帆海船上已经利用斜移帆面到合适角度，充分的利用风力“斜张相取风气，而无高危之虑，故行不避迅风激波，所以能疾”。
这种方法在现代的木帆船上依旧使用，可见当时东吴在使用风帆航海技术上处于领先地位。东吴所据之江东之吴越之地本就是历史上造船业发达的地方，至吴灭之日，光官方就拥有舟船五千馀艘。当时吴在建安郡今福州地设有典船校尉，掌管刑徒造船。
更在沿海永宁（今浙江温州市）、横阳（今浙江平阳县）、温麻（今福建连江县）等处设置“船屯”用以发展造船业。最有名的当属潘璋建立的温麻船屯所造造的“温麻五合”海船，由于是并用五个大板做的，所以“五合”为名。这种海船材料考究，多用“豫章楠”之类上好硬木制成，极为坚固。
嘉禾年间，吴遣使遣使者谢宏、中书陈恂拜句骊王宫为单于，其海船回程时载马八十匹犹称为“小船”。据记载东吴造的战船，最大的上下五层，可载3000名士兵。孙权乘坐的“飞云”、“盖海”等大船更是雄伟壮观。在海上的普通大船也要长二十丈，高水平面二三丈，载六七百人，装万斛。
既然拥有了如此规模的船只，当然要好好利用其在海面的优势。有史记载东吴在孙权时代就进行了数次大规模的海上远行，包括日本航线的开辟与征服台湾。
自光武帝时代，日本和中国已经有了来往，其后两方数有船只往返，形成一条固定航线。当时从中国往日本的航线为：曹魏属地青州（今山东）渡黄海——至曹魏属地带方郡（今朝鲜开城附近）——至釜山——至对马岛——至壹岐岛——至九州福冈松浦。
而其中朝鲜半岛上的带方郡等地为曹魏地盘，孙权要想通过是不可能的。然而当时有不少倭国人直接渡海到东吴的会稽通商，东吴也有人航海被大风吹至亶洲（吴国对倭国的称呼）的。
这就表明不必通过魏国的地盘也可以到达倭国。于是孙权决定组织一支舰队开辟前往倭国的航线。在古代夷洲（今台湾）和亶洲自古以来一直被认为是仙人居住的地方，秦始汉武在听闻这两地后首先想到的是派遣人马去求那虚无飘渺的“不死药”，可孙权的脑袋却没往这处想，他首先想到的不是“长生不老”，而是征服这两个地方，再把两地的土人强制迁徙到东吴来打仗当炮灰。比起那两位可真够狠的！
吴黄龙年间，孙权决定派遣舰队前往夷洲和亶洲。结果遭到重臣陆逊和全综的一致反对，他们认为“猥亏江岸之兵，以冀万一之利”，“万里袭取，风波难测，民易水土，必致疾疫，今驱见众，经涉不毛，欲益更损，欲利反害”。但被利益熏昏头脑的孙权并没有听进这忠言。
吴黄龙二年（公元230年），孙权组建一支大规模舰队，委派将军卫温、诸葛直带领甲士万人出海情去寻找夷洲和亶洲。舰队先南行至夷洲（台湾），设立屯田和移民官府，其后东行亶洲（日本）。在亶洲沿海掳掠土人数千而回。
经过该次航海，东吴人对夷洲亶洲情况有了更多更新的了解。吴丹阳太守沈莹在其撰写的《临海水土异物志》一书中记录了夷洲的风貌。
东吴和日本的交往也并未因此而断绝，近代至1984年在日本先后发掘出370多枚吴地所产铜镜，证明两国间商业贸易的存在。在日本古书《日本书记》和《古事记》中称呼后东晋南朝为“吴国”，称其人民为“吴人”，来自南朝的丝织品、服装、床具都被冠以“吴民”，由此可见东吴和日本在经济上的频繁来往，不然在日本古书上是不会出现这么多“吴”字的。辽东虽然是魏国的势力范围，可实际上是公孙家族在那儿当土皇帝，更有高句丽等异族在该地建国。孙权早在建安年间就派遣使者渡海去辽东勾结公孙康。结果使者脑袋被公孙康剁了送给曹丕，两家结仇。
太和二年（公元228年），公孙康之子公孙渊从当时其叔公孙恭处夺位，成为辽东的新统治者，他一边接受魏国的封爵，一边又主动派遣使者和孙权示好。于是吴的舰队又出现在辽东和江南之间的海面上。
其后几年间孙权的海军多次从江浙远达辽东，“越渡大海，多持货物，诳诱边民，边民无知，与之交关，长吏以下，莫肯禁止”，东吴和当地居民土著大做生意。因为天高皇帝远的关系，曹魏对此鞭长莫及，而驻当地官吏也无可奈何，只能干瞪着眼。而那土皇帝公孙渊却是“睁一只眼闭一只眼”只当不知道。
东吴的海军不断在海疆上开疆拓土，三国之世，吴的海军南至南海诸国、北达辽东朝鲜，东到日本列岛，远达波斯、天竺、大秦等，这在当时世界大概也是一支强大的海上力量。可惜中国关于最古老的海军的已经没有完整资料传世，《吴时外国传》全书已佚，只见一些零星的记录，记录有起航地点、船帆数目和航行时间等，待深入挖掘和分析。