自明初登州卫设立之后，蓬莱水城的军事设施建设明显加强。因防倭患，立帅府于此，水城亦被称为备倭城。水城的主要设施可分为两部分，一是海港设施，包括防浪堤、水门、平浪台、码头等;二是防御性设施，包括城墙、炮台、敌台、水门、护城河、营房、指挥所等。这两部分设施构成了一个进退自如的海上军事防御体系。

　　水城北面的水门之外海面开阔，无突出海面的屏障，来自东北方向的风浪对港湾冲击很大。为解决这一问题，人们在水门外筑起一条南北长80米、宽15米、高2米的防浪堤。当年修筑刀鱼寨时，小海的东北岸便人为地被加宽、加高，建起了长100米、宽50米的石砌土台，称为平浪台。从北面滚滚而来的海浪在进入水门之前便受到防浪堤的阻挡，进入水门后，又与平浪台相抵，转折向西再向南，经过两次缓冲，流速大减。因此，尽管水门外波浪滔天，水门里的小海却水平如镜。

　　金元时期，平浪台上建起一座平浪宫，以祈神平浪。明万历年间，水门改作石砌之后，平浪台的平浪作用渐失，但却产生了另外一种意外作用，即军事上的保密作用，敌船要从水门外窥探小海内的情况，因平浪台的迎面而立，视线被全部遮住了。

　　水门原无闸门，清顺治戊戌年(1658)，徐可先拜命登州，视察水门时，认为这里不设水闸，敌寇船只突犯，必仓促无策，水门便由“非通行之口”而成“揖贼之门”了。“水城有事，迫近郡城，敌得所凭，我失所恃”。这位地方行政长官极有见地，又十分果断地带头裁减俸禄，积极筹资，于1659年秋动工，1660年夏竣工，建成了包铁叶的木栅式水闸门。无事悬之，舟行无阻。有事则下之，防敌窜入。

　　水城的城墙原来只是沙堤，明洪武年间改为土城墙。明万历二十四年(1596)，为加固城墙，在土墙上面砌以砖石，东、西、北三面各增设敌台三处，亦称箭台，形制不一。台顶仅有垛墙，而无敌楼。敌台是为防御敌人攻城而设，有伸向城内的台阶供守城者上下。水门的两个门垛间横一巨板，以通东西，称为“天桥”。水门东西另各建一座炮台，上置重型铁炮，封锁水门以外的海面，是防护水城的重要设施。

　　水城北城墙临丹崖山而建，崖高30米，崖上有1.4米的垛墙。西墙建于丘陵脊背，东墙和南墙因地势低洼建得较高，平均高度为7米。东墙长720米，西墙长850米，南墙长370米。墙底宽12米，顶宽8米。水城仅有两座城门，北为水门，下宽9.4米，上宽11.4米，高11.4米，供船只出入。南为振扬门，门洞宽3米，进深13.75米，高5.3米，供车马人之行。

　　明清两代，水城都驻扎水师，拥有战舰，防卫范围，东至荣成成山头，西至武定营大沽河，北至北隍城岛，长达1700里海疆，成为举足轻重的海防要塞。这一时期的水城，全部驻守军队，没有居民。小海以东的兵营称为东营，以西的兵营称为西营。直到清代咸丰年间，水城才开始有居民迁入，水城的军事地位也逐渐降低。