台湾军队自退台以后，大体经历了四个发展阶段。

　　第一为依美建军阶段（1949—1969年）。这一时期主要依赖美国的军援，并在美国军事顾问的督导下进行全面整顿和改编。军队建设的特点是，编制体制上全面仿效美军，武器装备上全部依赖美援，作战训练上接受美军指导。

　　第二为调整过渡阶段（1969—1979年）。这一期间，中美关系逐步有所改善，美台关系开始发生变化，台湾军队在继续争取美援的同时，开始调整军队建设的方针，在武器装备上注重自行研制和仿制，力求摆脱对美国的依赖程度，在战备训练上由美台联合逐步走向独立进行。

　　第三为自立建军阶段（1979—1990年）。1979年1月1日中美建交、美台断交后，美台“共同防御条约”被废止，双方“联合作战计划”亦随之取消。自此台军确立了“独立自主”的建军方针，在兵力结构上加强海空军建设，力求三军均衡发展；在武器装备上加快更新步伐，提高自行研制和生产能力；在战备训练上强调诸军兵种协同作战，提高独立防御作战水平。

　　第四为“二代兵力”建设阶段（1990年以来）。台湾当局自90年代以来，根据岛内外形势和两岸关系的变化，强调走“质量建军”的道路，不惜重金研制和购买大量高性能的武器装备，对主战武器装备实行全面的更新换代，并对军队编制体制进行大幅改革，精减员额，力图建成一支“量少、质精、反映快、效率高、战斗力强”的现代化军队。

　　 台湾的军事体制，在2002年3月1日改革以前，基本沿袭国民党当局退踞台湾前在大陆时期的军事体制，并参照美国的模式，即“总统”为台军最高统帅，通过军政和军令两大系统领导全军。在军政系统上，“总统”通过“国防部长”对军队行使统率权；在军令系统上，“总统”通过参谋总长对军队行使指挥权。除军政、军令系统外，台湾当局还设有“国家安全会议”，主要任务是研究和规划“国防”安全及“国家”建设大政方针。

　　“国防部”隶属于“行政院”，主管“国防”行政事务，负责军队人事安排、组织编制、军费预算、武器研制与采购、军队设施建设等。“参谋本部”为最高军事指挥机构，“参谋总长”在军令系统为“总统”的军事幕僚长，掌握军队指挥大权；在军政系统上同时又为“国防部长”的幕僚长。“参谋本部”下辖陆军、海军、空军、联勤、宪兵、海岸巡防及军管区司令部。陆、海、空军总司令部等依据军队的建军方针及原则，拟订本军种的建设规划和作战计划，战时组织指挥战斗行动，平时组织部队训练。台军还设有总政治作战部，并在军队各级单位设有相应机构，主要负责对官兵的思想教育和部队的内部控制，以及对大陆进行“心战”策反。

　　李登辉主政后，一直酝酿改革现行军事体制，拟将以前的军政、军令二元化军事体制改为一元化。1998年5月21日，台湾“行政院”通过了“国防法”草案及“国防部组织法”修正草案。2000年1月29日，《国防法》、《国防部组织法》正式公布，并由“国防部”组成“国防组织规划委员会”，在规定的三年时间内，推动军事体制的改革。2000年底，与之配套的《参谋本部组织条例》又通过立法。2002年3月1日，“国、防二法”正式实行，新的“军政、军令、军备”三大系统一元化的军事体制至此完全确立。

　　新的体制架构，实行军政、军令一元化，即“国防部长”由文人担任，为“总统”的军事幕僚长，“总统”通过“国防部长”行使统帅权指挥三军。而“参谋总长”为“国防部长”的军事幕僚长，“参谋本部”为“国防部长”的军事幕僚及三军联合作战指挥机构；“参谋本部”改称“国防部参谋本部”；原隶属“参谋本部”的各军兵种司令部等改为直接隶属于“国防部”，必须在陆、海、空军总司令部和联合后勤司令部、后备司令部、宪兵司令部前加上“国防部”三个字。“总统”对军队行使统帅权时，将直接下令“国防部长”，由“国防部长”责成“参谋总长”指挥军队。

　　依据新的军事体制，“国防部”下辖军政、军令、军备三个体系，分别由军政、军备副部长、参谋总长督导。

　　军政体系即“国防部”，编设六个司六个室和两个委员会。六个司是：战略规划司、人力司、资源司、法制司、军法司、后备事务司；六个室是：部长办公室、史政编译室、督察室、整合评估室、人事室、会计室；两个委员会是：诉愿审议委员会、国军官兵权益保障委员会。“国防部”所属机关有：总政治作战局、主计局、军医局、军备局和中山科学研究院、国防大学。

　　军令系统即“参谋本部”和联战指挥机构。参谋本部下设七个室，包括军务办公室、通信电子资讯参谋次长室、后勤参谋次长室、作战计划参谋次长室、情报参谋次长室、人事参谋次长室、联合作战训练暨准则发展室。

　　军备体系即“国防部”军备局。2003年元月3日，台“立法院”三读通过了《军备局组织条例》。“军备局”下设五个处三个室，为“国防部长”掌理军备决策事务的专业咨询幕僚机关，并为军备事务的主管机关，台军武器系统的获得、军事采购、“国防”工业发展、军备交流合作、营产管理和整体后勤支援等重要军备整备工作，均由军备局依专业分工原则管辖。

　　“国防部”下辖各司令部的组织体制为：

　　陆军总司令部内设主要机构及直属单位有：人事署、情报署、作战署、计划署、后勤署；总政治作战部；航空特战司令部、后勤司令部、教育训练暨准则发展司令部；飞弹指挥部、炮兵指挥部；督察室；兵整中心；六军团司令部、八军团司令部、十军团司令部、澎湖防卫司令部、金门防卫司令部、马祖防卫司令部、花东防卫司令部。

　　海军总司令部内设主要机构与直属单位有：人事署、情报署、作战署、计划署、后勤署、战系署；总政治作战部；督察室；作战司令部、舰队司令部、陆战队司令部、后勤司令部、教育训练暨准则发展司令部。

　　空军总司令部内设主要机构与直属单位有：人事署、情报署、作战署、计划署、后勤署；总政治作战部；督察室；作战司令部、防空警卫司令部、后勤司令部、教育训练暨准则发展司令部。

　　联合后勤司令部，执掌三军军工生产和三军后勤支援，内设主要机构与直属单位有：办公室、联络室、政治作战部、人事署、兵工生产署、工程署、测量署、经理署、物资署、财务署、主计署、留守业务署、美援物资接收处、军眷业务管理处、总务处、主计处、采购处、管制处、分发处、综合财务处、物资供应处、建筑工程处、副食供应处、粮服生产处、营房管理处、军品鉴定测验处、军法处、外事服务处、研究督察委员会等。直属机构有三军总医院及兵器生产厂、储备库及运输、油料支援指挥部等。

　　宪兵司令部：台湾当局主管军队纪律、协助治安之警察、特工机构。其职权是：主管宪兵警备，统一指挥台湾地区宪兵，协调督导军事宪兵，执行联合勤务、军事和军中司法警察勤务，维护军纪，协助治安，支援作战。内设主要机构与直属单位有：政治作战部、办公室、研究发展室、人事室、情报处、训练处、警备处、后勤处、计划处、主计处、军法处、总务处、通信处、补给处、勤务中心、宪兵训练中心等。并设有宪兵指挥部、宪兵营、调查组、机动组、宪训中心、军人监狱等业务机构。