軍艦岩的位置在石牌榮總醫院後山，是大屯山系最南端的一個山嶺，標高僅192公尺。雪白的巨岩凸起佇立在層層疊疊的群巒間，遠望如艦艇乘風於綠波之上，氣勢磅礡，因而得名。軍艦岩的步道是天然的砂岩石階，其中芒萁是乾旱地區或岩石裸露地常見的植物，車桑子則是土地貧瘠岩石地的代表性植物。
其地質以2,400萬～2,200萬年前的木山層為主，富含煤層。在軍艦岩可觀察濱海相交錯層、彩色的風化紋及砂、頁岩交互層，而雪白的砂岩更是濱海的證據。
軍艦岩山稜線上的厚層砂岩，不易侵蝕風化，土壤異常淺薄，加上風衝壓力，植物很難生長，部份山脊完全裸露，成為奇特的灌木植群景觀。軍艦岩雖海拔僅百餘公尺，卻偶而發現生長在中央山脈2,500公尺的植物，主要是因山脊線上的風衝壓力，氣溫較低，造成植物生態帶的下降，是另一生態特色。