大枝平展，小枝细长，下垂；冬芽形小。叶二型，螺旋状排列，基部下延；老树之叶鳞状钻形，在小枝上密生，

并向上斜弯，先端尖或钝，横切面三角形或四棱形，背腹面均有气孔线；幼树和萌芽枝的叶钻形，较大，微向上弯曲，镰状，两侧扁平，先端锐尖。雌雄同株；雄球花数个簇生于小枝顶端，雄蕊多数、螺旋状排列，花药2-4，卵形，药室纵裂，药隔鳞片状；雌球花单生小枝顶端，直立，苞鳞退化，珠鳞多数、螺旋状排列，珠鳞的腹面基部有2枚胚珠。球果形小，种鳞革质，扁平，鳞背尖头的下方有明显或不明显的圆形腺点，露出部分有气孔线，边缘近全缘，微内弯，发育种鳞各有2粒种子；种子扁平，两侧有窄翅，上下两端有凹缺；子叶2枚。

台湾杉最早的采集纪录，见于1868年英国博物学家安德森在中国云南省腾冲的高黎贡山所采的标本，其中有一份送到英国皇家植物园，因仅有形似柳杉的枝叶，不带有毬果，而被误认为柳杉，盖当时台湾杉尚未公诸于植物学界。台湾杉的正式属名与种名系在1906年由日本植物学家早田文藏（1874年12月2日－1934年1月13日）在台湾发表，以台湾之名来命名这个属。原以为仅分布于台湾地区于是命名台湾杉，之后在中国云南、贵州以及缅甸北部也发现此物种零星分布。2000年在越南北部也发现了小群，但以台湾族群数量最为丰富。以前将中国、缅甸、越南分布之物种（秃杉）与台湾发现的物种（台湾杉）视为同一物种，后来研究发现秃杉和台湾杉有明显的族群分化现象，显示两族群之分离已有一段时间，因此有些学者将秃杉视为台湾杉的变种，也有些学者认为其分化未达到新物种资格仍应将视为同一物种，现今已经将秃杉从台湾杉独立出来，但仍有争议。