刀鞘的用材因人而异，像日本刀为了取其轻便容易携带，多半使用质轻而软的楮树，台湾原住民中的赛夏族也基于同样的理由，而以江某当刀鞘。也有许多中国宝剑为了经久耐用，而使用坚硬的紫檀、黄檀，台湾原住民中最擅长炫耀性雕刻的排湾族，其头目的佩刀，甚至有使用地球上最坚硬而贵重的黑檀木当刀鞘。

软木制成的刀鞘，适宜利用漆艺来涂装，以彰显它的美感。硬木制成的刀鞘，则可以用金银线镶嵌、螺钿来凸显它的历久弥新。