小抹香鯨的體形比抹香鯨要小得多，體長還不足4米。頭部也比較小，大約只有體長的六分之一。吻部的前突呈三角形。噴氣孔遠較其他齒鯨類動物的位置靠前。右鼻道經鯨蠟器官的下面到達噴氣孔，左鼻道則繞左側通過，這些特點都與抹香鯨相似。
下頜的長度大約為10-13厘米，前端不達到上額的吻部，外形與鯊魚相似。下頜的牙齒也比較多，左右側各有12-16枚，也有少數為10-11枚，性成熟後這些牙齒便穿出齒齦，與上頜的齒齦構成承口狀嵌合。上頜的每側也有3一7枚痕跡性的小牙齒，長度僅有3-10毫米，直徑為1毫米。與抹香鯨不同的是，它具有背鰭，但比較低，高度僅有大約15-20厘米，呈鐮刀形，位於身體中部的後面。另外，它的7個頸椎全部癒合，也與抹香鯨不同。肋骨共有13對，其中8對是雙頭肋骨。胸骨有3節。鰭肢不太長，末端較尖，具有5指。尾鰭中等，背鰭與鰭肢之間是身體最粗的部位，由此向後逐漸變細。肛門至尾鰭之間的體形呈側扁狀，高度約為寬度的2倍。腹腔要比同樣體長的其他鯨類或海豚類大1倍左右，所以內臟也很大，但沒有盲腸，也沒有膽囊，膽汁由輸膽管直接輸入十二指腸。它的背部為炭灰色或藏藍色，腹面為灰色或白色。鰭肢的上面為瓦灰色，下面顏色略淡。尾鰭的上下兩面都是灰色或瓦灰色。由耳孔向後及後下方有“之”字形的白花紋，但個體之間的差異很大。
小抹香鯨的分布區與抹香鯨大體相似，但更常見於大西洋、印度洋和太平洋的熱帶至溫帶水域。在我國見於南海和台灣海域的基隆、高雄、宜蘭大溪港、屏東東港附近。
小抹香鯨在分類學上隸屬於抹香鯨科、小抹香鯨屬，在自然界的數量非常稀少。它喜歡集成3-5隻的小群在一起活動，以烏賊、魚類等為食，還吃沿岸一帶活動的蟹類。
