中古英语的 smal、smale，源自古英语的 smæl，意为“纤细、苗条、狭窄；精致”。它来自原始日耳曼语的 *smal-，意思是“小动物；小的”。这个词的变体在古撒克逊语、丹麦语、瑞典语、中世纪荷兰语、荷兰语、古高地德语中都有，如 smal、smel、schmal（意为“狭窄、纤细”），还有哥特语的 smalista（“最小的”）和古诺尔斯语的 smali（“小牛、小羊”）。这个词可能源自原始印欧语根 *(s)melo-，意为“小动物”，与希腊语的 melon、古爱尔兰语的 mil（“小动物”）以及古教会斯拉夫语的 malu（“坏”）相关。
“狭窄”的原始含义如今主要用于描述腰围（约公元1300年）和肠道（晚期古英语）。
My sister ... is as white as a lilly, and as small as a wand. [Shakespeare, "Two Gentlemen of Verona," 1591]
我姐姐……白如百合，纤细如枝条。[莎士比亚，《维罗纳的两位绅士》，1591年]
在古英语中，“不大、体积小、尺寸小于一般”这一意义逐渐发展。用来形容儿童时，意指“年轻、尚未发育完全”，出现于13世纪中期。到13世纪晚期，这个词又引申为“程度或数量上的微小或低劣”。14世纪中期，它开始被用来表示“琐碎、不重要、轻微”。1746年，这个词被用来形容“财产或生意微薄”。而1824年，它则被用来描述“心胸狭隘、卑鄙自私”的人。
Small fry（小鱼）这个词在1690年代最初指小鱼，1885年起则用来形容微不足道的人。Small potatoes（小土豆）意为“无关紧要的事情、琐碎或微不足道的事”，最早见于1924年；small change（零钱），比喻“价值不大的东西”（这里的 change 指“金钱”）则出现在1902年；small talk（闲聊、琐碎对话，1751年）首次记录在切斯特菲尔德的《书信》中。Small-arms（轻武器）指手持武器（与 ordnance 对比），1710年起被记录。Small clothes（1796年）指的是膝裤，特别是18世纪的那种，区别于长裤。Small hours（15世纪中期）最初是指宗教仪式中的小时祷告。
Small world（小世界）作为对意外重逢的评论，最早记录于1895年。为了区分一般性和特指，如 democrat with a small d（小写的民主党人），这种结构在1952年被证实。
