Фамилия образована из того же горстка прозвища. По одной из версий, она берет свое начало в нарицательное «горсть», значением которого является В. Далее в "Толковом словаре русского языка» определяет следующее: "что-то количество забираемой в одну горсть, грабли с одним рука с пальцами ", но и в переносном смысле -" маленькая, крошечная, непропорционально небольшое количество ". Исходя из этого, можно предположить, что горстка называется словом, маленький человечек.
Возможно также, что прозвище горстка этимологически связано с глаголом "gorstat" - ". бери или загребать горстями" В этом случае прозвище горстка, скорее всего, отражают особенности характера и поведения основателя семьи (упорство, hvatkost, скупость).
В "Onomastikone" академика С. Б. Веселовского записан семью фамилиями: Simon Gorstkin, губернатор в битве с татарами под Белева (1436), а также Федор Gorstkin (1604, White). легло в основу названия горстка. Иногда прозвище глава семьи передаются потомству в неизменном виде. В конце концов получила название горстка.