Фамилия образована от прозвища Гость. Гость в старину называли не только посещение купцом, но в целом чуждо. Тем не менее, часто дают прозвище Гость недобрых людей, незваных посетителей, а также воры, грабители особенно на Волге.
В "Onomastikone" академика С. Б. Веселовского упомянутых гостей, слуга, 1506, Мур, Эндрю Gostenok, горожанин человек, 1586, Псков, Саймон Тимофеев, 1570, Владимир Gostihin, Пушкарь, 1659, Лебедяни. Гость, в конечном счете, полученные до приезда гостя.