Хармс фамилия образуется из названия того же самого человека, который является уменьшительной формой немецкого человек по имени немецкого (немецкий> Garmens> Гармс). Это, в свою очередь, восходит к немецким словам GER, гр («копье») и Манн («человек, мужчина"). Существует также предположение, что немецкое название является вариантом имя Герман, которая происходит от немецкого слова Хери, хари («армия») и Манн («человек, мужчина").
Согласно другой гипотезе, основанной на фамилию мог пойти Герман греческого происхождения. Известно, что Святой Герман (в 8-м веке) - литургический поэт, и патриарх Константинополя.