Die eigentliche Geburtsstunde Horsmar's liegt im Dunkel der Vergangenheit. Die urkundliche Erst erwähnung eines Namens "de Hursmare" aus dem Jahr 1191 ist nicht identisch mit der Gründung des Ortes.

Erste vor geschichtliche Funde rund um die jetzige Orts lage deuten darauf hin, dass diese Gegend schon im 4. Jahrtausend v. u. Z. besiedelt war. Beim Ausstechen einer Sandgrube 1930, ca. 40 m nördlich vom Wehr der früheren Obermühle, fand man aus dieser Zeit Skelett reste in einem Hockergrab.

Auch das Hügelgräberfeld auf dem Kühmstedter Berg weist in Größe und Form der Hügel in die Zeit von 1600 bis 1300 v. u. Z. Es ist das größte und bedeutendste Hügelgräberfeld im Kreis Mühlhausen und steht unter Bodendenkmalschutz. "Auf dem neuen Graben" südöstlich vom Siechenholz wurde 1985 ein Steinbeil gefunden, das ins 4. Jahrtausend v. u. Z. weist. Auch die früh geschichtlichen Scherben, die 1972 am Elseweg zu Tage kamen, lassen auf eine Siedlung schließen. Doch die bisher fund reichste Siedlungsstelle in der Gemarkung Horsmar ist der Hanfsack.

Die Funde streuen sich über mehrere Grundstücke. Sie stammen aus verschiedenen Zeitepochen und zeigen hier einen länger besiedelten Platz an, der für die Ur- und Frühgeschichte Horsmars von besonderer Bedeutung ist. Hier lässt sich der alte Siedlungskern vermuten, von dem die spätere Ortsentwicklung ausging.

Von hier stammen aus dem Grundstück W. Kubitza, Hanfsack 3, ein Steinaxtbruchstück aus der Jungsteinzeit oder Spätbronzezeit. Ein Steinbeil aus dem Grundstück K. Wegerich, Hanfsack 13, weist sogar in das 5. Jahrtausend v. u. Z. Vom gleichen Grundstück wurden bei Schachtungsarbeiten Scherben aus der Zeit spätes 6./5. Jahrhundert v. u. Z. zu Tage gefördert. Sie bilden das häufigste Fundgut und deuten auf eine starke Besiedlung während dieser Zeit.

Die zweitstärkste Siedlungsphase war in der Zeit ca. 300 -100 v. u. Z. Aus dieser Zeit stammen mehrere Bruchstücke eines bauchigen Topfes mit eingeglätteten Linienbündeln in Sparrenform.

Sie sind im Zusammenhang mit dem frühesten Vorstoß der Hermunduren in unser Gebiet zu sehen (ca. 20/30 v. u. Z.). Seit der Völkerwanderung zeichnet sich für Horsmar Siedlungskontinuität ab und es ist anzunehmen, dass während dieser Zeit der Ortsname "Hursmare" entstanden ist. Hursmare bedeutet soviel wie "mit Gesträuch bewachsenes sumpfiges Flussufer" oder "wässriges Gelände".

Ein sumpfiges Flussufer kommt weniger in Betracht. Der Begriff "mar" scheint sich auf das Tal des Röttelbaches im Westen von Horsmar zu beziehen, das senkrecht zur Unstrutverläuft und mit dem Erbsbrunnen auf halber Höhe eine feuchte Stelle im Talgrund bildete.

Diese Schreibweise bestand bis zum 13. Jahrhundert.

Horsmar war ein ehemaliges Reichslehen im Besitz der Grafen von Gleichen. Diese Annahme wird bestätigt durch die Urkunde von 1293, in der Heinrich Graf von Gleichen dem Kloster Anrode zwei Hufen [Land] zu Horsmar übereignete. Die umfangreichen Besitzungen der Grafen von Gleichen wurden durch Ministerialen verwaltet, von denen die Einwohner feudalabhängig waren und die ihnen Fruchtzins, Frondienste und andere Abgaben leisten mussten.

Die Tatsache, dass es in Horsmar einen Ministerialen der Burg Gleichenstein gegeben hat, beweist die Nennung eines Geschlechts "de Hursmare" in der Urkunde vom [15. 4.] 1191 und vom 28. März 1292.