Jakobus der Ältere wird im Hettstedter Wappen als golden nimbierter Pilger auf silbernem Hintergrund abgebildet. Er hat schwarzes Haar und einen schwarzen Vollbart, trägt einen grünen Mantel, einen grünen Hut, schwarze Riemensandaletten sowie ein goldenes Pilgerkleid mit einem schwarzen Gürtel. Über dem Pilgerkleid ist eine schwarze Umhängetasche zu sehen. Tasche und Hut sind mit je einer silbernen Pilgermuschel belegt. Jakobus hält in seiner rechten Hand einen siebenmal von Silber über Rot geteilten Schild, welcher das Wappen der Edelherren von Querfurt zeigt. Es ist außerdem ein schwarzer, beknaufter Pilgerstab zu sehen, der an seinem rechten Arm lehnt. In seiner linken Hand hält Jakobus einen gevierten Silberschild. Dessen Felder 1 und 4 weisen drei rote Balken der Querfurter Edelherren auf, die Felder 2 und 3 jeweils die sechs roten Rauten der Mansfelder Grafen Hoyerschen Stammes.

Das Hettstedter Wappen entstand, als die Stadt sich unter der Hoheit der Mansfelder Grafen befand. Deren Wappen bestand zu jener Zeit aus Balken und Rauten, wie sie im heraldisch linken Wappen des Jakobus zu sehen sind. Die Mansfelder Grafen Hoyerschen Stammes hatten die Rauten im Wappen. Als 1229 Burchard I. starb und der Besitz an die Edelherren von Querfurt ging, fügten Letztere ihre roten Balken hinzu. Die Edelherren von Querfurt führten fortan zusätzlich den Titel des Mansfelder Grafen.