Herby wyróżniające najbardziej znane rody w całej Europie narodziły się w średniowieczu.
Warto pamiętać przy tym, że ich powstanie było podyktowane przede wszystkim względami taktycznymi. Średniowiecze było czasem wielkich bitew, w których, po każdej ze stron, uczestniczyły setki żołnierzy, wojownicy uczestniczący w starciach musieli więc opracować system pozwalający im na odróżnianie członków własnego oddziału. Zbroja zakrywała na ogół wszelkie znaki szczególne, znane w czasie pokoju twarze były zatem niemal nie do rozpoznania w bitewnym szale.
Herb pozwalał zatem na szybką identyfikację, koordynację działań, łatwiejsze realizowanie poleceń zwierzchników, a ostatecznie – na prowadzenie bitwy w sposób przewidziany przez taktyków.
Z pojęciem herbu ściśle wiąże się prawo heraldyczne, bardzo szybko zdecydowano bowiem o tym, że znaków potwierdzający przynależność do rycerstwa, stanu szlacheckiego lub stanu duchowego nie można wymyślać i wybierać w przypadkowy sposób. Czas kształtowania się prawa heraldycznego datuje się na okres pomiędzy trzynastym i piętnastym wiekiem i choć po tym czasie również powstawały herby (nie wszystkie rody legitymowały się tak długą historią) nie można było nadawać ich w przypadkowy sposób.
Początkowo istniał dość silny związek pomiędzy herbem, a terytorium zajmowanym przez osoby posługujące się takim znakiem. Załamał się on pod koniec średniowiecza, gdy popularne stawało się nadawanie herbów osobom pozbawionym zwierzchnictwa lennego (nadawanie herbów dawało niektórym zachodnim władcom możliwość zarobkowania). Na ziemiach polskich herby pojawiły się w trzynastym wieku.