Sehr viele Amtshandlungen wurden früher nicht mit Bargeld beglichen, sondern es wurde durch so genannte Stempelmarken das Entrichten der jeweiligen Gebühren geleistet. In Österreich galt diese Regelung der Gebührenentrichtung von 1854 bis 2002. Für die einzelnen Ämter gab es unterschiedliche Stempelmarken. Die Gerichtsmarke hatte die Aufschrift „Justiz“. Erhältlich waren die Stempelmarken bei den jeweiligen Ämtern oder in Trafiken. Nach der Umstellung von Schilling auf den Euro wurden in Österreich die Stempelmarken abgeschafft. Bis 2004 gab es auch in Deutschland die Gerichtskostenmarken.
Gebühren oder Steuern, die durch abstempeln oder aufkleben einer Marke auf Papieren oder Gegenständen erhoben wurden, wurden Stempelsteuer genannt. Der Begriff ist auch heute noch in Österreich gebräuchlich und benennt die Gebühr, die bei dem Abstempeln von Ausweispapieren anfällt.
Der Begriff „Stempeln gehen“ rührt aus den zwanziger Jahren und bezeichnete das Beziehen von Arbeitslosengeld. Noch heute wird dieser Begriff umgangssprachlich gebraucht. Der Ausdruck ist darauf zurückzuführen, dass jedes Mal, wenn ein Arbeitsloser sein Geld abgeholt hat, ein Stempel mit dem aktuellen Datum in seine Papiere gesetzt wurde, um die Auszahlungen kontrollieren zu können.
Arbeitslose mussten in regelmäßigen Abständen ihre Arbeitssuche dadurch beweisen und mit Ihrer „Stempelkarte“ beim zuständigen Arbeitsamt vorsprechen. Von einem Sachbearbeiter wurde dies mit dem Abstempeln der Karte beglaubigt. So hatte der Arbeitssuchende ein Recht auf eine finanzielle Unterstützung, die er nach Vorzeigen des Stempels an der Kasse erhielt.
Der Stempel dient der Vereinfachung von Schreibabläufen, wie das Einsetzen einer Adresse. Runde Stempel, die schwer zu fälschen sind, werden von Behörden eingesetzt und erinnern noch immer an ein Siegel.