Terhole stond vanouds bekend onder de naam Brandershole. Dat kwam omdat er in zoutziederijen veen werd verbrand ten behoeve van de zoutnering. In de 13e en 14e eeuw was de ‘selnering’ economisch van groot belang. Het was in die tijd het belangrijkste handelsproduct dat vanuit Hulst werd verscheept.
De opkomst van het dorpje, dat tot in de 19e eeuw wordt beschreven als een gehucht, is vooral te danken aan de ligging in de buurt van de uithof van de abdij Van Baudeloo. Deze grote monnikenboerderij lag namelijk dichter bij Terhole dan bij Lamswaarde, terwijl het daar in geschriften vaak onder wordt gerangschikt.
Het in de 13e eeuw reeds bekende gehucht had zwaar te lijden onder de innundaties in de Tachtigjarige Oorlog. Nadat de dijken in 1615 waren gedicht groeide het uit tot een dorp, dat op het hoogtepunt circa 1000 inwoners telde.
Terhole ligt aan de weg tussen Perkpolder en Hulst en had daardoor zwaar te lijden onder de verkeersdruk. Daar kwam in 2003 een einde aan bij de opheffing van de veerdienst Perkpolder-Kruiningen. De opening van een rondweg in 2004 leidde ertoe dat het nog rustiger werd. Het gebied achter Terhole, bij de Molenhoek, de Notendijk, de Mispad en Roversberg onder Lamswaarde, is bijzonder aantrekkelijk voor fietstoeristen.
Terhole telde in 1840 186 inwoners, in 1980 505 en in 2010 523. Het dorp is nooit een zelfstandige gemeente geweest. Het behoorde tot de gemeente Hontenisse alvorens Terhole in 2003 onder de gemeente Hulst ging ressorteren.
Het rooms-katholieke dorp met zijn Gerardus Majellakerk (gelegen aan de Notendijk 5).
De bevolking, vrijwel uitsluitend bestaande uit rooms-katholieken, kerkte eeuwen lang in Hulst, Lamswaarde of Stoppeldijk. Herhaalde verzoeken om een eigen kerkgebouw te mogen stichten werden in 1919 eindelijk gehonoreerd. In 1920 werd Terhole een zelfstandige parochie.
Grootse plannen werden gesmeed voor het bouwen van een kloeke pastorie en een forse kerk. De pastorie kwam er, maar het tweede doel bleek financieel niet haalbaar te zijn. Zodoende kreeg Terhole in 1921 een eenvoudig bedehuis, dat de status kreeg van hulpkerk. Deze werd gewijd aan Gerardus Majella. Deze in de buurt van Napels opererende volksheilige (1726-1755) was tijdens de stichting van de kerk bijzonder populair. Paus Leo verklaarde hem in 1893 zalig, waarna Pius X hem in 1904 heilig verklaarde. Tot ver in de twintigste eeuw trok de kerk van Terhole jaarlijks bij het patroonsfeest op 16 oktober bedevaartgangers uit de wijde omtrek. Gerardus is schutspatroon van kinderen en zwangere vrouwen.
