永延3年（989）頃、源頼光四天王の1人として勇名を轟かせていた日向守碓氷貞光が越後から上野国に越える時、夜もすがら読経をしていると夜半の頃、どこからともなく童子が現れて「汝が読経の誠心に感じて四万の病悩を治する霊泉を授ける。我はこの山の神霊なり」と夢うつつにこの神託を聞いた。覚めた後、湧出する温泉を見つけた貞光は、温泉を御夢想の湯と呼び、この地を神託にちなみ四万の郷と名付けたそうです。

四万温泉の泉質は源泉により多少成分量は異なりますが、ナトリウム・カルシウム－塩化物・硫酸塩泉です。群馬県の源泉台帳に登録されている源泉は、全部で43ヶ所もあり、そのうち40ヶ所が自然湧出となっています。
お湯に浸かれば、胃腸病・神経痛・リウマチ・皮膚病・擦り傷・切り傷・アトピー性皮膚炎などに、飲泉時には胃腸病や食欲増進に効能が認められています。

伝説によると、桓武天皇の延暦年間、征夷大将軍坂上田村麻呂が、この地に泊まり入浴したのが最初だと云われています。
永禄6年（1563）には、山口地区において、田村旅館の先祖田村甚五郎氏が、最初の湯宿を開いたとされ、その後、他の地区にも次第に湯宿ができ、昭和29年に国民保養温泉地第１号の指定を受けました。