大分県の南西部に位置し、くじゅう連山、阿蘇外輪山、祖母山麓に囲まれた地にあります。東は豊後大野市と大分市、西は熊本県、南は宮崎県、北は九重町と由布市(庄内町)に接しています。 また、河川では大野川の源流を有しており、一日に数万トンの湧出量ともいわれる湧水郡を誇る水と緑があふれる自然豊かな地域です。 山々から湧き出る豊かな名水は、全国的にも知られ、下流域の多くの人々の生活を支えています。本市では、こうした大自然の恵みを活かした農業や観光が基幹産業となっています。