本市は、県の中心都市大分市から南東に約30キロメートルの豊後水道に面した海沿いの都市であり、北に臼杵市、南に佐伯市と境を接している。
豊後水道に面した津久見湾の湾口部を囲うようにして半島部の典型的なリアス式海岸が伸び、それを更に鎮南山、姫岳、碁盤ケ岳、彦岳といった600〜700メートルの山地が三方から馬蹄型に囲んでいる。島しょ部は、南の四浦半島の延長に保戸島、北の長目半島の延長に地無垢島、沖無垢島と合計3島がある。美しいリアス式の海岸線が、山地斜面のみかん栽培の段々畑とコントラストをなしており、ブルーとオレンジの風光明媚な景観を構成している。
市街地を形成する平坦地は、山地が海に迫っているため、青江川、津久見川の谷底平野と海岸線の小さな平地に限られている。津久見港が津久見湾の湾奥部に位置し、全体に海底が深く天然の良港となっている。
日豊本線と津久見港に挟まれた石灰石採掘場(水晶山)から南西へ胡麻柄山、碁盤ケ岳を経て臼杵市に至るまで幅約1キロメートル、長さ約10キロメートルの石灰石の巨大な岩体が横たわっているが、石灰石の採掘による地形の人工改変により、日々その形態を変えている。