小山市は栃木県南部に位置し、東京圏からは北に約60キロメートル、県都宇都宮市からは南に約30キロメートルの距離にあります。
地形は、関東平野のほぼ中央でほとんど起伏がなく、市中央部には思川が、東部に鬼怒川が、西部に巴波川が流れています。
市域の東側は茨城県に接しており、隣接市町は東に真岡市・茨城県結城市及び筑西市、南に野木町・茨城県古河市、西に栃木市、北は下野市に接しています。
また、本市は、「水と緑と大地」の美しく豊かな自然と、数多くの歴史的・文化的資産を有し、農業・工業・商業の調和のとれたまちとして発展しています。