Elle est entourée par l'île de Sumbawa au nord-ouest, séparée de l'île de Florès au nord-est par le détroit de Sumba, bordée à l'est par la mer de Savu et l'île de Timor, et ouverte au sud sur l'océan Indien. Contrairement à de nombreuses autres îles indonésiennes connues pour leur activité volcanique intense, le relief de Sumba est relativement bas et se caractérise principalement par des plateaux et des collines calcaires. Le point culminant de l'île est le mont Wanggameti, qui s'élève à 1225 mètres d'altitude.

Le climat de l'île est de type tropical de savane, marqué par une alternance nette entre une saison sèche prolongée s'étendant de mai à novembre et une saison des pluies de décembre à avril. Cette dichotomie climatique crée un contraste notable entre l'ouest de l'île, plus fertile et mieux arrosé, et l'est, qui est nettement plus aride. Les températures moyennes oscillent généralement entre 25 °C et 32 °C, mais peuvent parfois dépasser 36 °C dans les régions occidentales durant la période la plus sèche. En raison de ce régime pluviométrique, l'hydrographie de Sumba est limitée et la plupart des cours d'eau ont tendance à s'assécher complètement pendant la saison sèche. Cet assèchement rend l'approvisionnement en eau potable particulièrement difficile pour les populations rurales, bien que la rivière Kambaniru, près de laquelle se trouve le principal port de Waingapu, constitue l'une des rares exceptions notables.

Sur le plan écologique, Sumba appartient à la région biogéographique dela Wallacea, ce qui lui confère un mélange unique de flore et de faune d'origines asiatique et australasienne. L'île était originellement recouverte de forêts de mousson à feuilles caduques, tandis que les pentes exposées au sud, plus humides, abritaient des forêts pluviales sempervirentes. Cependant, la déforestation massive liée à l'expansion agricole, notamment pour la culture du maïs et du manioc, ainsi que l'érosion, ont considérablement appauvri les sols, en particulier dans la partie nord. Cette fragmentation des habitats menace une biodiversité remarquable, incluant plusieurs espèces d'oiseaux endémiques et vulnérables telles que le calao de Sumba, le perroquet éclecte de Sumba et la chouette de Sumba. Des populations de crocodiles marins sont également présentes dans certaines zones estuariennes et côtières de l'île. 

L'île de Sumba relève administrativement de la province de Nusa Tenggara oriental. Le territoire insulaire est découpé en quatre régences (kabupaten) distinctes : Sumba oriental, Sumba occidental, Sumba central et Sumba du Sud-Ouest, sans qu'il n'existe d'autorité administrative unique couvrant l'intégralité de l'île.