Mapa físico de Gansu
La mayor parte de la provincia tiene una elevación de un kilómetro sobre el nivel del mar. Parte del desierto de Gobi pertenece a Gansu. El norte de la provincia es llano mientras que el sur es montañoso. El pico más elevado de la zona es la montaña Qilian de 5.547 metros de altitud
Está ubicada en la región China del Noroeste, limitando al norte con Mongolia, Mongolia Interior y Ningxia, al este con Shaanxi, al sur con Sichuan, y al oeste con Qinghai y Sinkiang. Con 454 000 km² es la sexta entidad subnacional más extensa del país por detrás de Sinkiang, Tíbet, Mongolia Interior, Qinghai y Sichuan y con 56,43 hab/km², la quinta menos densamente poblada, por delante de Mongolia Interior, Sinkiang, Qinghai y Tíbet, la menos densamente poblada.