Kars ili Doğu Anadolu Bölgesinin kuzeydoğu kesimlerinde yer almaktadır. Büyük bir plato özelliği gösteren il coğrafyasında genel olarak bitki örtüsü bozkır görünümündedir. Yalnız Sarıkamış ilçesinde çam ormanları bulunmaktadır.

Kars merkez ilçesi, Doğu Anadolu Bölgesinin, Erzurum-Kars Bölümünde yer alır. Kuzeyinde Susuz, Arpaçay ve Akyaka ile, doğusunda Ermenistan ile, güneyinde Digor ve Kağızman'la, batısında ise Selim ve Erzurum sınırlarıyla çevrilidir. Merkez ilçe yedi ilçe içinde sadece Sarıkamış ile komşu değildir. Serhat şehir Kars'ın bazı merkezlere olan uzaklığı şöyledir:

Rakımı ortalama 1768 metreyi bulan Kars arazisinin büyük bölümü yaylalardan oluşur. Akarsu vadileriyle yer yer parçalanan yörede yaylalar dalgalı düzlüklerden oluşur. Kars ilinde yer alan önemli yükseltiler olan Allahuekber Dağları, Kısır Dağı, Akbaba Dağı, Aladağ ve Aşağıdağ'ın bir kısmı merkez ilçe sınırları içerisindedir. Kars Çayı, kentin güneybatısından geçer. Kent aynı adlı ovanın üzerinde kurulmuştur.

Kars Doğu Anadolu Bölgesinin en soğuk bölgesinde yer alır. Bu nedenle karasal bir iklime sahiptir; kışları uzun ve sert, yazları ılımlı hatta serince geçer.