Erzurum-Erzincan karayolu kenarına kurulmuş köyümüz adını hemen yukarısındaki yalçın kayalıkların renginden alır. Ağzı Peri
mevkii denilen yere kurulan Balaban Sarıkaya Köyü
Balabanlar tarafından kurulmuştur. Eski yerleşim alanında 16, yeni yerleşim
alanında da 6 ailenin yaşadığı köyde Kureş ve Balaban
sülaleleri yaşıyor.
Göç olgusunun derinden hissedildiği köyde bugün az bir nüfus
yaşıyor. Orman arazisiyle sınır olan
köyde tarım ve hayvancılık ihtiyaç kadarıyla yapılmaktadır.
Balaban Sarıkaya köyüne bağlı
dört mezra vardır. Bu mezralar Puta Mezrası, Derviş Nuri Mezrası, Çaykom Mezrası ve
Değirmen Mezralarıdır.
Köy sınırları içerisinde
bulunan Sülüklü Gölde yaşayan sülüklerin bir çok hastalığı iyileştirici
etkisi bulunduğu; varis ve damar hastalıklarına da iyi geldiği inancı yaygındır.