Köyün ne zaman kimler tarafýndan kurulduðu kesin olarak bilkinmiyor.Ancak Rumlarýn ve Ermenilerin oraya ilk yerleþenler olduðu ihtimali yüksektir.Köyün eski adýnýn Rumca oluþu Rumlarýn kurduklarý ihtimalini artýrýyor.

     Köyde tarihi çok eski yýllara dayanan maðaralar vardýr.Bu maðaralar içerisinde týpký Gümüþhane Karaca maðaralarýnda olduðu gibi sarkýtlar,dikitler ve su birikintileri vardýr.Bu tarlanýn içinden çýkan ve bir tarlayý sulayacak,hatta bir deðirmen taþýný çevirebilecek miktarda su çýkar.

     Köyün kuzeyinde tarihi çok eskiler dayanan kale vardýr.Harabe ve bakýmsýzdýr.Rumlar zamanýnda burada yaþayan halkýn nalbantlýkla ve demircilikle uðraþtýðý söylenir.

     Yaylým köyü Köse ilçe merkezinin doðusunda olup Köse Bayburt karayolunun üzerindedir.Köyün Köse ilçe merkezine uzaklýðý  12 km olup karayolunun 4 km kuzeyinde engebeli bir arazi içindedir.Bayburt' 50 km,Gümüþhane'ye 65 km uzaklýktadýr.