格兰牧羊犬起源于苏格兰低地，名字来自当地叫可利的黑羊。和许多其它犬种一样，深得维多利亚女王的恩宠。1860年，当女王亲临苏格兰访问时，携带数只返回温沙堡饲养。于是，在英国逐渐成为广受好评的牧羊犬。90年代末期，同样受到美国人的青睐。1940年，牧羊犬主演莱西(由古典小说而改编的电影“灵犬莱西”)一角而闻名。

苏格兰牧羊犬人们常常简称它为“苏牧”。其实苏格兰牧羊犬还有另外一个名字——柯利牧羊犬，“柯利”这名字来源于“煤炭”或“炭黑，可能是因为它在苏格兰看管黑面羊得名，也可能是因为大部分的这种狗狗身上长有长黑毛而得名。

早期的苏格兰牧羊犬是苏格兰人为了放牧牛羊的需要，而有意识培育的一种犬种，那时塑造的体形外貌都是为了适应放牧工作的需要，而今天的苏格兰牧羊犬也渐失这一功能，更多是作为伴侣犬，因此体型与300年前相比，已经发生了较大改变，这种改变，在很大程度上是一种审美需要。