הבורדר קולי פותח באזור הגבול בין אנגליה לסקוטלנד ככלב רועים עובד. תחרות כלבי הצאן הראשונה שתועדה נערכה בבאלה שבצפון ויילס ב־1873. ב־1906 הוקמה אגודת כלבי הצאן הבינלאומית (ISDS), במטרה לשפר את כלב הרועים.
אולד המפ, שנולד בספטמבר 1893 בנורת׳אמברלנד וגודל על ידי אדם טלפר, נחשב לאב המייסד של הגזע. הוא היה כלב שקט ועוצמתי שהצאן נענה לו בקלות, הוליד יותר מ־200 גורים ותוך דורות ספורים סגנון הרעייה שלו הפך לסגנון של כל הגזע. את השם "בורדר קולי" טבע ב־1915 ג׳יימס ריד, מזכיר ה־ISDS, כדי להבדיל בין הכלבים הרשומים באגודה לבין הקולי של מועדון הכלבנות.



