Phong cảnh phong phú của Quận Rappahannock mang đến bối cảnh tuyệt đẹp cho khu trang trại đầu tiên này. Một trang trại đã tồn tại ở đây từ thế kỷ 18 . Ngôi nhà Caledonia Farm hiện tại được xây dựng vào 1812, sau khi John Dearing, một sĩ quan trong lực lượng dân quân Quận Fauquier trong cuộc Cách mạng, mua lại bất động sản này vào năm 1805 . Ngôi nhà theo phong cách Liên bang đối xứng này có chất lượng bản địa với những bức tường được xây dựng bằng đá phiến bản địa. Dearing và gia đình ông duy trì lối sống quý tộc ở đây, sở hữu hơn hai mươi nô lệ và chín con ngựa. Ngôi nhà ở trang trại Caledonia mang phong cách đặc trưng của giới thượng lưu, có một nhà bếp ngoài trời, mặc dù hiện nay được kết nối với ngôi nhà chính bằng một lối đi có mái che nhưng đây là tòa nhà phụ duy nhất còn sót lại từ đầu. Ngôi nhà bị bỏ hoang trong khoảng mười lăm năm và được phục hồi vào năm 1963-64. Nội thất đã được cải tạo nhưng nhiều đồ gỗ nguyên bản, bao gồm cả lò sưởi của Liên bang, vẫn còn nguyên.