Biệt thự Hill là một ví dụ tinh tế về phong cách kiến trúc Ý, một trong số nhiều phong cách kiến trúc đẹp như tranh vẽ phổ biến vào những năm 1850 . Ngôi nhà được hoàn thành vào 1857 cho Edward Baptist Hill, thành viên của một gia đình Culpeper nổi tiếng. Mặt tiền được che chắn bởi một hiên nhà có mái vòm, một đặc điểm được ưa chuộng ở những ngôi nhà phía Nam trong thời kỳ này. Những đặc điểm đáng chú ý khác là lớp vữa trát có khía, những hiên nhà tinh xảo, bằng cả gang và gỗ, cũng như các đồ nội thất, bao gồm một cầu thang cong rộng. Ngôi nhà từng là bệnh viện của Liên minh miền Nam và được cả Thiếu tá đến thăm. Tướng AP Hill, anh trai của người xây dựng, và Tướng Robert E. Lee, người con trai bị thương của ông, Chuẩn tướng. Tướng WHF (“Rooney”) Lee đã được chăm sóc tại đó. Sau này trong chiến tranh, nơi đây được sử dụng làm trụ sở cho quân đội Liên bang.  Ngôi nhà góp phần tạo nên Khu lịch sử Phố Đông Nam ở thị trấn Culpeper.