Đến Kim Liên là một trong ''Thăng Long Tứ Trấn'' đã có từ thời vua Lý Thái Tổ (vua Lý Công Uẩn) dời đô từ Hoa Lư về Thăng Long. Ngay từ khi dựng Đô, vua Lý Công Uẩn đã tìm thấy niềm tin vào kinh thành bền vững, thấy các hướng đều có các vị phúc thần che chở, bảo vệ. Qua các tư liệu, thiw tịch, văn bia, săc phong về di tích đều khẳng định Đền Kim Liên là nơi thờ Thần Cao Sơn, một nhân vật quan trọng trong Điện Thần Việt cổ. Theo văn bản cổ nhất có niên hiệu Hồng Thuận thứ 3 (năm 1510) có ghi tên di tích là ''Cao Sơn Đại Vương Thần Từ''
Ngày 13/4 (ngày 16 tháng 3 âm lịch), UBND phường Phương Liên - Trung Tự (quận Đống Đa, Hà Nội) long trọng tổ chức Lễ hội truyền thống di tích quốc gia đặc biệt Thăng Long Tứ Trấn - đền Kim Liên tại phố Kim Hoa. Đây là một trong những hoạt động văn hóa đặc sắc nhằm bảo tồn, phát huy giá trị di sản Thăng Long ngàn năm văn hiến.
Sáng 13/4 (tức 16/3 âm lịch), tại đền Kim Liên, phường Phương Liên (quận Đống Đa, Hà Nội) đã diễn ra Lễ hội thờ thần Cao Sơn Đại Vương với nhiều hoạt động văn hóa, nghệ thuật đặc sắc thu hút đông đảo người dân thủ đô và du khách.