Đình Phú Xá thờ Nhị vị đại vương là Hiển Huệ và Báo Hỷ. Sự tích xưa kia kể rằng: Có hai vị học trò đi vào kinh dự thi. Khi đi đến ghềnh Xù thì gặp nạn hồng thủy nên hai vị đã hóa tại đây. Hai vị đã tỏ rõ linh ứng giúp dân hộ quốc nên dân làng lập đền thờ. Sau này các đời vua tôn vinh hai vị làm Thành Hoàng làng, một vị mang ân huệ cho dân làng gọi là Hiển Huệ, một vị mang điều tốt lành cho dân làng gọi là Báo Hỷ. Các vị được thờ bằng long ngai, bài vị. Thần phả còn quy định rõ các ngày tế lễ hàng năm: Tế xuân vào ngày mùng 8 tháng giêng, tế thu vào ngày 15 tháng 8, tế hạ điền vào ngày 16 tháng 6, tế thương điền vào ngày 15 tháng 7, tế lễ ngày Kỳ phúc vào ngày mồng 10 tháng 2. Thần phả còn quy định rõ đồ tế lễ và nghi thức tế lễ, cách kiêng kỵ.

Hàng năm để tưởng nhớ công đức của thành hoàng làng, nhân dân làng Phú Xá lấy ngày 10 tháng 2 là ngày lễ hội truyền thống của đình làng để tỏ lòng thành kính và cảm tạ Thần đã phù hộ cho mưa thuận gió hòa, nhân dân có cuộc sống thanh bình, hạnh phúc.