Ðộng Nhị Thanh do Ngô Thì Sỹ phát hiện, đặt tên và hưng công tôn tạo năm 1779. Trong động có chùa Tam Giáo thờ ba đạo: Nho, Phật, Lão do ông lập; có văn bia do ông sáng tác, tự tay viết và cho người khắc vào vách đá, có thơ văn đề vịnh của thi khách văn nhân và con cháu ông; lại có những cảnh vật nên thơ do chính ông đặt tên còn mãi đến tận hôm nay: đình Duyệt Quân, ao Nhất Bích (ao trong biếc), Thạch Miên am (am ngủ trên đá), Thụy Tuyền hiên (hiên ngủ bên suối), bếp Trai Táo (bếp cơm chay)...
Ðặc biệt, ở đây còn có bức phù điêu truyền thần tạc nguyên mẫu chân dung Ngô Thì Sỹ trong một vòm đá nhỏ ở nơi cao nhất ngay chính giữa cửa động Nhị Thanh, rất sống động và độc đáo. Năm 1779, khi sửa sang, bài trí khu động, Ngô Thì Sỹ đã cho thợ khắc hình của mình lên vách đá. Theo ghi chép của ông trong bài "Ký sự động Nhị Thanh", bức phù điêu tạc nguyên mẫu chân dung ông "kích thước cao thấp, lớn nhỏ không sai một ly". Ðó là một người đàn ông trung niên thân hình mảnh dẻ "thân dài bốn thước, lưng vừa ba chét tay" ngồi dựa lưng vào vách đá trong tư thế vô cùng thư thái: một chân chống, một chân khoanh tròn, hai tay đặt trên đầu gối, bàn tay buông thõng. Ông mặc một chiếc áo choàng rộng của Ðạo sĩ, đầu chít khăn dải, gương mặt hiền từ, khắc khổ với hai má hóp lại, gò má nhô cao, râu tóc lưa thưa, nét mặt đăm chiêu và đôi mắt to sáng dõi nhìn ra xa... Ngay dưới bức phù điêu là một bài tán do chính ông sáng tác và viết chữ với tên gọi "Truyền thần tự tán", trong đó bộc bạch khá đầy đủ về dáng vẻ lẫn tính cách, tâm hồn bản thân.
Ngô Thì Sỹ cho khắc tượng mình trên vách đá, trước hết là vì sự say mê đặc biệt dành cho hang động do ông phát hiện, tôn tạo, đặt tên. Sau là vì ước nguyện được gần gũi, hòa mình cùng với Xứ Lạng - mảnh đất ông đã gắn bó và dành rất nhiều tâm huyết. Ước nguyện ấy đã được ông nhắc đến trong các bài thơ văn đề trên vách động: "để ngàn năm được cùng hang núi tiêu dao tự tại cho thỏa tính tình...".
Sau khi ông mất (năm 1780), nhân dân tôn ông là phúc thần, lập bàn thờ ở ngay dưới bức tượng truyền thần để thờ cúng và gọi đây là Di ái đường. Trải bao gió sương, đến nay, bức tượng truyền thần Ngô Thì Sỹ vẫn được gìn giữ, trường tồn cùng năm tháng. Thăm động Nhị Thanh, ngắm nhìn bức tượng truyền thần ông, người đời sau luôn cảm thấy trào dâng niềm xúc động sâu xa trước một con người giản dị, uyên bác, có tâm hồn cao đẹp luôn hết lòng vì dân vì nước.
* Ngô Thì Sỹ, đạo hiệu: Nhị Thanh cư sĩ; là nhà sử học, nhà văn, nhà thơ nổi tiếng ở thế kỷ 18; ông đỗ tiến sĩ lúc 40 tuổi, được bổ làm Hiến sát sứ ở Thanh Hóa, Ðốc trấn Lạng Sơn... Ngô Thì Sỹ có tư tưởng cải cách, đã đưa ra nhiều đề nghị sửa đổi về các mặt: thuế khóa khai hoang, chỉnh đốn văn thể, chấn chỉnh các cấp quan liêu...
