Tuy nhiên, sau khi Townsend ly hôn vợ vào năm 1952, những tin đồn về ông và Margaret lan rộng; việc ly hôn và nỗi đau buồn chung trước cái chết gần như đồng thời của nhà vua có lẽ đã giúp họ đến gần nhau hơn trong sự riêng tư tại Clarence House, nơi công chúa có căn hộ riêng.