En 1949, le couple a acheté une maison à Woodmere, dans l'État de New York, sur Long Island, où ils ont vécu jusqu'en 1952. Leur fille Joan Celia « J. C. » Lee est née en 1950. Une autre fille, Jan Lee, est décédée quelques jours après sa naissance en 1953.