Under exilen i Kurland 1794–1799 var Gustaf Mauritz Armfelt gäst hos den kurländske hertigen Peter von Biron och blev älskare åt såväl hans hustru Dorothea von Medem som deras dotter. Med Dorotheas dotter Wilhelmine av Kurland skall han ha haft två döttrar, Gustava Wilhelmina Charlotta (Mina) Armfelt (1798–1863), och Adelaide Gustava Aspasie (Vava) Armfelt (1801–1881). Mina uppgavs officiellt vara dotter till kusinen Fredrik Armfelt. Vava adopterades 1812 till adliga ätten Armfelt.