Karja naisansambel alustas tööd 1961. aasta sügisel, kui Ilmar Kanemägi, pikki aastaid Karja kandi kultuurihing, töötas Pärsama rahvamaja juhatajana. Ta kutsus kokku kaheksa noort 20-ndates aastates naist ja tegi neile ettepaneku moodustada lauluansambel, juhiks naiseõde Elgi. Nii hakatigi koos käima vanas Karja koolimajas petroolilambi valgel.

