Nazwisko Rymsza pochodzi od litewskiej nazwy osobowej Rìmša, zob. K. Rymut, Nazwiska Polaków. Słownik historyczno-etymologiczny, Kraków 2001, t. II, s. 377. Jan Siwik („Encyklopedia nazwisk i przydomków szlacheckich”, Warszawa 2010, s. 635) odnotowuje szlachecką rodzinę o tym nazwisku: Rymsza vel ROmsza vel Rymszewskicz vel Wilejko herbu Gozdawa, potw. Rymsze, pow. rosieński, woj. żmudzkie.
