Ano, libgmp je k obojímu vhodná. Sám jsem zkoušel hledat Mersennova prvočísla pomocí Lucas-Lehmerova testu pomocí této knihovny. Vím také o tom, že proti ní linkuje Prime95, což je program, který se používá k distribuovanému hledání prvočísel v projektu GIMPS.
Vzhledem k tomu, že GMP se používá v implementacích spousty programovacích jazyků (Guile, ECL, Ruby, ...) a ještě v daleko větší spoustě nástrojů (Emacs, ffmpeg, ...) tak bych řekl nejenom že ano, ale nejspíš i docela často.
