Gdy w 1886 roku Francja wprowadziła karabin Lebel do uzbrojenia, w niemieckich kręgach wojskowych wywołało to natychmiastową reakcję, ocierającą się o panikę. Wszystko to spowodowane było faktem, że Lebel był pierwszym na świecie karabinem, który w sposób wydajny używał prochu bezdymnego. Powodowało to, że 11mm pocisk Reichpatrone z Mauser;a 71/84 został daleko w tyle za 8 mm pociskiem francuskim.  
    W tej oto atmosferze, niemiecka Komisja Doświadczalna Broni Piechoty (Gewehr Prfungs Kommission) rozpoczęła prace. Pomysłem było przerobienie karabinu Mausera wz.71/84 na mniejszy kaliber z prochem bezdymnym. Do tego zadania zamówiono maszynerię produkcyjną z firmy Ludwiga Loewe z Berlin - Charlottenburg w grudniu 1887 roku. Wraz z postępami prac pomysł przeróbki stawał się coraz mniej realny.
       Prace rozpoczęto więc od początku. Nowy karabin i nabój miały być zbudowane z wykorzystaniem rozwiązań najlepszych konstrukcji europejskich. Nowy nabój 7,9 x 57 mm J był jednym z pierwszych naboi karabinowych bez kryzy wystającej. Dzięki temu uproszczona była budowa magazynka. Zastosowano stały magazynek pudełkowy ładowany przy pomocy 5-nabojowych ładowników. Konstrukcja magazynka była wzorowana na magazynku zastosowanym w austriackim karabinie Mannlicher M1886. Zamek nowego karabinu został skonstruowany przez pracownika rządowego arsenału w Spandau Louisa Schlegelmilcha. Kształt i skok gwintu lufy skopiowano z karabinu Mle 1886. 23 marca 1888 roku, bawarski obserwator wojskowy w Berlinie, gen. von Xylander donosił, że konstrukcja została ukończona.  12 listopada 1888 roku cesarz Wilhelm II podpisał rozkaz o przyjęciu nowego karabinu do uzbrojenia pod oznaczeniem Gewehr 88. Jednocześnie do uzbrojenia przyjęto karabinek Kar 88.

Żołnierz pruski z kb wz.88 w czasie I wojny światowej

    Karabin wytwarzano w trzech głównych arsenałach pruskich: w Erfurcie, Spandau i Gdańsku. Wytwarzało go także w bawarskim arsenale Amberg i kilku prywatnych przedsiębiorców. Produkcje zakończono w 1897 roku sumą 1,675,000
        Wkrótce po dostarczeniu pierwszych karabinów Gew 88 pojawiły się problemy. W karabinach często ulegały uszkodzeniu zamki, podczas strzału pękały szyjki łusek, a podczas przeładowywania dochodziło do zacięć. Powszechnie zarzucano GPK że przy konstruowaniu nowego karabinu nie wykorzystano doświadczenia konstruktorów firmy Mauser, największego niemieckiego producenta karabinów. Szczególnie agresywnie atakowana była firma Ludwig Loewe producent zarówno części karabinów jak i prochu bezdymnego którym elaborowano amunicję. Zarzucano jej że przekupiła rządowych kontrolerów i sprzedała niespełniające norm karabiny. Wykorzystując fakt że członkowie rodziny Loewe byli Żydami antysemicka prasa określiła karabin Gew 88 jako Judenflinte.
       Poza armią niemiecką Gew 88 był używany w Chinach, Turcji, Brazyli, Peru i Ekwadorze. Bojowo były używane podczas wojny chińsko-japońskiej (1894-95) i powstania bokserów (w czasie powstania bokserów karabiny Gew 88 były używane zarówno przez powstańców jak i oddziały niemieckie). 
      Istniało kilka wersji, w tym wz.88.05 ze zmodyfikowanym magazynkiem. Zamiast ładowników magazynek był ładowany przy pomocy łódki. Wersję tą wytwarzano w Spandau. Pewne ilości broni dostosowano do kalibru 7,92 mm.