Dit indlæg har ikke nok information til at adressere, hvorfor dit program ikke fungerer, som du forventer, men jeg tror, at dette spørgsmål alene er et svar værd:
I din første test lavede du en enkelt anmodning (-n 1 ). I din anden test lavede du 100 anmodninger under flyvningen samtidigt (-c 100 -n 100 ).
Du nævner, at dit program kommunikerer til en ekstern database, dit program skal vente på, at den ressource svarer. Forstår du, hvordan din database fungerer, når du sender den 1.000 anmodninger samtidigt? Du nævnte ikke dette. Go kan helt sikkert håndtere mange hundrede samtidige anmodninger i sekundet uden at svede, men det afhænger af, hvad du laver, og hvordan du gør det. Hvis dit program ikke kan gennemføre anmodninger lige så hurtigt, som de kommer ind, vil de hobe sig op, hvilket fører til en høj latenstid.
Ingen af de test, du fortalte os om, er nyttige til at forstå, hvordan din server fungerer under "normale" omstændigheder - som du sagde ville være "tusindvis af anmodninger om dagen" (hvilket ikke er særlig specifikt, men jeg vil forstå, "et par i sekundet"). Så ville det være meget mere interessant at se på -c 4 -n 1000 , eller noget, der træner serveren over en længere periode, med et antal samtidige anmodninger, som er mere som det, du forventer at få.