Last active
May 13, 2020 18:10
-
-
Save VaguelySerious/3224de07defa620d468799cce841c9b7 to your computer and use it in GitHub Desktop.
This file contains bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
type | containerCount | vmUsageDistribution | avgClientLat | avgS3Lat | avgClientLatNotCached | avgClientLatCached | cacheHitRatio | avgCacheLat | p90 | p99 | |
---|---|---|---|---|---|---|---|---|---|---|---|
no-cache | 72 | 0.32/0.35/0.33 | 2731 | 82 | 2731 | 0 | 0 | 0 | 0 | 0 | |
tmp-cache | 70 | 0.30/0.31/0.39 | 2704 | 90 | 2445 | 259 | 0.128 | 28 | 40 | 95 | |
tmp-cache | 59 | 0.27/0.38/0.34 | 2494 | 82 | 2273 | 221 | 0.146 | 24 | 33 | 64 | |
tmp-cache | 61 | 0.32/0.29/0.38 | 2915 | 79 | 2564 | 351 | 0.133 | 24 | 36 | 63 | |
loc-cache | 55 | 0.30/0.32/0.38 | 1652 | 106 | 752 | 900 | 0.528 | 36 | 62 | 145 | |
loc-cache | 59 | 0.28/0.36/0.36 | 2480 | 94 | 1441 | 1039 | 0.444 | 29 | 47 | 102 | |
ext-cache | 35 | 0.27/0.34/0.39 | 2342 | 95 | 1060 | 1283 | 0.551 | 28 | 41 | 85 | |
ext-cache | 64 | 0.31/0.34/0.35 | 2673 | 102 | 1176 | 1497 | 0.551 | 33 | 52 | 103 | |
ext-cache | 61 | 0.29/0.33/0.38 | 2733 | 95 | 1263 | 1470 | 0.546 | 31 | 50 | 93 |
Es scheint so, als gäbe es zu viele Ausnahmefälle, spezifisch einzelne Requests die einfach zu lange warten gelassen werden. Sogar unabhängig von cold-starts.
Ich überlege, ob ich die Experimente wiederhole, aber 40 Container vorheize und nur max 20 requests parallel laufen lasse. Damit sollte das Datenset eigentlich sehr ausgeglichen sein.
Wie gesagt aufschreiben ist erstmal wichtiger, aber wenn würde ich zum testen der randfälle etwas machen. Z.B. einmal warm immer die gleiche request 1000x oder so dann sollte die hitrate 99% sein. umgekehrt dann ein test wo es kein cache use geben sollte zufällige ggf. falsche requests die zeigen wie hoch die last des cache-tests sind je nach art. Aber wie gesagt erstmal schreiben ;)
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Jetzt wo ich mir das noch mal ansehen: Schau mal bei ext-cache- da scheint es mit cache hit langsamer zu werden 😱