Странная задержка Google App Engine

Обычно неучтенная «дыра» в середине appstats — это выполнение вашего кода.
Appstats записывает каждый вход и выход rpc, а те области, которые он не может записать, — это ваш фактически выполняемый код.

У вас есть логи за время, в течение которого приложение находилось между этими двумя вызовами?

Огромная, «необъяснимая» задержка почти всегда связана с запросами на прогрев, поглощающими ресурсы. Просмотрите журналы appengine, чтобы узнать, сколько api_ms и cpu_ms используются при прогреве.

Вы можете избежать прогрева, увеличив максимальную задержку ожидания в панели управления appengine. Разрешение более высокой задержки означает, что запросы будут ждать дольше, прежде чем запускать новый экземпляр. Это может сделать каждый запрос немного медленнее, но вы избежите тяжеловесных запросов на загрузку.

Чтобы помочь с предварительными запросами, убедитесь, что ваш appengine-web.xml содержит:

<warmup-requests-enabled>true</warmup-requests-enabled>  

Это заставит диспетчер appengine упреждающе запускать новые экземпляры, когда текущие перегружены (т.е. он начинает загружаться до того, как запрос перейдет к новому экземпляру}.

затем в затронутых медленных сервлетах убедитесь, что вы указали загрузку при запуске в своем файле web.xml:

<servlet>
  <servlet-name>my-servlet</servlet-name>
  <servlet-class>com.company.MyServlet</servlet-class>
  <load-on-startup>1</load-on-startup>
</servlet>

load-on-startup просто гарантирует, что ваши высокоприоритетные сервлеты всегда будут готовы к работе, как только завершится запрос на прогрев.