Analiza zbiorcza logów czasu

Gdy zbierzesz wiele śladów za pomocą ProfilingManager, indywidualne sprawdzanie ich w celu znalezienia problemów z wydajnością stanie się niepraktyczne. Analiza zbiorcza logów czasu umożliwia jednoczesne wysyłanie zapytań do zbioru danych logów czasu w celu:

• Identyfikowanie typowych regresji wydajności.
• obliczać rozkłady statystyczne (np. czas oczekiwania w 50, 90 i 99 centylu);
• Znajdowanie wzorców w kilku śladach.
• Wyszukuj nietypowe ślady, aby zrozumieć i debugować problemy z wydajnością.

W tej sekcji pokazujemy, jak za pomocą procesora śladów wsadowych Perfetto w Pythonie analizować dane dotyczące uruchamiania w zbiorze lokalnie przechowywanych śladów i lokalizować ślady odstające w celu przeprowadzenia dokładniejszej analizy.

Projektowanie zapytania

Pierwszym krokiem do przeprowadzenia analizy zbiorczej jest utworzenie zapytania PerfettoSQL.

W tej sekcji przedstawiamy przykładowe zapytanie, które mierzy opóźnienie uruchamiania aplikacji. Możesz mierzyć czas od activityStart do wygenerowania pierwszej klatki (pierwsze wystąpienie wycinka Choreographer#doFrame), aby mierzyć czas rozpoczęcia aplikacji, który jest pod Twoją kontrolą. Rysunek 1 przedstawia sekcję, w której można wysłać zapytanie.

Uwaga: przed uruchomieniem zapytania zbiorczego zalecamy przetestowanie zapytania SQL na pojedynczym śladzie w interfejsie Perfetto, aby sprawdzić wyniki.

Rysunek 1. Śledź sekcję od momentu rozpoczęcia działania do wygenerowania pierwszej klatki.

CREATE OR REPLACE PERFETTO FUNCTION find_slices(pattern STRING) RETURNS
TABLE (name STRING, ts LONG, dur LONG) AS
SELECT name,ts,dur FROM slice WHERE name GLOB $pattern;

CREATE OR REPLACE PERFETTO FUNCTION generate_start_to_end_slices(startSlicePattern STRING, endSlicePattern STRING, inclusive BOOL) RETURNS
TABLE(name STRING, ts LONG, dur LONG) AS
SELECT name, ts, MIN(startToEndDur) as dur
FROM
  (SELECT S.name as name, S.ts as ts, E.ts + IIF($inclusive, E.dur, 0) - S.ts as startToEndDur
  FROM find_slices($startSlicePattern) as S CROSS JOIN find_slices($endSlicePattern) as E
  WHERE startToEndDur > 0)
GROUP BY name, ts;

SELECT ts,name,dur from generate_start_to_end_slices('activityStart','*Choreographer#doFrame [0-9]*', true)

Możesz wykonać zapytanie w interfejsie Perfetto, a następnie użyć wyników zapytania do wygenerowania ścieżki debugowania (rysunek 2) i wyświetlenia jej na osi czasu (rysunek 3).

Rysunek 2. Utwórz ścieżkę debugowania dla zapytania startowego.

Rysunek 3. Wygenerowana ścieżka debugowania dla zapytania początkowego.

Konfigurowanie środowiska Pythona

Zainstaluj Pythona na komputerze lokalnym i wymagane biblioteki:

pip install perfetto pandas plotly

Tworzenie skryptu analizy zbiorczej logów czasu

Ten przykładowy skrypt wykonuje zapytanie w wielu śladach za pomocą procesora BatchTraceProcessor w Pythonie.

from perfetto.batch_trace_processor import BatchTraceProcessor
import glob
import plotly.express as px

traces = glob.glob('*.perfetto-trace')

if __name__ == '__main__':
    with BatchTraceProcessor(traces) as btp:
        query = """
        CREATE OR REPLACE PERFETTO FUNCTION find_slices(pattern STRING) RETURNS
        TABLE (name STRING, ts LONG, dur LONG) AS
        SELECT name,ts,dur FROM slice WHERE name GLOB $pattern;

        CREATE OR REPLACE PERFETTO FUNCTION generate_start_to_end_slices(startSlicePattern STRING, endSlicePattern STRING, inclusive BOOL) RETURNS
        TABLE(name STRING, ts LONG, dur LONG) AS
        SELECT name, ts, MIN(startToEndDur) as dur
        FROM
          (SELECT S.name as name, S.ts as ts, E.ts + IIF($inclusive, E.dur, 0) - S.ts as startToEndDur
          FROM find_slices($startSlicePattern) as S CROSS JOIN find_slices($endSlicePattern) as E
          WHERE startToEndDur > 0)
        GROUP BY name, ts;

        SELECT ts,name,dur / 1000000 as dur_ms from generate_start_to_end_slices('activityStart','*Choreographer#doFrame [0-9]*', true)
        """
        df = btp.query_and_flatten(query)

        violin = px.violin(df, x='dur_ms', hover_data='_path', title='startup time', points='all')
        violin.show()

Informacje o skrypcie

Po uruchomieniu skryptu w Pythonie wykonane zostaną te działania:

1. Skrypt wyszukuje w lokalnym katalogu wszystkie ślady Perfetto z sufiksem .perfetto-trace i używa ich jako śladów źródłowych do analizy.
2. Uruchamia zbiorcze zapytanie śledzenia, które oblicza podzbiór czasu uruchamiania odpowiadający czasowi od wycinka śledzenia activityStart do pierwszej klatki wygenerowanej przez aplikację.
3. Wykreśla czas oczekiwania w milisekundach za pomocą wykresu skrzypcowego, aby wizualizować rozkład czasu uruchamiania.

Interpretowanie wyników

Rysunek 4. Wykres skrzypcowy czasów oczekiwania na uruchomienie, o które pytano.

Po uruchomieniu skryptu wygeneruje on wykres. W tym przypadku wykres przedstawia rozkład dwumodalny z 2 wyraźnymi pikami (rysunek 4).

Następnie znajdź różnicę między tymi 2 grupami. Ułatwia to szczegółowe analizowanie poszczególnych śladów. W tym przykładzie wykres jest skonfigurowany tak, że po najechaniu kursorem na punkty danych (opóźnienia) można zidentyfikować nazwy plików śledzenia. Następnie możesz otworzyć jeden z trace’ów należących do grupy o dużym opóźnieniu.

Gdy otworzysz ślad z grupy o dużym opóźnieniu (rysunek 5), zobaczysz dodatkowy wycinek o nazwie MyFlaggedFeature, który jest uruchamiany podczas uruchamiania (rysunek 6). Z kolei wybranie śladu z populacji o mniejszych opóźnieniach (najbardziej na lewo) potwierdza brak tego samego wycinka (rysunek 7). To porównanie wskazuje, że określona flaga funkcji włączona dla podzbioru użytkowników powoduje regresję.

Rysunek 5. Punkt danych o dużym czasie oczekiwania na wykresie skrzypcowym.

Rysunek 6. Śledzenie z dużym opóźnieniem z dodatkowym wycinkiem „MyFlaggedFeature”.

Rysunek 7. Uruchamianie śledzenia z małym opóźnieniem.

Ten przykład pokazuje jeden z wielu sposobów korzystania z analizy śledzenia zbiorczego. Inne zastosowania to m.in. wyodrębnianie statystyk z pola w celu oceny wpływu, wykrywanie regresji i inne.

Uwaga: lokalny interfejs Batch Trace Processor Python API może analizować dziesiątki lub setki śladów. Skalowalność zależy jednak od pamięci komputera. Aby analizować tysiące śladów, zapoznaj się z dokumentacją Perfetto Bigtrace i wdroż skalowalny klaster.