Agenci AI niepostrzeżenie przekroczyli pewną granicę. Nie są już widżetem na stronie pomocy. Odpowiadają klientom, sprawdzają zamówienia, obsługują zwroty i wywołują wewnętrzne API tysiące razy dziennie. To czyni ich oprogramowaniem produkcyjnym. A oprogramowanie produkcyjne podlega monitorowaniu.
Problem w tym, gdzie dotąd znajdowały się dane agentów. Większość z nich trafia do własnego pulpitu platformy agenta — osobnego świata, oddzielonego od miejsca, w którym zespół inżynierski faktycznie monitoruje działanie biznesu. Gdy rośnie opóźnienie lub zaczyna zawodzić integracja, osoby na dyżurze nie widzą agenta obok usług, od których zależy. Nie mogą ustawić dla niego alertów w zaufanych narzędziach ani prześledzić powolnej odpowiedzi do kroku, który ją spowodował.
Dziś udostępniamy Maven Telemetry w wersji alpha, aby to zmienić.
Co robi Maven Telemetry
Maven Telemetry to aplikacja w Maven App Directory. Po zainstalowaniu na agencie przesyła jego aktywność do platformy obserwowalności za pośrednictwem OpenTelemetry (OTLP) — otwartego standardu, który obsługuje już większość nowoczesnych narzędzi monitorujących. Wysyła trzy rodzaje sygnałów.
Traces. Każda rozmowa staje się jednym trace'em, nazwanym według organizacji i agenta, dzięki czemu agentów można rozróżnić na pierwszy rzut oka. Wewnątrz każda tura i każda akcja podjęta przez agenta jest osobnym spanem, z wpisami dziennika dla wiadomości, akcji i podsumowania rozmowy. Jeśli odpowiedź była powolna, widać dokładnie, która akcja ją spowolniła.
Metrics. Analizy rozmów Maven są przesyłane jako metryki co 5 minut. Towarzyszą im histogramy opóźnień dla akcji, tur i całych rozmów, a także informacja, ile czasu zajęła odpowiedź agentowi-człowiekowi, gdy przekazano mu rozmowę. Liczba użytkowników obejmuje wszystkie osoby, z którymi rozmawia agent, podzielone na anonimowych i zidentyfikowanych.
Logs. Zdarzenia Maven docierają jako logi, gotowe do wyszukiwań i alertów już używanych w organizacji.
Stworzone dla już posiadanego stosu technologicznego
Konfiguracja ma zająć minuty, a nie stać się projektem. Wystarczy wybrać platformę z listy — Datadog, Dynatrace, Grafana Cloud, Honeycomb, New Relic, OpenObserve, SigNoz lub Splunk — a Maven Telemetry poprosi tylko o pola wymagane przez tę platformę. Dane tego samego agenta można wysyłać jednocześnie do maksymalnie 5 miejsc docelowych, dzięki czemu zespół SRE w Datadog i zespół analityczny w Grafanie mogą korzystać z tego samego źródła.
Preferowany jest pull zamiast push? Każdy agent może udostępniać Metrics API w formacie Prometheus, OTLP/JSON lub OTLP/protobuf, a także Health API — oba zabezpieczone kluczem ustawianym samodzielnie. Pozostawienie klucza pustym sprawia, że oba pozostają zamknięte.
Prywatność domyślnie
Obserwowalność nie powinna odbywać się kosztem kontroli. Tekst rozmów i dane osobowe nie są eksportowane, dopóki nie zostaną w tym celu włączone, dzięki czemu można zacząć od sygnałów wydajnościowych, a później zdecydować, co jeszcze powinno trafić do narzędzi monitorujących.
Kilka innych szczegółów, nad którymi zespół inżynierski szczególnie się napracował:
- Każdy region eksportuje wyłącznie własne dane, dzięki czemu zachowane są granice rezydencji danych.
- Jeśli aplikacji brakuje uprawnienia do danego źródła danych, wstrzymywane są wyłącznie te metryki. Wszystko inne nadal płynie, a Health API wskazuje, jakie uprawnienie należy nadać.
- Każdy eksport przechodzi przez jeden, zabezpieczony transport.
Dlaczego to ma znaczenie
Gdy agent pojawia się w tych samych pulpitach co reszta stosu technologicznego, można nim zarządzać tak samo jak resztą stosu. Można ustawić SLO dla opóźnienia odpowiedzi. Powiadomić kogoś, gdy wzrasta wskaźnik błędów danej akcji. Dodać agenta do runbooków incydentów. Umieścić wydajność agenta na tym samym ekranie, który liderzy operacyjni i tak sprawdzają każdego ranka.
A ponieważ agenci Maven działają w całym cyklu życia klienta — od pierwszego pytania, przez zakup, po odnowienie — każda z tych rozmów staje się czymś, co zespoły mogą mierzyć i usprawniać.
Zacznij już dziś
Maven Telemetry jest już dostępne w wersji alpha dla każdej organizacji Maven. Wystarczy otworzyć App Directory, zainstalować Maven Telemetry na agencie i wykonać 5-krokowy szybki start opisany w dokumentacji. Opinie na temat wersji alpha są bardzo mile widziane.
Nie są Państwo jeszcze klientem Maven? Sprawdźcie, co agenci Maven mogą zrobić dla Państwa firmy — umów demo.
Przekonaj się na własnych rozmowach.
Poproś o bezpłatne, spersonalizowane demo.



