Gdy AI w Salesforce działa na Twoim własnym koncie OpenAI, Anthropic Claude lub Azure OpenAI, dostawca AI rozlicza Cię bezpośrednio za faktyczne zużycie. To przejrzysty model, ale dział finansów słusznie zapyta: jaki będzie realny koszt AI w Salesforce?
W tym artykule wyjaśniamy, na co idą tokeny w AI Engine, które ustawienia mają największy wpływ na koszt i jak monitorować zużycie. Mowa wyłącznie o rachunku od dostawcy AI, nie o cenie samego pakietu.
Tokeny w jednym akapicie
Dostawcy AI rozliczają się za tokeny, czyli małe fragmenty tekstu. W języku angielskim token to mniej więcej trzy czwarte słowa. Każde zapytanie składa się z tokenów wejściowych (prompt, w tym dane z CRM wysyłane jako kontekst) i tokenów wyjściowych (odpowiedź). Tokeny wyjściowe są zwykle droższe, ale w zastosowaniach CRM to tokenów wejściowych jest zazwyczaj więcej, bo każde zapytanie niesie dane rekordu.
Ile zapytań generuje każda akcja
| Akcja | Zapytania do dostawcy AI |
|---|---|
| Pytanie w czacie | Zwykle 2: jedno zamienia pytanie w zapytanie do danych, drugie pisze odpowiedź |
| Next Steps, Draft Email, Summary, własne prompty | 1 |
| Analyze Email | 1 |
| Meet Prep | 1, plus 1 zapytanie z wyszukiwaniem w sieci, jeśli wyszukiwanie jest włączone |
| AI Score | 1 na rekord, plus 1 wyszukiwanie w sieci na rekord, jeśli weryfikacja firmy jest włączona |
| Web Check | 1, z wyszukiwaniem w sieci |
| Company News | 2 |
| Magic Snap | 1 na odczytanie zdjęcia, plus research, jeśli jest używany |
| Show all, eksport, zmiana kolumn | Brak |
Większość akcji to jedno lub dwa zapytania. O różnicy w koszcie decyduje to, jak duże jest każde z nich.
Co wpływa na zużycie tokenów
- Lista dozwolonych pól. Każde pytanie w czacie zawiera opis obiektów i pól, z których AI może korzystać. Im więcej włączonych pól, tym więcej tokenów wejściowych przy każdym pytaniu. Wyłączenie pól, których użytkownicy nie potrzebują, to najskuteczniejszy pojedynczy sposób na oszczędność.
- Kontekst rekordu. Więcej pól, obiektów podrzędnych i aktywności sprawia, że każda akcja na rekordzie jest większa.
- Długość rozmowy. Ostatnie wiadomości są wysyłane razem z każdym kolejnym pytaniem.
- Wyszukiwanie w sieci. Wyniki wyszukiwania trafiają do zapytania jako dane wejściowe, przez co funkcje webowe są znacznie większe niż pozostałe akcje. Wyszukiwanie w sieci przy przygotowaniu do spotkania dodaje około 30 000 tokenów wejściowych na jeden brief, dlatego domyślnie jest wyłączone.
- Język. Odpowiedzi w językach innych niż angielski zwykle wymagają więcej tokenów przy tej samej treści. Dotyczy to także polskiego: ten sam tekst po polsku zwykle zużywa więcej tokenów niż po angielsku.
- Liczba ocenianych rekordów. Każdy oceniony rekord to osobne zapytanie. Automatyczny lub harmonogramowany scoring tysięcy rekordów sumuje się, choć pojedyncze zapytanie jest małe.
Wybór modeli: główny i szybki
AI Engine korzysta z dwóch ustawień modelu. Model główny (main model) obsługuje czat, akcje na rekordach, przygotowanie do spotkań, scoring, PDF-y i Magic Snap. Model szybki (fast model) obsługuje kroki z wyszukiwaniem w sieci oraz tryb Help. Tańszy model w ustawieniu szybkim obniża koszt funkcji webowych bez wpływu na jakość głównych odpowiedzi. Ceny modeli bardzo się różnią między poziomami, więc wybór modelu głównego wyznacza bazowy koszt każdego zapytania.
Jak monitorować koszt AI w Salesforce
Każda akcja AI zapisuje rekord w logu aktywności, który zawiera:
- tokeny wejściowe i wyjściowe zgłoszone przez dostawcę,
- tokeny z cache, liczbę wyszukiwań w sieci i liczbę zapytań,
- użyty model oraz szacowany koszt wyliczony na podstawie wbudowanej listy cen dostawców.
Activity Monitor w AI Engine podsumowuje wywołania, tokeny i szacowany koszt w ujęciu miesięcznym, per funkcja i per użytkownik. Szacunek służy do monitorowania i porównań. Wiążące liczby to dashboard i faktura Twojego dostawcy AI, a obie wartości nie będą się dokładnie pokrywać.
W przypadku Azure OpenAI umieść nazwę modelu w nazwie deploymentu (na przykład gpt-4o-prod), aby szacunek mógł dopasować właściwą cenę.
Sześć sposobów na niższe zużycie
- Włącz tylko te pola, których użytkownicy faktycznie potrzebują.
- Użyj tańszego modelu szybkiego do kroków z wyszukiwaniem w sieci i trybu Help.
- Zostaw wyłączone wyszukiwanie w sieci przy przygotowaniu do spotkań i weryfikację firmy w scoringu, chyba że realnie wnoszą wartość.
- Filtruj, które rekordy są oceniane automatycznie, i planuj batche scoringu poza godzinami pracy.
- Utrzymuj źródła danych promptów tak małe, jak pozwala na to przypadek użycia.
- Ustaw limity wydatków w konsoli dostawcy, jeśli je oferuje.
Dlaczego własny klucz API łatwiej zaplanować w budżecie
Z własnym kontem u dostawcy AI widzisz każdy token na własnej fakturze, sam kontrolujesz limity zapytań i limity wydatków, a gdy ceny się zmienią, możesz przejść na inny model lub innego dostawcę. Nie ma ukrytej marży na użyciu AI ani osobnego systemu kredytów AI do śledzenia.
Podsumowanie
- Większość akcji to jedno lub dwa zapytania; o koszcie decyduje ich rozmiar, nie liczba.
- Największe dźwignie to lista dozwolonych pól, wyszukiwanie w sieci i liczba ocenianych rekordów.
- Tańszy model szybki obniża koszt funkcji webowych.
- Activity Monitor pokazuje tokeny i szacowany koszt per funkcja i per użytkownik; ostateczną kwotą jest faktura od dostawcy.
Chcesz oszacować koszt dla swojego orga? Umów demo, a razem przejrzymy Wasze przypadki użycia.
Zobacz AI Engine na własnych danych
Natywny pakiet Salesforce. Twój własny klucz OpenAI, Claude lub Azure. 5 dni za darmo, bez karty kredytowej.
Umów 30-minutowe demo