Nowości w narzędziu LLM: zmiana domyślnego modelu i własne endpointy
Najnowsza wersja narzędzia LLM naprawia wcześniejsze problemy z zależnościami i wprowadza dwie nowe funkcjonalności. Najważniejszą zmianą jest modyfikacja domyślnego modelu dla osób, które nie skonfigurowały własnych preferencji. Zamiast dotychczasowego GPT-4o mini system korzysta teraz z GPT-5.6 Luna.
Nowy domyślny model oferuje lepszą jakość i jest nowocześniejszy, ale wiąże się z nieznacznym wzrostem kosztów. Ceny za milion tokenów wejściowych i wyjściowych są odpowiednio wyższe w porównaniu do poprzednika. Jeśli opłacalność jest kluczowa, można ręcznie wrócić do starszej wersji lub wybrać jeszcze tańszy model GPT-5 nano.
Drugą nowością jest komenda pozwalająca na uruchamianie własnych punktów końcowych zgodnych z API OpenAI. Daje to większą elastyczność w łączeniu narzędzia z alternatywnymi dostawcami modeli językowych. Deweloperzy mogą teraz łatwiej testować i wdrażać rozwiązania oparte na różnych infrastrukturach.
Co to znaczy w praktyce: W praktyce dla osoby budującej strony oznacza to konieczność weryfikacji kosztów API po aktualizacji narzędzia LLM. Jeśli automatyzujesz procesy budowy stron i nie zależy Ci na najwyższej jakości generowania tekstu, warto rozważyć ręczne ustawienie tańszego modelu. Z kolei wsparcie dla własnych endpointów ułatwi integrację z wyspecjalizowanymi modelami dostosowanymi do potrzeb klientów.
LLMOpenAIAPIkosztynarzędzia