Vyber model AI, který stojí za tvou prací v Bashi

TechRetriever funguje se třemi druhy modelů: s cloudovým poskytovatelem AI přes standardní koncový bod API, s modelem běžícím lokálně na tvém počítači a s vestavěným modelem. Vyber, než začneš. Tvá volba rozhoduje, kam jde text promptu, takže se rozhodni dřív, než otevřeš soukromý skript.

Tři způsoby, jak připojit model

Cloudový poskytovatel AI

Cloudový model se hodí na psaní delších skriptů a vysvětlování neznámého kódu a připojuješ ho přes standardní koncový bod API s vlastním klíčem. Zvaž kompromis. Text promptu včetně textu každého souboru, který agent přečte, jde k tomuto poskytovateli, zatímco samotný klíč zůstává na tvém počítači.

Model na tvém počítači

Lokální model se hodí na soukromé skripty a logy, které nechceš posílat poskytovateli. Nic neopouští počítač, protože prompty nikdy nejdou do externího koncového bodu. Kvalita se liší podle toho, jaký model načteš, takže ho vyzkoušej na malém skriptu, než se na něj spolehneš u delšího.

Vestavěný model

Vestavěný model je třetí druh, který můžeš zvolit, a žádný vlastní koncový bod nezadáváš. Je to jedna ze tří možností. Model dostane text tvých promptů i souborů, které agent čte, takže hesla a klíče ze skriptů vynech; tajné údaje ve výstupu nástrojů jsou zakryty dřív, než se dostanou k modelu.

Co ukazuje tlačítko Test

Stiskni Test po zadání koncového bodu. Tlačítko ověří, že koncový bod odpovídá, ukáže dobu odezvy a kontextové okno, tedy kolik textu model přijme v jednom požadavku. Dlouhý skript i s logem potřebuje větší okno než oprava jednoho řádku.

Vyber model podle úkolu

Větší model použij na refaktoring a složitou logiku, třeba skript s mnoha funkcemi nebo na sobě závislými cykly. Menší model stačí na drobné úpravy, jako je přidání hlášky s použitím. Když je některý krok těžký, run_on_model pošle větší model jen tento krok a zbytek zůstane u tvého obvyklého.

Kvalita se mezi modely liší, takže každý výsledek ber jako koncept. Ask first se zastaví před akcemi, které něco mění, edit_file ukáže diff a Shell ohlásí skutečný návratový kód. Přečti si všechny tři, než přijmeš.