Kies het AI-model achter je Bash-werk

TechRetriever werkt met drie soorten modellen: een cloud-AI-aanbieder via een standaard API-eindpunt, een model dat lokaal op je pc draait en het ingebouwde model. Kies voordat je begint. Je keuze bepaalt waar de prompttekst naartoe gaat, dus beslis voordat je een privéscript opent.

Drie manieren om een model te koppelen

Een cloud-AI-aanbieder

Een cloudmodel is geschikt om langere scripts te schrijven en onbekende code uit te leggen, en je koppelt het via een standaard API-eindpunt met je eigen sleutel. Weeg de afweging. De prompttekst, inclusief de tekst van elk bestand dat de agent leest, gaat naar die aanbieder, terwijl de sleutel zelf op je pc blijft.

Een model op je pc

Een lokaal model is geschikt voor privéscripts en logs die je liever niet naar een aanbieder stuurt. Er verlaat niets de pc, omdat de prompts nooit naar een extern eindpunt gaan. De kwaliteit verschilt per model dat je laadt, dus test het op een klein script voordat je erop vertrouwt voor een langer script.

Het ingebouwde model

Het ingebouwde model is het derde soort dat je kunt kiezen, en je hoeft geen eigen eindpunt in te voeren. Het is er één van drie. Het model ontvangt de tekst van je prompts en van de bestanden die de agent leest, dus houd wachtwoorden en sleutels uit je scripts; geheimen in de tooluitvoer worden afgeschermd voordat ze het model bereiken.

Wat de knop Test laat zien

Druk op Test nadat je het eindpunt hebt ingevoerd. De knop controleert of het eindpunt antwoordt, toont de reactietijd en toont het contextvenster, oftewel hoeveel tekst het model in één verzoek kan opnemen. Een lang script plus zijn log vraagt een groter venster dan een correctie van één regel.

Kies een model voor de klus

Gebruik een groter model voor herstructureringen en complexe logica, zoals een script met veel functies of lussen die van elkaar afhangen. Een kleiner model volstaat voor kleine bewerkingen zoals het toevoegen van een gebruiksmelding. Als één stap lastig is, stuurt run_on_model alleen die stap naar een groter model terwijl de rest bij je gebruikelijke model blijft.

De kwaliteit verschilt per model, dus behandel elk resultaat als een concept. Ask first pauzeert voor acties die iets wijzigen, edit_file toont een diff en Shell meldt de echte exitcode. Lees alle drie voordat je accepteert.