Choisis le modèle d’IA derrière ton travail en Bash
TechRetriever fonctionne avec trois types de modèle : un fournisseur d’IA cloud via un point d’accès d’API standard, un modèle qui tourne en local sur ton PC, et le modèle intégré. Choisis avant de commencer. Ton choix décide où part le texte du prompt, alors tranche avant d’ouvrir un script privé.
Trois façons de connecter un modèle
Un fournisseur d’IA cloud
Un modèle cloud convient pour rédiger des scripts plus longs et expliquer du code inconnu, et tu le connectes via un point d’accès d’API standard avec ta propre clé. Pèse le compromis. Le texte du prompt, y compris le texte de tout fichier que l’agent lit, part chez ce fournisseur, alors que la clé elle-même reste sur ton PC.
Un modèle sur ton PC
Un modèle local convient pour les scripts et les journaux privés que tu préfères ne pas envoyer à un fournisseur. Rien ne quitte le PC, parce que les prompts ne partent jamais vers un point d’accès externe. La qualité varie selon le modèle que tu charges, alors teste-le sur un petit script avant de t’y fier pour un plus long.
Le modèle intégré
Le modèle intégré est le troisième type que tu peux choisir, et il n’y a aucun point d’accès personnel à saisir. C’est l’une des trois options. Le modèle reçoit le texte de tes prompts et des fichiers que l’agent lit, alors garde les mots de passe et les clés hors de tes scripts ; les secrets présents dans la sortie des outils sont masqués avant d’atteindre le modèle.
Ce que montre le bouton Test
Clique sur Test après avoir saisi le point d’accès. Le bouton vérifie que le point d’accès répond, affiche le temps de réponse et affiche la fenêtre de contexte, c’est-à-dire la quantité de texte que le modèle peut prendre en une seule requête. Un long script avec son journal demande une fenêtre plus grande qu’une correction d’une ligne.
Choisir un modèle selon la tâche
Utilise un modèle plus grand pour les refactorisations et la logique complexe, comme un script avec beaucoup de fonctions ou de boucles qui dépendent les unes des autres. Un modèle plus petit suffit pour de petites modifications, comme ajouter un message d’usage. Quand une étape est difficile, run_on_model envoie seulement cette étape à un modèle plus grand pendant que le reste reste sur ton modèle habituel.
La qualité varie d’un modèle à l’autre, alors considère chaque résultat comme un brouillon. Ask first fait une pause avant les actions qui modifient quelque chose, edit_file affiche un diff et Shell rapporte le vrai code de sortie. Lis les trois avant d’accepter.