Escolha o modelo de IA por trás do seu trabalho com Bash

O TechRetriever funciona com três tipos de modelo: um provedor de IA na nuvem por meio de um endpoint de API padrão, um modelo rodando localmente no seu PC e o modelo integrado. Escolha antes de começar. Sua escolha decide para onde vai o texto do prompt, então defina isso antes de abrir um script privado.

Três formas de conectar um modelo

Um provedor de IA na nuvem

Um modelo na nuvem serve para escrever scripts mais longos e explicar código desconhecido, e você o conecta por um endpoint de API padrão com a sua própria chave. Considere a troca. O texto do prompt, incluindo o texto de qualquer arquivo que o agente leia, vai para esse provedor, enquanto a chave em si fica no seu PC.

Um modelo no seu PC

Um modelo local serve para scripts e logs privados que você prefere não enviar a um provedor. Nada sai do PC, porque os prompts nunca vão para um endpoint externo. A qualidade varia conforme o modelo que você carrega, então teste-o em um script pequeno antes de confiar nele para um mais longo.

O modelo integrado

O modelo integrado é o terceiro tipo que você pode escolher, e não há endpoint próprio para informar. É uma das três opções. O modelo recebe o texto dos seus prompts e dos arquivos que o agente lê, então mantenha senhas e chaves fora dos seus scripts; segredos na saída das ferramentas são ocultados antes de chegarem ao modelo.

O que o botão Test mostra

Clique em Test depois de informar o endpoint. O botão verifica se o endpoint responde, mostra o tempo de resposta e mostra a janela de contexto, que é a quantidade de texto que o modelo aceita em uma única requisição. Um script longo mais o seu log exige uma janela maior do que uma correção de uma linha.

Escolha um modelo para a tarefa

Use um modelo maior para refatorações e lógica complexa, como um script com muitas funções ou laços que dependem uns dos outros. Um modelo menor basta para pequenas edições, como adicionar uma mensagem de uso. Quando um passo é difícil, o run_on_model envia só esse passo a um modelo maior e o resto continua no que você costuma usar.

A qualidade varia entre os modelos, então trate todo resultado como um rascunho. O Ask first pausa antes de ações que alteram algo, o edit_file mostra um diff e o Shell informa o código de saída real. Leia os três antes de aceitar.