Выберите ИИ-модель для вашей работы с Bash

TechRetriever работает с тремя видами моделей: с облачным ИИ-провайдером через стандартную конечную точку API, с моделью, работающей локально на вашем компьютере, и со встроенной моделью. Выбирайте до начала работы. Ваш выбор определяет, куда уходит текст промпта, поэтому решите это до того, как откроете приватный скрипт.

Три способа подключить модель

Облачный ИИ-провайдер

Облачная модель подходит, чтобы писать более длинные скрипты и объяснять незнакомый код, а подключается она через стандартную конечную точку API с вашим собственным ключом. Учтите компромисс. Текст промпта, включая текст любого файла, который читает агент, уходит к этому провайдеру, тогда как сам ключ остаётся на вашем компьютере.

Модель на вашем компьютере

Локальная модель подходит для приватных скриптов и логов, которые вы предпочли бы не отправлять провайдеру. Ничто не покидает компьютер, потому что промпты никогда не уходят на внешнюю конечную точку. Качество зависит от загруженной модели, поэтому проверьте её на небольшом скрипте, прежде чем полагаться на неё в более длинном.

Встроенная модель

Встроенная модель — третий вид, который можно выбрать, и вводить собственную конечную точку не нужно. Это один из трёх вариантов. Модель получает текст ваших промптов и файлов, которые читает агент, поэтому не держите пароли и ключи в скриптах; секреты в выводе инструментов скрываются до того, как попадут к модели.

Что показывает кнопка Test

Нажмите Test после ввода конечной точки. Кнопка проверяет, отвечает ли конечная точка, показывает время ответа и окно контекста — то есть сколько текста модель принимает за один запрос. Длинному скрипту вместе с его логом нужно окно больше, чем правке одной строки.

Выберите модель под задачу

Берите более крупную модель для рефакторинга и сложной логики, например для скрипта со множеством функций или с взаимозависимыми циклами. Для небольших правок, вроде добавления сообщения об использовании, хватит модели поменьше. Когда один шаг труден, run_on_model отправляет на более крупную модель только его, а остальное остаётся на вашей обычной.

Качество у разных моделей разное, поэтому относитесь к любому результату как к черновику. Ask first останавливается перед действиями, которые что-то меняют, edit_file показывает diff, а Shell сообщает реальный код завершения. Прочитайте все три, прежде чем принимать.