Pilih model AI di balik pekerjaan Bash-mu

TechRetriever bekerja dengan tiga jenis model: penyedia AI cloud lewat endpoint API standar, model yang berjalan lokal di PC-mu, dan model bawaan. Pilih sebelum mulai. Pilihanmu menentukan ke mana teks prompt dikirim, jadi putuskan sebelum membuka skrip yang bersifat pribadi.

Tiga cara menghubungkan model

Penyedia AI cloud

Model cloud cocok untuk menulis skrip yang lebih panjang dan menjelaskan kode yang asing, dan kamu menghubungkannya lewat endpoint API standar dengan kuncimu sendiri. Perhatikan konsekuensinya. Teks prompt, termasuk teks berkas apa pun yang dibaca agen, dikirim ke penyedia itu, sedangkan kuncinya sendiri tetap berada di PC-mu.

Model di PC-mu

Model lokal cocok untuk skrip dan log pribadi yang tidak ingin kamu kirim ke penyedia. Tidak ada yang keluar dari PC, karena prompt tidak pernah dikirim ke endpoint luar. Kualitasnya bervariasi menurut model yang kamu muat, jadi ujilah pada skrip kecil sebelum kamu mengandalkannya untuk yang lebih panjang.

Model bawaan

Model bawaan adalah jenis ketiga yang bisa kamu pilih, dan tidak ada endpoint milikmu sendiri yang perlu diisi. Ia salah satu dari tiga. Model ini menerima teks prompt dan teks berkas yang dibaca agen, jadi jauhkan kata sandi dan kunci dari skripmu; rahasia dalam keluaran alat disamarkan sebelum sampai ke model.

Apa yang ditampilkan tombol Test

Tekan Test setelah kamu mengisi endpoint. Tombol ini memeriksa bahwa endpoint menjawab, menampilkan waktu respons, dan menampilkan jendela konteks, yaitu seberapa banyak teks yang bisa diterima model dalam satu permintaan. Skrip panjang beserta lognya membutuhkan jendela yang lebih besar daripada perbaikan satu baris.

Pilih model sesuai pekerjaannya

Gunakan model yang lebih besar untuk refaktor dan logika rumit, seperti skrip dengan banyak fungsi atau perulangan yang saling bergantung. Model yang lebih kecil sudah cukup untuk suntingan kecil seperti menambahkan pesan penggunaan. Saat satu langkah sulit, run_on_model mengirim hanya langkah itu ke model yang lebih besar, sementara sisanya tetap di model yang biasa kamu pakai.

Kualitas berbeda-beda antarmodel, jadi perlakukan setiap hasil sebagai draf. Ask first berhenti sebelum tindakan yang mengubah sesuatu, edit_file menampilkan diff, dan Shell melaporkan kode keluar yang sebenarnya. Baca ketiganya sebelum kamu menerima.