Bash 작업 뒤에서 일할 AI 모델 고르기

TechRetriever는 세 가지 모델과 함께 동작해요. 표준 API 엔드포인트로 연결하는 클라우드 AI 제공업체, 내 PC에서 실행되는 모델, 그리고 내장 모델이에요. 시작하기 전에 고르세요. 선택에 따라 프롬프트 텍스트가 가는 곳이 달라지니, 비공개 스크립트를 열기 전에 정해 두세요.

모델을 연결하는 세 가지 방법

클라우드 AI 제공업체

클라우드 모델은 긴 스크립트를 작성하거나 낯선 코드를 설명할 때 알맞고, 내 키를 넣어 표준 API 엔드포인트로 연결해요. 장단점을 따져 보세요. 에이전트가 읽은 파일의 텍스트를 포함한 프롬프트 텍스트는 그 제공업체로 가고, 키 자체는 내 PC에 남아요.

내 PC의 모델

로컬 모델은 제공업체에 보내고 싶지 않은 비공개 스크립트와 로그에 알맞아요. 프롬프트가 외부 엔드포인트로 가지 않으니 아무것도 PC를 떠나지 않아요. 품질은 불러온 모델에 따라 달라지니, 긴 스크립트에 의존하기 전에 작은 스크립트로 먼저 테스트하세요.

내장 모델

내장 모델은 고를 수 있는 세 번째 종류이고, 따로 입력할 엔드포인트가 없어요. 세 가지 중 하나일 뿐이에요. 이 모델은 프롬프트와 에이전트가 읽은 파일의 텍스트를 받으니 스크립트에 비밀번호와 키를 넣지 마세요. 도구 출력 속 비밀 정보는 모델에 닿기 전에 가려져요.

Test 버튼이 보여 주는 것

엔드포인트를 입력한 뒤 Test를 누르세요. 이 버튼은 엔드포인트가 응답하는지 확인하고, 응답 시간과 컨텍스트 창을 보여 줘요. 컨텍스트 창은 모델이 한 번의 요청으로 받아들일 수 있는 텍스트의 양이에요. 긴 스크립트와 그 로그에는 한 줄짜리 수정보다 더 큰 창이 필요해요.

작업에 맞는 모델 고르기

리팩터링이나 함수가 많은 스크립트, 서로 의존하는 반복문처럼 복잡한 로직에는 더 큰 모델을 쓰세요. 사용법 메시지 추가 같은 작은 수정에는 작은 모델이면 충분해요. 어려운 단계가 하나 있으면 run_on_model이 그 단계만 더 큰 모델에 보내고, 나머지는 평소 쓰던 모델에 남겨 둬요.

모델마다 품질이 다르니 모든 결과를 초안으로 보세요. Ask first는 무언가를 바꾸는 작업 전에 멈추고, edit_file은 diff를 보여 주며, Shell은 실제 종료 코드를 알려 줘요. 수락하기 전에 이 세 가지를 모두 읽어 보세요.