RimTalk - explicitcache

RimTalk의 API 요청에 Flex 서비스 티어와 명시적 프롬프트 캐싱을 추가하는 모드입니다.

주요 기능

• Flex 서비스 티어
응답 속도가 느려지는 대신 API 비용이 저렴해집니다.

• 명시적 캐싱
고정된 메인 프롬프트를 캐싱하여 반복 요청의 입력 비용을 줄입니다.
안정성을 위해 메인 프롬프트만 캐싱하며, Pawn Profiles, 건강, 장비, 기분과 현재 상황은 캐시하지 않습니다.

캐싱 효과를 충분히 받으려면 가급적 4,000토큰 이상의 프롬프트를 사용하세요.
모드 폴더에 바로 사용할 수 있는 공유용 프롬프트 프리셋이 첨부되어 있습니다.

• 요청 로그
최근 요청 4개와 공급자가 반환한 캐시 사용량을 기록합니다.
모드 설정에서 로그 폴더를 바로 열 수 있습니다.

• 프리필
검열이 강한 모델을 위한 실험적 기능입니다.
프리필을 거부하는 모델에서는 끄세요.

Vertex AI

Vertex AI를 이미 사용하는 사람을 위한 옵션입니다.

RimTalk에서 Google AI Studio를 선택하고 API 키와 모델명을 입력한 뒤, 이 모드에서 Vertex AI 송신을 활성화하면 요청을 Vertex AI로 대신 보냅니다.

Vertex AI가 무엇인지 모르면 켜지 마세요.

배열:
RimTalk → 기타 RimTalk 관련 모드 → RimTalk - explicitcache