Groq-translate-bob-plugin

#################################

Bob 官方已支持Groq插件，本仓库将不再更新

#################################

基于 Groq API 的 Bob 翻译插件。

可选模型

新增llama-3.2系列模型

llama-3.2-11b-vision-preview
llama-3.2-1b-preview
llama-3.2-3b-preview
llama-3.2-90b-text-preview
llama-3.2-90b-vision-preview
llama-3.1-70b-versatile： (最新默认), llama-3.1的最新中杯🥤，兼具质量和速度
llama-3.1-8b-instant: 速度快，质量也不错
llama3-8b-8192：兼具质量和速度
llama3-70b-8192：效果更好，但速度不如llama3-8b-8192
llama3-groq-70b-8192-tooluse-preview: Groq官方微调的可使用其他工具调用的测试版本
llama3-groq-8b-8192-tooluse-preview: Groq测试版小杯
llama-guard-3-8b: 安全版
mixtral-8x7b-32768
gemma2-9b-it ：更新支持, 谷歌最新开源, 2024 / 07 /07
gemma-7b-it

使用

下载安装此插件
获取 Groq API 的 API KEY

将 API KEY 填入 Bob 偏好设置 > 服务 > 此插件配置界面的 API KEY 的输入框中

Notes

得益于GroqCloud本身巨快的推理速度，结合最新开源模型llama3，目前性价比超高（Groq API目前免费，但有速率限制，个人使用足够）。

感谢

本仓库参考部分其他优秀源码，感谢bob-plugin-cohere、bob-plugin-openai-translator。