Skip to content

Commit bf4d923

Browse files
authored
feat(vllm): support external instances in dashboard monitoring (#14402)
1 parent 5c33fa5 commit bf4d923

13 files changed

Lines changed: 237 additions & 47 deletions

File tree

‎frontend/src/lang/modules/en.ts‎

Lines changed: 17 additions & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -1097,6 +1097,22 @@ const message = {
10971097
validateImageAvailabilityHelper: 'Generates one minimal image before saving and may incur charges',
10981098
},
10991099
model: {
1100+
externalInspect: 'Check and fetch',
1101+
externalHealthPassed: 'Health check passed',
1102+
externalHealthFailed: 'Health check failed',
1103+
externalServiceAddress: 'Service address',
1104+
externalAddressHelper: 'Supports HTTP/HTTPS. Include the port in the address.',
1105+
externalMetricsURL: 'Custom metrics URL',
1106+
externalAccessToken: 'API Key (Bearer Token)',
1107+
externalAccessTokenHelper:
1108+
'Enter the API key or access token configured for the remote service to authenticate API requests.',
1109+
metricsURLHelper: 'Leave blank to use the default /metrics URL.',
1110+
addExternal: 'Add external instance',
1111+
external: 'External',
1112+
externalTokenHelper: 'Leave blank to keep the existing token.',
1113+
clearAccessToken: 'Clear access token',
1114+
deleteExternalHelper: 'Delete the connection and monitoring history. The external service is unaffected.',
1115+
11001116
searchTitle: 'Search and download models',
11011117
searchHelper:
11021118
'Find models on ModelScope or Hugging Face, then deploy them or create a Recipe in Model Preparation.',
@@ -1235,7 +1251,7 @@ const message = {
12351251
deploymentNameHelper:
12361252
'Application instance name, used for the installation directory and fixed after creation. Set an alias to change the display name.',
12371253
deploymentAliasHelper:
1238-
'Optional display name for the list. Leave empty to use the application name. Changing only the alias does not restart the container.',
1254+
'Optional display alias. Leave empty to use the instance name. Changing the alias does not restart the service.',
12391255
deploymentContainerNameHelper:
12401256
'Docker container name. Defaults to the application name and can be set separately. Changing it recreates the container.',
12411257
imageVersion: 'Image version',

‎frontend/src/lang/modules/es-es.ts‎

Lines changed: 19 additions & 5 deletions
Original file line numberDiff line numberDiff line change
@@ -1099,6 +1099,22 @@ const message = {
10991099
validateImageAvailabilityHelper: 'Genera una imagen mínima antes de guardar y puede generar costes',
11001100
},
11011101
model: {
1102+
externalInspect: 'Comprobar y obtener',
1103+
externalHealthPassed: 'Comprobación de salud correcta',
1104+
externalHealthFailed: 'Falló la comprobación de salud',
1105+
externalServiceAddress: 'Dirección del servicio',
1106+
externalAddressHelper: 'Admite HTTP/HTTPS. Incluya el puerto en la dirección.',
1107+
externalMetricsURL: 'URL de métricas personalizada',
1108+
externalAccessToken: 'API Key (Bearer Token)',
1109+
externalAccessTokenHelper:
1110+
'Introduzca la clave API o el token de acceso configurado para el servicio remoto para autenticar las solicitudes a la API.',
1111+
metricsURLHelper: 'Déjelo vacío para usar la URL /metrics predeterminada.',
1112+
addExternal: 'Añadir instancia externa',
1113+
external: 'Externo',
1114+
externalTokenHelper: 'Déjelo vacío para conservar el token actual.',
1115+
clearAccessToken: 'Borrar token de acceso',
1116+
deleteExternalHelper: 'Eliminar la conexión y el historial de supervisión sin afectar al servicio externo.',
1117+
11021118
searchTitle: 'Buscar y descargar modelos',
11031119
searchHelper:
11041120
'Busca modelos en ModelScope o Hugging Face y luego despliégalos o crea una Recipe en Preparación de modelos.',
@@ -1239,7 +1255,7 @@ const message = {
12391255
deploymentNameHelper:
12401256
'Nombre de la instancia, usado en el directorio de instalación y fijo tras crearla. Configure un alias para cambiar el nombre mostrado.',
12411257
deploymentAliasHelper:
1242-
'Nombre opcional para la lista. Si se deja vacío, se muestra el nombre de la aplicación. Cambiar solo el alias no reinicia el contenedor.',
1258+
'Alias opcional para la lista. Si se deja vacío, se muestra el nombre de la instancia. Cambiar el alias no reinicia el servicio.',
12431259
deploymentContainerNameHelper:
12441260
'Nombre del contenedor Docker. Por defecto coincide con la aplicación y puede configurarse por separado. Cambiarlo vuelve a crear el contenedor.',
12451261
imageVersion: 'Versión de la imagen',
@@ -6098,10 +6114,8 @@ const message = {
60986114
systemHealthStatus: 'Estado de riesgo de ejecución del host',
60996115
mainReasons: 'Causas principales',
61006116
viewHostMonitor: 'Ver monitoreo del host',
6101-
systemHealthAttentionDesc:
6102-
'Esta evaluación detectó {0} riesgos. Revise las métricas siguientes.',
6103-
systemHealthNormalDesc:
6104-
'Esta evaluación no detectó riesgos de ejecución del host.',
6117+
systemHealthAttentionDesc: 'Esta evaluación detectó {0} riesgos. Revise las métricas siguientes.',
6118+
systemHealthNormalDesc: 'Esta evaluación no detectó riesgos de ejecución del host.',
61056119
monitorEnabled: 'Monitoreo habilitado',
61066120
cpuCoreUsage: '{0} / {1} núcleos',
61076121
load1Minute: 'Carga 1 min',

‎frontend/src/lang/modules/fa.ts‎

Lines changed: 18 additions & 3 deletions
Original file line numberDiff line numberDiff line change
@@ -1081,6 +1081,22 @@ const message = {
10811081
validateImageAvailabilityHelper: 'پیش از ذخیره یک تصویر حداقلی تولید می‌شود و ممکن است هزینه داشته باشد',
10821082
},
10831083
model: {
1084+
externalInspect: 'بررسی و دریافت',
1085+
externalHealthPassed: 'بررسی سلامت موفق بود',
1086+
externalHealthFailed: 'بررسی سلامت ناموفق بود',
1087+
externalServiceAddress: 'نشانی سرویس',
1088+
externalAddressHelper: 'از HTTP/HTTPS پشتیبانی می‌کند. پورت را در نشانی وارد کنید.',
1089+
externalMetricsURL: 'نشانی سفارشی متریک‌ها',
1090+
externalAccessToken: 'API Key (Bearer Token)',
1091+
externalAccessTokenHelper:
1092+
'کلید API یا توکن دسترسی تنظیم‌شده برای سرویس راه دور را وارد کنید؛ برای احراز هویت درخواست‌های API استفاده می‌شود.',
1093+
metricsURLHelper: 'برای استفاده از نشانی پیش‌فرض /metrics خالی بگذارید.',
1094+
addExternal: 'افزودن نمونه خارجی',
1095+
external: 'خارجی',
1096+
externalTokenHelper: 'برای حفظ توکن فعلی خالی بگذارید.',
1097+
clearAccessToken: 'حذف توکن دسترسی',
1098+
deleteExternalHelper: 'حذف اتصال و تاریخچه پایش بدون تأثیر بر سرویس خارجی.',
1099+
10841100
searchTitle: 'جستجو و دانلود مدل‌ها',
10851101
searchHelper:
10861102
'مدل‌ها را در ModelScope یا Hugging Face پیدا کنید، سپس در آماده‌سازی مدل آن‌ها را مستقر کنید یا یک Recipe بسازید.',
@@ -1218,7 +1234,7 @@ const message = {
12181234
deploymentNameHelper:
12191235
'نام نمونهٔ برنامه برای پوشهٔ نصب استفاده می\u200cشود و پس از ایجاد قابل تغییر نیست. برای تغییر نام نمایشی، نام مستعار تعیین کنید.',
12201236
deploymentAliasHelper:
1221-
'نام نمایشی اختیاری برای فهرست. اگر خالی باشد، نام برنامه نمایش داده می\u200cشود. تغییر فقط نام مستعار، کانتینر را راه\u200cاندازی مجدد نمی\u200cکند.',
1237+
'نام مستعار اختیاری برای نمایش در فهرست. اگر خالی باشد، نام نمونه نمایش داده می‌شود. تغییر نام مستعار سرویس را مجدداً راه‌اندازی نمی‌کند.',
12221238
deploymentContainerNameHelper:
12231239
'نام کانتینر Docker به\u200cطور پیش\u200cفرض همان نام برنامه است و جداگانه قابل تنظیم است. تغییر آن کانتینر را دوباره ایجاد می\u200cکند.',
12241240
imageVersion: 'نسخه ایمیج',
@@ -5949,8 +5965,7 @@ const message = {
59495965
systemHealthStatus: 'وضعیت ریسک عملکرد میزبان',
59505966
mainReasons: 'دلایل اصلی',
59515967
viewHostMonitor: 'مشاهده نظارت بر میزبان',
5952-
systemHealthAttentionDesc:
5953-
'این ارزیابی {0} مورد ریسک شناسایی کرد. معیارهای زیر را بررسی کنید.',
5968+
systemHealthAttentionDesc: 'این ارزیابی {0} مورد ریسک شناسایی کرد. معیارهای زیر را بررسی کنید.',
59545969
systemHealthNormalDesc: 'در این ارزیابی هیچ ریسکی در عملکرد میزبان شناسایی نشد.',
59555970
monitorEnabled: 'نظارت فعال',
59565971
cpuCoreUsage: '{0} / {1} هسته',

‎frontend/src/lang/modules/ja.ts‎

Lines changed: 17 additions & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -1084,6 +1084,22 @@ const message = {
10841084
validateImageAvailabilityHelper: '保存前に最小画像を1枚生成するため、料金が発生する場合があります',
10851085
},
10861086
model: {
1087+
externalInspect: '確認して取得',
1088+
externalHealthPassed: 'ヘルスチェック成功',
1089+
externalHealthFailed: 'ヘルスチェック失敗',
1090+
externalServiceAddress: '接続先アドレス',
1091+
externalAddressHelper: 'HTTP/HTTPS に対応。ポートはアドレスに含めてください。',
1092+
externalMetricsURL: 'カスタム監視 URL',
1093+
externalAccessToken: 'API Key(Bearer Token)',
1094+
externalAccessTokenHelper:
1095+
'リモートサービスに設定された API キーまたはアクセストークンを入力してください。API リクエストの認証に使用します。',
1096+
metricsURLHelper: '空欄の場合、既定の /metrics URL を使用します。',
1097+
addExternal: '外部インスタンスを追加',
1098+
external: '外部',
1099+
externalTokenHelper: '空欄の場合、現在のトークンを保持します。',
1100+
clearAccessToken: 'アクセストークンを削除',
1101+
deleteExternalHelper: '接続と監視履歴を削除します。外部サービスには影響しません。',
1102+
10871103
searchTitle: 'モデルを検索してダウンロード',
10881104
searchHelper:
10891105
'ModelScope または Hugging Face でモデルを検索し、ダウンロード後にモデル準備でデプロイまたは Recipe を作成できます。',
@@ -1220,7 +1236,7 @@ const message = {
12201236
deploymentNameHelper:
12211237
'アプリのインスタンス名です。インストール先ディレクトリに使用され、作成後は変更できません。表示名を変更するには別名を設定してください。',
12221238
deploymentAliasHelper:
1223-
'一覧の表示名(任意)。空欄の場合はアプリ名を表示します。別名のみの変更ではコンテナは再起動しません。',
1239+
'一覧表示用の任意の別名です。空欄の場合はインスタンス名を表示します。別名を変更してもサービスは再起動されません。',
12241240
deploymentContainerNameHelper:
12251241
'Docker コンテナ名です。初期値はアプリ名で、個別に設定できます。変更するとコンテナが再作成されます。',
12261242
imageVersion: 'イメージバージョン',

‎frontend/src/lang/modules/ko.ts‎

Lines changed: 18 additions & 3 deletions
Original file line numberDiff line numberDiff line change
@@ -1074,6 +1074,22 @@ const message = {
10741074
validateImageAvailabilityHelper: '저장 전에 최소 이미지 한 장을 생성하며 비용이 발생할 수 있습니다',
10751075
},
10761076
model: {
1077+
externalInspect: '확인 및 가져오기',
1078+
externalHealthPassed: '상태 확인 성공',
1079+
externalHealthFailed: '상태 확인 실패',
1080+
externalServiceAddress: '접속 주소',
1081+
externalAddressHelper: 'HTTP/HTTPS를 지원합니다. 주소에 포트를 포함하세요.',
1082+
externalMetricsURL: '사용자 지정 모니터링 주소',
1083+
externalAccessToken: 'API Key (Bearer Token)',
1084+
externalAccessTokenHelper:
1085+
'원격 서비스에 설정된 API 키 또는 액세스 토큰을 입력하세요. API 요청 인증에 사용됩니다.',
1086+
metricsURLHelper: '비워 두면 기본 /metrics 주소를 사용합니다.',
1087+
addExternal: '외부 인스턴스 추가',
1088+
external: '외부',
1089+
externalTokenHelper: '비워 두면 기존 토큰을 유지합니다.',
1090+
clearAccessToken: '액세스 토큰 삭제',
1091+
deleteExternalHelper: '연결과 모니터링 기록을 삭제합니다. 외부 서비스에는 영향이 없습니다.',
1092+
10771093
searchTitle: '모델 검색 및 다운로드',
10781094
searchHelper:
10791095
'ModelScope 또는 Hugging Face에서 모델을 찾아 다운로드한 후 모델 준비에서 배포하거나 Recipe를 만들 수 있습니다.',
@@ -1207,7 +1223,7 @@ const message = {
12071223
deploymentNameHelper:
12081224
'앱 인스턴스 이름으로, 설치 디렉터리에 사용되며 생성 후 변경할 수 없습니다. 표시 이름을 바꾸려면 별칭을 설정하세요.',
12091225
deploymentAliasHelper:
1210-
'목록에 표시할 이름입니다(선택 사항). 비워 두면 앱 이름을 표시합니다. 별칭만 변경하면 컨테이너가 재시작되지 않습니다.',
1226+
'목록에 표시할 별칭입니다. 비워 두면 인스턴스 이름이 표시됩니다. 별칭을 변경해도 서비스는 다시 시작되지 않습니다.',
12111227
deploymentContainerNameHelper:
12121228
'Docker 컨테이너 이름입니다. 기본값은 앱 이름이며 별도로 설정할 수 있습니다. 변경하면 컨테이너가 다시 생성됩니다.',
12131229
imageVersion: '이미지 버전',
@@ -5873,8 +5889,7 @@ const message = {
58735889
systemHealthStatus: '호스트 실행 위험 상태',
58745890
mainReasons: '주요 원인',
58755891
viewHostMonitor: '호스트 모니터 보기',
5876-
systemHealthAttentionDesc:
5877-
'이번 평가에서 위험 항목 {0}개가 발견되었습니다. 아래 지표를 확인하세요.',
5892+
systemHealthAttentionDesc: '이번 평가에서 위험 항목 {0}개가 발견되었습니다. 아래 지표를 확인하세요.',
58785893
systemHealthNormalDesc: '이번 평가에서는 호스트 실행 위험이 발견되지 않았습니다.',
58795894
monitorEnabled: '모니터링 활성화됨',
58805895
cpuCoreUsage: '{0} / {1}코어',

‎frontend/src/lang/modules/lo.ts‎

Lines changed: 18 additions & 3 deletions
Original file line numberDiff line numberDiff line change
@@ -1071,6 +1071,22 @@ const message = {
10711071
validateImageAvailabilityHelper: 'ສ້າງຮູບຂະໜາດນ້ອຍໜຶ່ງຮູບກ່ອນບັນທຶກ ແລະ ອາດມີຄ່າໃຊ້ຈ່າຍ',
10721072
},
10731073
model: {
1074+
externalInspect: 'ກວດສອບ ແລະ ດຶງຂໍ້ມູນ',
1075+
externalHealthPassed: 'ກວດສອບສະຖານະຜ່ານ',
1076+
externalHealthFailed: 'ກວດສອບສະຖານະບໍ່ຜ່ານ',
1077+
externalServiceAddress: 'ທີ່ຢູ່ບໍລິການ',
1078+
externalAddressHelper: 'ຮອງຮັບ HTTP/HTTPS. ໃສ່ພອດໃນທີ່ຢູ່.',
1079+
externalMetricsURL: 'URL ຕິດຕາມທີ່ກຳນົດເອງ',
1080+
externalAccessToken: 'API Key (Bearer Token)',
1081+
externalAccessTokenHelper:
1082+
'ປ້ອນຄີ API ຫຼື ໂທເຄັນເຂົ້າໃຊ້ທີ່ຕັ້ງຄ່າໄວ້ໃນບໍລິການທາງໄກ ເພື່ອຢືນຢັນຕົວຕົນສຳລັບຄຳຮ້ອງຂໍ API.',
1083+
metricsURLHelper: 'ປ່ອຍວ່າງເພື່ອໃຊ້ທີ່ຢູ່ /metrics ເລີ່ມຕົ້ນ.',
1084+
addExternal: 'ເພີ່ມອິນສະແຕນພາຍນອກ',
1085+
external: 'ພາຍນອກ',
1086+
externalTokenHelper: 'ປ່ອຍວ່າງເພື່ອຮັກສາໂທເຄັນເດີມ.',
1087+
clearAccessToken: 'ລຶບໂທເຄັນເຂົ້າໃຊ້',
1088+
deleteExternalHelper: 'ລຶບການເຊື່ອມຕໍ່ ແລະ ປະຫວັດຕິດຕາມ ໂດຍບໍ່ກະທົບບໍລິການພາຍນອກ.',
1089+
10741090
searchTitle: 'ຄົ້ນຫາ ແລະ ດາວໂຫຼດໂມເດວ',
10751091
searchHelper: 'ຄົ້ນຫາໂມເດວໃນ ModelScope ຫຼື Hugging Face ແລ້ວນຳໃຊ້ ຫຼື ສ້າງ Recipe ໃນການກະກຽມໂມເດວ.',
10761092
modelScopeSearchHelper: 'ເຂົ້າເຖິງໄດ້ສະຖຽນໃນຈີນແຜ່ນດິນໃຫຍ່',
@@ -1199,7 +1215,7 @@ const message = {
11991215
deploymentNameHelper:
12001216
'ຊື່ອິນສະແຕນຂອງແອັບ ໃຊ້ສຳລັບໂຟນເດີຕິດຕັ້ງ ແລະ ປ່ຽນບໍ່ໄດ້ຫຼັງສ້າງ. ຕັ້ງຊື່ຫຼິ້ນເພື່ອປ່ຽນຊື່ທີ່ສະແດງ.',
12011217
deploymentAliasHelper:
1202-
'ຊື່ສະແດງໃນລາຍການ ບໍ່ບັງຄັບ. ຖ້າປະວ່າງຈະໃຊ້ຊື່ແອັບ. ການປ່ຽນພຽງຊື່ຫຼິ້ນຈະບໍ່ເລີ່ມຄອນເທນເນີໃໝ່.',
1218+
'ຊື່ຫຼິ້ນສຳລັບສະແດງໃນລາຍການ ຈະລະບຸຫຼືບໍ່ກໍໄດ້. ຖ້າປະໄວ້ຫວ່າງ ຈະສະແດງຊື່ອິນສະແຕນ. ການປ່ຽນຊື່ຫຼິ້ນຈະບໍ່ເລີ່ມບໍລິການໃໝ່.',
12031219
deploymentContainerNameHelper:
12041220
'ຊື່ຄອນເທນເນີ Docker ເລີ່ມຕົ້ນເປັນຊື່ແອັບ ແລະ ຕັ້ງແຍກໄດ້. ການປ່ຽນຊື່ນີ້ຈະສ້າງຄອນເທນເນີໃໝ່.',
12051221
imageVersion: 'ເວີຊັນອິມເມຈ',
@@ -5812,8 +5828,7 @@ const message = {
58125828
systemHealthStatus: 'ສະຖານະຄວາມສ່ຽງການເຮັດວຽກຂອງ Host',
58135829
mainReasons: 'ສາເຫດຫຼັກ',
58145830
viewHostMonitor: 'ເບິ່ງການຕິດຕາມ Host',
5815-
systemHealthAttentionDesc:
5816-
'ການປະເມີນຄັ້ງນີ້ພົບຄວາມສ່ຽງ {0} ລາຍການ. ກະລຸນາກວດສອບຕົວຊີ້ວັດດ້ານລຸ່ມ.',
5831+
systemHealthAttentionDesc: 'ການປະເມີນຄັ້ງນີ້ພົບຄວາມສ່ຽງ {0} ລາຍການ. ກະລຸນາກວດສອບຕົວຊີ້ວັດດ້ານລຸ່ມ.',
58175832
systemHealthNormalDesc: 'ການປະເມີນຄັ້ງນີ້ບໍ່ພົບຄວາມສ່ຽງການເຮັດວຽກຂອງ Host.',
58185833
monitorEnabled: 'ເປີດການຕິດຕາມແລ້ວ',
58195834
cpuCoreUsage: '{0} / {1} ຄໍຣ໌',

0 commit comments

Comments
 (0)