نه. اجرای خود مدل زبانی یا مدل تصویر روی هاست اشتراکی شدنی نیست: این مدل‌ها پردازنده‌ی گرافیکی، ده‌ها گیگابایت حافظه و پردازش دائمی می‌خواهند. اما برای داشتن قابلیت هوش مصنوعی در سایت، لازم نیست مدل را خودتان اجرا کنید؛ سایت به سرویس یک شرکت وصل می‌شود (API) و فقط سوال می‌فرستد و جواب می‌گیرد. این کار روی هاست معمولی هم انجام می‌شود.
دو کار متفاوت
| اجرای مدل | استفاده از API | |
|---|---|---|
| پردازش کجاست | روی سرور شما | روی سرور سرویس‌دهنده |
| سخت‌افزار لازم | GPU و حافظه‌ی زیاد | هیچ |
| روی هاست اشتراکی | نه | بله |
| هزینه | سرور گران و ثابت | به ازای مصرف |
| نگهداری | با شما | با سرویس‌دهنده |
چرا اجرای مدل روی هاست نمی‌شود؟
- حافظه: حتی مدل‌های کوچک چند گیگابایت رم را دائم اشغال میکنند؛ سهم حساب هاست اشتراکی خیلی کمتر است.
- پردازنده‌ی گرافیکی: سرورهای هاست GPU ندارند و بدون آن، تولید هر جواب دقیقه‌ها طول می‌کشد.
- پردازش دائمی: مدل باید همیشه در حافظه بماند؛ هاست اشتراکی برای این ساخته نشده.
- محدودیت منابع: CloudLinux چنین پردازشی را متوقف می‌کند. (CloudLinux چیست)
چه چیزهایی روی هاست شدنی است؟
| کار | کجا |
|---|---|
| افزونه‌ی وردپرس که به API وصل می‌شود | هاست لینوکس یا وردپرس |
| اسکریپت PHP که متن را به API می‌فرستد | هاست لینوکس |
| بک‌اند چت‌بات با Node.js | هاست Node.js |
| پردازش زمان‌بندی‌شده (مثلاً خلاصه‌ی روزانه) | کرون‌جاب |
سه چیزی که باید قبلش بررسی کنید
- دسترسی از سرور: درخواست API از سرور هاست فرستاده می‌شود. مطمئن شوید آن سرویس از سرور شما در دسترس است؛ با یک درخواست آزمایشی ساده معلوم می‌شود.
- زمان پاسخ: جواب مدل چند ثانیه طول می‌کشد. اگر از
max_execution_timeبیشتر شود، درخواست قطع می‌شود. (تنظیمات PHP) - کلید API: هرگز در کد سمت مرورگر نباشد. (نگهداری امن کلید)
اگر واقعاً می‌خواهید مدل را خودتان اجرا کنید
سرور اختصاصی یا ابری با GPU لازم است، به‌علاوه‌ی دانش راه‌اندازی و نگهداری. برای بیشتر سایت‌ها، هزینه‌ی API بسیار کمتر از هزینه‌ی چنین سروری است. این مسیر وقتی منطقی است که حریم داده‌ها اجازه‌ی ارسال به بیرون را ندهد یا حجم استفاده بسیار بالا باشد.
سوال‌های رایج
مدل‌های خیلی کوچک چطور؟
روی سرور مجازی با رم کافی شاید؛ روی هاست اشتراکی نه. (سرور مجازی)
سایتی که از API استفاده می‌کند هاست قوی‌تر می‌خواهد؟
چه هاستی برای سایت متصل به API هوش مصنوعی.
افزونهها مدل را روی هاست نصب میکنند؟
نه؛ فقط واسطهاند. (افزونههای هوش مصنوعی)
