سایتی که به API هوش مصنوعی وصل است، پردازش سنگین را بیرون انجام می‌دهد؛ پس به پردازنده‌ی قوی نیاز ندارد. چیزی که مصرف می‌کند «زمان انتظار» است: هر درخواست چند ثانیه باز می‌ماند تا جواب مدل برسد و در این مدت یک جای خالی از ظرفیت همزمانی هاست را اشغال کرده است. پس معیار انتخاب هاست، تعداد کاربر همزمان و نوع استفاده است.

دو نوع استفاده

پشت صحنه زنده برای بازدیدکننده
مثال تولید توضیح محصول، خلاصه‌ی مقاله، برچسب‌گذاری چت‌بات، جستجوی هوشمند، دستیار داخل اپ
چه کسی منتظر است مدیر سایت یا کرون بازدیدکننده
همزمانی کم بالا
هاست همان هاست فعلی باید حساب‌شده باشد

مشکل انتظار در PHP

در هاست لینوکس، هر درخواست PHP تا رسیدن جواب مدل یک «پردازش ورودی» را نگه می‌دارد. ده بازدیدکننده که همزمان از چت‌بات سوال می‌کنند، ده جا را برای چند ثانیه پر می‌کنند و اگر سقف پر شود، بقیه‌ی بازدیدکننده‌های سایت خطای ۵۰۸ می‌بینند. (خطای ۵۰۸)

PHP یا Node.js؟

نیاز انتخاب
وردپرس با یک افزونه‌ی هوش مصنوعی در پیشخوان هاست لینوکس یا وردپرس
چند درخواست زنده در دقیقه هاست وردپرس با منابع بیشتر
چت‌بات یا اپلیکیشنی که کاربران زیادی همزمان منتظر جواب‌اند هاست Node.js
نمایش جواب به‌صورت تدریجی (استریم) هاست Node.js

Node.js برای کارهایی که بیشترشان انتظار است مناسب‌تر است: یک پروسه، تعداد زیادی اتصال منتظر را با حافظه‌ی کم نگه می‌دارد. (هاست Node.js چیست)

تنظیم‌هایی که باید ببینید

  • max_execution_time: از طولانی‌ترین جواب مدل بیشتر باشد.
  • مهلت درخواست در کد: اگر سرویس جواب نداد، کاربر تا ابد منتظر نماند.
  • کش: جواب سوال‌های تکراری را ذخیره کنید؛ هم هزینه کم می‌شود هم بار.
  • صف برای کارهای پشت صحنه: صد محصول را در یک درخواست پردازش نکنید؛ با کرون، دسته‌دسته. (اتوماسیون با کرون)
  • محدودیت نرخ: برای هر کاربر و هر آی‌پی، تا ربات‌ها هزینه نسازند.

دسترسی به سرویس

قبل از انتخاب هاست، مطمئن شوید سرور می‌تواند به آدرس API موردنظرتان وصل شود. این را با یک اسکریپت آزمایشی چک کنید یا قبل از خرید با تیکت بپرسید.

هزینه‌ی واقعی کجاست؟

در این نوع سایت‌ها هزینه‌ی هاست معمولاً بخش کوچک‌تر است؛ هزینه‌ی مصرف API با رشد کاربر بالا می‌رود. برای آن سقف ماهانه و هشدار بگذارید.

سوال‌های رایج

مدل روی هاست اجرا نمی‌شود؟

نه. (توضیح)

کلید API را کجا بگذارم؟

اتصال امن سایت به API.

از کدام شروع کنم؟

اگر وردپرس دارید، با همان هاست و یک افزونه؛ اگر اپلیکیشن می‌سازید، Node.js.