هوش مصنوعی حاکمیتیاقتصاد GPUزیرساخت·۸ دقیقه مطالعه

واقعاً چه چیزی لازم است تا هوش مصنوعی حاکمیتی برای همه مقرون‌به‌صرفه شود؟

حاکمیت معمولاً به‌عنوان اضافه‌بهایی فروخته می‌شود که بابت کنترل می‌پردازید. این‌طور نیست. آنچه هوش مصنوعی حاکمیتی را گران می‌کند، جای استقرار سخت‌افزار نیست — بلکه این است که چقدر کم از آن استفاده می‌کنید.

علی سلماجی

مدیرعامل ·

هر سازمانی که جدی به راه‌اندازی هوش مصنوعی خودش نگاه کرده، با همان یک ایراد روبه‌رو شده است، معمولاً از سوی واحد مالی نه واحد مهندسی: حاکمیت یک تجمل است. استدلال می‌گوید اجاره‌کردن از یک ارائه‌دهندهٔ ابرمقیاس ارزان‌تر است، پس کنترل چیزی است که فقط وقتی می‌خرید که یک نهاد ناظر مجبورتان کند.

این استدلال بر مقایسه‌ای بنا شده که هیچ‌کس واقعاً انجامش نمی‌دهد. قیمت حاشیه‌ای یک فراخوان API را در برابر هزینهٔ سرمایه‌ای یک کلاستر می‌گذارد، نادیده می‌گیرد که همان کلاستر برای هر بار کاری دیگرِ سازمان چه می‌کند، و بی‌سروصدا فرض می‌کند که کلاستر بد استفاده خواهد شد. همان فرض آخر را عوض کنید، اقتصاد ماجرا وارونه می‌شود.

آنچه واقعاً تعیین می‌کند هوش مصنوعی حاکمیتی مقرون‌به‌صرفه هست یا نه، این‌هاست.

01مقرون‌به‌صرفه‌بودن را بهره‌وری تعیین می‌کند، نه محل استقرار

یک شتاب‌دهنده چه مشغول باشد چه بیکار، هزینه‌اش یکی است. این مهم‌ترین واقعیت در اقتصاد زیرساخت هوش مصنوعی است، و همان واقعیتی که بیش از همه از توجیه اقتصادی حذف می‌شود.

در تخصیص انحصاری — یک تیم، یک کار، یک کارت — ناوگان بیشتر عمرش را در انتظار می‌گذراند. پژوهش رگباری است. تنظیم دقیق (fine-tune) دوره‌ای است. استنتاج در محیط عملیاتی ریتم روزانه دارد. به هرکدام سخت‌افزار اختصاصی خودش را بدهید، آن‌وقت سه ناوگان خریده‌اید تا کار یکی را انجام دهند.

اهرم، تدارکات نیست؛ زمان‌بندی است: تخصیص کسری تا چند بار کاری یک کارت را به اشتراک بگذارند، صف‌بندی تا ناوگان همیشه کار داشته باشد، و جای‌گذاری شبانه‌روزی تا کارهای دسته‌ای شکاف‌هایی را پر کنند که ترافیک تعاملی جا می‌گذارد. همان سخت‌افزار، اگر درست استفاده شود، چند برابر کار را سرویس می‌دهد. پول همین‌جاست، و از لحظه‌ای که پلتفرم مال خودتان باشد، کاملاً در کنترل شماست.

02مرکز هزینه از آموزش به سرویس‌دهی جابه‌جا شده است

بیشتر توجیه‌های اقتصادی هوش مصنوعی هنوز طوری نوشته می‌شوند که انگار آموزش بخش گرانِ ماجراست. برای شمار اندکی از سازمان‌ها که مدل‌های پایه می‌سازند، همین‌طور هم هست. برای بقیه، آموزش یک هزینهٔ پروژه‌ای است و سرویس‌دهی یک هزینهٔ عملیاتی — و این هزینه‌های عملیاتی‌اند که انباشته می‌شوند.

مدلی که یک‌بار آموزش داده‌اید و ماهی یک میلیون بار سرویس می‌دهید، کاملاً تحت سلطهٔ استنتاج است. این موضوع پرسش مهندسی را از «چقدر سریع می‌توانیم آموزش دهیم» به «چند توکن بر ثانیه به ازای هر وات می‌توانیم پایدار نگه داریم» تغییر می‌دهد؛ مسئله‌ای بسیار متفاوت با پاسخ‌هایی بسیار متفاوت.

تعریف «خوب» را هم عوض می‌کند. دسته‌ای‌سازی پیوسته، استفادهٔ مجدد از کش، و مسیریابی سنجیدهٔ درخواست‌ها معمولاً روی همان سخت‌افزار موجود توان عملیاتی بیشتری می‌دهند تا خرید سخت‌افزار بعدی. ارزان‌ترین شتاب‌دهنده همانی است که از قبل دارید و از آن استفاده نمی‌کرده‌اید.

03مدل کوچک‌تری که حوزهٔ شما را می‌شناسد، از مدل بزرگ‌تری که نمی‌شناسد جلو می‌زند

یک فرض سمج وجود دارد: کیفیت با تعداد پارامتر بالا می‌رود، و بنابراین هوش مصنوعی جدی به مدل‌های مقیاس‌مرزی و صورت‌حساب‌های مقیاس‌مرزی نیاز دارد.

در دانش عمومی، اندازه کمک می‌کند. در وظیفهٔ مشخص شما — طبقه‌بندی اسناد شما، پاسخ به پرسش‌ها دربارهٔ مقررات شما، نگارش به سبک سازمانی شما — مدل کوچک‌تری که روی دادهٔ خودتان تنظیم شده اغلب پاسخ بهتری است، و در کسری از حافظه و توان جا می‌شود.

این برای مقرون‌به‌صرفه بودن اهمیت عظیمی دارد، چون اندازهٔ مدل همه‌چیز را در پایین‌دست تعیین می‌کند: چند کارت لازم دارید، اجرایشان چقدر خرج برمی‌دارد، برای خنک‌سازی چقدر می‌پردازید، و چرخهٔ تدارکات چقدر طول می‌کشد. انتخاب اندازهٔ درست یک مصالحه نیست. معمولاً هم پاسخ مهندسی است و هم پاسخ تجاری.

04بی‌طرفی نسبت به تأمین‌کننده یک راهبرد هزینه‌ای است، نه ایدئولوژی

عرضهٔ شتاب‌دهنده سال‌هاست غیرقابل‌پیش‌بینی بوده، و سازمان‌هایی که فقط از یک تأمین‌کننده می‌توانند بخرند، درمی‌یابند که قیمت‌پذیرِ صفی هستند که کنترلش دست خودشان نیست.

پلتفرمی که شتاب‌دهنده‌های تأمین‌کنندگان مختلف را یک استخر واحد و قابل‌آدرس‌دهی می‌بیند، معادلهٔ مذاکره را عوض می‌کند. به شما اجازه می‌دهد آنچه را واقعاً موجود است، به قیمتی که واقعاً پیشنهاد شده، بخرید و کنار آنچه از پیش دارید به کار بگیرید. تدارکات دیگر نقطهٔ شکست واحدِ نقشهٔ راه نیست.

همین منطق یک لایه بالاتر هم برقرار است. مؤلفه‌های باز و پرکاربرد یعنی پلتفرم را کسانی می‌توانند بازبینی، توسعه و در صورت لزوم نگهداری کنند که کارمند تأمین‌کنندهٔ اولیه نیستند. این حق انتخاب ارزش پولی واقعی دارد، و فقط وقتی وجود دارد که از همان آغاز در طراحی دیده شده باشد.

05انباشتی از GPU، پلتفرم نیست

سازمان‌هایی که شتاب‌دهنده می‌خرند اما لایهٔ بالای آن را نمی‌خرند، معمولاً سر از همان یک جا درمی‌آورند: چند تیم انگشت‌شمار با دسترسی SSH، بدون زمان‌بندی مشترک، بدون رجیستری مدل مشترک، و بدون هیچ راهی برای اینکه بگویند چه کسی چه چیزی مصرف کرده است.

پلتفرم همان چیزی است که سخت‌افزار را به سرویس تبدیل می‌کند — دسترسی سلف‌سرویس تا تیم‌ها پشت سر یک مدیر سیستم صف نکشند، اندازه‌گیری مصرف تا بتوان مصرف را به مصرف‌کننده‌اش نسبت داد و هزینه را تسهیم کرد، راهبری تا مدلی که به محیط عملیاتی می‌رسد بازبینی شده باشد، و ردّ ممیزی تا بتوان ماه‌ها بعد یک تصمیم را توضیح داد.

بدون آن لایه، بهره‌وری پایین می‌ماند، هزینه‌ها غیرقابل‌انتساب می‌مانند، و برنامهٔ هوش مصنوعی جایی میان پایلوت و محیط عملیاتی گیر می‌کند. با آن لایه، همان ناوگان به چیزی تبدیل می‌شود که سازمان واقعاً می‌تواند برایش بودجه ببندد.

06بزرگ‌ترین هزینهٔ بلندمدت، وابستگی است

هر هزینه‌ای که تا اینجا از آن گفتیم روی صورت‌حساب دیده می‌شود. آن هزینهٔ گران، معمولاً نه.

اگر فقط تأمین‌کننده بتواند پلتفرم را بگرداند، آن‌وقت هر تغییر، هر ارتقا و هر رخداد صورت‌حساب دارد، و بهای رفتن هر سالی که بمانید بالاتر می‌رود. سازمان‌ها این را هنگام تمدید کشف می‌کنند؛ دقیقاً همان لحظه‌ای که کمترین قدرت چانه‌زنی را دارند.

راه دیگر این است که انتقال دانش فنی را بخشی از خروجی کار بدانیم، نه لطفی در انتهای کار: دستورالعمل‌های اجرایی مستند، عملیاتی که در کنار مهندسان شما اجرا می‌شود نه به‌جای آن‌ها، و تحویلی که با انجام‌دادن کار به‌دست تیم خودتان آزموده می‌شود. مقرون‌به‌صرفه بودن در بازهٔ پنج‌ساله، بیش از هر چیز پاسخ به این پرسش است که در سال دوم چه کسی توان گرداندن آن را دارد.

این‌ها را کنار هم بگذارید، آن پیش‌فرض فرو می‌ریزد. هوش مصنوعی حاکمیتی به‌خاطر حاکمیتی‌بودنش گران نیست. گران می‌شود وقتی شتاب‌دهنده‌ها بیکار می‌مانند، وقتی مدل‌ها بزرگ‌تر از نیاز کارند، وقتی تدارکات تنها یک تأمین‌کننده دارد، وقتی پلتفرمی نیست که سخت‌افزار را به سرویس تبدیل کند، و وقتی هیچ‌کس در داخل سازمان بلد نیست هیچ‌کدام از این‌ها را بگرداند.

هرکدام از این‌ها یک تصمیم مهندسی است، و هرکدام در دسترس هر سازمانی است که حاضر باشد آگاهانه آن را بگیرد. لازمهٔ مقرون‌به‌صرفه‌کردن هوش مصنوعی حاکمیتی همین است — نه برای آن معدود نهادی که بودجهٔ بی‌پایان دارند، بلکه برای همه.

می‌خواهید همین روی زیرساخت خودتان اجرا شود؟

به ما بگویید کدام بار کاری بیشترین اهمیت را دارد و به کدام نهاد ناظر پاسخ‌گو هستید. با یک معماری و یک برنامهٔ دوماهه برمی‌گردیم.

گفت‌وگو با یک معمار

ملاقات آنلاین

به راحتی زمان مورد‌نظر خود را برای ارتباط ۳۰ دقیقه‌ای با تیم متخصص نئور انتخاب کنید.

Ali Salmaji

علی سلماجی

طراح سیستم‌های مبتنی بر فرآیند دوآپس

کمک بیشتری نیاز دارید؟

از تقویم زیر زمان آزاد خود را برای جلسه انتخاب کنید.

هم‌اکنون قرار ملاقات برگزار کنیم