شاید فکر کنین برای استفاده از هوش مصنوعی حتماً باید اینترنت داشته باشین، اما همیشه این‌طور نیست.

بعضی مدل‌های رایگان هوش مصنوعی رو می‌تونین روی کامپیوتر خودتون دانلود کنین و بعد حتی بدون اینترنت باهاشون چت کنین، متن بنویسین، خلاصه بگیرین، کدنویسی کنین یا بعضی فایل‌ها مثل PDF رو بررسی کنین.

به این روش Local AI یا هوش مصنوعی محلی گفته می‌شه.

برای این کار ابزارهایی مثل LM Studio و Ollama وجود دارن. این برنامه‌ها خودشون مدل هوش مصنوعی نیستن؛ بلکه کمک می‌کنن مدل‌هایی مثل Llama، Qwen، Mistral یا Gemma رو روی کامپیوتر اجرا کنین.

آیا هوش مصنوعی بدون اینترنت کار می‌کنه؟

بله؛ به شرطی که مدل رو از قبل روی سیستم دانلود کرده باشین.

در سرویس‌های آنلاین، سؤال شما از طریق اینترنت به سرور فرستاده می‌شه. اما در Local AI، مدل روی کامپیوتر خودتون اجرا می‌شه.

البته برای راه‌اندازی اولیه به اینترنت نیاز دارین تا برنامه و مدل موردنظرتون رو دانلود کنین. بعد از آماده شدن، می‌تونین اینترنت رو قطع کنین و از مدل استفاده کنین.

برای اجرای AI آفلاین چه سیستمی لازمه؟

این موضوع به مدلی بستگی داره که انتخاب می‌کنین.

مدل‌های کوچک‌تر روی سیستم‌های معمولی هم اجرا می‌شن، اما مدل‌های بزرگ‌تر RAM بیشتری می‌خوان.

برای مثال، اگه 8GB RAM دارین بهتره سراغ مدل‌های سبک‌تر برین. با 16GB RAM انتخاب‌های بیشتری دارین و خیلی از مدل‌های 7B یا 8B قابل اجرا می‌شن. برای مدل‌های بزرگ‌تر ممکنه به 24 یا 32 گیگابایت RAM یا بیشتر نیاز داشته باشین.

البته این اعداد تقریبی هستن؛ چون نوع مدل و نحوه فشرده‌سازی اون هم روی میزان مصرف حافظه تأثیر داره.

اگه کارت گرافیک مناسب داشته باشین، مدل می‌تونه از حافظه کارت گرافیک یا VRAM هم استفاده کنه و معمولاً سریع‌تر جواب بده.

ولی بدون کارت گرافیک هم می‌شه بعضی مدل‌های سبک رو اجرا کرد؛ فقط ممکنه سرعتشون کمتر باشه.

3B، 7B و 14B یعنی چی؟

موقع انتخاب مدل احتمالاً با عددهایی مثل 3B، 7B و 14B روبه‌رو می‌شین.

حرف B معمولاً به تعداد پارامترهای مدل بر حسب میلیارد اشاره می‌کنه.

مثلاً 7B یعنی مدلی با حدود ۷ میلیارد پارامتر.

به‌طور کلی مدل‌های بزرگ‌تر منابع بیشتری می‌خوان، اما بزرگ‌تر بودن همیشه به معنی بهتر بودن نیست. نوع آموزش مدل و کاری که می‌خواین انجام بدین هم مهمه.

Quantization یعنی چی؟

ممکنه موقع دانلود مدل عبارت‌هایی مثل Q4، Q5 یا Q8 رو ببینین.

Quantization به زبان ساده یعنی مدل طوری فشرده شده که حجم و مصرف حافظه کمتری داشته باشه.

معمولاً Q4 سبک‌تره، Q5 تعادل خوبی بین حجم و کیفیت ایجاد می‌کنه و Q8 حافظه بیشتری مصرف می‌کنه.

اگه سیستم معمولی دارین، Q4 یا Q5 می‌تونه گزینه خوبی برای شروع باشه.

LM Studio بهتره یا Ollama؟

هر دو ابزار برای اجرای مدل‌های هوش مصنوعی روی کامپیوتر ساخته شدن، اما روش استفاده ازشون کمی متفاوته.

• محیط گرافیکی یعنی برنامه پنجره، دکمه، منو و صفحه چت داره. مثلاً توی LM Studio برنامه رو باز می‌کنین، مدل رو انتخاب می‌کنین و مثل یه چت‌بات معمولی باهاش حرف می‌زنین. لازم نیست دستور خاصی تایپ کنین.
• بیشتر با دستور یعنی معمولاً از Terminal / Command Prompt استفاده می‌کنین. مثلاً در Ollama برای اجرای یه مدل، چیزی شبیه ollama run llama3 تایپ می‌کنین و مدل اجرا می‌شه.

اگه تا حالا با Terminal و دستورات فنی کار نکردین، LM Studio معمولاً شروع راحت‌تریه.

اگه برنامه‌نویس هستین یا می‌خواین مدل رو به برنامه‌های دیگه متصل کنین، Ollama هم انتخاب مناسبیه.

آموزش اجرای AI آفلاین با LM Studio

۱. LM Studio رو نصب کنین

اول LM Studio رو دانلود و روی کامپیوتر نصب کنین.

فقط یادتون باشه LM Studio خودش مدل هوش مصنوعی نیست. این برنامه محیطی برای دانلود و اجرای مدل‌های مختلفه.

۲. یک مدل دانلود کنین

داخل برنامه می‌تونین مدل‌های مختلف رو پیدا و دانلود کنین.

اگه سیستم خیلی قدرتمندی ندارین، بهتره با یک مدل کوچک و Quantized شروع کنین.

لازم نیست از همون اول بزرگ‌ترین مدل رو دانلود کنین. برای کارهایی مثل نوشتن متن، خلاصه‌سازی و ایده‌پردازی مدل‌های سبک‌تر هم می‌تونن کافی باشن.

۳. مدل رو اجرا کنین

بعد از دانلود، مدل رو Load کنین و یک سؤال ساده ازش بپرسین.

مثلاً:

برای یک فروشگاه اینترنتی ۵ ایده تولید محتوا بده.

اگه جواب گرفتین، یعنی مدل به‌درستی اجرا شده.

۴. اینترنت رو قطع کنین

حالا اینترنت رو خاموش کنین و دوباره یک سؤال بپرسین.

اگه مدل روی سیستم شما دانلود شده باشه، بدون اینترنت هم می‌تونه جواب بده.

به همین سادگی یک هوش مصنوعی Local روی کامپیوترتون دارین.

آیا می‌شه PDF رو بدون اینترنت تحلیل کرد؟

بله، در ابزارهایی که قابلیت پردازش Local فایل رو دارن.

مثلاً می‌تونین یک PDF وارد کنین و از مدل بخواین:

این فایل رو خلاصه کن.

یا:

مهم‌ترین نکات این گزارش رو پیدا کن.

برای فایل‌های بزرگ ممکنه از روشی به اسم RAG استفاده بشه.

اسمش کمی تخصصیه ولی مفهومش ساده‌ست؛ سیستم بخش‌های مرتبط فایل رو پیدا می‌کنه و همون اطلاعات رو در اختیار مدل قرار می‌ده تا جواب دقیق‌تری بده.

البته نتیجه برای PDF های متنی، فایل‌های اسکن‌شده یا فایل‌هایی که جدول‌های پیچیده دارن می‌تونه متفاوت باشه.

با هوش مصنوعی آفلاین چه کارهایی می‌شه کرد؟

بسته به مدلی که انتخاب کردین، می‌تونین ازش برای کارهایی مثل این استفاده کنین:

• تولید و بازنویسی متن
• خلاصه‌سازی
• ایده‌پردازی
• ترجمه
• کمک در برنامه‌نویسی
• تحلیل متن
• بررسی بعضی فایل‌ها
• نوشتن توضیحات محصول
• ساخت پیش‌نویس مقاله

اما یک محدودیت مهم وجود داره:

هوش مصنوعی آفلاین خودش به اینترنت دسترسی نداره.

پس نمی‌تونه به‌تنهایی قیمت دلار امروز، خبرهای جدید، آب‌وهوا یا اطلاعات لحظه‌ای دیگه رو بررسی کنه.

آیا AI آفلاین امن‌تره؟

یکی از مزیت‌های Local AI اینه که پردازش مدل روی سیستم خودتون انجام می‌شه و برای استفاده Local لازم نیست متنتون به یک سرویس ابری فرستاده بشه.

اما Local بودن به معنی امنیت صددرصدی نیست.

اگه اطلاعات حساسی دارین، بهتره مطمئن بشین برنامه یا افزونه دیگه‌ای اطلاعات شما رو به سرویس‌های آنلاین ارسال نمی‌کنه.

Ollama چطور کار می‌کنه؟

اگه با Terminal راحت هستین، Ollama هم گزینه خوبیه.

برای دانلود یک مدل می‌تونین از دستوری مثل این استفاده کنین:

ollama pull llama3.2

بعد برای اجرا:

ollama run llama3.2

بعد از دانلود، مدل روی سیستم شما قرار می‌گیره و می‌تونین به‌صورت Local اجراش کنین.

مزایا و معایب هوش مصنوعی آفلاین

مزیت‌هاش اینه که بدون اینترنت کار می‌کنه، کنترل بیشتری روی داده‌هاتون دارین و وابستگی کمتری به سرویس‌های ابری خواهید داشت.

در مقابل، اجرای مدل‌های بزرگ به سخت‌افزار قوی‌تری نیاز داره، بعضی مدل‌ها حجم زیادی دارن و روی سیستم‌های ضعیف ممکنه سرعت پاسخ‌گویی پایین باشه.

همچنین چون مدل آفلاینه، به اطلاعات لحظه‌ای اینترنت دسترسی نداره.

جمع‌بندی

برای استفاده از هوش مصنوعی بدون اینترنت کافیه یک ابزار مثل LM Studio یا Ollama نصب کنین، مدل مناسب سیستم خودتون رو دانلود کنین و اون رو روی کامپیوتر اجرا کنین.

اگه تازه‌کارین، LM Studio معمولاً شروع ساده‌تریه. اگه برنامه‌نویس هستین و با ابزارهای فنی کار می‌کنین، Ollama هم گزینه مناسبیه.

موقع انتخاب مدل فقط به عددهایی مثل 7B یا 14B توجه نکنین. میزان RAM، قدرت سیستم و Quantization هم مهمه.

بهتره اول با یک مدل سبک شروع کنین. مدل رو دانلود و امتحان کنین و بعد اینترنت رو قطع کنین. اگه همچنان جواب گرفتین، یعنی AI Local شما آماده استفاده آفلاینه.

اشتراک گذاری