Text Models (LLM)google

معرفی و مستندات مدل هوش مصنوعی gemma-3n-4b

مستندات مدل gemma-3n-4b از Google، ارائه شده توسط ای آی کار (AI-KAR)

معرفی و بررسی فنی

⚡ وضعیت پشتیبانی از زبان فارسی

این مدل از زبان فارسی به صورت متوسط پشتیبانی می‌کند. درک نسبی از دستور زبان فارسی دارد اما در تولید متون پیچیده و تخصصی ممکن است با مشکل مواجه شود.

مدل gemma-3n-4b یک مدل زبان بزرگ (LLM) است که توسط گوگل توسعه داده شده است. این مدل بر پایه معماری نسل بعدی گوگل ساخته شده و برای استفاده در دستگاه‌های موبایل و لبه طراحی شده است. هدف اصلی از توسعه این مدل، ارائه هوش مصنوعی سریع، خصوصی و چندوجهی به طور مستقیم بر روی دستگاه‌ها است. این امکان به توسعه‌دهندگان می‌دهد تا تجربیات هوش مصنوعی را در دستگاه‌های اندروید و کروم به صورت محلی و بدون نیاز به اتصال دائمی به اینترنت ارائه دهند. مدل gemma-3n-4b با داشتن 3 میلیارد پارامتر، قادر است وظایف مختلفی را انجام دهد، از جمله تولید متن، ترجمه زبان، پاسخ به سوالات و خلاصه‌سازی متون. این مدل به خوبی برای کاربردهایی که نیاز به سرعت و حفظ حریم خصوصی دارند، مناسب است. به عنوان مثال، می‌توان از آن در برنامه‌های پیام‌رسان برای پیشنهاد پاسخ‌های سریع، در برنامه‌های ویرایش متن برای تصحیح گرامری و املایی، و در برنامه‌های جستجو برای ارائه نتایج مرتبط‌تر استفاده کرد. یکی از ویژگی‌های برجسته gemma-3n-4b، قابلیت اجرای آن بر روی دستگاه‌های با منابع محدود است. این امر به لطف معماری بهینه و فشرده‌سازی مدل امکان‌پذیر شده است. توسعه‌دهندگان می‌توانند از این مدل در برنامه‌های خود استفاده کنند تا قابلیت‌های هوش مصنوعی را به کاربران خود ارائه دهند، بدون اینکه نگران مصرف بیش از حد باتری یا پهنای باند باشند. مدل gemma-3n-4b همچنین از چندوجهی بودن پشتیبانی می‌کند، به این معنی که می‌تواند با انواع مختلف داده‌ها مانند متن، تصویر و صدا کار کند. این قابلیت امکان ایجاد برنامه‌های هوش مصنوعی پیچیده‌تر و کاربردی‌تر را فراهم می‌کند. برای مثال، می‌توان از این مدل در برنامه‌های تشخیص اشیا در تصاویر، تبدیل گفتار به متن و تولید زیرنویس برای ویدیوها استفاده کرد. در مجموع، gemma-3n-4b یک مدل زبان بزرگ قدرتمند و کارآمد است که امکانات جدیدی را برای توسعه‌دهندگان هوش مصنوعی فراهم می‌کند. این مدل با تمرکز بر سرعت، حریم خصوصی و چندوجهی بودن، به توسعه‌دهندگان کمک می‌کند تا برنامه‌های هوش مصنوعی نوآورانه‌تری را برای دستگاه‌های موبایل و لبه ایجاد کنند. این مدل توسط ای آی کار (AI-KAR) پشتیبانی شده و مستندات آن در دسترس توسعه دهندگان قرار گرفته است. این مدل به دلیل متن باز بودن، به سرعت در حال پیشرفت است و قابلیت های جدیدی به آن اضافه می شود.

مشخصات فنی (API References)

پارامتر	نوع	توضیحات و مقادیر
model	stringRequired	مدل مورد استفاده برای تولید پاسخ. مقدار این فیلد باید `google/gemma-3n-e4b-it` باشد. مقادیر مجاز (کلیک برای کپی):
messages	one of[]Required	لیستی از پیام‌ها که مکالمه را تا به اینجا تشکیل می‌دهند. بسته به مدلی که استفاده می‌کنید، انواع مختلفی از پیام‌ها (modalities) مانند متن، اسناد (txt، pdf)، تصاویر و صدا پشتیبانی می‌شوند.
max_completion_tokens	integer	حد بالایی برای تعداد توکن‌هایی که می‌توان برای یک تکمیل تولید کرد، از جمله توکن‌های خروجی قابل مشاهده و توکن‌های استدلال. حداقل مقدار: 1
max_tokens	number	حداکثر تعداد توکن‌هایی که می‌توان در تکمیل چت تولید کرد. این مقدار می‌تواند برای کنترل هزینه‌های متن تولید شده از طریق API استفاده شود. حداقل مقدار: 1
stream	boolean	اگر روی True تنظیم شود، داده‌های پاسخ مدل به صورت جریانی با استفاده از رویدادهای ارسال شده از سرور به کلاینت ارسال می‌شوند. مقدار پیش‌فرض: false
stream_options	object	تنظیمات مربوط به استریم
temperature	number	از چه دمای نمونه‌برداری استفاده شود. مقادیر بالاتر مانند 0.8 خروجی را تصادفی‌تر می‌کنند، در حالی که مقادیر پایین‌تر مانند 0.2 آن را متمرکزتر و قطعی‌تر می‌کنند. ما معمولاً توصیه می‌کنیم این مقدار یا top_p را تغییر دهید، اما نه هر دو را.
top_p	number	جایگزینی برای نمونه‌برداری با دما، به نام نمونه‌برداری هسته‌ای، که در آن مدل نتایج توکن‌ها را با جرم احتمال top_p در نظر می‌گیرد. بنابراین 0.1 به این معنی است که فقط توکن‌هایی که شامل 10٪ جرم احتمال برتر هستند در نظر گرفته می‌شوند. ما معمولاً توصیه می‌کنیم این مقدار یا دما را تغییر دهید، اما نه هر دو را. حداقل مقدار: 0.01، حداکثر مقدار: 1
seed	integer	این ویژگی در حالت بتا است. اگر مشخص شود، سیستم ما تمام تلاش خود را می‌کند تا به طور قطعی نمونه‌برداری کند، به طوری که درخواست‌های مکرر با همان seed و پارامترها باید نتیجه یکسانی را برگردانند. حداقل مقدار: 1
min_p	number	عددی بین 0.001 و 0.999 که می‌تواند به عنوان جایگزینی برای top_p و top_k استفاده شود.
top_k	number	فقط از K گزینه برتر برای هر توکن بعدی نمونه‌برداری کنید. برای حذف پاسخ‌های با احتمال کم "long tail" استفاده می‌شود. فقط برای موارد استفاده پیشرفته توصیه می‌شود. معمولاً فقط باید از دما استفاده کنید.
repetition_penalty	number \| nullable	عددی که تنوع متن تولید شده را با کاهش احتمال تکرار توالی‌ها کنترل می‌کند. مقادیر بالاتر تکرار را کاهش می‌دهند.
top_a	number	پارامتر نمونه‌برداری برتر جایگزین. حداکثر مقدار: 1
stop	any of	حداکثر 4 توالی که API تولید توکن‌های بیشتر را متوقف می‌کند. متن برگشتی شامل توالی توقف نخواهد بود.
logit_bias	object \| nullable	احتمال ظاهر شدن توکن‌های مشخص شده در تکمیل را تغییر دهید. یک شی JSON را می‌پذیرد که توکن‌ها (مشخص شده توسط شناسه توکن آنها در توکن‌ساز) را به یک مقدار بایاس مرتبط از -100 تا 100 نگاشت می‌کند. از نظر ریاضی، بایاس به logits تولید شده توسط مدل قبل از نمونه‌برداری اضافه می‌شود. اثر دقیق در هر مدل متفاوت خواهد بود، اما مقادیر بین -1 و 1 باید احتمال انتخاب را کاهش یا افزایش دهند. مقادیری مانند -100 یا 100 باید منجر به ممنوعیت یا انتخاب انحصاری توکن مربوطه شوند.

نمونه کدهای درخواست

نکته مهم برای توسعه‌دهندگان:

برای احراز هویت، حتما کلید API خود را جایگزین YOUR_API_KEY کنید. هدر Authorization الزامی است.

import requests
import json  # for getting a structured output with indentation
response = requests.post(
    "https://api.ai-kar.com/v1/chat/completions",
    headers={
        # Insert your AI-KAR API Key instead of <YOUR_AI-KARAPI_KEY>:
        "Authorization":"Bearer <YOUR_AI-KARAPI_KEY>",
        "Content-Type":"application/json"
    },
    json={
        "model":"google/gemma-3n-e4b-it",
        "messages":[
            {
                "role":"user",
                "content":"Hello"  # insert your prompt here, instead of Hello
            }
        ],
    }
)
data = response.json()
print(json.dumps(data, indent=2, ensure_ascii=False))

نمونه پاسخ موفق (JSON)

RESPONSE (200 OK)

{
  "id": "gen-1749195015-2RpzznjKbGPQUJ9OK1M4",
  "object": "chat.completion",
  "choices": [
    {
      "index": 0,
      "finish_reason": "stop",
      "logprobs": null,
      "message": {
        "role": "assistant",
        "content": "Hello there! 👋 \n\nIt's nice to meet you! How can I help you today?  Do you have any questions, need some information, want to chat, or anything else? 😊 \n\nJust let me know what's on your mind!\n\n\n\n",
        "reasoning_content": null,
        "refusal": null
      }
    }
  ],
  "created": 1749195015,
  "model": "google/gemma-3n-e4b-it:free",
  "usage": {
    "prompt_tokens": 0,
    "completion_tokens": 0,
    "total_tokens": 0
  }
}