Text Models (LLM)alibaba-cloud

معرفی و مستندات مدل هوش مصنوعی qwen2.5-7b-instruct-turbo

مستندات مدل qwen2.5-7b-instruct-turbo ارائه شده توسط ای آی کار (AI-KAR)

معرفی و بررسی فنی

⚡ وضعیت پشتیبانی از زبان فارسی

این مدل از زبان فارسی به صورت متوسط پشتیبانی می‌کند.

مدل زبانی بزرگ Qwen2.5-7B-Instruct-Turbo یک مدل پیشرفته است که برای درک و تولید متن بر اساس دستورالعمل‌های خاص طراحی شده است. این مدل در انجام وظایف مختلفی از جمله کدنویسی، حل مسائل ریاضی و تولید خروجی‌های ساختاریافته بسیار عالی عمل می‌کند. این مدل با بهره‌گیری از معماری ترانسفورمر، قادر است الگوهای پیچیده زبانی را یاد بگیرد و پاسخ‌های دقیق و مرتبطی را تولید کند. Qwen2.5-7B-Instruct-Turbo به طور خاص برای پاسخگویی به دستورالعمل‌ها و سوالات طراحی شده است، که این امر آن را به ابزاری قدرتمند برای توسعه‌دهندگان و محققانی تبدیل می‌کند که به دنبال یک مدل زبانی با قابلیت‌های بالا هستند. این مدل می‌تواند در زمینه‌های مختلفی از جمله تولید محتوا، خلاصه‌سازی متون، ترجمه زبان، پاسخ به سوالات و تولید کد مورد استفاده قرار گیرد. یکی از ویژگی‌های برجسته این مدل، توانایی آن در درک و تولید کد است. Qwen2.5-7B-Instruct-Turbo می‌تواند به زبان‌های برنامه‌نویسی مختلف کد تولید کند و همچنین می‌تواند کد موجود را تحلیل و اشکال‌زدایی کند. این قابلیت آن را به ابزاری ارزشمند برای توسعه‌دهندگان نرم‌افزار تبدیل می‌کند. علاوه بر این، این مدل در حل مسائل ریاضی نیز عملکرد خوبی دارد. Qwen2.5-7B-Instruct-Turbo می‌تواند مسائل ریاضی را تحلیل کرده و پاسخ‌های دقیق و صحیحی را ارائه دهد. این قابلیت آن را به ابزاری مفید برای دانش‌آموزان، دانشجویان و محققانی تبدیل می‌کند که به دنبال حل مسائل ریاضی پیچیده هستند. همچنین، این مدل قادر است خروجی‌های ساختاریافته تولید کند. Qwen2.5-7B-Instruct-Turbo می‌تواند داده‌ها را در قالب‌های مختلفی از جمله JSON و XML تولید کند. این قابلیت آن را به ابزاری ارزشمند برای توسعه‌دهندگانی تبدیل می‌کند که به دنبال تولید داده‌های ساختاریافته هستند. به طور خلاصه، Qwen2.5-7B-Instruct-Turbo یک مدل زبانی بزرگ پیشرفته است که در انجام وظایف مختلفی از جمله کدنویسی، حل مسائل ریاضی و تولید خروجی‌های ساختاریافته بسیار عالی عمل می‌کند. این مدل با بهره‌گیری از معماری ترانسفورمر، قادر است الگوهای پیچیده زبانی را یاد بگیرد و پاسخ‌های دقیق و مرتبطی را تولید کند. این مدل به طور خاص برای پاسخگویی به دستورالعمل‌ها و سوالات طراحی شده است، که این امر آن را به ابزاری قدرتمند برای توسعه‌دهندگان و محققانی تبدیل می‌کند که به دنبال یک مدل زبانی با قابلیت‌های بالا هستند.

مشخصات فنی (API References)

پارامتر	نوع	توضیحات و مقادیر
model	stringRequired	مدلی که برای تولید پاسخ استفاده می‌شود. مقدار این فیلد باید 'Qwen/Qwen2.5-7B-Instruct-Turbo' باشد. مقادیر مجاز (کلیک برای کپی):
messages	one of[]Required	لیستی از پیام‌ها که مکالمه را تشکیل می‌دهند. بسته به مدلی که استفاده می‌کنید، انواع مختلف پیام‌ها (modalities) مانند متن، اسناد (txt، pdf)، تصاویر و صدا پشتیبانی می‌شوند.
max_tokens	number	حداکثر تعداد توکن‌هایی که می‌توان در تکمیل چت تولید کرد. این مقدار می‌تواند برای کنترل هزینه‌های متن تولید شده از طریق API استفاده شود.
stream	boolean	اگر روی True تنظیم شود، داده‌های پاسخ مدل به صورت جریانی با استفاده از رویدادهای ارسال شده توسط سرور به کلاینت ارسال می‌شوند.
stream_options	object	تنظیمات مربوط به استریم کردن پاسخ.
tools	object[]	لیستی از ابزارهایی که مدل ممکن است فراخوانی کند. در حال حاضر، فقط توابع به عنوان ابزار پشتیبانی می‌شوند. از این برای ارائه لیستی از توابعی استفاده کنید که مدل ممکن است ورودی‌های JSON را برای آنها تولید کند. حداکثر 128 تابع پشتیبانی می‌شود.
tool_choice	any of	کنترل می‌کند که کدام ابزار (در صورت وجود) توسط مدل فراخوانی شود. none به این معنی است که مدل هیچ ابزاری را فراخوانی نمی‌کند و در عوض یک پیام تولید می‌کند. auto به این معنی است که مدل می‌تواند بین تولید یک پیام یا فراخوانی یک یا چند ابزار انتخاب کند. required به این معنی است که مدل باید یک یا چند ابزار را فراخوانی کند. تعیین یک ابزار خاص از طریق {"type": "function", "function": {"name": "my_function"}} مدل را مجبور می‌کند تا آن ابزار را فراخوانی کند. مقادیر مجاز (کلیک برای کپی):
parallel_tool_calls	boolean	تعیین اینکه آیا فراخوانی موازی تابع در هنگام استفاده از ابزار فعال شود یا خیر.
response_format	one of	شیئی که فرمتی را مشخص می‌کند که مدل باید خروجی دهد.
echo	boolean	اگر True باشد، پاسخ شامل درخواست خواهد بود. می‌تواند با logprobs برای برگرداندن logprobs درخواست استفاده شود.
temperature	number	چه دمای نمونه‌برداری استفاده شود. مقادیر بالاتر مانند 0.8 خروجی را تصادفی‌تر می‌کنند، در حالی که مقادیر پایین‌تر مانند 0.2 خروجی را متمرکزتر و قطعی‌تر می‌کنند. ما معمولاً توصیه می‌کنیم این مقدار یا top_p را تغییر دهید، اما نه هر دو را.
top_p	number	جایگزینی برای نمونه‌برداری با دما، به نام نمونه‌برداری هسته‌ای، که در آن مدل نتایج توکن‌ها را با جرم احتمال top_p در نظر می‌گیرد. بنابراین 0.1 به این معنی است که فقط توکن‌هایی که شامل 10٪ جرم احتمال برتر هستند در نظر گرفته می‌شوند.
n	integer	چند انتخاب تکمیل چت برای هر پیام ورودی تولید شود. توجه داشته باشید که هزینه شما بر اساس تعداد توکن‌های تولید شده در تمام انتخاب‌ها محاسبه می‌شود. n را به عنوان 1 نگه دارید تا هزینه‌ها به حداقل برسد.
stop	any of	حداکثر 4 دنباله که API تولید توکن‌های بیشتر را متوقف می‌کند. متن برگشتی شامل دنباله توقف نخواهد بود.
logprobs	boolean	اینکه آیا احتمالات لگاریتمی توکن‌های خروجی برگردانده شوند یا خیر. اگر True باشد، احتمالات لگاریتمی هر توکن خروجی برگردانده شده در محتوای پیام را برمی‌گرداند.
top_logprobs	number	یک عدد صحیح بین 0 و 20 که تعداد محتمل‌ترین توکن‌ها را برای برگرداندن در هر موقعیت توکن مشخص می‌کند، هر کدام با یک احتمال لگاریتمی مرتبط. اگر این پارامتر استفاده شود، logprobs باید روی True تنظیم شود.
logit_bias	object	احتمال ظاهر شدن توکن‌های مشخص شده در تکمیل را تغییر دهید. یک شی JSON را می‌پذیرد که توکن‌ها (مشخص شده توسط شناسه توکن آنها در توکن‌ساز) را به یک مقدار بایاس مرتبط از -100 تا 100 نگاشت می‌کند. از نظر ریاضی، بایاس به logits تولید شده توسط مدل قبل از نمونه‌برداری اضافه می‌شود. اثر دقیق برای هر مدل متفاوت خواهد بود، اما مقادیر بین -1 و 1 باید احتمال انتخاب را کاهش یا افزایش دهند. مقادیری مانند -100 یا 100 باید منجر به ممنوعیت یا انتخاب انحصاری توکن مربوطه شوند.
frequency_penalty	number	عدد بین -2.0 و 2.0. مقادیر مثبت توکن‌های جدید را بر اساس فراوانی موجود آنها در متن تا کنون جریمه می‌کنند، و احتمال تکرار عین به عین همان خط را توسط مدل کاهش می‌دهند.
prediction	object	پیکربندی برای یک خروجی پیش‌بینی‌شده، که می‌تواند زمان‌های پاسخ را تا حد زیادی بهبود بخشد، زمانی که بخش‌های بزرگی از پاسخ مدل از قبل مشخص باشند.
presence_penalty	number	مقادیر مثبت توکن‌های جدید را بر اساس اینکه آیا در متن تا کنون ظاهر شده‌اند یا خیر جریمه می‌کنند، و احتمال صحبت کردن مدل در مورد موضوعات جدید را افزایش می‌دهند.
seed	integer	این ویژگی در نسخه بتا است. اگر مشخص شود، سیستم ما تمام تلاش خود را می‌کند تا به طور قطعی نمونه‌برداری کند، به طوری که درخواست‌های مکرر با همان seed و پارامترها باید نتیجه یکسانی را برگردانند.
min_p	number	عددی بین 0.001 و 0.999 که می‌تواند به عنوان جایگزینی برای top_p و top_k استفاده شود.
top_k	number	فقط از K گزینه برتر برای هر توکن بعدی نمونه‌برداری کنید. برای حذف پاسخ‌های با احتمال کم "دنباله بلند" استفاده می‌شود. فقط برای موارد استفاده پیشرفته توصیه می‌شود. معمولاً فقط باید از دما استفاده کنید.
repetition_penalty	number	عددی که تنوع متن تولید شده را با کاهش احتمال توالی‌های تکراری کنترل می‌کند. مقادیر بالاتر تکرار را کاهش می‌دهند.

نمونه کدهای درخواست

نکته مهم برای توسعه‌دهندگان:

برای احراز هویت، حتما کلید API خود را جایگزین YOUR_API_KEY کنید. هدر Authorization الزامی است.

import requests
import json  # for getting a structured output with indentation
response = requests.post(
    "https://api.ai-kar.com/v1/chat/completions",
    headers={
        # Insert your AI-KAR API Key instead of <YOUR_AI-KARAPI_KEY>:
        "Authorization":"Bearer <YOUR_AI-KARAPI_KEY>",
        "Content-Type":"application/json"
    },
    json={
        "model":"Qwen/Qwen2.5-7B-Instruct-Turbo",
        "messages":[
            {
                "role":"user",
                "content":"Hello"  # insert your prompt here, in
            }
        ]
    }
)

print(json.dumps(response.json(), indent=4))

نمونه پاسخ موفق (JSON)

RESPONSE (200 OK)

{
  "id": "text",
  "object": "text",
  "created": 1,
  "choices": [
    {
      "index": 1,
      "message": {
        "role": "text",
        "content": "text",
        "refusal": null,
        "annotations": [
          {
            "type": "text",
            "url_citation": {
              "end_index": 1,
              "start_index": 1,
              "title": "text",
              "url": "text"
            }
          }
        ],
        "audio": {
          "id": "text",
          "data": "text",
          "transcript": "text",
          "expires_at": 1
        },
        "tool_calls": [
          {
            "id": "text",
            "type": "text",
            "function": {
              "arguments": "text",
              "name": "text"
            }
          }
        ]
      },
      "finish_reason": "stop",
      "logprobs": {
        "content": [
          {
            "bytes": [
              1
            ],
            "logprob": 1,
            "token": "text",
            "top_logprobs": [
              {
                "bytes": [
                  1
                ],
                "logprob": 1,
                "token": "text"
              }
            ]
          }
        ],
        "refusal": []
      }
    }
  ],
  "model": "text",
  "usage": {
    "prompt_tokens": 1,
    "completion_tokens": 1,
    "total_tokens": 1,
    "completion_tokens_details": {
      "accepted_prediction_tokens": 1,
      "audio_tokens": 1,
      "reasoning_tokens": 1,
      "rejected_prediction_tokens": 1
    },
    "prompt_tokens_details": {
      "audio_tokens": 1,
      "cached_tokens": 1
    }
  }
}