Text Models (LLM)mistral-ai

معرفی و مستندات مدل هوش مصنوعی codestral-2501

مستندات مدل codestral-2501 ارائه شده توسط ای آی کار (AI-KAR)

معرفی و بررسی فنی

⚡ وضعیت پشتیبانی از زبان فارسی

این مدل از زبان فارسی به صورت ضعیف پشتیبانی می‌کند و بیشتر برای تولید کد و نه درک متون فارسی بهینه شده است.

مدل codestral-2501 یک مدل هوش مصنوعی پیشرفته است که به طور خاص برای وظایف تولید کد طراحی شده است. این مدل از تکنیک‌های یادگیری ماشین پیشرفته بهره می‌برد تا به توسعه‌دهندگان در نوشتن، اشکال‌زدایی و بهینه‌سازی کد در طیف گسترده‌ای از زبان‌های برنامه‌نویسی کمک کند. codestral-2501 با معیارهای عملکرد و قابلیت‌های چشمگیر خود، قصد دارد فرآیند کدنویسی را ساده کرده و بهره‌وری را برای توسعه‌دهندگان نرم‌افزار افزایش دهد.

این مدل با درک عمیق از ساختار و معناشناسی زبان‌های برنامه‌نویسی، قادر است قطعه کدها را با دقت بالا تولید کند. همچنین، می‌تواند به طور خودکار اشکالات موجود در کد را شناسایی و پیشنهادهایی برای رفع آنها ارائه دهد. علاوه بر این، codestral-2501 می‌تواند کدها را بهینه کرده و عملکرد آنها را بهبود بخشد.

یکی از ویژگی‌های برجسته این مدل، توانایی یادگیری از داده‌های جدید است. با آموزش مداوم بر روی مجموعه‌های داده بزرگ و متنوع، codestral-2501 می‌تواند به طور مداوم دانش خود را به‌روزرسانی کرده و عملکرد خود را بهبود بخشد. این امر به این مدل اجازه می‌دهد تا با تغییرات و تحولات در دنیای برنامه‌نویسی همگام شده و همواره راهکارهای به‌روز و کارآمدی را ارائه دهد.

codestral-2501 می‌تواند در زمینه‌های مختلفی از توسعه نرم‌افزار مورد استفاده قرار گیرد. از جمله این زمینه‌ها می‌توان به توسعه وب، توسعه اپلیکیشن‌های موبایل، توسعه بازی‌های ویدیویی، و توسعه سیستم‌های سازمانی اشاره کرد. این مدل می‌تواند به توسعه‌دهندگان در نوشتن کد برای بخش‌های مختلف یک پروژه نرم‌افزاری کمک کرده و فرآیند توسعه را تسریع بخشد.

به طور خلاصه، codestral-2501 یک ابزار قدرتمند و کارآمد برای توسعه‌دهندگان نرم‌افزار است که می‌تواند به آنها در نوشتن، اشکال‌زدایی و بهینه‌سازی کد کمک کند. این مدل با بهره‌گیری از تکنیک‌های یادگیری ماشین پیشرفته و توانایی یادگیری از داده‌های جدید، می‌تواند به طور مداوم دانش خود را به‌روزرسانی کرده و عملکرد خود را بهبود بخشد. ای ای کار (AI-KAR) مفتخر است که این مدل پیشرفته را به جامعه توسعه‌دهندگان ارائه می‌دهد.

مشخصات فنی (API References)

پارامترنوعتوضیحات و مقادیر
model
stringRequired
مدل مورد استفاده برای تولید پاسخ. مقدار این فیلد باید 'mistralai/codestral-2501' باشد.
مقادیر مجاز (کلیک برای کپی):
messages
one of[]Required
لیستی از پیام‌ها که مکالمه را تا به اینجا تشکیل می‌دهند. بسته به مدلی که استفاده می‌کنید، انواع مختلف پیام (modalities) مانند متن، اسناد (txt, pdf)، تصاویر و صدا پشتیبانی می‌شوند.
max_completion_tokens
integer
حد بالایی برای تعداد توکن‌هایی که می‌توان برای تکمیل تولید کرد، از جمله توکن‌های خروجی قابل مشاهده و توکن‌های استدلال. حداقل مقدار: 1
max_tokens
number
حداکثر تعداد توکن‌هایی که می‌توان در تکمیل چت تولید کرد. این مقدار می‌تواند برای کنترل هزینه‌های متن تولید شده از طریق API استفاده شود. حداقل مقدار: 1
stream
boolean
اگر روی True تنظیم شود، داده‌های پاسخ مدل به صورت جریانی با استفاده از رویدادهای ارسال شده از سرور به کلاینت ارسال می‌شوند. مقدار پیش‌فرض: false
stream_options
object
تنظیمات مربوط به استریم کردن.
temperature
number
از چه دمای نمونه‌برداری استفاده شود. مقادیر بالاتر مانند 0.8 خروجی را تصادفی‌تر می‌کنند، در حالی که مقادیر پایین‌تر مانند 0.2 آن را متمرکزتر و قطعی‌تر می‌کنند. ما معمولاً توصیه می‌کنیم این مقدار یا top_p را تغییر دهید، اما نه هر دو را.
top_p
number
جایگزینی برای نمونه‌برداری با دما، به نام نمونه‌برداری هسته‌ای، که در آن مدل نتایج توکن‌ها را با جرم احتمال top_p در نظر می‌گیرد. بنابراین 0.1 به این معنی است که فقط توکن‌هایی که شامل 10٪ جرم احتمال برتر هستند در نظر گرفته می‌شوند. ما معمولاً توصیه می‌کنیم این مقدار یا دما را تغییر دهید، اما نه هر دو را. حداقل: 0.01، حداکثر: 1
seed
integer
این ویژگی در نسخه بتا است. اگر مشخص شود، سیستم ما تمام تلاش خود را می‌کند تا به طور قطعی نمونه‌برداری کند، به طوری که درخواست‌های مکرر با همان seed و پارامترها باید نتیجه یکسانی را برگردانند. حداقل: 1
min_p
number
عددی بین 0.001 و 0.999 که می‌تواند به عنوان جایگزینی برای top_p و top_k استفاده شود.
top_k
number
فقط از K گزینه برتر برای هر توکن بعدی نمونه‌برداری کنید. برای حذف پاسخ‌های کم احتمال "دنباله بلند" استفاده می‌شود. فقط برای موارد استفاده پیشرفته توصیه می‌شود. معمولاً فقط باید از دما استفاده کنید.
repetition_penalty
number | nullable
عددی که تنوع متن تولید شده را با کاهش احتمال تکرار توالی‌ها کنترل می‌کند. مقادیر بالاتر تکرار را کاهش می‌دهند.
top_a
number
پارامتر نمونه‌برداری برتر جایگزین. حداکثر: 1
frequency_penalty
number | nullable
عددی بین -2.0 و 2.0. مقادیر مثبت توکن‌های جدید را بر اساس فراوانی موجود آنها در متن تا کنون جریمه می‌کنند، و احتمال تکرار همان خط را به صورت کلمه به کلمه کاهش می‌دهند.
prediction
object
پیکربندی برای یک خروجی پیش‌بینی‌شده، که می‌تواند زمان پاسخ را در زمانی که بخش‌های بزرگی از پاسخ مدل از قبل مشخص هستند، بسیار بهبود بخشد.
presence_penalty
number | nullable
مقادیر مثبت توکن‌های جدید را بر اساس اینکه آیا در متن تا کنون ظاهر شده‌اند جریمه می‌کنند، و احتمال صحبت کردن مدل در مورد موضوعات جدید را افزایش می‌دهند.
tools
object[]
لیستی از ابزارهایی که مدل ممکن است فراخوانی کند. در حال حاضر، فقط توابع به عنوان یک ابزار پشتیبانی می‌شوند. از این برای ارائه لیستی از توابعی که مدل ممکن است ورودی‌های JSON را برای آنها تولید کند استفاده کنید. حداکثر 128 تابع پشتیبانی می‌شود.
tool_choice
any of
کنترل می‌کند که کدام ابزار (در صورت وجود) توسط مدل فراخوانی شود. none به این معنی است که مدل هیچ ابزاری را فراخوانی نمی‌کند و در عوض یک پیام تولید می‌کند. auto به این معنی است که مدل می‌تواند بین تولید یک پیام یا فراخوانی یک یا چند ابزار انتخاب کند. required به این معنی است که مدل باید یک یا چند ابزار را فراخوانی کند. مشخص کردن یک ابزار خاص از طریق {"type": "function", "function": {"name": "my_function"}} مدل را مجبور می‌کند تا آن ابزار را فراخوانی کند. none مقدار پیش‌فرض است زمانی که هیچ ابزاری وجود نداشته باشد. auto مقدار پیش‌فرض است اگر ابزارها وجود داشته باشند.
مقادیر مجاز (کلیک برای کپی):
parallel_tool_calls
boolean
اینکه آیا فراخوانی تابع موازی را در حین استفاده از ابزار فعال کنیم یا خیر.
stop
any of
حداکثر 4 توالی که API تولید توکن‌های بیشتر را متوقف می‌کند. متن بازگشتی شامل توالی توقف نخواهد بود.
response_format
one of
شیئی که فرمتی را مشخص می‌کند که مدل باید خروجی دهد.

نمونه کدهای درخواست

نکته مهم برای توسعه‌دهندگان:

برای احراز هویت، حتما کلید API خود را جایگزین YOUR_API_KEY کنید. هدر Authorization الزامی است.

import requests
import json  # for getting a structured output with indentation
response = requests.post(
    "https://api.ai-kar.com/v1/chat/completions",
    headers={
        # Insert your AI-KAR API Key instead of <YOUR_AI-KARAPI_KEY>:
        "Authorization":"Bearer <YOUR_AI-KARAPI_KEY>",
        "Content-Type":"application/json"
    },
    json={
        "model":"mistralai/codestral-2501",
        "messages":[
            {
                "role":"user",
                "content":"Hello"  # insert your prompt here, instead of Hello
            }
        ]
    }
)
data = response.json()
print(json.dumps(data, indent=2, ensure_ascii=False))

نمونه پاسخ موفق (JSON)

RESPONSE (200 OK)
{
  "id": "text",
  "object": "text",
  "created": 1,
  "choices": [
    {
      "index": 1,
      "message": {
        "role": "text",
        "content": "text",
        "refusal": null,
        "annotations": [
          {
            "type": "text",
            "url_citation": {
              "end_index": 1,
              "start_index": 1,
              "title": "text",
              "url": "text"
            }
          }
        ],
        "audio": {
          "id": "text",
          "data": "text",
          "transcript": "text",
          "expires_at": 1
        },
        "tool_calls": [
          {
            "id": "text",
            "type": "text",
            "function": {
              "arguments": "text",
              "name": "text"
            }
          }
        ]
      },
      "finish_reason": "stop",
      "logprobs": {
        "content": [
          {
            "bytes": [
              1
            ],
            "logprob": 1,
            "token": "text",
            "top_logprobs": [
              {
                "bytes": [
                  1
                ],
                "logprob": 1,
                "token": "text"
              }
            ]
          }
        ],
        "refusal": []
      }
    }
  ],
  "model": "text",
  "usage": {
    "prompt_tokens": 1,
    "completion_tokens": 1,
    "total_tokens": 1,
    "completion_tokens_details": {
      "accepted_prediction_tokens": 1,
      "audio_tokens": 1,
      "reasoning_tokens": 1,
      "rejected_prediction_tokens": 1
    },
    "prompt_tokens_details": {
      "audio_tokens": 1,
      "cached_tokens": 1
    }
  }
}