Text Models (LLM)openai

معرفی و مستندات مدل هوش مصنوعی gpt-oss-120b

مستندات مدل gpt-oss-120b ارائه شده توسط ای ای کار (AI-KAR)

معرفی و بررسی فنی

⚡ وضعیت پشتیبانی از زبان فارسی

این مدل از زبان فارسی به صورت متوسط پشتیبانی می‌کند. درک مطلب فارسی در سطح قابل قبولی است، اما تولید متن فارسی ممکن است نیاز به پالایش داشته باشد.

مدل gpt-oss-120b یک مدل هوش مصنوعی متن‌محور است که برای استدلال قوی و استفاده از ابزارها طراحی شده است. این مدل، که توسط OpenAI توسعه یافته، قابلیت‌های متنوعی در پردازش زبان طبیعی ارائه می‌دهد. از جمله کاربردهای اصلی این مدل می‌توان به تولید متن، ترجمه زبان، خلاصه‌سازی متون، پاسخ به سوالات و تولید محتوای خلاقانه اشاره کرد. مدل gpt-oss-120b با بهره‌گیری از معماری ترانسفورمر، قادر است الگوهای پیچیده زبانی را درک کرده و متونی با کیفیت بالا تولید کند. این مدل به ویژه در سناریوهایی که نیاز به استدلال منطقی و استفاده از ابزارهای مختلف است، عملکرد بسیار خوبی از خود نشان می‌دهد. به عنوان مثال، می‌توان از آن برای تولید گزارش‌های تحلیلی، پاسخ به سوالات پیچیده با استفاده از منابع اطلاعاتی مختلف و یا تولید کد برنامه‌نویسی استفاده کرد. یکی از ویژگی‌های برجسته این مدل، توانایی آن در درک و تولید متون با سبک‌ها و لحن‌های مختلف است. این امکان به کاربران اجازه می‌دهد تا محتوایی متناسب با نیازهای خاص خود تولید کنند. همچنین، مدل gpt-oss-120b از قابلیت تنظیم پارامترهای مختلفی برخوردار است که به کاربران امکان می‌دهد رفتار مدل را به دقت کنترل کنند. به عنوان مثال، می‌توان با تنظیم پارامتر temperature، میزان تصادفی بودن خروجی مدل را تعیین کرد. مقادیر بالاتر این پارامتر منجر به تولید متون خلاقانه‌تر و غیرقابل پیش‌بینی‌تر می‌شود، در حالی که مقادیر پایین‌تر باعث تولید متون دقیق‌تر و متمرکزتر می‌شود. این مدل برای توسعه‌دهندگان و محققانی که به دنبال یک مدل هوش مصنوعی قدرتمند و انعطاف‌پذیر برای پردازش زبان طبیعی هستند، گزینه بسیار مناسبی است. با استفاده از gpt-oss-120b، می‌توان به سرعت و به آسانی برنامه‌های کاربردی هوشمندانه و نوآورانه ایجاد کرد. ای ای کار (AI-KAR) این مدل را به عنوان بخشی از خدمات خود ارائه می‌دهد تا کاربران بتوانند از آخرین دستاوردهای هوش مصنوعی در پروژه‌های خود بهره‌مند شوند. این مدل با توجه به متن باز بودنش، امکان بررسی و تغییرات را برای محققین فراهم می کند.

مشخصات فنی (API References)

پارامتر	نوع	توضیحات و مقادیر
model	stringRequired	مدل مورد استفاده. مقدار این فیلد باید `openai/gpt-oss-120b` باشد. مقادیر مجاز (کلیک برای کپی):
messages	arrayRequired	لیستی از پیام‌ها که مکالمه را تا کنون تشکیل می‌دهند. بسته به مدلی که استفاده می‌کنید، انواع مختلفی از پیام‌ها (modalities) مانند متن، اسناد (txt, pdf)، تصاویر و صدا پشتیبانی می‌شوند.
max_completion_tokens	integer	حداکثر تعداد توکن‌هایی که می‌توان برای تکمیل تولید کرد، شامل توکن‌های خروجی قابل مشاهده و توکن‌های استدلال. حداقل مقدار: 1
max_tokens	number	حداکثر تعداد توکن‌هایی که می‌توان در تکمیل چت تولید کرد. این مقدار می‌تواند برای کنترل هزینه‌های متن تولید شده از طریق API استفاده شود. حداقل مقدار: 1
stream	boolean	اگر روی True تنظیم شود، داده‌های پاسخ مدل به صورت جریانی با استفاده از رویدادهای ارسال شده توسط سرور به کلاینت ارسال می‌شوند. مقدار پیش‌فرض: false
stream_options	object	تنظیمات مربوط به استریم کردن
temperature	number	چه دمای نمونه‌برداری استفاده شود. مقادیر بالاتر مانند 0.8 خروجی را تصادفی‌تر می‌کنند، در حالی که مقادیر پایین‌تر مانند 0.2 آن را متمرکزتر و قطعی‌تر می‌کنند. به طور کلی توصیه می‌کنیم این مقدار یا top_p را تغییر دهید، اما نه هر دو را.
top_p	number	جایگزینی برای نمونه‌برداری با دما، به نام نمونه‌برداری هسته‌ای، که در آن مدل نتایج توکن‌ها را با جرم احتمال top_p در نظر می‌گیرد. بنابراین 0.1 به این معنی است که فقط توکن‌هایی که شامل 10٪ جرم احتمال برتر هستند، در نظر گرفته می‌شوند. به طور کلی توصیه می‌کنیم این مقدار یا temperature را تغییر دهید، اما نه هر دو را. حداقل مقدار: 0.01، حداکثر مقدار: 1
seed	integer	این ویژگی در حالت بتا است. اگر مشخص شود، سیستم ما تمام تلاش خود را می‌کند تا به طور قطعی نمونه‌برداری کند، به طوری که درخواست‌های مکرر با همان seed و پارامترها باید نتیجه یکسانی داشته باشند. حداقل مقدار: 1
min_p	number	عددی بین 0.001 و 0.999 که می‌تواند به عنوان جایگزینی برای top_p و top_k استفاده شود.
top_k	number	فقط از K گزینه برتر برای هر توکن بعدی نمونه‌برداری کنید. برای حذف پاسخ‌های با احتمال پایین "دنباله طولانی" استفاده می‌شود. فقط برای موارد استفاده پیشرفته توصیه می‌شود. معمولاً فقط باید از temperature استفاده کنید.
repetition_penalty	number	عددی که تنوع متن تولید شده را با کاهش احتمال تکرار توالی‌ها کنترل می‌کند. مقادیر بالاتر تکرار را کاهش می‌دهند.
top_a	number	پارامتر نمونه‌برداری جایگزین top.
tools	array	لیستی از ابزارهایی که مدل ممکن است فراخوانی کند. در حال حاضر، فقط توابع به عنوان ابزار پشتیبانی می‌شوند. از این برای ارائه لیستی از توابعی که مدل ممکن است ورودی‌های JSON را برای آنها تولید کند، استفاده کنید. حداکثر 128 تابع پشتیبانی می‌شود.
tool_choice	string	کنترل می‌کند که کدام ابزار (در صورت وجود) توسط مدل فراخوانی شود. none به این معنی است که مدل هیچ ابزاری را فراخوانی نمی‌کند و در عوض یک پیام تولید می‌کند. auto به این معنی است که مدل می‌تواند بین تولید یک پیام یا فراخوانی یک یا چند ابزار انتخاب کند. required به این معنی است که مدل باید یک یا چند ابزار را فراخوانی کند. تعیین یک ابزار خاص از طریق {"type": "function", "function": {"name": "my_function"}} مدل را مجبور می‌کند تا آن ابزار را فراخوانی کند. none مقدار پیش‌فرض است زمانی که هیچ ابزاری وجود نداشته باشد. auto مقدار پیش‌فرض است اگر ابزارها وجود داشته باشند. مقادیر مجاز (کلیک برای کپی):
parallel_tool_calls	boolean	فعال کردن فراخوانی موازی تابع در حین استفاده از ابزار.
logit_bias	object	احتمال ظاهر شدن توکن‌های مشخص شده در تکمیل را تغییر دهید. یک شی JSON را می‌پذیرد که توکن‌ها (مشخص شده توسط شناسه توکن آنها در توکن‌ساز) را به یک مقدار بایاس مرتبط از -100 تا 100 نگاشت می‌کند. از نظر ریاضی، بایاس به logits تولید شده توسط مدل قبل از نمونه‌برداری اضافه می‌شود. اثر دقیق برای هر مدل متفاوت خواهد بود، اما مقادیر بین -1 و 1 باید احتمال انتخاب را کاهش یا افزایش دهند. مقادیری مانند -100 یا 100 باید منجر به ممنوعیت یا انتخاب انحصاری توکن مربوطه شوند.
frequency_penalty	number	عددی بین -2.0 و 2.0. مقادیر مثبت توکن‌های جدید را بر اساس فراوانی موجود آنها در متن تا کنون جریمه می‌کنند، و احتمال تکرار همان خط را به صورت عینی توسط مدل کاهش می‌دهند.
prediction	object	پیکربندی برای یک خروجی پیش‌بینی شده، که می‌تواند زمان پاسخ را در زمانی که بخش‌های بزرگی از پاسخ مدل از قبل شناخته شده‌اند، بسیار بهبود بخشد.
presence_penalty	number	مقادیر مثبت توکن‌های جدید را بر اساس اینکه آیا در متن تا کنون ظاهر شده‌اند جریمه می‌کنند، و احتمال صحبت مدل در مورد موضوعات جدید را افزایش می‌دهند.
response_format	object	شیئی که فرمتی را که مدل باید خروجی دهد مشخص می‌کند.
reasoning_effort	string	تلاش برای استدلال را برای مدل‌های استدلال محدود می‌کند. مقادیر پشتیبانی شده در حال حاضر عبارتند از low، medium و high. کاهش تلاش استدلال می‌تواند منجر به پاسخ‌های سریع‌تر و توکن‌های کمتری شود که در استدلال در یک پاسخ استفاده می‌شوند. مقادیر مجاز (کلیک برای کپی):
echo	boolean	اگر True باشد، پاسخ شامل prompt خواهد بود. می‌تواند با logprobs برای برگرداندن prompt logprobs استفاده شود.

نمونه کدهای درخواست

نکته مهم برای توسعه‌دهندگان:

برای احراز هویت، حتما کلید API خود را جایگزین YOUR_API_KEY کنید. هدر Authorization الزامی است.

import requests
import json  # for getting a structured output with indentation
response = requests.post(
    "https://api.ai-kar.com/v1/chat/completions",
    headers={
        # Insert your AI-KAR API Key instead of <YOUR_AI-KARAPI_KEY>:
        "Authorization":"Bearer <YOUR_AI-KARAPI_KEY>",
        "Content-Type":"application/json"
    },
    json={
        "model":"openai/gpt-oss-120b",
        "messages":[
            {
                "role":"user",
                "content":"Hello"  # insert your prompt here, instead of Hello
            }
        ]
    }
)
data = response.json()
print(json.dumps(data, indent=2, ensure_ascii=False))

نمونه پاسخ موفق (JSON)

RESPONSE (200 OK)

{
  "id": "text",
  "object": "text",
  "created": 1,
  "choices": [
    {
      "index": 1,
      "message": {
        "role": "text",
        "content": "text",
        "refusal": null,
        "annotations": [
          {
            "type": "text",
            "url_citation": {
              "end_index": 1,
              "start_index": 1,
              "title": "text",
              "url": "text"
            }
          }
        ],
        "audio": {
          "id": "text",
          "data": "text",
          "transcript": "text",
          "expires_at": 1
        },
        "tool_calls": [
          {
            "id": "text",
            "type": "text",
            "function": {
              "arguments": "text",
              "name": "text"
            }
          }
        ]
      },
      "finish_reason": "stop",
      "logprobs": {
        "content": [
          {
            "bytes": [
              1
            ],
            "logprob": 1,
            "token": "text",
            "top_logprobs": [
              {
                "bytes": [
                  1
                ],
                "logprob": 1,
                "token": "text"
              }
            ]
          }
        ],
        "refusal": []
      }
    }
  ],
  "model": "text",
  "usage": {
    "prompt_tokens": 1,
    "completion_tokens": 1,
    "total_tokens": 1,
    "completion_tokens_details": {
      "accepted_prediction_tokens": 1,
      "audio_tokens": 1,
      "reasoning_tokens": 1,
      "rejected_prediction_tokens": 1
    },
    "prompt_tokens_details": {
      "audio_tokens": 1,
      "cached_tokens": 1
    }
  }
}