OpenAI gpt-oss-120b మరియు gpt-oss-20b: ఓపెన్-వెయిట్ మోడల్స్ కు ఇది కొత్త యుగం కాదా?

OpenAI గేమ్-ఛేంజింగ్ విడుదలను ప్రకటించింది: GPT-OSS-120B మరియు GPT-OSS-20B . ఈ రెండు అత్యాధునిక ఓపెన్-వెయిట్ మోడల్‌లు ఇప్పుడు Apache 2.0 లైసెన్స్ క్రింద ప్రజలకు అందుబాటులో ఉన్నాయి.

ఈ విడుదలను నిజంగా ఉత్తేజపరిచేది యాక్సెసిబిలిటీ, పనితీరు మరియు భద్రతల సమ్మేళనం. GPT-OSSతో, డెవలపర్లు, పరిశోధకులు మరియు సంస్థలు తార్కిక సామర్థ్యాలపై రాజీ పడకుండా వారి స్వంత హార్డ్‌వేర్‌పై అధిక-నాణ్యత AI మోడళ్లను అమలు చేయడానికి OpenAI తలుపులు తెరిచింది.

GPT-OSS అంటే ఏమిటి?

GPT-OSS అనేది పెద్ద భాషా నమూనాల కుటుంబం - GPT-OSS-120B మరియు GPT-OSS-20B - బహిరంగ ఉపయోగం కోసం రూపొందించబడింది. అవి వాస్తవ ప్రపంచ తార్కికం, సాధన వినియోగం మరియు తక్కువ-జాప్యం ప్రతిస్పందనల కోసం ఆప్టిమైజ్ చేయబడ్డాయి. మరియు ఉత్తమ భాగం? మీరు వాటిని స్థానికంగా అమలు చేయవచ్చు.

రెండు మోడళ్లు సామర్థ్యాన్ని పెంచడానికి అత్యాధునిక మిక్స్చర్-ఆఫ్-ఎక్స్‌పర్ట్స్ (MoE) ఆర్కిటెక్చర్‌ను ఉపయోగిస్తాయి. ప్రతి టోకెన్‌కు తక్కువ యాక్టివ్ పారామితులతో, అవి హార్డ్‌వేర్ డిమాండ్‌లను తగ్గించుకుంటూ శక్తిని నిలుపుకోగలుగుతాయి.

ఇది ఎందుకు ముఖ్యం

ఓపెన్-వెయిట్ మోడల్స్ AI ని ప్రజాస్వామ్యీకరిస్తాయి. అవి చిన్న కంపెనీలు, పరిశోధకులు మరియు అభిరుచి గలవారు యాజమాన్య APIల ఖర్చులు లేదా పరిమితులు లేకుండా పెద్ద-స్థాయి భాషా నమూనాలను అన్వేషించడానికి అనుమతిస్తాయి.

మీరు ఆరోగ్య సంరక్షణ, విద్య, ఎంటర్‌ప్రైజ్ ఆటోమేషన్ లేదా రోబోటిక్స్‌లో పనిచేస్తున్నా, GPT-OSS మీ స్వంత AI పైప్‌లైన్‌లను నిర్మించుకోవడానికి సురక్షితమైన మరియు సౌకర్యవంతమైన ప్లాట్‌ఫామ్‌ను అందిస్తుంది.

యాజమాన్య నమూనాలకు పోటీగా పనితీరు

OpenAI ప్రకారం, GPT-OSS-120B ప్రధాన తార్కిక బెంచ్‌మార్క్‌లలో GPT-4o-mini తో దాదాపు సమానత్వాన్ని సాధిస్తుంది . ఇది ఒకే 80 GB GPUపై నడుస్తుంది మరియు పోటీ కోడింగ్ (కోడ్‌ఫోర్సెస్), ఆరోగ్య ప్రశ్నోత్తరాలు (హెల్త్‌బెంచ్) మరియు జనరల్ రీజనింగ్ (MMLU) వంటి పనులపై చాలా బాగా పనిచేస్తుంది.

GPT-OSS-20B, దాని చిన్న పరిమాణం ఉన్నప్పటికీ, కూడా మెరుస్తుంది. 16 GB మెమరీ మాత్రమే అవసరం, ఇది అంచు విస్తరణలు మరియు తక్కువ-ధర వాతావరణాలకు అనువైనది.

పోలిక పట్టిక

మోడల్	మొత్తం పరామితులు	యాక్టివ్ పరామితులు	నిపుణులు	పొరలు	సందర్భ పొడవు
జీపీటీ-ఓఎస్ఎస్-120బి	117 బి	5.1బి	128 (4 యాక్టివ్)	36 తెలుగు	128కే
జీపీటీ-ఓఎస్ఎస్-20బి	21 బి	3.6 బి	32 (4 యాక్టివ్)	24	128కే

శిక్షణ మరియు ఆర్కిటెక్చర్

ఈ నమూనాలు స్పార్స్ అటెన్షన్ మరియు గ్రూప్డ్ మల్టీ-క్వరీ అటెన్షన్ (MQA) ద్వారా మెరుగుపరచబడిన ట్రాన్స్‌ఫార్మర్ ఆర్కిటెక్చర్‌పై ఆధారపడి ఉంటాయి. GPT-OSS రోటరీ పొజిషనల్ ఎంబెడ్డింగ్ (RoPE)ని ఉపయోగిస్తుంది మరియు 128,000 టోకెన్‌ల వరకు దీర్ఘ సందర్భ పొడవులకు మద్దతు ఇస్తుంది.

వారికి ప్రధానంగా ఇంగ్లీష్ డేటాపై శిక్షణ ఇవ్వబడింది, STEM, జనరల్ నాలెడ్జ్ మరియు ప్రోగ్రామింగ్‌లకు ప్రాధాన్యత ఇవ్వబడింది. టోకనైజర్, o200k_harmony కూడా ఓపెన్ సోర్స్ చేయబడుతోంది.

శిక్షణ తర్వాత మరియు తార్కిక విధానాలు

OpenAI యొక్క అంతర్గత నమూనాల మాదిరిగానే, GPT-OSS కూడా పర్యవేక్షణలో చక్కటి ట్యూనింగ్ మరియు ఉపబల అభ్యాసంతో కూడిన శిక్షణానంతర ప్రక్రియ ద్వారా వెళ్ళింది. డెవలపర్లు జాప్యం మరియు ఖచ్చితత్వ అవసరాలను బట్టి తక్కువ, మధ్యస్థ లేదా అధిక తార్కిక ప్రయత్నాన్ని నియంత్రించవచ్చు.

ఇది GPT-OSSని చాట్‌బాట్‌లు, పరిశోధన సహాయకులు లేదా ఆరోగ్య సమాచార వ్యవస్థల వంటి అప్లికేషన్‌లకు ప్రత్యేకంగా అనుకూలంగా మారుస్తుంది.

భద్రత: ఒక ప్రధాన ఆందోళన

GPT-OSS అధిక భద్రతా ప్రమాణాలకు అనుగుణంగా ఉండేలా చూసుకోవడానికి OpenAI దాని సంసిద్ధత ఫ్రేమ్‌వర్క్‌ను అనుసరించింది . చెత్త దుర్వినియోగ దృశ్యాలను అనుకరించడానికి వారు మోడల్‌లను విరుద్ధంగా ఫైన్-ట్యూన్ చేశారు మరియు విస్తృతమైన హానికరమైన శిక్షణ ఉన్నప్పటికీ, మోడల్‌లు అధిక-రిస్క్ సామర్థ్య పరిమితులను చేరుకోలేవని కనుగొన్నారు.

ఈ విడుదలలో కొత్త భద్రతా దుర్బలత్వాలను కనుగొనడానికి $500,000 ప్రైజ్ పూల్‌తో కూడిన రెడ్ టీమింగ్ ఛాలెంజ్ కూడా ఉంది. మీరు ఇక్కడ మరింత తెలుసుకోవచ్చు లేదా పాల్గొనవచ్చు .

మూల్యాంకన ప్రమాణాలు

OpenAI రెండు మోడళ్లను ఇలాంటి పనులలో బెంచ్‌మార్క్ చేసింది:

• హెల్త్‌బెంచ్: GPT-OSS-120B 59.8% స్కోర్ చేసి, GPT-4o-mini మరియు o3 మోడళ్లను అధిగమించింది.
• AIME 2025: GPT-OSS-20B 71.5% స్కోర్ చేసింది, GPT-4o-mini తో సమానంగా.
• GPQA: GPT-OSS-120B 90% ఖచ్చితత్వాన్ని సాధించే సైన్స్ రీజనింగ్ పరీక్ష.

ఈ ఫలితాలు GPT-OSS యొక్క పోటీతత్వ ప్రయోజనాన్ని ప్రదర్శిస్తాయి, ముఖ్యంగా నిర్మాణాత్మక తార్కికం మరియు సాధన వినియోగం అవసరమయ్యే డొమైన్‌లలో.

సాధన వినియోగం మరియు ఇంటిగ్రేషన్

GPT-OSS మోడల్‌లు OpenAI యొక్క ఫంక్షన్ కాలింగ్ APIలు మరియు ఇతర ఏజెంట్ వర్క్‌ఫ్లోలతో సజావుగా పనిచేస్తాయి. అవి వెబ్‌ను బ్రౌజ్ చేయగలవు, పైథాన్ కోడ్‌ను అమలు చేయగలవు మరియు వివిధ సాధనాలతో అనుసంధానించగలవు.

మీరు నిర్మాణాత్మక అవుట్‌పుట్‌లను సెట్ చేయవచ్చు, చైన్-ఆఫ్-థాట్ (CoT) రీజనింగ్‌ను ఉపయోగించవచ్చు లేదా వాటిని మీ ప్రస్తుత సాధనాలు మరియు APIలతో బహుళ-ఏజెంట్ సెటప్‌లుగా కలపవచ్చు.

విస్తరణ ఎంపికలు

బరువులు హగ్గింగ్ ఫేస్‌లో డౌన్‌లోడ్ చేసుకోవడానికి అందుబాటులో ఉన్నాయి మరియు మెమరీ సామర్థ్యం కోసం MXFP4లో క్వాంటిటైజ్ చేయబడ్డాయి. GPT-OSS-20B ONNX రన్‌టైమ్‌తో Windows పరికరాలతో సహా వినియోగదారు-గ్రేడ్ హార్డ్‌వేర్‌పై సౌకర్యవంతంగా నడుస్తుంది .

OpenAI ఈ క్రింది డిప్లాయ్‌మెంట్ ప్లాట్‌ఫామ్‌లతో భాగస్వామ్యం కలిగి ఉంది:

• కౌగిలించుకుంటున్న ముఖం
• ఓల్లామా
• ఎల్.ఎమ్. స్టూడియో
• నీలవర్ణం
• క్లౌడ్‌ఫ్లేర్
• విఎల్ఎల్ఎమ్

మరియు అన్ని వ్యవస్థలలో సరైన పనితీరును నిర్ధారించడానికి NVIDIA, AMD మరియు Cerebras వంటి హార్డ్‌వేర్ విక్రేతలు.

లైసెన్సింగ్ మరియు వినియోగ కేసులు

రెండు మోడల్‌లు అపాచీ 2.0 లైసెన్స్ క్రింద విడుదల చేయబడ్డాయి , వాణిజ్య మరియు విద్యాపరమైన ఉపయోగం కోసం వశ్యతను అందిస్తాయి.

వంటి సందర్భాలకు అనువైనది:

• సురక్షితమైన ఆన్-ప్రిమైజ్ విస్తరణ
• ఆరోగ్య సంరక్షణ లేదా చట్టపరమైన సంస్థల కోసం అనుకూల AI పైప్‌లైన్‌లు
• డొమైన్-నిర్దిష్ట పనుల కోసం ఫైన్-ట్యూనింగ్
• స్థానిక పరికరాల్లో నడుస్తున్న రియల్-టైమ్ అసిస్టెంట్లు

ఎలా ప్రారంభించాలి

ఈరోజే GPT-OSS మోడల్‌లను అన్వేషించడం ప్రారంభించండి:

• హగ్గింగ్ ఫేస్‌లో మోడల్‌లను డౌన్‌లోడ్ చేసుకోండి
• మోడల్ కార్డ్ చదవండి
• రెడ్ టీమింగ్ ఛాలెంజ్‌లో చేరండి
• ప్లేగ్రౌండ్‌లో GPT-OSSని ప్రయత్నించండి

సారాంశం

చివరగా, GPT-OSS యొక్క ముఖ్యాంశాలు ఇక్కడ ఉన్నాయి:

• రెండు శక్తివంతమైన మోడల్‌లు: హై-ఎండ్ GPUల కోసం 120B, కన్స్యూమర్ హార్డ్‌వేర్ కోసం 20B
• పూర్తిగా ఓపెన్-వెయిట్ మరియు అపాచీ 2.0 లైసెన్స్ పొందింది
• తార్కికం, సాధన వినియోగం మరియు వాస్తవ ప్రపంచ పనులపై బలమైన పనితీరు
• అత్యాధునిక అమరిక పద్ధతులతో భద్రత-పరీక్షించబడింది
• స్థానికంగా, పరికరంలో లేదా భాగస్వాముల ద్వారా అమలు చేయవచ్చు

OpenAI యొక్క GPT-OSS కేవలం ఒక మోడల్ కంటే ఎక్కువ - ఇది బాధ్యతాయుతంగా ఆవిష్కరణలు చేయడానికి ఆహ్వానం. మీరు పరిశోధకుడు, డెవలపర్ లేదా ఎంటర్‌ప్రైజ్ అయినా, ఈ ఓపెన్ మోడల్‌లు AIని అడ్డంకులు లేకుండా ముందుకు తీసుకెళ్లడానికి మిమ్మల్ని శక్తివంతం చేస్తాయి.