संक्षेप में जवाब
ओपनएआई ने जैलपेनो के लिए पहला मापा परिणाम जारी किया, इसकी कस्टम आविष्कार चिप। VJOURNAL उत्पादन, लागत और तैनाती के सवालों से रिपोर्ट किए गए बेंचमार्क लाभ को अलग करता है जो खुला रहता है।
सत्यापित तथ्य
- घोषणा तिथि
- 25 अगस्त 2026
- कार्यभार परीक्षण
- GPT-OSS 120B, DeepSeek R1 670B और Kimi K2.5 1T
- बेंचमार्क
- SemiAnalysis InferenceX
- तैनाती योजना
- OpenAI कहते हैं कि 2026 के अंत तक आंतरिक तैनाती की योजना बनाई गई है।
What OpenAI ने 25 अगस्त 2026 को प्रकाशित किया
OpenAI ने जैलापेनो के लिए पहला मापा प्रदर्शन परिणाम प्रकाशित किया, इसकी कस्टम चिप और भाषा-मॉडल अनुमान के लिए रैक-स्केल सिस्टम। कंपनी का कहना है कि प्रणाली का मूल्यांकन GPT-OSS 120B, DeepSeek R1 670B और Kimi K2.5 1T में सेमीअनैलिसिस के सार्वजनिक InferenceX बेंचमार्क के साथ किया गया था। उन परीक्षणों के पार, ओपनएआई ने 1.5 से 1.9 गुना अधिक एआई कार्य प्रति वाट पीक थ्रूपुट और 1.7 से 3.6 गुना कम अंत से अंतिम विलंबता की तुलना में वाणिज्यिक प्रणालियों की तुलना में। अत्यधिक इंटरैक्टिव ऑपरेटिंग अंक के लिए इसे चुना गया, कंपनी ने 2.1 से 4.1 गुना उच्च प्रदर्शन की सूचना दी।
वे आंकड़े एक दृश्यमान माप फ्रेम के साथ विशिष्ट दावे हैं, एक बयान नहीं कि जैलापेनो हर मॉडल, प्रॉम्प्ट, प्रिसिजन या सर्विस पैटर्न के लिए तेज़ है। ओपनएआई प्रकाशन मॉडल नाम, नाममात्र संदर्भ और आउटपुट लंबाई, तुलना हार्डवेयर, पैकेज पावर अनुमान और कई विलंबता और थ्रूपुट उपाय प्रदान करता है। विस्तार का यह स्तर रिलीज को एकल चोटी संख्या की तुलना में अधिक उपयोगी बनाता है, लेकिन सही रीडिंग अभी भी स्थितियों से शुरू होती है। एक बेंचमार्क परिणाम बताता है कि इसके परीक्षण सीमा के अंदर क्या हुआ है; एक उत्पादन निष्कर्ष के लिए सबूत की आवश्यकता है कि सीमा कार्यभार को खरीदा या संचालित किया जा रहा है।
क्यों प्रति वाट throughput और विलंबता एक साथ पढ़ा जाना चाहिए
Inference सिस्टम अक्सर एक हेडलाइन मीट्रिक के माध्यम से प्रस्तुत किया जाता है, आमतौर पर प्रति सेकंड या कुल थ्रूपुट में टोकन होता है। यह एक व्यक्तिगत उपयोगकर्ता के अनुभव को छिपा सकता है। एक प्रणाली प्रत्येक उपयोगकर्ता को प्रतीक्षा करते समय कुशलतापूर्वक कई अनुरोधों को बैच कर सकती है, या महंगे क्षमता को कम करने के दौरान एक इंटरैक्टिव अनुरोध को तुरंत पूरा कर सकती है। ओपनएआई की रिहाई बिजली की प्रति इकाई, अंत से अंत तक विलंबता और उत्पन्न टोकन के बीच समय के संयोजन पर जोर देती है। अक्षों को एक साथ पढ़ना सही वृत्ति है क्योंकि एक इंटरैक्टिव उत्पाद को केवल उनमें से एक को अधिकतम करने के बजाय उत्तरदायीता, क्षमता और लागत को संतुलित करना पड़ता है।
बैलेंस एजेंटों के लिए भी अधिक मायने रखता है। एक चैट प्रतिक्रिया के लिए एक पीढ़ी की आवश्यकता हो सकती है, लेकिन एक एजेंट मॉडल कॉल, टूल निर्णय और सत्यापन का एक लंबा अनुक्रम बना सकता है। उन चरणों में छोटी देरी होती है। निचले विलंबता पूरे कार्य को कम कर सकती है, जबकि उच्च उपयोगी थ्रूपुट समान अवसंरचना को एक साथ काम करने देता है। बिजली दक्षता के मामले क्योंकि बिजली और शीतलन बाधा कितनी गणना डेटा सेंटर में तैनात की जा सकती है। उनमें से कोई भी लाभ स्वचालित नहीं है, हालांकि: मॉडल, शेड्यूलर, कैश व्यवहार, नेटवर्क और सॉफ्टवेयर स्टैक को उन्हें संरक्षित करना पड़ता है जब सेवा एक नियंत्रित बेंचमार्क से उत्पादन यातायात में जाती है।
InferenceX तुलना वास्तव में क्या कवर करती है
InferenceX को एक पृथक अंकगणित शिखर के बजाय व्यापक सेवा पथ को मापने के लिए डिज़ाइन किया गया है। ओपनएआई ने कहा कि यह ऑपरेटिंग बिंदुओं पर जैलैपेनो का परीक्षण करता है जो उच्च थ्रूपुट और अत्यधिक इंटरैक्टिव, कम विलंबता सेवा के बीच चलते हैं। प्रकाशित परिशिष्ट रिपोर्ट में तीन ओपन-वेट मॉडलों के लिए परिणाम होते हैं और कहा गया पावर रेटिंग का उपयोग करके व्यावसायिक रूप से उपलब्ध प्रणालियों के साथ Jalapeño की तुलना करते हैं। यह पाठकों को एक से अधिक कार्यभार देता है और प्रदर्शन वक्र पर एक से अधिक बिंदु देता है, जोखिम को कम करता है कि हेडलाइन एक सुविधाजनक विन्यास पर रहता है।
तुलना में अभी भी सीमाएं हैं। OpenAI की दरें 700 वाट पर Jalapeño और कहते हैं कि मापा निरंतर शक्ति परीक्षण किए गए कार्यभारों के लिए 550 वाट से कम है, जबकि सामान्यीकृत तुलना प्रत्येक त्वरक के लिए प्रकाशित पैकेज रेटिंग का उपयोग करती है। पैकेज की शक्ति स्थिरता के लिए उपयोगी है, लेकिन यह समान परिस्थितियों में पूरे रैक, नेटवर्क, कूलिंग सिस्टम या डेटा सेंटर ओवरहेड को मापने के समान नहीं है। मॉडल परिशुद्धता, कर्नेल परिपक्वता, इनपुट और आउटपुट की लंबाई, बैचिंग, कैश पुन: उपयोग और सहमति भी परिणाम के आकार को बदल सकती है। एक तकनीकी खरीदार को परीक्षण को फिर से उत्पन्न करते समय उन चरों को संरक्षित करना चाहिए और एक मंच पर एक पैकेज-स्तर के न्यूमेरेटर को एक दूसरे पर सिस्टम-लेवल डिनोमिनेटर के साथ मिश्रण नहीं करना चाहिए।
क्यों एक मॉडल कंपनी अपने स्वयं के आविष्कार प्रणाली को डिजाइन करेगी
OpenAI ने Jlapeño को एक सह-डिज़ाइन्ड सिस्टम के रूप में वर्णित किया है जो चिप, मेमोरी, नेटवर्क और सर्विसिंग सॉफ्टवेयर को दर्शाता है। भाषा-मॉडल inference विभिन्न बाधाओं के साथ चरणों के माध्यम से चल रहा है: शीघ्र प्रसंस्करण compute-intensive है, टोकन पीढ़ी अक्सर स्मृति बैंडविड्थ द्वारा बाधित होती है, और जब मॉडल स्टेट को स्थानांतरित करना पड़ता है तो संचार प्रोसेसर को प्रतीक्षा कर सकता है। उन चरणों के आसपास निर्मित एक डिजाइन कई कार्यभार प्रकारों के अनुकूल एक सामान्य त्वरक से अलग डेटा, गणना और नेटवर्किंग को रख सकता है। सामरिक आकर्षण विलंबता, ऊर्जा उपयोग, क्षमता योजना और बड़े पैमाने पर सेवारत मॉडल के अर्थशास्त्र पर सख्त नियंत्रण है।
परियोजना एक व्यापक आपूर्तिकर्ता पोर्टफोलियो के अंदर भी रहती है। OpenAI ने Microsoft, NVIDIA और अन्य प्रदाताओं से पार्टनर सिस्टम का कहना है कि कंपनी प्रशिक्षण और निवेश के लिए NVIDIA त्वरक को तैनात करना जारी रखेगा। ब्रॉडकॉम की जून घोषणा ने चिप को बाहरी हार्डवेयर के लिए सार्वभौमिक प्रतिस्थापन के बजाय बड़े-भाषा-मॉडल अनुमान के आसपास बनाया गया एक सहयोग के रूप में तैयार किया। यही कारण है कि भेदभाव। फर्स्ट पार्टी सिलिकॉन लीवरेज जोड़ सकते हैं, एक अनुरूप पथ और अन्य त्वरक की आवश्यकता को समाप्त किए बिना बातचीत शक्ति। परिचालन प्रश्न यह है कि वर्कलोड को पोर्टफोलियो में एक बार लागत, उपलब्धता, विश्वसनीयता और मॉडल संगतता को एक साथ मापा जाता है।
पहले परिणाम अभी तक स्थापित नहीं हैं
रिलीज अभी तक उत्पादन और संचालन की सभी लागत की स्थापना नहीं करती है। प्रति वाट प्रदर्शन अर्थशास्त्र में सुधार कर सकता है, लेकिन एक पूर्ण लागत मॉडल में विनिर्माण उपज, पैकेजिंग, मेमोरी, नेटवर्किंग, रैक, बिजली वितरण, शीतलन, सॉफ्टवेयर इंजीनियरिंग, योग्यता, रखरखाव, उपयोग और क्षमता की अवसर लागत भी शामिल है। न ही एक बेंचमार्क उपलब्धता साबित करता है। एक सेवा स्थिर आपूर्ति, अनुमानित विफलता व्यवहार, निगरानी, प्रतिस्थापन प्रक्रियाओं और मांग स्पाइक को अवशोषित करने के लिए पर्याप्त तैनात मात्रा पर निर्भर करती है। वे पहली पीढ़ी के लिए सामान्य हैं; वे सिर्फ एक प्रदर्शन चार्ट के दायरे से बाहर हैं।
परिणाम हर बंद फ्रंटियर मॉडल या हर एजेंटिक वर्कफ़्लो के लिए भी समान लाभ साबित नहीं करते हैं। OpenAI कहते हैं कि फ्रंटियर मॉडल पर आंतरिक परीक्षण ने व्यापक लाभ दिखाया, लेकिन सार्वजनिक तुलना नाम के खुले वजन वाले मॉडल का उपयोग करती है। यह सबूत है कि एक पाठक आज का निरीक्षण कर सकता है। कंपनी यह भी कहता है कि उत्पादन योग्यता जारी है, सॉफ्टवेयर परिपक्वता है और अधिक मॉडल मान्य किए जा रहे हैं। जब तक परिनियोजित माप आती है, तब तक जिम्मेदार निष्कर्ष संकीर्ण होता है: जैलैपेनो ने खुलासा परीक्षण सेटअप में मजबूत परिणाम उत्पन्न किया और ओपनएआई को एक विश्वसनीय प्रथम-पक्षीय अनुमान पथ प्रदान किया, जबकि उत्पादन क्षमता, विश्वसनीयता और चौड़ाई अगले साक्ष्य रिलीज के अधीन रहती है।
वास्तविक कार्यभार के लिए दावा का मूल्यांकन करने का एक व्यावहारिक तरीका
विक्रेता के बजाय वर्कलोड के साथ शुरू करें। मॉडल, परिशुद्धता, औसत और पूंछ इनपुट की लंबाई, उत्पादन की लंबाई, समवर्तीता, कैश पुन: उपयोग, पहली टोकन के लिए आवश्यक समय, टोकन और पूर्ण दर लक्ष्य के बीच समय। यह तय करें कि उत्पाद एक तेज एकल उपयोगकर्ता अनुभव, सस्ती बैच थ्रूपुट या नियंत्रित संतुलन को मानता है। फिर एक मिलान सेवा स्तर पर सिस्टम की तुलना करें। यदि एक प्लेटफॉर्म को धीमी प्रतिक्रिया या विभिन्न संख्यात्मक परिशुद्धता की अनुमति दी जाती है, तो लागत और दक्षता परिणाम उसी उत्पाद प्रश्न का उत्तर नहीं दे रहा है।
इसके बाद, सिस्टम को स्थिर रखें। प्रत्येक प्लेटफॉर्म पर त्वरक, मेमोरी और नेटवर्क पावर को मापें, या प्रत्येक प्लेटफॉर्म के लिए उसी प्रकाशित पैकेज कन्वेंशन का उपयोग करें और सीमा को लेबल करें। कुल लागत को अनुमान लगाने से पहले रैक, सॉफ्टवेयर, ऑर्केस्ट्रेशन और विश्वसनीयता लागत जोड़ें। एक छोटी चोटी के बजाय निरंतर थ्रूपुट का उपयोग करें, जिसमें p95 और p99 विलंबता शामिल है, और उपकरण या रिट्री शामिल होने पर उत्पन्न टोकनों के बजाय उपयोगी पूर्ण अनुरोधों की गणना करें। अंत में, सॉफ्टवेयर अद्यतन के बाद और वास्तविक यातायात वितरण के साथ परीक्षण को फिर से शुरू किया। एआई सेवा प्रदर्शन जल्दी बदलता है, इसलिए मूल्यांकन जिसे दोहराया नहीं जा सकता है, एक स्नैपशॉट नहीं है, एक खरीद विधि नहीं है।
बेंचमार्क और तैनाती के बीच क्या देखना है
OpenAI कहते हैं कि यह 2026 के अंत तक अपने स्वयं के कम्प्यूट बुनियादी ढांचे में जैलैपेनो को तैनात करने की योजना बना रहा है, जबकि बाद में पीढ़ियों पहले से ही विकास में हैं। अगले सार्थक संकेतों को परिचालन किया जाएगा: कौन से कार्यभार पहले चले जाते हैं, कितनी क्षमता स्थापित होती है, जो सिस्टम का उपयोग बनाए रखता है, चाहे सॉफ्टवेयर समर्थन व्यापक हो, कैसे पूंछ विलंबता व्यवहार करता है और क्या विश्वसनीयता लंबे समय तक चलने वाले उत्पादन यातायात में स्थिर रहती है। प्रतिक्रिया गति, उपलब्धता या मूल्य में ग्राहक-facing परिवर्तन किसी अन्य पृथक चोटी स्कोर की तुलना में व्यापार मूल्य का मजबूत सबूत होगा।
OpenAI से परे मार्केट सिग्नल भी है। मॉडल कंपनियों, क्लाउड प्रदाताओं और चिप डिजाइनर तेजी से पूर्ण सिस्टम के रूप में प्रतिस्पर्धा करते हैं। निर्णायक इकाई एक विलंबता, शक्ति, विश्वसनीयता और लागत लिफाफे के भीतर पूरा उपयोगी कार्य बन रही है, न कि अलगाव में चिप। Jalapeño के पहले प्रकाशित परिणाम उस दिशा को मजबूत करते हैं क्योंकि वे कस्टम सिलिकॉन और एक सार्वजनिक अनुमान बेंचमार्क के लिए एक मॉडल डेवलपर की सेवा की जरूरतों को जोड़ते हैं। परिणाम ध्यान देने योग्य हैं, लेकिन अनुशासित व्याख्या सशर्त है: आज मजबूत खुलासा बेंचमार्क प्रदर्शन, उत्पादन योग्यता और आर्थिक सबूत अभी भी आने के साथ।
व्यावहारिक चेकलिस्ट
- बेंचमार्क के मॉडल, परिशुद्धता, इनपुट की लंबाई, आउटपुट की लंबाई और आप वास्तव में काम करने वाले वर्कलोड के लिए सहमति से मिलान करें।
- जांचें कि बिजली को एक प्रकाशित पैकेज रेटिंग के आधार पर मापा जाता है या नहीं, और हर सिस्टम के लिए समान सीमा रखता है।
- प्रत्येक उपयोगकर्ता के साथ कुल थ्रूपुट के साथ अंत-टू-एंड विलंबता और टोकन की तुलना करें; एक मीट्रिक एक इंटरैक्टिव सेवा का वर्णन नहीं कर सकता है।
- एक बेंचमार्क परिणाम को कुल लागत में बदलने से पहले रैक, नेटवर्क, मेमोरी, सॉफ्टवेयर, उपयोग और योग्यता लागत शामिल करें।
- उत्पादन तैनाती के बाद तुलना दोहराएं, अकेले चोटी स्कोर के बजाय पूंछ विलंबता, विश्वसनीयता और उपयोगी पूर्ण कार्य का उपयोग करना।
सवाल और जवाब
OpenAI की Jalapeño चिप क्या करना है?
Jalapeño एक कस्टम त्वरक और सिस्टम भाषा मॉडल inference के लिए डिज़ाइन किया गया है: प्रशिक्षित मॉडल और वापसी प्रतिक्रियाओं की सेवा। OpenAI कहते हैं कि यह हर प्रशिक्षण त्वरक के लिए प्रतिस्थापन नहीं है और पार्टनर हार्डवेयर का उपयोग जारी रहेगा।
कौन से मॉडल पहले प्रकाशित बेंचमार्क परिणामों में शामिल थे?
OpenAI ने GPT-OSS 120B, DeepSeek R1 670B और Kimi K2.5 1T के लिए SemiAnalysis's InferenceX बेंचमार्क पर परिणाम प्रकाशित किया, जिसमें एक से अधिक डेवलपर और कई ऑपरेटिंग अंक शामिल हैं।
क्या बेंचमार्क परिणाम कम उत्पादन लागत साबित करते हैं?
नहीं प्रति वाट बेहतर प्रदर्शन सेवा अर्थशास्त्र में सुधार कर सकता है, लेकिन कुल उत्पादन लागत विनिर्माण, रैक डिजाइन, नेटवर्किंग, सॉफ्टवेयर, उपयोग, विश्वसनीयता, योग्यता और वर्कलोड मिश्रण पर भी निर्भर करती है।
जब Jalapeño OpenAI के बुनियादी ढांचे में इस्तेमाल किया जाएगा?
OpenAI कहते हैं कि यह 2026 के अंत तक अपने कम्प्यूट बुनियादी ढांचे के अंदर जैलैपेनो को तैनात करने की योजना बना रहा है। कंपनी का कहना है कि उत्पादन योग्यता, सॉफ्टवेयर परिपक्वता और सत्यापन अधिक मॉडलों में अभी भी प्रगति पर है।