SAKANA AI ने AI CUDA इंजीनियर की घोषणा की जो मॉडल विकास और तैनाती को गति दे सकता है

सकान एआई, एक टोक्यो-आधारित कृत्रिम होशियारी (एआई) फर्म ने एक नई आर्टिफिशियल इंटेलिजेंस (एआई) एजेंटिक फ्रेमवर्क पेश किया, जो बड़े भाषा मॉडल (एलएलएम) के विकास और तैनाती की गति में सुधार कर सकता है। गुरुवार को घोषणा की गई, कंपनी ने एआई कूदा इंजीनियर का अनावरण किया जो कोडबेस को अनुकूलित करके एआई मॉडल की पूर्व-प्रशिक्षण और अनुमान गति दोनों में सुधार करता है। एआई फर्म ने इस बात पर प्रकाश डाला कि पूरी प्रक्रिया एआई एजेंटों द्वारा संचालित है और एंड-टू-एंड स्वचालित है। विशेष रूप से, सकान एआई पुर: एआई वैज्ञानिक पिछले साल जो वैज्ञानिक अनुसंधान कर सकते हैं।

Sacanils uvelils cudiner हैं

में एक डाकजापानी एआई फर्म ने कहा कि एआई सिस्टम विकसित करने के बाद जो नए मॉडल बना सकते हैं, और एआई अनुसंधान प्रक्रिया को पूरी तरह से स्वचालित कर सकते हैं, इसने एलएलएम की तैनाती और अनुमान गति को तेज करने के तरीकों पर काम करना शुरू कर दिया।

कंपनी ने कहा कि अनुसंधान ने AI CUDA इंजीनियर के विकास का नेतृत्व किया। यह CUDA (कंप्यूट यूनिफाइड डिवाइस आर्किटेक्चर) कर्नेल डिस्कवरी और ऑप्टिमाइज़ेशन के लिए पूरी तरह से स्वचालित, व्यापक एजेंट फ्रेमवर्क है।

CUDA गुठली को NVIDIA GPU पर चलने वाले विशेष कार्यों के रूप में समझा जा सकता है, जिससे कई थ्रेड्स में कोड के समानांतर निष्पादन की अनुमति मिलती है। समानता के कारण, यह पारंपरिक तरीकों की तुलना में अधिक अनुकूलित है और कम्प्यूटेशनल कार्यों के त्वरण के लिए अनुमति देता है, विशेष रूप से बड़े डेटासेट वाले। जैसे, यह एआई मॉडल की तैनाती और अनुमान का अनुकूलन करने का एक शानदार तरीका माना जाता है।

SAKANA AI ने कहा कि AI CUDA इंजीनियर स्वचालित रूप से Pytorch मॉड्यूल को अनुकूलित CUDA गुठली में बदल सकता है, ताकि तैनाती स्पीडअप में काफी सुधार हो सके। यह उन गुठली को उत्पन्न कर सकता है जिन्हें अपने पाइटोर्च समकक्ष की तुलना में 10-100 गुना तेज कहा जाता है।

प्रक्रिया में चार चरण शामिल हैं। सबसे पहले, एजेंट फ्रेमवर्क Pytorch कोड को काम करने वाले गुठली में परिवर्तित करता है। फिर, एजेंट केवल सर्वोत्तम गुठली को सुनिश्चित करने के लिए अनुकूलन तकनीकों को लागू करता है। फिर, कर्नेल क्रॉसओवर संकेत जोड़े जाते हैं, जो नए गुठली बनाने के लिए कई अनुकूलित गुठली को जोड़ते हैं। अंत में, एआई एजेंट एक संग्रह में उच्च-प्रदर्शन CUDA गुठली को संरक्षित करता है, जिसका उपयोग प्रदर्शन में सुधार देने के लिए किया जाता है। कंपनी ने भी प्रकाशित किया है अध्ययन यह आगे की प्रक्रिया का विवरण देता है।

पेपर के साथ, सकान एआई एआई क्यूडा इंजीनियर आर्काइव को भी प्रकाशित कर रहा है, जो एआई द्वारा उत्पन्न 30,000 से अधिक गुठली से युक्त एक डेटासेट है। ये गुठली CC-BY-4.0 लाइसेंस के तहत जारी की जाती हैं और उन्हें गले लगाने वाले चेहरे के माध्यम से पहुँचा जा सकता है।

इसके अतिरिक्त, जापानी फर्म ने एक वेबसाइट भी लॉन्च की, जो आगंतुकों को 17,000 सत्यापित कर्नेल और उनके प्रोफाइल का अंतःक्रियात्मक रूप से तलाशने देती है। वेबसाइट उपयोगकर्ताओं को 230 कार्यों में इन गुठली का पता लगाने की अनुमति देती है, और उन्हें व्यक्तिगत प्रयोगों में cuda गुठली की तुलना करने की सुविधा भी देती है।