खुले और बंद मॉडल
तकनीकी रूप से, एक मॉडल प्रशिक्षित वजन (वह संख्याएं जो इसने प्रशिक्षण के दौरान सीखीं) का एक बड़ा ढेर है जो अगले टोकन की भविष्यवाणी करता है। यह अध्याय उन वजन तक पहुंचने के दो तरीकों के बारे में है, बंद मॉडल जिन्हें आप एक API के माध्यम से किराए पर लेते हैं और ओपन-वेट मॉडल जिन्हें आप स्वयं चला सकते हैं, और इस बारे में कि प्रत्येक वास्तव में कहां चलता है। डिफ़ॉल्ट जिसकी ओर सभी को इशारा किया जाता है वह एक होस्ट की गई बंद मॉडल है, और प्रदाताओं के पास विकल्पों को हाइलाइट करने का कोई कारण नहीं है, इसलिए पूरे मेनू को जानना और यह जानना कि प्रत्येक भाग कब मायने रखता है, यह जानने लायक है।
ओपन वेट, बंद वेट
एक AI मॉडल तक पहुंचने के दो तरीके हैं, और अंतर इस बात पर आता है कि मॉडल वास्तव में कहां रहता है।
पहला तरीका एक बंद मॉडल है, जिसे कभी-कभी मालिकाना कहा जाता है। आप इसे केवल कंपनी की API के माध्यम से प्राप्त करते हैं, जो एक प्रकार का ऑनलाइन द्वार है: आप पाठ भेजते हैं, आप पाठ वापस पाते हैं, और यह पूरा व्यवस्था है। मॉडल के वेट, प्रशिक्षित संख्याओं का विशाल ढेर जो इसे काम करता है, कंपनी के सर्वर पर बंद रहता है। आप कुछ भी स्वामित्व में नहीं ले रहे हैं, केवल एक्सेस किराए पर ले रहे हैं।
दूसरा तरीका एक ओपन-वेट मॉडल है। यहां कंपनी उन वजन को प्रकाशित करती है, इसलिए आप अपनी स्वयं की प्रति डाउनलोड कर सकते हैं और इसे हार्डवेयर पर चला सकते हैं जिसे आप नियंत्रित करते हैं। इसे एक अपार्टमेंट किराए पर लेने के रूप में सोचें जिसकी वायरिंग आपको कभी देखने की अनुमति नहीं होगी, बनाम भवन की योजनाओं की एक प्रति के मालिक होने के रूप में।
अधिकांश लोग एक बंद API से शुरू करते हैं क्योंकि यह प्रवेश द्वार का सबसे आसान रास्ता है, और यह शुरू करने के लिए एक अच्छी जगह है। ओपन विकल्प वास्तविक है और जानने लायक है, इसलिए आप समझते हैं कि किराए पर लेना एक विकल्प है और एकमात्र रास्ता नहीं है।
मॉडल कहां चलता है
एक विश्वास तैर रहा है कि एक ओपन मॉडल चुनना मतलब है कि आपको अपने स्वयं के सर्वर सेट अप करने हैं और यह चीज स्वयं चलानी है। यह सच नहीं है, और इसे जल्दी स्पष्ट करना लायक है।
एक मॉडल दो जगहों में से एक में चल सकता है। एक होस्ट की गई मॉडल के साथ, कोई कंपनी इसे अपनी मशीनों पर चलाती है और आप इसे एक API कॉल के साथ वेब पर पहुंचते हैं, जो एक छोटी सी अनुरोध है जो आपका कोड भेजता है और वापस एक जवाब पाता है। आप कभी भी मशीन को छूते नहीं जो इसे चलाता है। स्व-होस्टिंग के साथ, आप मॉडल को स्वयं चलाते हैं, अपने स्वयं के कंप्यूटर या अपने स्वयं के सर्वर पर।
यहां वह हिस्सा है जो लोग मिस करते हैं। एक ओपन मॉडल आपको स्व-होस्टिंग में मजबूर नहीं करता है। आप एक होस्टिंग कंपनी के माध्यम से एक ओपन मॉडल का उपयोग कर सकते हैं एक बंद के समान ही आरामदायक तरीके से: आप एक अनुरोध भेजते हैं, आप एक उत्तर पाते हैं, और कोई और मशीन चलाता रहता है। स्व-होस्टिंग एक विकल्प है जिसे आप ले सकते हैं, एक नियम नहीं जिसे आपको पालन करना है।
जब प्रत्येक समझदारी बनाता है
यहां पूरी पसंद को रखने का एक सरल तरीका है। एक बंद, होस्ट की गई मॉडल किराए पर ले रहा है: सेटअप करने के लिए कुछ भी नहीं है, आप उपलब्ध सर्वश्रेष्ठ गुणवत्ता पाते हैं, और आप इसका उपयोग हर बार थोड़ा भुगतान करते हैं। एक ओपन मॉडल जिसे आप स्वयं चलाते हैं वह मालिक होने के करीब है: आप अधिक नियंत्रण और अधिक गोपनीयता पाते हैं, और कोई प्रदाता को कोई प्रति-उपयोग बिल नहीं है, लेकिन आप इसे चलाते रहने का काम लेते हैं।
अधिकांश लोग एक API के माध्यम से किराए पर लेने से शुरू करने के लिए सही हैं, और अधिकांश को कभी इससे अधिक की आवश्यकता नहीं है। किराए पर लेने से शुरू करना सामान्य, समझदारी वाला पथ है।
इस अध्याय का बिंदु यह नहीं था कि आप अपने स्वयं को चलाने में स्विच करें। यह केवल यह था कि आप जान सकें कि पसंद आपकी है, इसलिए यदि आपकी जरूरतें एक दिन बदलती हैं, तो आप विकल्प को यह समझने के लिए पहचानेंगे कि यह क्या है।
एक मॉडल चुने जाने के साथ, अगला सवाल यह है कि आप इससे कैसे बात करते हैं। अगला अध्याय, Prompting, आपको चुने हुए मॉडल को स्टीयर करने के बारे में है ताकि यह आपको वास्तव में चाहता है दे।