तकनीकी विकास ने एआई की विभिन्न किस्मों को जन्म दिया है, जिनमें से एक है एजेंटिक एआई, जो न केवल प्रश्नों के उत्तर देता है, बल्कि कार्य भी करता है। ये एजेंटिक एआई स्वायत्त रूप से निर्णय ले सकते हैं, साथ ही योजना बना सकते हैं और लक्ष्यों को प्राप्त कर सकते हैं। इस तकनीक के आगमन से उत्पादकता की एक नई दुनिया खुलती है, जिसमें स्वायत्त सहायक उपलब्ध होते हैं, डेटा प्राप्त करने और उसका मिलान करने, और बिल्कुल नई सुरक्षा कमजोरियों का निर्माण करने की क्षमता होती है। अब तक, एजेंटिक एआई के बारे में बातचीत सैद्धांतिक थी, लेकिन अब यह व्यावहारिक हो गई है। हालाँकि, हमलावरों द्वारा इनका उपयोग करने के तरीके को देखते हुए, हमलावरों की रणनीतियों का मुकाबला करने के लिए तकनीकी और यथार्थवादी दोनों तरह की कार्यपुस्तिकाओं की आवश्यकता है।   एजेंटिक एआई सुरक्षा समीकरण को क्यों बदलता है?  पारंपरिक एआई मॉडल से उत्पन्न होने वाला मुख्य खतरा अनुपयुक्त या अवांछित आउटपुट है, जो मुख्यतः उनके द्वारा दिए जाने वाले संकेतों के कारण होता है। हालाँकि, एजेंटिक प्रणालियों में, स्वायत्तता, लक्ष्य-उन्मुख व्यवहार, बोध और तर्क, सीखना और अनुकूलन, साथ ही बदलते परिवेश की प्रतिक्रिया के आधार पर अंतःक्रियाशीलता भी जुड़ जाती है। उदाहरण के लिए, एक एजेंट बिना किसी मानवीय हस्तक्षेप के, डैशबोर्ड में लॉग इन करके, डेटा निकालकर, और बाहरी एप्लिकेशन प्रोग्रामिंग इंटरफेस (API) को कॉल करके क्रियाओं को श्रृंखलाबद्ध कर सकता है। हालाँकि, एक गलत तरीके से कॉन्फ़िगर किया गया एजेंट मशीन की गति से गलती फैला सकता है; एक समझौता किया गया एजेंट कॉर्पोरेट नेटवर्क के अंदर एक गुप्त धुरी बिंदु बन सकता है।   आधुनिक एजेंटिक एआई सुरक्षा के व्यावहारिक स्तंभ  एजेंटिक एआई की प्रभावी सुरक्षा के लिए, संगठनों की सूचना सुरक्षा टीमों को तीन-भाग, व्यावहारिक ढांचे को अपनाना चाहिए जिसमें खतरा मॉडलिंग, सुरक्षित रनटाइम नियंत्रण और ऑडिटेबल गवर्नेंस शामिल हैं।   1. खतरा मॉडलिंग  किसी एजेंट को क्रेडेंशियल या एपीआई कुंजी सौंपे जाने से पहले सबसे खराब स्थिति का मॉडल तैयार करना बेहद ज़रूरी है। ऐसा इसलिए है क्योंकि एजेंटों की पहुँच और उनकी गतिविधियों से प्रभावित होने वाली सेवाओं को प्रभावित करने वाले मुद्दों की जाँच ज़रूरी है, जिससे विनाशकारी बदलाव आ सकते हैं। इसका उपयुक्त समाधान अच्छा ख़तरा मॉडलिंग है जो एक्शन ग्राफ़ को मैप करने में सक्षम है, जिससे संक्रमणीय जोखिम को देखा जा सकता है। हाल के दिनों में कई शोधकर्ताओं और औद्योगिक विशेषज्ञों ने इस दृष्टिकोण का प्रस्ताव रखा है, जिन्होंने एजेंट सुरक्षा के लिए सर्वोत्तम प्रथाओं के रूप में ख़तरा मॉडलिंग और रनटाइम सुरक्षा के महत्व पर भी ज़ोर दिया है।   2. अनुमतियाँ और मानव-इन-द-लूप  एजेंटों को न्यूनतम विशेषाधिकार और समय-सीमा वाली पहुँच के साथ काम करना होगा। इन उपकरणों को सक्रिय करना यह सुनिश्चित करने के लिए आवश्यक है कि विशेषाधिकार और पहुँच सही व्यक्तियों को उनकी भूमिकाओं के अनुरूप प्रदान की जाए, और इससे एजेंट सीधे क्रेडेंशियल्स का अनुरोध कर सकें। हालाँकि इन उपकरणों का पूरी तरह से सुरक्षित होना आवश्यक है, लेकिन ये एजेंटों को सुरक्षित ऑटोफ़िल या ब्रोकरेज एक्सेस जैसी गुप्त जानकारी को उजागर किए बिना सभी प्रासंगिक कार्य पूरे करने में भी मदद करते हैं।   3. लेखा परीक्षा  एजेंटिक एआई को और अधिक सुरक्षित बनाने के लिए, सिस्टम में लॉग और ट्रेस को एजेंटों द्वारा बहु-चरणीय क्रम में निष्पादित किया जाना चाहिए। इससे एजेंटिक एआई न केवल एपीआई कॉल रिकॉर्ड कर सकेगा, बल्कि एजेंटिक एआई के उच्च-स्तरीय लक्ष्यों को प्राप्त करने और आंतरिक रूप से तैयार की गई योजनाओं को आगे बढ़ाने में भी सक्षम होगा। ये सभी घटनाएँ-पश्चात फोरेंसिक और एक विशिष्ट संगठन की अनुपालन टीमों द्वारा निष्पादित की जाने वाली नियंत्रण प्रक्रियाओं के लिए आवश्यक हैं। यह इस बात की और पुष्टि करता है कि OWASP सुरक्षा दिशानिर्देश एजेंटिक खतरों पर मार्गदर्शन क्यों प्रदान करते हैं और ऑडिटिंग के दौरान गैर-अनुपालन मुद्दों के आसपास ट्रेस करने योग्य निर्णयों और शमन की आवश्यकता पर ज़ोर देते हैं।   वास्तविक दुनिया के पैटर्न जो काम करते हैं  एजेंटिक एआई को सुरक्षित करने के लिए कई व्यावहारिक और कार्यान्वयन योग्य चरणों की पहचान की गई है, और इनमें से कुछ को नीचे हाइलाइट किया गया है। इनमें से एक पैटर्न है क्षमता गेटिंग, जो एजेंटिक एआई क्रियाओं को सीमित करने और पथ वृद्धि के लिए अनुमोदन प्रदान करने की अनुमति देता है। इसके अलावा, असामान्य लक्ष्य विचलन की निगरानी और उनसे विचलित होने वाले एजेंटों को स्वचालित रूप से रोकना भी शामिल है। अंत में, एजेंट वर्कफ़्लो की जाँच उसी तरह की जाती है जैसे सुरक्षा रेड टीमें प्रतिकूल परीक्षण उद्देश्यों के लिए माइक्रोसर्विसेस का परीक्षण करती हैं। इसलिए, संगठनों में सूचना सुरक्षा टीमों के लिए यह आवश्यक है कि वे एजेंटों को ब्लैक बॉक्स की तरह न समझें और केवल इसलिए व्यापक और स्थायी क्रेडेंशियल्स प्रदान करने से बचें क्योंकि यह आसान है।   नैतिक और मानवीय पक्ष  एजेंटिक एआई ने अपनी कार्यप्रणाली में जो लाभ प्रदान किए हैं, उनका एआई की प्रगति पर सकारात्मक प्रभाव पड़ा है। हालाँकि, अनपेक्षित तरीकों से लक्ष्यों का पीछा करने, नैतिक मूल्यों की अनदेखी करने और एक बार तैनात होने के बाद अपने कार्यों को रद्द करने में कठिनाई होने के कारण, मानवीय नियंत्रण खोने की संभावना के कारण, एजेंटों की तकनीक को इस तरह से उन्नत किया जाना चाहिए कि मानवीय निगरानी सुनिश्चित हो। यदि इसे सही परिप्रेक्ष्य में नहीं रखा गया, तो 'एजेंट के कार्यों पर कौन हस्ताक्षर करता है?' और 'नवाचार का गला घोंटे बिना आप मनुष्यों को कैसे जवाबदेह बनाए रखते हैं?' जैसे प्रश्न हमेशा अनुत्तरित रहेंगे। इसलिए, यह सुनिश्चित करने के लिए कि एजेंटिक एआई में नैतिक और मानवीय दोनों पक्ष पूरी तरह से शामिल हों, निम्नलिखित की जाँच की जानी चाहिए:  एजेंट के एक्शन ग्राफ का मानचित्रण करना और उच्च प्रभाव वाले टचपॉइंट्स की पहचान करना।  सभी क्रेडेंशियल्स को सुरक्षित रखना तथा ब्रोकर के माध्यम से अल्पकालिक टोकन उपलब्ध कराना।  न्यूनतम विशेषाधिकार और लघु टोकन जीवनकाल लागू करना।  प्रतिकूल परीक्षण चलाना जो एजेंट समझौता का अनुकरण करता है।  उत्पादन में परिवर्तन या निधियों को स्थानांतरित करने वाली किसी भी कार्रवाई के लिए मानव अनुमोदन द्वार जोड़ना।   निष्कर्ष  एजेंटिक एआई पहले से ही इस बात को नया रूप दे रहा है कि काम हमारी उम्मीद से भी जल्दी कैसे पूरा हो जाता है। हालाँकि दुर्भावनापूर्ण हमलावरों द्वारा पहले से ही कुछ चुनौतियाँ पैदा की जा रही हैं, लेकिन सही तरीका एजेंटिक एआई के नवाचार को रोकना नहीं है, बल्कि ऐसे व्यावहारिक सुरक्षा उपाय तैयार करना है जो एजेंटों को मूल्यवान और सुरक्षित बना सकें। हम जिस भविष्य की कामना करते हैं, वह ऐसा है जहाँ एजेंट रोज़मर्रा के कामों को स्वचालित करें, जहाँ सुरक्षा दल चैन की नींद सोएँ, और जहाँ लूप में शामिल इंसान ही अंतिम प्रबंधक बना रहे, और यही एजेंटिक एआई प्रदान करता है। इसलिए, जहाँ एआई कार्यान्वयन का काम संभालता है, वहीं नैतिक व्यापारिक प्रथाओं को सुनिश्चित करने और अनपेक्षित परिणामों को रोकने के लिए रणनीतिक निर्णयों की निगरानी भी इंसानों को ही करनी चाहिए।

This story contains new, firsthand information uncovered by the writer.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

यह ऑडियो कहानी की मूल भाषा में निर्मित है!

दुष्ट एआई एजेंटों को रोकने के लिए व्यावहारिक मार्गदर्शिका

About Author

टिप्पणियाँ

लेबल

इस लेख में चित्रित किया गया था

Related Stories

He/Him/Master of Discovery

हैकरनून कोडेड: शीर्ष 10 देश जहां हैकरनून सबसे अधिक सक्रिय है

क्रिप्टो ग्रोथ: प्रभावी उपयोगकर्ता व्यक्तित्व बनाना

इन 18 डेवलपर टूल के साथ अपनी उत्पादकता बढ़ाएँ 🚀🔥

He/Him/Master of Discovery

हैकरनून कोडेड: शीर्ष 10 देश जहां हैकरनून सबसे अधिक सक्रिय है

क्रिप्टो ग्रोथ: प्रभावी उपयोगकर्ता व्यक्तित्व बनाना

इन 18 डेवलपर टूल के साथ अपनी उत्पादकता बढ़ाएँ 🚀🔥

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps