के एउटा AI एजेन्टले साँच्चै तपाईंको समुदाय चलाउन सक्छ?

छोटो उत्तर: एउटा AI एजेन्टले आज समुदायको मेकानिक्स चलाउन सक्छ — मस्यौदा तयार पार्ने, तालिका बनाउने, पढ्ने, सारांश निकाल्ने, रुटिङ गर्ने, र पहिले नै कागजातमा उत्तर भएका प्रश्नहरूको जवाफ दिने। जसका असफलता महँगो र उल्टाउन गाह्रो हुन्छ, त्यस्ता निर्णय यसलाई दिनु हुँदैन, र यसको कारण मोडेलहरू मूर्ख हुनु होइन। कारण यो हो कि तिनीहरू एक विशेष मापन गरिएको तरिकाले अविश्वसनीय हुन्छन्, र सुरक्षा जालका रूपमा भर पर्ने मानव समीक्षा चरण आफैं सफल हुन सक्ने सफ्टवेयर हो। तेस्रो भाग प्रायः छुट्ने गर्छ: "सधैं मानिसलाई लूपमा राख्नु" पनि सुधार होइन। काम लाग्ने प्रश्न यो हो — कुन निर्णय, कति विश्वासमा, र कुन पुनरावेदन मार्गसहित।

खुलासा: Zealy ले यो पृष्ठ प्रकाशित गर्छ र Zealy ले यहाँ छलफल भइरहेको कुरा बेच्छ। Zealy एउटा समुदाय र क्वेस्ट प्लेटफर्म हो, Zealy ले एउटा MCP सर्भर पठाउँछ जसले AI एजेन्टलाई Zealy समुदाय प्रशासन गर्न दिन्छ, र Zealy ले क्वेस्ट दाबीहरू निर्णय गर्ने AI समीक्षक पठाउँछ। तीनवटै तल देखिन्छन्, जसमा दुईवटा आफैंमा असहमत हुने ठाउँ र प्रतिस्पर्धीको डिजाइन हाम्रोभन्दा राम्रो हुने दुई ठाउँ पनि समावेश छन्।

अन्तिम पटक प्रमाणित: १८ अगस्ट २०२६।

आज एउटा AI एजेन्टले समुदायमा वास्तवमै के गर्न सक्छ?

एउटा AI एजेन्टले यान्त्रिक कामहरू भरपर्दो रूपमा गर्न सक्छ: पोस्ट र जवाफको मस्यौदा तयार पार्ने, तिनलाई तालिकाबद्ध गर्ने, च्यानल पढेर सारांश निकाल्ने, रिपोर्ट सही व्यक्तिसमक्ष पुर्‍याउने, र पहिले नै कागजातमा उत्तर भएका प्रश्नहरूको जवाफ दिने। यी यस्ता काम हुन् जहाँ गलत नतिजा देखिने, सस्तो र कसैलाई हानि पुग्नुअघि सजिलै सुधार्न सकिने हुन्छ।

त्यो सूची सानो कुरा होइन। अधिकांश समुदायको काम यान्त्रिक छ, र अधिकांश समुदाय टोलीहरू यसमा पछि परेका छन्। यदि एजेन्टले तपाईंको साप्ताहिक पुनरावलोकनको मस्यौदा तयार पार्छ र कुनै व्यक्तिले त्यो लेख्न चालीस मिनेटको सट्टा चार मिनेटमा सुधार्छ भने, त्यो सीमित जोखिमसहितको वास्तविक उपलब्धि हो।

हामीले यो पोस्ट लेख्यौं किनभने यो प्रश्नको उत्तर नराम्रोसँग दिइँदै छ। खोज्दा can ai run my community १८ अगस्ट २०२६ मा, हामीले प्राप्त गरेको हरेक नतिजा विक्रेताको ब्लग वा विक्रेताको उत्पादन पृष्ठ थियो — heightsplatform.com, mightynetworks.com, social.plus, circle.so, socialglow.com, aismartventures.com। हामीले प्राप्त गरेका कुनै पनि नतिजाले प्रश्नको उत्तर "होइन" वा "आंशिक रूपमा" भनेर दिएनन्। प्रत्येकले यसलाई सुविधाको सूचीका रूपमा पुनः भन्यो। त्यो एक दिनमा हामीले निकालेका नतिजाबारेको अवलोकन हो, सधैं लेखिएका सबै कुराबारेको दाबी होइन।

यस श्रेणीका विक्रेताहरू आफैं तिनका ल्यान्डिङ पृष्ठले संकेत गरेभन्दा बढी इमानदार छन्। सोसल मिडियाका लागि AI एजेन्ट बनाउनेबारे Sprout Social को गाइड, McCall Lanman द्वारा लिखित, १६ अप्रिल २०२६ मा प्रकाशित, श्रेणीलाई परिभाषित गर्छ व्यक्तिको अनुपस्थितिबाट: "एक AI एजेन्ट भनेको एउटा सफ्टवेयर प्रोग्राम हो जसले ठूलो भाषा मोडेल (LLM) लाई आफ्नो मस्तिष्कको रूपमा प्रयोग गरी स्वायत्त रूपमा कार्यहरू पूरा गर्छ, निर्णयहरू लिन्छ र बाह्य उपकरणहरूसँग अन्तरक्रिया गर्छ—हरेक चरणमा मानिसले निर्देशन नदिइकन।" त्यही पृष्ठमा तल यसले व्यक्तिलाई फेरि राख्न भन्छ: "स्वीकृति कार्यप्रवाह: संवेदनशील प्रतिक्रियाहरू पठाउनुअघि मानव प्रबन्धककहाँ पठाउनुहोस्—यसलाई human-in-the-loop भनिन्छ।" र स्पष्ट रूपमा: "guardrails बिना, राम्ररी बनाइएको एजेन्टले पनि ब्रान्डविपरीत वा हानिकारक आउटपुट उत्पादन गर्छ।"

यो पाखण्ड होइन। यो श्रेणीको वास्तविक कठिनाई हो जुन एउटा मार्केटिङ पृष्ठमार्फत देखिन्छ, र यो कृपापूर्वक भन्न लायक छ। यदि तपाईं शब्दावलीलाई ठीकसँग परिभाषित गर्न चाहनुहुन्छ भने, हाम्रो एजेन्टिक मार्केटिङसम्बन्धी स्तम्भले महत्वाकांक्षाको सट्टा यसको संयन्त्रसँग तुलना गरेर मूल्याङ्कन गर्छ।

वास्तविक सीमा क्षमता होइन, अविश्वसनीयता किन हो

एजेन्टलाई निर्णय गर्न दिनुको समस्या मोडेलहरू मूर्ख हुनु होइन। समस्या यो हो कि तिनीहरू असंगत हुन्छन्, र असंगतता व्यवस्थापन गर्न ज्ञात कमजोरीभन्दा कठिन कुरा हो। बहु-पालो कुराकानीसम्बन्धी अनुसन्धानले अधिकांश गिरावट कच्चा क्षमताभन्दा भिन्नतामा पर्छ भनी देखाउँछ।

यो पेपर हो "LLMs Get Lost In Multi-Turn Conversation" फिलिप लाबान, हिरोआकी हायाशी, यिङ्बो झोउ र जेनिफर नेभिलद्वारा, arXiv:2505.06120, ९ मे २०२५ मा पेश गरिएको। यसको सारांशमा भनिएको छ कि "हामीले परीक्षण गरेका सबै शीर्ष खुला- र बन्द-वेट LLM हरूले बहु-पालो कुराकानीमा एकल-पालोको तुलनामा उल्लेखनीय रूपमा कम प्रदर्शन देखाउँछन्, छ वटा जेनेरेसन कार्यहरूमा औसत ३९% गिरावटका साथ।"

अझ महत्त्वपूर्ण वाक्य अर्को हो: "२००,०००+ सिमुलेट गरिएका कुराकानीहरूको विश्लेषणले प्रदर्शन ह्रासलाई दुई भागमा विभाजन गर्छ: क्षमतामा सानो ह्रास र अविश्वसनीयतामा उल्लेखनीय वृद्धि।" र असफलताको ढाँचाको एउटा आकार हुन्छ — "जब LLM हरूले कुराकानीमा गलत मोड लिन्छन्, तिनीहरू हराउँछन् र पुनःप्राप्त हुँदैनन्"।

त्यो ३९% कतै पनि प्रयोग गर्नुअघि सावधानीहरू पढ्नुहोस्। यी छ वटा जेनेरेसन कार्यहरूमा सिमुलेट गरिएका कुराकानीहरू थिए, २०२५ का मोडेलहरूमा मापन गरिएको, र ३९% ती कार्यहरूमा औसत हो, आज तपाईंले किन्न सक्ने कुनै पनि उत्पादनको गुण होइन। त्यसपछि मोडेलहरू सुधार भएका छन्। टिकाउ निष्कर्ष संख्या होइन, यो विभाजन हो।

यहाँ किन विघटन नै सम्पूर्ण तर्क हो। अझै पर्याप्त राम्रो नभएको उपकरण एउटा तालिका समस्या हो: तपाईं पर्खनुहुन्छ, वा कार्य साँघुरो बनाउनुहुन्छ। औसतमा सही तर अप्रत्याशित रूपमा गलत हुने उपकरण व्यवस्थापन समस्या हो, र त्यो फरक समस्या हो। कठिन केसहरू जाँचेर तपाईं यसलाई कर्मचारी व्यवस्थापनले वरिपरि घुम्न सक्नुहुन्न, किनकि कुन केस कठिन थियो भन्ने तपाईंलाई अग्रिम थाहा हुँदैन। समुदाय कार्य स्वभावैले बहु-पालो हुन्छ — सदस्यले सोध्छ, स्पष्ट पार्छ, प्रतिवाद गर्छ, तीन सन्देशपछि सन्दर्भ थप्छ — जुन ठ्याक्कै त्यही परिस्थिति हो जुन पेपरले मापन गरेको थियो।

Discord को मानव-इन-द-लूप सफ्टवेयरको एउटा टुक्रा थियो, र त्यसमा बग थियो

Discord ले वर्तमान कालमा प्रकाशित गर्यो कि यसको Trust & Safety टोलीको एक सदस्यले कुनै पनि कारबाही गर्नुअघि सधैं झन्डा लगाइएको सामग्रीको समीक्षा गर्छ। तैपनि एउटा बगले 8,000 भन्दा बढी खाताहरू प्रतिबन्धित गर्यो। मानव-इन-द-लूप एउटा कोड मार्ग थियो, र कोड मार्गहरू मानिसजस्तो नभई सफ्टवेयरजस्तै असफल हुन्छन्।

TechCrunch ले यसलाई 7 July 2026 मा Lauren Forristal को शीर्षक भएको लेखमा रिपोर्ट गर्यो: "Discord ले AI मोडरेसन बगले हानिरहित तस्बिरहरूका कारण प्रयोगकर्ताहरूलाई गलत रूपमा प्रतिबन्ध लगाएको स्वीकार गर्यो". यसको मुख्य कुरा: "Discord ले स्वीकार गरेको छ कि यसको AI मोडरेसन प्रणालीमा रहेको बगले विगत दुई महिनामा 8,000 भन्दा बढी प्रयोगकर्ताहरूलाई गल्तीले प्रतिबन्ध लगायो, किनकि हानिरहित तस्बिरहरू—जसमा स्प्रेडसिट, चेसबोर्ड, गेम टेक्स्चर, साथै सेता र खैरो पारदर्शी पृष्ठभूमिहरू पर्छन्—गलत रूपमा हानिकारक सामग्रीका रूपमा झन्डा लगाइयो।"

यो मात्रालाई माथि गोलो गर्नुभन्दा ठ्याक्कै पढ्न लायक छ। "कम्पनीले पुष्टि गर्यो कि यो समस्याले May देखि खाताहरूलाई असर गरिरहेको थियो, र यसको टोलीले समस्या पहिचान गरी समाधान गर्नुअघि सप्ताहन्तमा थप 200 प्रयोगकर्ताहरूलाई प्रतिबन्ध लगाइयो। सबै प्रभावित खाताहरू हाल पुनर्स्थापना गर्ने प्रक्रियामा छन्।"

अब त्यो भाग जसले तपाईंले यसबारे कसरी सोच्नुपर्छ भन्ने परिवर्तन गर्छ। TechCrunch ले 7 July 2026 को यसको थ्रेडबाट उद्धृत गरेको Discord को आफ्नै सहयोग खाताले डिजाइनको वर्णन यसरी गर्यो: "हाम्रा प्रणालीहरूले सामग्रीलाई ज्ञात हानिकारक सामग्रीसँग मिलाएर झन्डा लगाउँछन्। यस प्रकारको समानता मिलानले गलत सकारात्मक नतिजा उत्पन्न गर्न सक्छ, त्यसैले कुनै पनि कारबाही गर्नुअघि हाम्रो Trust & Safety टोलीको एक सदस्यले सधैं झन्डा लगाइएको सामग्रीको समीक्षा गर्छ।"

र TechCrunch को आफ्नै घटनाको सारांश: "एक मानव मोडरेटरले सामग्री समीक्षा गर्छ, तर एउटा बगका कारण प्रणालीले प्रभावित खाताहरूलाई तुरुन्तै प्रतिबन्ध लगायो।"

ती दुवै एकैसाथ सत्य हुन्। समीक्षा चरण डिजाइन गरिएको थियो, कागजातमा लेखिएको थियो, र सार्वजनिक रूपमा वर्तमान कालमा वर्णन गरिएको थियो — र यो चलेन। Discord ले झुट बोलेन, र यो पोस्ट त्यसको पक्षमा तर्क होइन। मुद्दा अझ साँघुरो र असहज छ: मानव-इन-द-लूप भनेको सफ्टवेयरको एउटा अंश हो र यो सफ्टवेयरजस्तै असफल हुन्छ। यो एउटा सर्त, एउटा कतार, एउटा सेवा कल, एउटा फिचर फ्ल्याग हो। यीमध्ये हरेक गलत हुन सक्छ, र जब एउटा गलत हुन्छ तब तपाईं भर पर्नुभएको सुरक्षा गुण चुपचाप अस्तित्वमा नरहने हुन्छ जबकि आर्किटेक्चर डायग्रामले अझै पनि त्यो देखाइरहेको हुन्छ।

असफल इनपुटहरू के थिए भन्ने पनि ध्यान दिनुहोस्। स्प्रेडसिटहरू। चेसबोर्डहरू। खैरो पारदर्शी पृष्ठभूमिहरू। त्यो सूचीमा केही पनि यस्तो देखिँदैन जसका लागि कसैले परीक्षण लेखेको हुन्थ्यो, जुन वास्तविक संसारसँग भेट्दा समानता-मिलान प्रणालीको सामान्य अवस्था हो।

यदि तपाईंका सदस्यहरूलाई तपाईंको सम्पूर्ण आश्वासन "एक व्यक्तिले जाँच्छ" भन्ने मात्र हो भने, तपाईंले मानिसहरूबारे दाबी गर्नुभएको छैन। तपाईंले एउटा कोड पथबारे दाबी गर्नुभएको छ, र त्यो पछिल्लो पटक कहिले चल्यो भनी तपाईंले भन्न सक्नुपर्छ।

"सधैं मानव-इन-द-लूप राख्नु" पनि पाठ होइन

विक्रेताको हाइपको सफा सुधार भनेको सबै कुरा एक व्यक्तिले स्वीकृत गर्नुपर्छ भन्नु हो। Digital Trust & Safety Partnership, यो ठूलो मात्रामा गर्ने कम्पनीहरूका लागि लेख्दै, त्यसो भन्दैन। यसले रिपोर्ट गर्छ कि विश्वास उच्च हुँदा मानव समीक्षाविनाको स्वचालित प्रवर्तन सामान्य हुन्छ, र मानव समीक्षा पनि अचुक हुँदैन।

स्रोत हो "विश्वास र सुरक्षामा AI र स्वचालनका लागि उत्कृष्ट अभ्यासहरू", डिजिटल ट्रस्ट एन्ड सेफ्टी पार्टनरशिप, सेप्टेम्बर २०२४। यो यस क्षेत्रको सबैभन्दा आधिकारिक कागजात हो जुन जो कोहीले डाउनलोड गर्न सक्छ, र यो अधिकांश मानिसहरूले अपेक्षा गरेभन्दा स्वचालनसँग बढी सहज छ।

स्वचालनबाट पूर्ण रूपमा बच्न सकिन्छ कि भन्ने विषयमा: "AI र स्वचालन सर्वरोगहरू होइनन्—तिनीसँग धेरै चुनौती र सीमाहरू छन् र मानव संलग्नता आवश्यक रहन्छ। तर, सामग्री- र आचरण-सम्बन्धी दुरुपयोगलाई ठूलो मात्रामा सम्बोधन गर्नु धेरै डिजिटल उत्पादन र सेवाहरूका लागि केही स्तरको AI र स्वचालनबिना सम्भव छैन।" त्यो वाक्यमा रहेको दायरालाई ध्यान दिनुहोस् — "धेरै डिजिटल उत्पादन र सेवाहरूका लागि", सबैका लागि होइन। चार सय मानिसहरूको समुदाय चार सय मिलियनको प्लेटफर्मसँग एउटै स्थितिमा हुँदैन।

सदस्य कम्पनीहरूले वास्तवमा के गर्छन् भन्ने विषयमा: "यो प्रतिवेदनका लागि अन्तर्वार्ता लिइएका सबै DTSP साझेदार कम्पनीहरूले उपयुक्त कारबाही गर्न स्वचालित उपकरण र मानव समीक्षा तथा निगरानी दुवैमा निर्भर रहन जारी राख्छन्, विशेष गरी जहाँ सामग्री वा व्यवहारको मूल्याङ्कन गर्न बढी सूक्ष्म दृष्टिकोण आवश्यक हुन्छ।"

र त्यसपछि ती दुई वाक्यहरू जसले यो लेखलाई विक्रेताको हाइपलाई अझ सफा सरलीकरणले प्रतिस्थापन गर्नबाट रोक्छन्:

• "जब कुनै प्रणाली आफ्नो मूल्याङ्कनमा अत्यधिक विश्वस्त हुन्छ, तब विश्वास र सुरक्षा टोलीहरूले मानव समीक्षाबिना स्वचालित प्रवर्तन कारबाही सक्षम गर्नु सामान्य कुरा हो।"
• "प्रायः यो मानिन्छ कि मानव समीक्षक AI प्रणालीभन्दा बढी सटीक र भरपर्दो हुन्छ; तर, मानव समीक्षा पनि अचुक हुँदैन।"

प्रतिवेदनले तपाईंले यीमध्ये कुनै पनि ट्युन गर्दा वास्तवमा गरिरहनुभएको सम्झौताको आकार पनि बताउँछ: "रिकलका लागि अनुकूलन गर्दा (थप सम्भावित उल्लङ्घनहरू पक्रँदा) साँचो पोजिटिभ र झुटा पोजिटिभ दुवै बढ्न सक्छन्, जसले सम्भावित रूपमा अत्यधिक कारबाहीमा पुर्‍याउन सक्छ। यसको विपरीत, प्रिसिजनका लागि अनुकूलन गर्दा (उल्लङ्घनहरूको थप सटीक पहिचान) झुटा पोजिटिभ घट्न सक्छन् तर झुटा नेगेटिभ (कम कारबाही) पनि बढ्न सक्छन्।"

त्यसैले प्रतिवेदनले वर्णन गरेको डिजाइन न त "एजेन्टलाई निर्णय गर्न दिने" हो न त "एक व्यक्तिले सबै कुरा स्वीकृत गर्ने"। यो आत्मविश्वास-स्तरीय छ: "जब आत्मविश्वासको स्तर कम हुन्छ, स्वचालित प्रणालीले अस्थायी प्रवर्तन कारबाही गर्न सक्छ (जस्तै, सामग्रीलाई अस्थायी रूपमा डाउनर्‍याङ्क गर्ने वा खाताको पत्ता लगाउन सकिने क्षमता घटाउने), र कारबाहीलाई स्वीकृत वा परिमार्जन गर्न मानव समीक्षाका लागि केस पठाउँछ।"

यो अधिकांश समुदाय मालिकहरूले बोकेको मानसिक मोडेलभन्दा साँच्चै फरक हो, र यो राम्रो छ। कम-आत्मविश्वासको मार्ग रोकिँदैन र पर्खँदैन। यसले उपलब्ध सबैभन्दा सानो उल्टाउन सकिने कारबाही गर्छ र त्यसपछि एक व्यक्तिलाई सोध्छ। डाउनर्‍याङ्किङ प्रतिबन्ध होइन। समीक्षाका लागि रोकिएको क्वेस्ट दाबी अस्वीकृत दाबी होइन। यदि तपाईं बीचको कारबाही आविष्कार गर्न सक्नुहुन्छ भने, प्रत्येक केसमा गति र सुरक्षाबीच छनोट गर्नु पर्दैन।

आज तपाईं कुन निर्णयहरू मेसिनलाई सुम्पन सक्नुहुन्छ

निर्णयहरूलाई तिनीहरू कति गाह्रो देखिन्छन् भनेर होइन, मेसिन गलत हुँदा के हुन्छ भनेर क्रमबद्ध गर्नुहोस्। गलत ड्राफ्ट सम्पादन गरिन्छ। खराब सारांश पुनः पढिन्छ। गलत प्रतिबन्धले सदस्यको खाता गुमाउँछ, र तपाईंलाई समर्थन थ्रेड, प्रतिष्ठा, र सम्भवतः एउटा निर्णयको लागत पर्छ। उल्टाउन सकिने क्षमता नै महत्त्वपूर्ण अक्ष हो।

यो तालिका Zealy को निर्णय हो, माथिका कुनै पनि स्रोतको निष्कर्ष होइन। 18 अगस्ट 2026 मा हामीलाई सोध्ने समुदाय मालिकलाई हामी यही भन्नेछौं।

त्यो बीचको स्तम्भको ढाँचा "गाह्रो काम मानिसका लागि" भन्ने होइन। लामो सूची क्रमबद्ध गर्नु कसैलाई प्रतिबन्ध लगाउनुभन्दा कठिन संज्ञानात्मक काम हो। यो सूचीको सबैभन्दा माथि छ किनकि गलत क्रमबद्ध गर्दा एक सेकेन्डमा उल्टाउन नसकिने केही गुम्दैन, तर गलत प्रतिबन्धले एक व्यक्ति गुमाउँछ।

तालिकामा नअटाउने एउटा व्यावहारिक टिप्पणी। निर्णय स्वचालित गर्ने लगभग हरेक समुदायले पछि उल्टाउने दर मापन गर्न बिर्सन्छ, जसको अर्थ पुनरावेदन मार्ग अवस्थित छ तर त्यसले उत्पादन गर्ने कुरा कोही पढिरहेको छैन। यो लेखबाट एउटै कुरा बनाउनुहुन्छ भने, काउन्टर बनाउनुहोस्। यदि त्यो कामको मानव पक्षको आकार निर्धारण गर्दै हुनुहुन्छ भने, समुदायका कामहरू कसरी प्रत्यायोजन गर्ने मूल्य निर्धारण पृष्ठमा कहिल्यै नदेखिने श्रम लागत समेट्छ।

Zealy ले दुई AI मार्गहरू चलाउँछ, र तिनीहरूले यो प्रश्नको फरक जवाफ दिन्छन्

Zealy को MCP सर्भरमा, कुनै व्यक्तिले भनेसम्म एजेन्टले गरेको कुनै पनि परिवर्तन लागू हुँदैन। Zealy उत्पादनभित्र, Zealy को AI समीक्षाले क्वेस्ट दाबीलाई सिधै निर्णय गर्छ: यसले दाबीलाई सफल वा असफल भनी चिन्ह लगाउँछ र आफ्नो कारण सदस्यलाई पोस्ट गर्छ। एउटै कम्पनीमा दुई AI मार्गहरू, एउटै प्रश्नको विपरीत जवाफ।

पहिले दोस्रो लिनुहोस्, किनकि यो हाम्रो विरुद्ध तर्क गर्ने हो। Plus र Enterprise योजनाहरूमा तपाईंले क्वेस्टका लागि AI समीक्षा सक्रिय गर्न सक्नुहुन्छ र मान्य सबमिशन कस्तो देखिन्छ भनी वर्णन गर्ने प्रम्प्ट लेख्न सक्नुहुन्छ। Zealy को आफ्नै कागजातले परिणामलाई नरम नपारी बताउँछ: AI ले दाबीको निर्णय गर्छ। यसले मानिसले पुष्टि गर्नका लागि सिफारिस छोड्दैन। यसले दाबीलाई सफल वा असफल भनी चिन्ह लगाउँछ, र यसले दिने कारण सदस्यले आफ्नो इनबक्समा पढ्ने समीक्षा टिप्पणीका रूपमा पोस्ट गरिन्छ। यसका निर्णयहरू Zealy AI समीक्षकलाई श्रेय दिइन्छ, जो शीर्ष-समीक्षक विश्लेषणमा तपाईंको टोलीसँगै देखा पर्छ। यदि तपाईं अन्तिम निर्णय मानिसले गरोस् भन्न चाहनुहुन्छ भने, त्यो क्वेस्टका लागि AI समीक्षा बन्द राख्नुहोस्। त्यो सबै यहाँ छ Zealy को समीक्षा कागजात, र यो त्यहाँ सुरुदेखि नै प्रकाशित छ।

माथिको तालिकासँग तुलना गर्दा, त्यो XP र भूमिका पुरस्कार दिने निर्णयमा स्वचालित स्वीकृति वा अस्वीकृति हो — र, Zealy को कागजातले अन्य कुनै पनि प्रकारको पुरस्कार वितरण गर्नु समुदायको जिम्मेवारी हो भनी बताउने हुँदा, समुदायले त्यसपछि ती कसलाई दिनुपर्ने हो भन्ने निर्णयमा पनि। न्यूनीकरणका उपायहरू वास्तविक छन् — समीक्षकले कुनै पनि निर्णय उल्टाउन सक्छ, जसले दाबीलाई पुनः विचाराधीनमा फर्काउँछ, र सदस्यलाई चुपचाप असफल बनाइने सट्टा कारण बताइन्छ — तर निर्णय मोडेलले गर्छ, र पुनरावेदन सदस्यले ध्यान दिएपछि सुरु हुन्छ।

Zealy को अर्को AI मार्गले विपरीत अवस्था लियो। Zealy MCP सर्भर, एजेन्टले स्वतन्त्र रूपमा पढ्न सक्छ र कुनै व्यक्तिले त्यो ठ्याक्कै परिवर्तन पहिले स्वीकृत नगरेसम्म केही पनि परिवर्तन गर्न सक्दैन। त्यो गेटको कार्यविधि, औजार-दर-औजार, यसमा छ तपाईंको समुदायमा AI एजेन्टको पहुँच कसरी अडिट गर्ने, जसले सतहको वर्णन गर्नुको सट्टा गणना गर्छ।

हामी ब्लग पोस्टभित्र त्यो विरोधाभास समाधान गर्ने छैनौँ, र यसलाई एक सुसंगत एकल दर्शन भनी देखाउनु छाप्नुभन्दा नराम्रो हुनेछ। दुई टोली, दुई खतरा मोडेल, दुई उत्तर। हामी भन्न सक्ने कुरा यो हो कि यो विभाजन अनियमित छैन: MCP मार्ग भनेको सम्पूर्ण समुदायभर प्रशासकको अधिकारसहित काम गर्ने बाहिरी एजेन्ट हो, र समीक्षा मार्ग भनेको समुदायले आफैले लेखेको प्रम्प्टका आधारमा एक सबमिशनमाथिको सीमित निर्णय हो। ती फरक जोखिमहरू हुन्। ती फरक पर्याप्त विपरीत पूर्वनिर्धारितहरूलाई न्यायोचित ठहराउन भन्ने कुरा हामीलाई सोध्नु उचित प्रश्न हो, र यदि तपाईं Zealy मूल्याङ्कन गर्दै हुनुहुन्छ भने यो सोध्नुपर्छ।

सामान्य कुरा हाम्रो आफ्नै उत्पादनभन्दा पर पनि लागू हुन्छ। जब कुनै विक्रेताले भन्छ कि उनीहरूको AI ले मानवलाई लूपमा राख्छ, तब सोध्नुहोस् कि उनीहरूले आफ्ना कुन AI सुविधाहरू भन्न खोजेका हुन्। कम्पनीहरूसँग एउटै नीति हुँदैन। तिनीहरूसँग प्रत्येक टोलीका लागि एउटा नीति हुन्छ जसले केही सार्वजनिक गरेको हुन्छ।

जहाँ Discord र Cove ले Zealy भन्दा राम्रो गर्छन्

Discord को AutoMod Discord भित्रै चल्छ र कसैले देख्नुअघि नै सन्देश ब्लक गर्छ; Zealy Discord को सन्देश मार्गमा बस्दैन र पोस्ट हुनुअघि केही रोक्न सक्दैन। Cove ले आफ्नै स्वचालनले केही कुरा छुटाउनेछ भन्ने आधारमा Moderator Console पठाउँछ। Zealy सँग त्यस्तो समकक्ष छैन।

ती दुई फरक फाइदा हुन् र दुवै बुझ्न लायक छन्।

Discord को स्थितिगत हो। Discord को आफ्नै Auto Moderation documentation ले सुविधालाई "which allows each guild to set up rules that trigger based on some criteria" भनेर वर्णन गर्छ, र यसको BLOCK_MESSAGE कार्यलाई "blocks a member's message and prevents it from being posted" भनेर वर्णन गर्छ। त्यो एउटै वाक्यांशमा सम्पूर्ण फाइदा हो: हस्तक्षेप प्रकाशनपछि होइन, प्रकाशनअघि हुन्छ। Zealy ले Discord सँग जोडिन्छ, भूमिका दिन्छ र कार्यहरू प्रमाणित गर्छ; यो च्याट सर्भर होइन, र हाम्रोतर्फको जतिसुकै AI ले पनि हामी कहाँ बस्छौं भन्ने कुरा बदल्दैन। यदि तपाईंको समस्या "नराम्रो सन्देश कहिल्यै देखा पर्नु हुँदैन" हो भने, त्यसलाई समाधान गर्ने उपकरण पाइपलाइनमा पहिले नै रहेको उपकरण हो। हाम्रो Discord संलग्नता उपकरणहरूको सर्वेक्षण त्यो तहमा अरू के-के पर्छ भन्ने कुरा समेट्छ।

Cove को दृष्टिकोण संरचनागत छ, र त्यो बढी रोचक हो। Cove ले आफ्नै कागजातमा आफूलाई "Cove is a no-code platform for Trust & Safety" भनेर वर्णन गर्छ, र त्यसपछि आफ्नै स्वचालनबारे यसो भन्छ: "Some harmful content will inevitably slip through your Automated Rules, and it'll get reported/flagged by your users. With our Moderator Console, your moderators can review those reports and take action on them directly in our UI."

विक्रेताकै उत्पादन कागजातमा "inevitably" शब्द फेरि पढ्नुहोस्, तिनीहरूले तपाईंलाई बेचिरहेको उत्पादनबारे। Cove ले एउटा यस्तो सतह डिजाइन गर्यो जसको अस्तित्वको पूरै कारण स्वचालित तह गलत हुनेछ भन्ने हो, र त्यो पक्रने कार्यप्रवाहलाई समर्थन टिकेटको रूपमा होइन, उत्पादनको प्रथम-श्रेणीको अंगको रूपमा बनायो।

Zealy मा समीक्षामा undo छ, जुन एउटै कुरा होइन। Undo भनेको फैसला गलत थियो भन्ने पहिले नै थाहा भएको व्यक्तिका लागि एउटा नियन्त्रण हो। Cove मा भनेका छन् ती चुकहरू आइपुग्ने ठाउँ। यदि तपाईं आफ्नै असफलताहरूलाई कसरी सम्हाल्छ भन्ने आधारमा प्लेटफर्म छान्दै हुनुहुन्छ भने, त्यो भिन्नता नै परीक्षण गर्नुपर्ने कुरा हो, र तपाईंले हामीलाई पनि परीक्षण गर्नुपर्छ। हामीले समुदाय व्यवस्थापन सफ्टवेयरको फराकिलो तुलना लेखेका छौं यदि तपाईं त्यो निर्णयमा अगाडि हुनुहुन्छ भने, र Zealy के हो यदि तपाईं हाम्रो आफ्नै दायराको सरल विवरण चाहनुहुन्छ भने।

एजेन्ट गलत हुँदा कसले जवाफ दिन्छ

तपाईंले नै। फेब्रुअरी २०२४ मा क्यानाडाको एक न्यायाधिकरणले एयर क्यानडालाई यसको वेबसाइट च्याटबोटले शोकमा परेका एक यात्रुलाई गलत जानकारी दिएपछि क्षतिपूर्ति तिर्न आदेश दियो। एयर क्यानडाले न्यायाधिकरणको शब्दमा तर्क गर्यो कि च्याटबोट आफ्नै कार्यहरूको लागि जिम्मेवार छुट्टै कानुनी निकाय हो। न्यायाधिकरणले कुल CA$८१२.०२, जसमध्ये CA$६५०.८८ क्षतिपूर्ति दियो।

The Register ले यसलाई १५ फेब्रुअरी २०२४ मा क्याट्याना क्वाचको लेखमा रिपोर्ट गर्यो, जसको शीर्षक थियो "एयर क्यानडाले छुटमा शोकमा परेका यात्रुलाई च्याटबोटले झूट बोलेपछि क्षतिपूर्ति तिर्नुपर्छ". मुद्दाको निर्णय गर्ने न्यायाधिकरण सदस्य क्रिस्टोफर रिभर्स थिए, र The Register ले एयरलाइन्सको अडानलाई चित्रण गर्ने फैसला उद्धृत गर्छ: "वास्तवमा, एयर क्यानडाले सुझाव दिन्छ कि च्याटबोट आफ्नै कार्यहरूको लागि जिम्मेवार छुट्टै कानुनी निकाय हो।"

र त्यो निष्कर्ष, जुन एजेन्ट तैनाथ गर्ने हरेक कम्युनिटी मालिकले कतै देख्न सक्ने ठाउँमा राख्नुपर्ने वाक्य हो: "एयर क्यानडालाई आफ्नो वेबसाइटको सम्पूर्ण जानकारीको जिम्मेवारी आफ्नै हो भन्ने स्पष्ट हुनुपर्छ। जानकारी स्थिर पृष्ठबाट आएको हो वा च्याटबोटबाट, यसले कुनै फरक पार्दैन।"

यसलाई हामी कसरी उद्धृत गर्दैछौं भन्नेमा एउटा सावधानी। हामी फैसला आफैं नभई The Register को रिपोर्टिङ उद्धृत गर्दैछौं, जुन हामीले पढेनौं, र हामी मुद्दाको उद्धरण छापिरहेका छैनौं।

रकम साना छन् तर सिद्धान्त सानो छैन। तपाईंको कम्युनिटीमा बोल्ने एजेन्ट तपाईं आफैं तपाईंको कम्युनिटीमा बोल्नु हो। सदस्यहरूले यसले भनेको कुरामा तपाईंलाई जवाफदेही ठान्नेछन्, र कम्तीमा एउटा अधिकरणले पनि त्यसै गरेको छ। यो यसले आफैं बनाएको रिफन्ड नीति, तपाईंले कहिल्यै नलेखेको तर यसले भनेको नियम, र यसले दिएको प्रतिबन्धमा लागू हुन्छ। "AI ले गर्यो" भन्ने बचाव परीक्षण गरियो र असफल भयो।

आफ्नै कम्युनिटीका लागि सीमा कसरी तोक्ने

तपाईंको एजेन्टले गर्ने निर्णयहरू लेख्नुहोस्, त्यसपछि प्रत्येक गलत हुँदा के हुन्छ र कसले सुधार्छ लेख्नुहोस्। यदि तपाईं सुधार्ने व्यक्तिको नाम लिन सक्नुहुन्न भने, त्यो निर्णय स्वचालित गर्न तयार छैन। त्यो एउटै अभ्यास तपाईंले अनुमानले छान्ने कुनै पनि विश्वास सीमाभन्दा बढी मूल्यवान छ।

माथिका प्रमाणहरूले समर्थन गर्ने कुराको छोटो संस्करण, हामीले गर्ने क्रममा:

1. यान्त्रिक कामहरू तुरुन्तै स्वचालित गर्नुहोस्। ड्राफ्टिङ, तालिका बनाउने, सारांश लेख्ने, रुटिङ, ट्यागिङ। नकारात्मक पक्ष भनेको नराम्रो ड्राफ्ट हो, र नराम्रो ड्राफ्ट कसरी सम्हाल्ने भन्ने तपाईंलाई पहिले नै थाहा छ।
2. परिणाम हुने कुनै पनि कुराको लागि, थ्रेसहोल्ड आविष्कार गर्नुअघि बीचको कार्य आविष्कार गर्नुहोस्। DTSP रिपोर्टको कम-विश्वास मार्गले सानो उल्टाउन सकिने कदम चाल्छ र केस अगाडि पठाउँछ। रोकिएको दाबी, तल झारिएको पोस्ट, प्रतिबन्धित तर हटाइएको होइन जस्तो खाता। यदि तपाईंका दुई मात्र विकल्प "कार्य गर्नु" र "पर्खनु" हुन् भने, तपाईंले छान्ने हरेक थ्रेसहोल्ड एक दिशामा गलत हुनेछ।
3. तपाईंको मानव समीक्षा चरणलाई सफ्टवेयर जस्तै व्यवहार गर्नुहोस्, र सफ्टवेयर जस्तै परीक्षण गर्नुहोस्। Discord को कागजमा थियो र चलेन। तपाईंको पछिल्लो पटक वास्तवमै कहिले सक्रिय भयो सोध्नुहोस्, र यदि यो रोकियो भने केले तपाईंलाई बताउँछ।
4. उल्टाइएका निर्णयहरू गन्नुहोस्। कसैले ननाप्ने पुनरावेदन मार्ग एउटा उजुरी फारम मात्र हो। उल्टाइएका निर्णयहरूको दर नै स्वचालित निर्णय पर्याप्त राम्रो छ कि छैन भन्ने कुराको एक मात्र इमानदार मापन हो, र यसलाई रेकर्ड गर्न लगभग केही खर्च लाग्दैन।
5. यसले भनेको सबै कुरा तपाईंको आफ्नै हो भनी मान्नुहोस्। Air Canada ले न्यायाधिकरणसमक्ष अर्को पक्ष प्रस्तुत गर्ने प्रयास गर्‍यो।

शीर्षकमा रहेको प्रश्नको एउटा वास्तविक उत्तर छ, र त्यो काँध हल्लाउने कुरा होइन। एउटा AI एजेन्टले आज तपाईंको समुदायको यान्त्रिक कामहरू राम्ररी चलाउन सक्छ, र तपाईंले त्यसलाई गर्न दिनुपर्छ। तर यसले अझै कसलाई हटाउने, कसलाई भुक्तानी दिने वा तपाईंको नीति के हुने भन्ने निर्णय गर्ने वस्तु बन्न सक्दैन — यो मूर्ख भएर होइन, तर यो प्रत्येक घटनामा अप्रत्याशित रूपमा अविश्वसनीय हुने भएर हो, र यसको पछाडि राखिने मानव सुरक्षा जाल आफ्नै विफलता मोडहरू भएको सफ्टवेयर हो। दुवै गलत हुने अवस्थाका लागि डिजाइन गर्नुहोस्, अनि तपाईंले हाइप वा प्रतिक्रिया दुवैले दिनेभन्दा राम्रो कुरा बनाउनुहुनेछ।