একটি AI এজেন্ট কি সত্যিই আপনার কমিউনিটি পরিচালনা করতে পারে?
যান্ত্রিক কাজে হ্যাঁ, কিন্তু যেসব সিদ্ধান্ত ফেরানো কঠিন সেখানে না — আর 'মানুষকে লুপে রাখুন'ও সমাধান নয়। Discord-এর ৮,০০০ ব্যান বাগটি কেন তা দেখায়।
লিখেছেন Mathis Grosjean
এই পৃষ্ঠায়
সংক্ষিপ্ত উত্তর: একটি AI এজেন্ট আজ একটি কমিউনিটির যান্ত্রিক কাজ পরিচালনা করতে পারে — খসড়া তৈরি, সময়সূচি নির্ধারণ, পড়া, সারসংক্ষেপ করা, রাউটিং এবং এমন প্রশ্নের উত্তর দেওয়া যার ইতিমধ্যে নথিভুক্ত উত্তর আছে। যেসব সিদ্ধান্তের ব্যর্থতা ব্যয়বহুল ও ফেরানো কঠিন, সেগুলো তার হাতে দেওয়া উচিত নয়, আর এর কারণ মডেলগুলো বোকা নয়। কারণ হলো নির্দিষ্ট একটি পরিমাপযোগ্য উপায়ে তারা অবিশ্বস্ত, এবং মানুষ যে পর্যালোচনা ধাপটিকে নিরাপত্তা জাল হিসেবে ভরসা করে সেটি নিজেই এমন সফটওয়্যার যা ব্যর্থ হতে পারে। তৃতীয় অংশটি সাধারণত বাদ পড়ে: "সর্বদা মানুষকে লুপে রাখুন"-ও সংশোধন নয়। কার্যকর প্রশ্ন হলো কোন সিদ্ধান্ত, কত আত্মবিশ্বাসে, কোন আপিল পথে।
প্রকাশ: Zealy এই পৃষ্ঠাটি প্রকাশ করে এবং Zealy-ই আলোচিত পণ্যটি বিক্রি করে। Zealy একটি কমিউনিটি ও কোয়েস্ট প্ল্যাটফর্ম, Zealy একটি MCP সার্ভার সরবরাহ করে যা একটি AI এজেন্টকে Zealy কমিউনিটি পরিচালনা করতে দেয়, এবং Zealy একটি AI পর্যালোচক সরবরাহ করে যা কোয়েস্ট ক্লেইম নির্ধারণ করে। তিনটিই নিচে এসেছে, যার মধ্যে দুটি যেখানে পরস্পরের সঙ্গে দ্বিমত পোষণ করে এবং দুটি জায়গা যেখানে একজন প্রতিযোগীর ডিজাইন আমাদের চেয়ে ভালো।
সর্বশেষ যাচাই: 18 August 2026.
কমিউনিটিতে আজ একজন AI এজেন্ট আসলে কী করতে পারে?
একজন AI এজেন্ট নির্ভরযোগ্যভাবে যান্ত্রিক কাজগুলো করতে পারে: পোস্ট ও উত্তর খসড়া করা, সেগুলো সময়সূচিতে সাজানো, একটি চ্যানেল পড়ে সারসংক্ষেপ করা, একটি রিপোর্ট সঠিক ব্যক্তির কাছে পাঠানো, এবং এমন প্রশ্নের উত্তর দেওয়া যার নথিভুক্ত উত্তর ইতিমধ্যেই আছে। এসব কাজে ভুল আউটপুট দৃশ্যমান হয়, খরচ কম এবং কেউ ক্ষতিগ্রস্ত হওয়ার আগেই সহজে সংশোধন করা যায়।
এই তালিকাটি ছোট কিছু নয়। বেশিরভাগ কমিউনিটি কাজই যান্ত্রিক, আর বেশিরভাগ কমিউনিটি টিম এতে পিছিয়ে আছে। যদি একটি এজেন্ট আপনার সাপ্তাহিক সারসংক্ষেপের খসড়া করে এবং একজন ব্যক্তি এটি লেখার চল্লিশ মিনিটের বদলে চার মিনিটে ঠিক করে ফেলেন, তবে সীমিত ঝুঁকিসহ এটি সত্যিকারের একটি লাভ।
আমরা এই পোস্টটি লিখেছি কারণ প্রশ্নটির উত্তর খারাপভাবে দেওয়া হচ্ছে। খোঁজ করলে can ai run my community 18 August 2026-এ, আমরা যে ফলাফলগুলো পেয়েছি তার প্রত্যেকটিই ছিল কোনো বিক্রেতার ব্লগ বা বিক্রেতার পণ্য পৃষ্ঠা — heightsplatform.com, mightynetworks.com, social.plus, circle.so, socialglow.com, aismartventures.com। আমরা যে ফলাফলগুলো পেয়েছি তার একটিও "না" বা "আংশিকভাবে" দিয়ে প্রশ্নটির উত্তর দেয়নি। প্রত্যেকটিই এটিকে একটি ফিচার তালিকা হিসেবে পুনরায় উপস্থাপন করেছে। এটি একদিনে আমরা যে ফলাফলগুলো পেয়েছি সে সম্পর্কে একটি পর্যবেক্ষণ, কখনো যা লেখা হয়েছে তার সবকিছু সম্পর্কে কোনো দাবি নয়।
এই ক্যাটাগরির নিজস্ব বিক্রেতারা তাদের ল্যান্ডিং পেজ যা ইঙ্গিত করে তার চেয়ে বেশি সৎ। সোশ্যাল মিডিয়ার জন্য AI এজেন্ট তৈরির বিষয়ে Sprout Social-এর গাইড, লেখক McCall Lanman, প্রকাশিত 16 April 2026, ক্যাটাগরিটিকে সংজ্ঞায়িত করে একজন ব্যক্তির অনুপস্থিতির মাধ্যমে: "একটি AI এজেন্ট হলো একটি সফটওয়্যার প্রোগ্রাম যা স্বায়ত্তশাসিতভাবে কাজ সম্পন্ন করতে, সিদ্ধান্ত নিতে এবং বাহ্যিক টুলের সাথে ইন্টারঅ্যাক্ট করতে তার মস্তিষ্ক হিসেবে একটি বড় ভাষা মডেল (LLM) ব্যবহার করে—যেখানে কোনো মানুষ প্রতিটি ধাপ পরিচালনা করে না।" একই পৃষ্ঠার আরও নিচে এটি আপনাকে মানুষকে ফিরিয়ে আনার কথা বলে: "অনুমোদন ওয়ার্কফ্লো: সংবেদনশীল প্রতিক্রিয়াগুলো পাঠানোর আগে একজন মানব ম্যানেজারের কাছে রুট করুন—এটাকে বলা হয় human-in-the-loop।" এবং স্পষ্টভাবে: "গার্ডরেল ছাড়া, এমনকি একটি ভালোভাবে তৈরি এজেন্টও ব্র্যান্ডবিরোধী বা ক্ষতিকর আউটপুট তৈরি করে।"
এটা ভণ্ডামি নয়। এটি হলো এই ক্যাটাগরির প্রকৃত কঠিনতা যা একটি মার্কেটিং পৃষ্ঠার মধ্য দিয়ে প্রকাশ পাচ্ছে, এবং এটি সদয়ভাবে বলা মূল্যবান। আপনি যদি শব্দটির নিজস্ব অর্থ সঠিকভাবে নির্ধারণ করতে চান, আমাদের এজেন্টিক মার্কেটিং বিষয়ক স্তম্ভ এটিকে উচ্চাকাঙ্ক্ষার বদলে যন্ত্রকৌশলের সাথে বিচার করে।
কেন প্রকৃত সীমাবদ্ধতা হলো অবিশ্বস্ততা, সক্ষমতা নয়
একটি এজেন্টকে বিচার-নির্ভর সিদ্ধান্ত দেওয়ার সমস্যা এই নয় যে মডেলগুলো বোকা। সমস্যা হলো তারা অসামঞ্জস্যপূর্ণ, এবং অসামঞ্জস্যতা একটি পরিচিত দুর্বলতার চেয়ে পরিচালনা করা কঠিনতর বিষয়। বহু-পর্বের কথোপকথন নিয়ে গবেষণা দেখায় যে বেশিরভাগ অবনতি ঘটে ভ্যারিয়েন্সে, কাঁচা সক্ষমতায় নয়।
পেপারটি হলো "LLMs Get Lost In Multi-Turn Conversation" Philippe Laban, Hiroaki Hayashi, Yingbo Zhou এবং Jennifer Neville-এর লেখা, arXiv:2505.06120, জমা দেওয়া হয়েছে 9 May 2025। এর সারসংক্ষেপে বলা হয়েছে যে "আমরা পরীক্ষা করা সব শীর্ষস্থানীয় ওপেন- ও ক্লোজড-ওয়েট LLM একক-পালার তুলনায় বহু-পালার কথোপকথনে উল্লেখযোগ্যভাবে কম পারফরম্যান্স দেখায়, ছয়টি জেনারেশন টাস্কে গড়ে 39% পতনসহ।"
আরও গুরুত্বপূর্ণ বাক্যটি হলো পরেরটি: "200,000+ সিমুলেটেড কথোপকথনের বিশ্লেষণ পারফরম্যান্সের অবনতিকে দুটি উপাদানে ভাগ করে: সামান্য দক্ষতা হ্রাস এবং অনির্ভরযোগ্যতার উল্লেখযোগ্য বৃদ্ধি।" আর ব্যর্থতার ধরনটির একটি আকৃতি আছে — "কথোপকথনে LLM ভুল পথে গেলে তারা হারিয়ে যায় এবং ফিরে আসতে পারে না"।
সেই 39% কোথাও ব্যবহার করার আগে সতর্কতাগুলো পড়ুন। এগুলো ছিল ছয়টি জেনারেশন টাস্ক জুড়ে সিমুলেটেড কথোপকথন, 2025-এর মডেলে পরিমাপ করা, এবং 39% হলো সেই টাস্কগুলোর গড়, আজ আপনি যে পণ্যই কিনুন না কেন তার বৈশিষ্ট্য নয়। এরপর মডেলগুলো উন্নত হয়েছে। টেকসই অনুসন্ধানটি সংখ্যাটি নয়, বরং বিভাজনটি।
এই কারণেই বিভাজনটাই পুরো যুক্তি। যে টুল এখনো যথেষ্ট ভালো নয়, সেটি একটি সময়সূচি-সংক্রান্ত সমস্যা: আপনি অপেক্ষা করেন, অথবা কাজটি সংকুচিত করেন। যে টুল গড়ে সঠিক কিন্তু অপ্রত্যাশিতভাবে ভুল করে, সেটি একটি ব্যবস্থাপনা-সংক্রান্ত সমস্যা, এবং তা ভিন্ন একটি সমস্যা। কঠিন কেসগুলো যাচাই করে আপনি জনবল দিয়ে এর সমাধান করতে পারবেন না, কারণ কোন কেসটি কঠিন ছিল তা আপনি আগে থেকে জানেন না। কমিউনিটি কাজ স্বভাবতই বহু-পর্বের — একজন সদস্য জিজ্ঞাসা করেন, স্পষ্ট করেন, প্রতিবাদ করেন, তিন মেসেজ পরে প্রসঙ্গ যোগ করেন — যা ঠিক সেই পরিস্থিতি যেটি গবেষণাপত্রটি পরিমাপ করেছে।
Discord-এর হিউম্যান ইন দ্য লুপ ছিল একটি সফটওয়্যার, এবং তাতে একটি বাগ ছিল
Discord বর্তমান কালে প্রকাশ করেছিল যে কোনো পদক্ষেপ নেওয়ার আগে তাদের Trust & Safety দলের একজন সদস্য সর্বদা ফ্ল্যাগ করা কনটেন্ট পর্যালোচনা করেন। তবুও একটি বাগ 8,000-এর বেশি অ্যাকাউন্ট নিষিদ্ধ করেছে। হিউম্যান ইন দ্য লুপ ছিল একটি কোড পাথ, এবং কোড পাথ সফটওয়্যারের মতো ব্যর্থ হয়, মানুষের মতো নয়।
TechCrunch 7 July 2026-এ এটি রিপোর্ট করেছে, Lauren Forristal-এর একটি লেখায় যার শিরোনাম ছিল "Discord স্বীকার করেছে যে AI মডারেশনের বাগের কারণে নিরীহ ছবির জন্য ব্যবহারকারীদের ভুলভাবে নিষিদ্ধ করা হয়েছে". মূল কথা: "Discord স্বীকার করেছে যে তাদের AI মডারেশন সিস্টেমের একটি বাগের কারণে গত দুই মাসে 8,000-এর বেশি ব্যবহারকারীকে ভুলভাবে নিষিদ্ধ করা হয়েছে, কারণ স্প্রেডশিট, দাবাবোর্ড, গেম টেক্সচার এবং সাদা ও ধূসর স্বচ্ছ ব্যাকগ্রাউন্ডসহ নিরীহ ছবিগুলোকে ভুলভাবে ক্ষতিকর কনটেন্ট হিসেবে চিহ্নিত করা হয়েছিল।"
স্কেলটি রাউন্ড আপ না করে সঠিকভাবে পড়া উচিত। "কোম্পানি নিশ্চিত করেছে যে সমস্যাটি মে মাস থেকে অ্যাকাউন্টগুলোকে প্রভাবিত করছিল, এবং তাদের দল সমস্যাটি চিহ্নিত ও সমাধান করার আগে সপ্তাহান্তে আরও 200 ব্যবহারকারীকে নিষিদ্ধ করা হয়েছিল। বর্তমানে সব প্রভাবিত অ্যাকাউন্ট পুনরুদ্ধার করার প্রক্রিয়ায় রয়েছে।"
এখন সেই অংশটি, যা এ বিষয়ে আপনার চিন্তাভাবনা বদলে দেবে। TechCrunch-এর 7 July 2026-এর থ্রেড থেকে উদ্ধৃত Discord-এর নিজস্ব সাপোর্ট অ্যাকাউন্ট ডিজাইনটি বর্ণনা করেছে: "আমাদের সিস্টেম কনটেন্টকে পরিচিত ক্ষতিকর উপাদানের সঙ্গে মিলিয়ে ফ্ল্যাগ করে। এ ধরনের সাদৃশ্য-মিলন ভুল শনাক্তকরণ (false positive) তৈরি করতে পারে, তাই কোনো পদক্ষেপ নেওয়ার আগে আমাদের Trust & Safety দলের একজন সদস্য সর্বদা ফ্ল্যাগ করা কনটেন্ট পর্যালোচনা করেন।"
আর TechCrunch-এর নিজস্ব সারাংশে যা ঘটেছিল: "একজন মানব মডারেটর কনটেন্ট পর্যালোচনা করেন, কিন্তু একটি বাগের কারণে সিস্টেমটি আক্রান্ত অ্যাকাউন্টগুলোকে তাৎক্ষণিকভাবে ব্যান করে দেয়।"
দুটোই একসাথে সত্য। পর্যালোচনার ধাপটি ডিজাইন করা হয়েছিল, ডকুমেন্ট করা হয়েছিল এবং প্রকাশ্যে বর্তমান কালে বর্ণনা করা হয়েছিল — কিন্তু তা চলে না। Discord মিথ্যা বলেনি, আর এই পোস্টটি তা বলার যুক্তি নয়। মূল বিষয়টি আরও সংকীর্ণ ও অস্বস্তিকর: human-in-the-loop হলো এক টুকরো সফটওয়্যার এবং সেটিও সফটওয়্যারের মতোই ব্যর্থ হয়। এটি একটি কন্ডিশনাল, একটি কিউ, একটি সার্ভিস কল, একটি ফিচার ফ্ল্যাগ। এগুলোর প্রত্যেকটিই ভুল হতে পারে, আর যখন কোনো একটি ভুল হয়, তখন আপনি যে নিরাপত্তা বৈশিষ্ট্যের ওপর নির্ভর করছিলেন তা নিঃশব্দে অস্তিত্বহীন হয়ে যায়, অথচ আর্কিটেকচার ডায়াগ্রামে তা তখনও দেখানো হয়।
এছাড়া লক্ষ করুন ব্যর্থ ইনপুটগুলো কী ছিল। স্প্রেডশিট। দাবাবোর্ড। ধূসর স্বচ্ছ ব্যাকগ্রাউন্ড। সেই তালিকার কোনো কিছুই এমন এজ কেস মনে হয় না যার জন্য কেউ টেস্ট লিখত, আর বাস্তব জগতের সঙ্গে সাদৃশ্য-মেলানো সিস্টেমের মুখোমুখি হওয়ার এটাই সাধারণ অবস্থা।
যদি আপনার সদস্যদের প্রতি আপনার সম্পূর্ণ আশ্বাস হয় "একজন ব্যক্তি যাচাই করেন", তাহলে আপনি মানুষের সম্পর্কে কোনো দাবি করেননি। আপনি একটি কোড পাথ সম্পর্কে দাবি করেছেন, আর আপনার বলা উচিত সেটি সর্বশেষ কখন চলে ছিল।
কেন "সবসময় human-in-the-loop রাখুন"-ও শিক্ষণীয় নয়
ভেন্ডর হাইপের পরিচ্ছন্ন সংশোধনী হলো বলা যে একজন ব্যক্তিকে সবকিছু অনুমোদন করতে হবে। Digital Trust & Safety Partnership, যারা বড় পরিসরে এটি করে এমন কোম্পানিগুলোর জন্য লেখে, তা বলে না। তারা জানায় যে আত্মবিশ্বাস উচ্চ হলে মানব পর্যালোচনা ছাড়া স্বয়ংক্রিয় প্রয়োগ সাধারণ ব্যাপার, এবং মানব পর্যালোচনাও অপরাজেয় নয়।
উৎসটি হলো "বিশ্বাস ও নিরাপত্তায় AI ও অটোমেশনের সর্বোত্তম অনুশীলন", Digital Trust & Safety Partnership, সেপ্টেম্বর 2024। এটি এই ক্ষেত্রের সবচেয়ে প্রামাণিক নথি যা যে কেউ ডাউনলোড করতে পারেন, এবং এটি অটোমেশন সম্পর্কে বেশিরভাগ মানুষের প্রত্যাশার চেয়ে বেশি সহনশীল।
আপনি আদৌ অটোমেশন এড়াতে পারবেন কি না সে বিষয়ে: "AI ও অটোমেশন কোনো সর্বরোগের ওষুধ নয়—এগুলোর সঙ্গে বেশ কিছু চ্যালেঞ্জ ও সীমাবদ্ধতা রয়েছে এবং মানুষের সম্পৃক্ততা প্রয়োজনীয় থেকে যায়। তবে কনটেন্ট ও আচরণ-সংক্রান্ত অপব্যবহার বড় পরিসরে মোকাবিলা করা অনেক ডিজিটাল পণ্য ও সেবার জন্য কিছু মাত্রার AI ও অটোমেশন ছাড়া সম্ভব নয়।" ওই বাক্যের পরিধি লক্ষ করুন — "অনেক ডিজিটাল পণ্য ও সেবার জন্য", সবার জন্য নয়। চারশ মানুষের একটি কমিউনিটি চল্লিশ কোটি মানুষের একটি প্ল্যাটফর্মের সমান অবস্থানে নেই।
সদস্য কোম্পানিগুলো আসলে যা করে, সে সম্পর্কে: "এই প্রতিবেদনের জন্য সাক্ষাৎকার দেওয়া সব DTSP অংশীদার কোম্পানি উপযুক্ত পদক্ষেপ নিতে স্বয়ংক্রিয় টুল এবং মানুষের পর্যালোচনা ও তদারকি—উভয়ের ওপরই নির্ভর করে চলেছে, বিশেষত যেখানে কনটেন্ট বা আচরণ মূল্যায়নে আরও সূক্ষ্ম দৃষ্টিভঙ্গি প্রয়োজন।"
আর তারপর সেই দুটি বাক্য, যা এই নিবন্ধটিকে ভেন্ডরদের অতিরঞ্জিত প্রচারকে আরও পরিচ্ছন্ন সরলীকরণ দিয়ে প্রতিস্থাপন করা থেকে বিরত রাখে:
- "কোনো সিস্টেম তার মূল্যায়নে অত্যন্ত আত্মবিশ্বাসী হলে ট্রাস্ট অ্যান্ড সেফটি দলগুলো মানুষের পর্যালোচনা ছাড়াই স্বয়ংক্রিয় প্রয়োগমূলক পদক্ষেপ চালু করা সাধারণ ব্যাপার।"
- "প্রায়ই ধরে নেওয়া হয় যে একজন মানব পর্যালোচক কোনো AI সিস্টেমের চেয়ে বেশি নির্ভুল ও নির্ভরযোগ্য হবেন; তবে মানুষের পর্যালোচনা ত্রুটিমুক্ত নয়।"
রিপোর্টটি আরও উল্লেখ করে যে আপনি যখন এগুলোর যেকোনোটি টিউন করেন তখন আপনি আসলে কী ধরনের ট্রেডঅফ করছেন: "রিকল-এর জন্য অপ্টিমাইজ করা (আরও সম্ভাব্য লঙ্ঘন ধরা) ট্রু পজিটিভ এবং ফলস পজিটিভ উভয়ই বাড়াতে পারে, যা সম্ভাব্য অতিরিক্ত পদক্ষেপের দিকে নিয়ে যেতে পারে। বিপরীতভাবে, প্রিসিশনের জন্য অপ্টিমাইজ করা (লঙ্ঘনের আরও নির্ভুল সনাক্তকরণ) ফলস পজিটিভ কমাতে পারে কিন্তু ফলস নেগেটিভও বাড়াতে পারে (অপর্যাপ্ত পদক্ষেপ)।"
তাই রিপোর্টে বর্ণিত ডিজাইনটি "এজেন্টকে সিদ্ধান্ত নিতে দিন" বা "একজন ব্যক্তি সবকিছু অনুমোদন করেন"—এ দুটোর কোনোটিই নয়। এটি আত্মবিশ্বাস-স্তরভিত্তিক: "যখন আত্মবিশ্বাসের মাত্রা কম হয়, স্বয়ংক্রিয় সিস্টেমটি একটি সাময়িক প্রয়োগমূলক পদক্ষেপ নিতে পারে (যেমন, সাময়িকভাবে কনটেন্টের র্যাঙ্কিং কমানো বা অ্যাকাউন্টের আবিষ্কারযোগ্যতা হ্রাস করা), এবং পদক্ষেপটি অনুমোদন বা পরিবর্তনের জন্য কেসটি মানব পর্যালোচনার কাছে পাঠাতে পারে।"
এটি বেশিরভাগ কমিউনিটি মালিকের বহন করা মানসিক মডেল থেকে সত্যিই ভিন্ন, এবং এটি আরও ভালো। কম-আত্মবিশ্বাসের পথ থেমে অপেক্ষা করে না। এটি উপলব্ধ সবচেয়ে ছোট প্রত্যাবর্তনযোগ্য পদক্ষেপ নেয় এবং তারপর একজন ব্যক্তিকে জিজ্ঞাসা করে। র্যাঙ্কিং কমানো নিষিদ্ধ করা নয়। পর্যালোচনার জন্য আটকে রাখা একটি কোয়েস্ট ক্লেইম প্রত্যাখ্যাত ক্লেইম নয়। যদি আপনি একটি মধ্যবর্তী পদক্ষেপ উদ্ভাবন করতে পারেন, তবে প্রতিটি ক্ষেত্রে গতি এবং নিরাপত্তার মধ্যে বেছে নিতে হবে না।
আজ কোন সিদ্ধান্তগুলো আপনি একটি মেশিনের হাতে দিতে পারেন
মেশিন ভুল হলে কী ঘটে তার ভিত্তিতে সিদ্ধান্তগুলো সাজান, সেগুলো দেখতে কত কঠিন তার ভিত্তিতে নয়। একটি ভুল ড্রাফট সম্পাদনা করা হয়। একটি খারাপ সারাংশ পুনরায় পড়া হয়। একটি ভুল নিষেধাজ্ঞা একজন সদস্যের অ্যাকাউন্ট কেড়ে নেয়, এবং আপনার একটি সাপোর্ট থ্রেড, একটি সুনাম, এবং সম্ভবত একটি রায়ের খরচ হয়। প্রত্যাবর্তনযোগ্যতাই সেই অক্ষ যা গুরুত্বপূর্ণ।
এই টেবিলটি Zealy-এর বিচার, উপরের কোনো সূত্রের ফলাফল নয়। ১৮ আগস্ট ২০২৬-এ আমাদের জিজ্ঞাসা করা একজন কমিউনিটি মালিককে আমরা এটাই বলতাম।
| সিদ্ধান্ত | আজ আমাদের উত্তর | এটি স্বয়ংক্রিয় করার আগে কী সত্য হতে হবে |
|---|---|---|
| একটি পোস্ট, কোয়েস্ট বিবরণ বা উত্তর খসড়া করা | হ্যাঁ | প্রকাশের আগে একজন ব্যক্তি এটি পড়েন। আর কিছু প্রয়োজন নেই। |
| একটি চ্যানেল, একটি সপ্তাহ বা একটি সাবমিশন সারির সারাংশ তৈরি করা | হ্যাঁ | মূল উপাদানটি পৌঁছনযোগ্য থাকে, যাতে একজন পাঠক সারাংশটি তার সাথে মিলিয়ে যাচাই করতে পারেন। |
| একটি রিপোর্ট, প্রশ্ন বা ক্লেইম সঠিক ব্যক্তির কাছে রাউটিং করা | হ্যাঁ | ভুল রাউটিং সস্তা এবং দৃশ্যমান, এবং সারিটি কোনো ব্ল্যাক হোল নয়। |
| এমন একটি প্রশ্নের উত্তর দেওয়া যার নথিভুক্ত উত্তর আছে | হ্যাঁ, সতর্কতার সাথে | উত্তরটি আপনার নিয়ন্ত্রণাধীন কোথাও লিখিতভাবে বিদ্যমান, এবং একটি ভুল উত্তর প্রকাশ্যে ও দ্রুত সংশোধন করা যায়। |
| একজন মানুষের জন্য একটি সারি ট্যাগ, র্যাঙ্ক বা ক্রমানুসারে সাজানো | হ্যাঁ | মানুষটি এখনও সেই আইটেমগুলো দেখেন যেগুলো মডেল শেষে র্যাঙ্ক করেছে। ক্রমানুসার করা ফিল্টারিং নয়। |
| এমন একটি সাবমিশন অনুমোদন বা প্রত্যাখ্যান করা যা অর্থ প্রদান করে | শুধুমাত্র আপিলের পথ থাকলে | সদস্যকে কারণ জানানো হয়, একজন ব্যক্তি রায়টি উল্টাতে পারেন, এবং কেউ উল্টানোর হার পর্যবেক্ষণ করছেন। |
| কনটেন্ট সরানো বা একটি অ্যাকাউন্ট সীমাবদ্ধ করা | শুধুমাত্র একটি প্রত্যাবর্তনযোগ্য মধ্যবর্তী পদক্ষেপের সাথে | একটি কম-আত্মবিশ্বাসের পথ বিদ্যমান যা পূর্ণ পদক্ষেপের চেয়ে ছোট কিছু করে, যেমনটি DTSP রিপোর্টে বর্ণিত হয়েছে। |
| একজন সদস্যকে সরাসরি নিষিদ্ধ করা | না | এমন কোনো আত্মবিশ্বাসের মাত্রা আমরা উল্লেখ করতে পারি না যা একজন মানুষ ছাড়া এটিকে নিরাপদ করে, এবং Discord-এর ঘটনাই তার কারণ। |
| অর্থ ব্যয় করা বা পুরস্কার স্থানান্তর করা | না | এই নিবন্ধের কিছুই এটি স্বয়ংক্রিয় করার সমর্থন করে না, এবং ক্ষতিটি ক্ষমা চেয়ে প্রত্যাবর্তনযোগ্য নয়। |
মাঝের কলামের নিচের প্যাটার্নটি "কঠিন কাজগুলো মানুষের জন্য" নয়। একটি সারি র্যাঙ্ক করা কাউকে নিষিদ্ধ করার চেয়ে কঠিন জ্ঞানীয় কাজ। এটি তালিকার শীর্ষে কারণ ভুল র্যাঙ্কিংয়ে আপনার এমন কিছু হারায় না যা আপনি এক সেকেন্ডে ফিরিয়ে আনতে পারবেন না, আর ভুল নিষেধাজ্ঞায় আপনার একজন মানুষ হারায়।
একটি ব্যবহারিক নোট যা একটি টেবিলে ফিট করে না। প্রায় প্রতিটি কমিউনিটি যা একটি সিদ্ধান্ত স্বয়ংক্রিয় করে, পরে উল্টানোর হার পরিমাপ করতে ভুলে যায়, যার অর্থ আপিলের পথ বিদ্যমান কিন্তু কেউ এর উৎপাদন পড়ছে না। যদি আপনি এই নিবন্ধ থেকে একটি জিনিস তৈরি করেন, তবে কাউন্টারটি তৈরি করুন। যদি আপনি সেই কাজের মানব দিকটি মাপছেন, কমিউনিটি কাজ কীভাবে অর্পণ করবেন সেই শ্রম ব্যয়কে কভার করে যা কখনো প্রাইসিং পেজে দেখায় না।
Zealy দুটি AI পথ চালায়, এবং তারা এই প্রশ্নের ভিন্নভাবে উত্তর দেয়
Zealy-এর MCP সার্ভারের মাধ্যমে, একজন ব্যক্তি না বলা পর্যন্ত এজেন্টের পরিবর্তিত কোনো কিছু কার্যকর হয় না। Zealy পণ্যের ভেতরে, Zealy-এর AI পর্যালোচনা একটি কোয়েস্ট ক্লেইম সরাসরি সিদ্ধান্ত নেয়: এটি ক্লেইমটি সফল বা ব্যর্থ হিসেবে চিহ্নিত করে এবং এর কারণ সদস্যের কাছে পোস্ট করে। একই কোম্পানিতে দুটি AI পথ, একই প্রশ্নের বিপরীত উত্তর।
দ্বিতীয়টি আগে নিন, কারণ এটিই আমাদের বিরুদ্ধে যুক্তি দেয়। Plus এবং Enterprise প্ল্যানে আপনি একটি কোয়েস্টের জন্য AI পর্যালোচনা চালু করতে পারেন এবং একটি বৈধ সাবমিশন কেমন দেখায় তা বর্ণনা করে একটি প্রম্পট লিখতে পারেন। Zealy-এর নিজস্ব ডকুমেন্টেশন পরিণতিটি নরম না করেই বলে: AI ক্লেইমটি সিদ্ধান্ত নেয়। এটি একজন মানুষের নিশ্চিত করার জন্য কোনো সুপারিশ রেখে যায় না। এটি ক্লেইমটি সফল বা ব্যর্থ হিসেবে চিহ্নিত করে, এবং যে কারণটি দেয় তা সদস্য তাদের ইনবক্সে যে পর্যালোচনা মন্তব্য পড়েন তা হিসেবে পোস্ট করা হয়। এর রায়গুলো একটি Zealy AI পর্যালোচকের নামে চিহ্নিত হয় যা শীর্ষ-পর্যালোচক বিশ্লেষণে আপনার দলের পাশে দেখায়। যদি আপনি চান একজন ব্যক্তি চূড়ান্ত সিদ্ধান্ত নিন, তবে সেই কোয়েস্টের জন্য AI পর্যালোচনা বন্ধ রাখুন। এটির সবকিছু Zealy-এর পর্যালোচনা ডকুমেন্টেশনে, এবং এটি সেখানে সব সময় প্রকাশিত হয়েছে।
উপরের টেবিলের সাথে মিলিয়ে দেখলে, এটি এমন একটি সিদ্ধান্তে স্বয়ংক্রিয় অনুমোদন-বা-প্রত্যাখ্যান যা XP এবং রোল পুরস্কার প্রদান করে — এবং, যেহেতু Zealy-এর ডকুমেন্টেশন বলে অন্য যেকোনো ধরনের পুরস্কার বিতরণ করা কমিউনিটির দায়িত্ব, তাই সেই সিদ্ধান্তেও যা নির্ধারণ করে কমিউনিটি পরে কাদের কাছে সেগুলো পাওনা। প্রশমনগুলো বাস্তব — একজন পর্যালোচক যেকোনো রায় উল্টাতে পারেন, যা ক্লেইমটিকে পেন্ডিং-এ রিসেট করে, এবং সদস্যকে নীরবে ব্যর্থ না করে কারণ জানানো হয় — কিন্তু সিদ্ধান্তটি মডেল নেয়, এবং আপিল শুরু হয় সদস্যের লক্ষ্য করার মাধ্যমে।
Zealy-এর অন্য AI পথটি বিপরীত অবস্থান নিয়েছে। Zealy MCP server, একটি এজেন্ট অবাধে পড়তে পারে এবং কোনো ব্যক্তি প্রথমে সেই নির্দিষ্ট পরিবর্তন অনুমোদন না করলে কিছুই পরিবর্তন করতে পারে না। সেই গেটের কার্যপ্রণালী, টুল ধরে ধরে, রয়েছে কীভাবে একটি AI এজেন্টের আপনার কমিউনিটিতে প্রবেশাধিকার নিরীক্ষণ করবেন, যা বর্ণনা না করে পৃষ্ঠতলটি গণনা করে।
আমরা একটি ব্লগ পোস্টের ভেতরে সেই বিরোধটি মিটিয়ে ফেলব না, এবং এটিকে একটি সুসংগত একক দর্শন বলে দেখানো ছাপিয়ে দেওয়ার চেয়েও খারাপ হবে। দুই দল, দুই হুমকি-মডেল, দুই উত্তর। আমরা যা বলতে পারি তা হলো, এই বিভাজন এলোমেলো নয়: MCP পথটি একটি বাইরের এজেন্ট যা একটি সম্পূর্ণ কমিউনিটিজুড়ে প্রশাসকের কর্তৃত্ব নিয়ে কাজ করে, আর পর্যালোচনা পথটি হলো কমিউনিটি নিজে লেখা একটি প্রম্পটের বিপরীতে একটি জমার উপর সীমিত পরিধির বিচার। এগুলো ভিন্ন ঝুঁকি। এগুলো ভিন্ন যথেষ্ট কি না বিপরীত ডিফল্ট ন্যায্য করার জন্য, এটি আমাদের কাছে রাখা একটি ন্যায্য প্রশ্ন, এবং আপনি যদি Zealy মূল্যায়ন করেন তবে এটি রাখা উচিত।
সাধারণ কথাটি আমাদের নিজস্ব পণ্যের বাইরেও প্রযোজ্য। যখন কোনো ভেন্ডর বলে তাদের AI-তে একজন মানুষ লুপে থাকে, জিজ্ঞেস করুন তারা তাদের কোন AI ফিচারগুলোর কথা বলছে। কোম্পানিগুলোর একটিমাত্র নীতি থাকে না। যেসব টিম কিছু শিপ করেছে, তাদের প্রত্যেকের জন্য আলাদা নীতি থাকে।
যেখানে Discord এবং Cove এটা Zealy-র চেয়ে ভালো করে
Discord-এর AutoMod Discord-এর ভেতরেই চলে এবং কেউ দেখার আগেই একটি মেসেজ ব্লক করে; Zealy Discord-এর মেসেজ পাথে থাকে না এবং পোস্ট হওয়ার আগে কিছুই থামাতে পারে না। Cove একটি Moderator Console দেয়, যা এই ধারণার উপর তৈরি যে তাদের নিজস্ব অটোমেশন কিছু জিনিস মিস করবে। Zealy-র এর সমতুল্য কিছু নেই।
এগুলো দুটি ভিন্ন সুবিধা এবং দুটোই বোঝার মতো।
Discord-এর সুবিধাটি অবস্থানগত। Discord-এর নিজস্ব Auto Moderation ডকুমেন্টেশন ফিচারটিকে বর্ণনা করে এমন একটি হিসেবে "which allows each guild to set up rules that trigger based on some criteria", এবং এর BLOCK_MESSAGE অ্যাকশনকে বর্ণনা করে এমন একটি হিসেবে যা "blocks a member's message and prevents it from being posted"। এক বাক্যাংশেই পুরো সুবিধাটি: হস্তক্ষেপ প্রকাশের পরে নয়, আগেই ঘটে। Zealy Discord-এর সাথে সংযুক্ত হয়, রোল দেয় এবং টাস্ক যাচাই করে; এটি চ্যাট সার্ভার নয়, এবং আমাদের দিকের যত AI-ই থাকুক, আমাদের অবস্থান বদলায় না। যদি আপনার সমস্যা হয় "একটি খারাপ মেসেজ কখনোই দেখা যাবে না", তবে তা সমাধান করে সেই টুল যা ইতিমধ্যেই পাইপলাইনে আছে। আমাদের Discord এনগেজমেন্ট টুলের সার্ভে সেই লেয়ারে আর কী কী থাকতে পারে তা কভার করে।
Cove-এর পদ্ধতিটি আর্কিটেকচারাল, এবং এটিই বেশি আকর্ষণীয়। Cove তাদের নিজস্ব ডকুমেন্টেশনে নিজেদের বর্ণনা করে এভাবে: "Cove is a no-code platform for Trust & Safety", এবং এরপর তাদের নিজস্ব অটোমেশন সম্পর্কে লেখে: "Some harmful content will inevitably slip through your Automated Rules, and it'll get reported/flagged by your users. With our Moderator Console, your moderators can review those reports and take action on them directly in our UI."
একজন ভেন্ডরের নিজের প্রোডাক্ট ডকুমেন্টেশনে "inevitably" শব্দটি আবার পড়ুন, যে প্রোডাক্টটি তারা আপনাকে বিক্রি করছে তা নিয়ে। Cove এমন একটি সারফেস ডিজাইন করেছে যার অস্তিত্বের পুরো কারণই হলো অটোমেটেড লেয়ারটি ভুল করবে, এবং সেই ভুল ধরার ওয়ার্কফ্লোকে সাপোর্ট টিকিটের বদলে প্রোডাক্টের প্রথম শ্রেণির অংশ হিসেবে তৈরি করেছে।
Zealy-তে রিভিউতে একটি undo আছে, যা একই জিনিস নয়। Undo হলো এমন একজন ব্যক্তির জন্য নিয়ন্ত্রণ যিনি ইতিমধ্যেই জানেন যে একটি সিদ্ধান্ত ভুল ছিল। Cove-এর আছে এমন একটি জায়গা যেখানে মিসগুলো এসে পৌঁছায়। আপনি যদি আংশিকভাবে কোনো প্ল্যাটফর্ম বেছে নেন যে এটি নিজের ব্যর্থতাগুলো কীভাবে সামলায় তার ভিত্তিতে, তাহলে সেই পার্থক্যটিই পরীক্ষা করা উচিত, এবং আমাদের ক্ষেত্রেও তা পরীক্ষা করা উচিত। আমরা একটি বিস্তৃত তুলনা লিখেছি কমিউনিটি ম্যানেজমেন্ট সফটওয়্যার নিয়ে যদি আপনি সেই সিদ্ধান্তে আগে থাকেন, এবং Zealy কী যদি আপনি আমাদের নিজস্ব পরিধির সরল বর্ণনা চান।
এজেন্ট ভুল করলে কে জবাব দেয়
আপনি দেন। ২০২৪ সালের ফেব্রুয়ারিতে একটি কানাডীয় ট্রাইব্যুনাল Air Canada-কে ক্ষতিপূরণ দিতে নির্দেশ দেয়, কারণ এর ওয়েবসাইট চ্যাটবট এক শোকাহত যাত্রীকে ভুল তথ্য দিয়েছিল। Air Canada যুক্তি দিয়েছিল, ট্রাইব্যুনালের ভাষায়, যে চ্যাটবট একটি পৃথক আইনি সত্তা যা নিজের কাজের জন্য দায়ী। ট্রাইব্যুনাল মোট CA$812.02 প্রদান করে, যার মধ্যে CA$650.88 ক্ষতিপূরণ।
The Register ২০২৪ সালের ১৫ ফেব্রুয়ারি এটি প্রতিবেদন করে, ক্যাটিয়ানা কোয়াচের একটি লেখায় শিরোনাম ছিল "ছাড়ের বিষয়ে শোকাহত যাত্রীকে চ্যাটবট মিথ্যা বলার পর Air Canada-কে ক্ষতিপূরণ দিতে হবে". মামলার সিদ্ধান্তদানকারী ট্রাইব্যুনাল সদস্য ছিলেন ক্রিস্টোফার রিভার্স, এবং The Register রায়টি উদ্ধৃত করে যা এয়ারলাইন্সের অবস্থান চিহ্নিত করে: "প্রকৃতপক্ষে, Air Canada ইঙ্গিত দেয় যে চ্যাটবট একটি পৃথক আইনি সত্তা যা নিজের কাজের জন্য দায়ী।"
আর রায়টি, যে বাক্যটি এজেন্ট চালু করা প্রতিটি কমিউনিটি মালিকের এমন জায়গায় রাখা উচিত যেখানে তিনি তা দেখতে পাবেন: "Air Canada-র কাছে এটা স্পষ্ট হওয়া উচিত যে তার ওয়েবসাইটের সমস্ত তথ্যের দায়িত্ব তার। তথ্যটি স্ট্যাটিক পেজ থেকে আসে নাকি চ্যাটবট থেকে, তাতে কোনো পার্থক্য নেই।"
আমরা কীভাবে এটি উদ্ধৃত করছি সে বিষয়ে একটি সতর্কতা। আমরা রায়টির বদলে The Register-এর প্রতিবেদন উদ্ধৃত করছি, যা আমরা পড়িনি, এবং আমরা কোনো মামলার সাইটেশন ছাপছি না।
অঙ্কগুলো ছোট, কিন্তু নীতিটি নয়। আপনার কমিউনিটিতে কথা বলা একটি এজেন্ট মানে আপনার কমিউনিটিতে আপনারই কথা বলা। সদস্যরা যা বলা হয়েছে তা দিয়েই আপনাকে জবাবদিহি করবে, এবং অন্তত একটি ট্রাইব্যুনালও তা করেছে। এটি প্রযোজ্য এমন রিফান্ড নীতিতে যা সে বানিয়ে বলে, এমন নিয়মে যা সে উল্লেখ করে কিন্তু আপনি কখনো লেখেননি, এবং এমন নিষেধাজ্ঞায় যা সে আরোপ করে। "AI-ই করেছে" প্রতিরক্ষা হিসেবে পরীক্ষিত হয়েছে এবং তা ব্যর্থ হয়েছে।
নিজের কমিউনিটির জন্য সীমারেখা কীভাবে নির্ধারণ করবেন
আপনার এজেন্ট কী কী সিদ্ধান্ত নেবে তা লিখে রাখুন, তারপর প্রতিটি ভুল হলে কী ঘটে এবং কে তা ঠিক করে তাও লিখুন। যে ব্যক্তি এটি ঠিক করবে তার নাম বলতে না পারলে, সেই সিদ্ধান্ত স্বয়ংক্রিয় করার জন্য প্রস্তুত নয়। এই একটি অনুশীলনই আপনার অন্ধভাবে বেছে নেওয়া যেকোনো আত্মবিশ্বাসের থ্রেশহোল্ডের চেয়ে বেশি মূল্যবান।
উপরের প্রমাণ যা সমর্থন করে তার একটি সংক্ষিপ্ত রূপ, আমরা যে ক্রমে এটি করব সেই ক্রমে:
- যান্ত্রিক কাজগুলো অবিলম্বে স্বয়ংক্রিয় করুন। খসড়া তৈরি, সময়সূচি নির্ধারণ, সারসংক্ষেপ, রাউটিং, ট্যাগিং। এর ঝুঁকি হলো একটি খারাপ খসড়া, আর খারাপ খসড়া কীভাবে সামলাতে হয় তা আপনি ইতিমধ্যেই জানেন।
- যেকোনো পরিণতিসম্পন্ন কাজের জন্য, থ্রেশহোল্ড উদ্ভাবনের আগে মধ্যবর্তী পদক্ষেপটি উদ্ভাবন করুন। DTSP প্রতিবেদনের কম-আত্মবিশ্বাসের পথটি একটি ছোট, প্রত্যাবর্তনযোগ্য পদক্ষেপ নেয় এবং কেসটি পরবর্তী পর্যায়ে পাঠায়। একটি স্থগিত দাবি, একটি ডাউনর্যাংক করা পোস্ট, একটি সীমাবদ্ধ-কিন্তু-অপসারিত-নয় অ্যাকাউন্ট। যদি আপনার একমাত্র দুটি বিকল্প হয় "পদক্ষেপ নিন" এবং "অপেক্ষা করুন", তাহলে আপনার বেছে নেওয়া প্রতিটি থ্রেশহোল্ড এক দিকেই ভুল হবে।
- আপনার মানব-পর্যালোচনা ধাপটিকে সফটওয়্যার হিসেবে বিবেচনা করুন, এবং সফটওয়্যারের মতোই পরীক্ষা করুন। Discord-এর ব্যবস্থাটি কাগজে ছিল এবং চলে না। জিজ্ঞাসা করুন আপনারটি সর্বশেষ কখন সত্যিই সক্রিয় হয়েছিল, এবং এটি বন্ধ হয়ে গেলে কী আপনাকে জানাবে।
- প্রত্যাবর্তনগুলো গণনা করুন। যে আপিল পথ কেউ পরিমাপ করে না তা একটি অভিযোগ ফর্ম মাত্র। স্বয়ংক্রিয় সিদ্ধান্তটি যথেষ্ট ভালো কি না তার একমাত্র সৎ পাঠ হলো প্রত্যাবর্তনের হার, এবং এটি রেকর্ড করতে প্রায় কিছুই খরচ হয় না।
- ধরে নিন এটি যা বলে তার সবকিছুর দায়িত্ব আপনার। Air Canada একটি ট্রাইব্যুনালের সামনে বিপরীত অবস্থান চেষ্টা করেছিল।
শিরোনামের প্রশ্নটির একটি প্রকৃত উত্তর আছে এবং তা কোনো অবহেলা নয়। একটি AI এজেন্ট আজ আপনার কমিউনিটির যান্ত্রিক কাজগুলো ভালোভাবেই চালাতে পারে, এবং আপনার এটি করতে দেওয়া উচিত। এটি এখনও সেই জিনিস হতে পারে না যা ঠিক করে কে অপসারিত হবে, কে অর্থ পাবে, বা আপনার নীতি কী — এটা এজন্য নয় যে এটি বোকা, বরং এজন্য যে এটি এমনভাবে অবিশ্বস্ত যা আপনি প্রতি কেসে পূর্বানুমান করতে পারবেন না, এবং এজন্য যে আপনি এর পেছনে যে মানব সুরক্ষা-জাল বসাবেন তা নিজস্ব ব্যর্থতার ধরনসম্পন্ন একটি সফটওয়্যার। উভয়ই ভুল হওয়ার ক্ষেত্রের জন্য নকশা করুন, তাহলে আপনি এমন কিছু তৈরি করবেন যা হাইপ বা প্রতিক্রিয়া কোনোটিই আপনাকে দিতে পারত না তার চেয়ে ভালো।