هل يمكن لوكيل ذكاء اصطناعي أن يدير مجتمعك فعلاً؟

الإجابة المختصرة: يمكن لوكيل ذكاء اصطناعي اليوم أن يدير آليات المجتمع — الصياغة والجدولة والقراءة والتلخيص والتوجيه والإجابة عن الأسئلة التي لديها إجابة موثقة مسبقاً. لكن لا ينبغي تسليمه قرارات تكون إخفاقاتها مكلفة ويصعب عكسها، والسبب ليس أن النماذج غبية. بل أنها غير موثوقة بطريقة محددة قابلة للقياس، وأن خطوة المراجعة البشرية التي يعتمد عليها الناس كشبكة أمان هي نفسها برمجية يمكن أن تفشل. الجزء الثالث هو ما يُغفل عادة: "أبقِ دائماً إنساناً في الحلقة" ليس التصحيح أيضاً. السؤال القابل للتطبيق هو أي القرارات، وبأي درجة ثقة، وبأي مسار استئناف.

إفصاح: تنشر Zealy هذه الصفحة وتبيع Zealy الشيء موضوع النقاش. Zealy منصة مجتمع ومهام، وتوفر Zealy خادم MCP يتيح لوكيل ذكاء اصطناعي إدارة مجتمع Zealy، وتوفر Zealy مراجعاً بالذكاء الاصطناعي يقرر مطالبات المهام. الثلاثة تظهر أدناه، بما في ذلك الموضع الذي يختلف فيه اثنان منها أحدهما مع الآخر، والموضعان اللذان يكون فيهما تصميم منافس أفضل من تصميمنا.

آخر تحقق: 18 أغسطس 2026.

ما الذي يمكن لوكيل ذكاء اصطناعي فعله فعلاً في مجتمع اليوم؟

يمكن لوكيل ذكاء اصطناعي أن ينفذ الآليات بشكل موثوق: صياغة المنشورات والردود وجدولتها، وقراءة قناة وتلخيصها، وتوجيه بلاغ إلى الشخص المناسب، والإجابة عن أسئلة لديها إجابة موثقة مسبقاً. هذه مهام يكون فيها المخرج الخاطئ ظاهراً ورخيصاً وسهل التصحيح قبل أن يتضرر أحد.

تلك القائمة ليست شيئاً صغيراً. معظم عمل المجتمع آلي، ومعظم فرق المجتمع متأخرة فيه. إذا صاغ وكيل ملخصك الأسبوعي وأنفق شخص أربع دقائق في تصحيحه بدلاً من أربعين دقيقة في كتابته، فهذا مكسب حقيقي بجانب سلبي محدود.

كتبنا هذا المقال لأن السؤال يُجاب عنه بشكل سيئ. عند البحث عن can ai run my community في 18 أغسطس 2026، كانت كل نتيجة حصلنا عليها مدونة بائع أو صفحة منتج لبائع — heightsplatform.com، mightynetworks.com، social.plus، circle.so، socialglow.com، aismartventures.com. لم تُجب أي نتيجة من النتائج التي حصلنا عليها عن السؤال بـ"لا" أو "جزئياً". بل أعادت كلها صياغته كقائمة ميزات. هذا ملاحظة على النتائج التي سحبناها في يوم واحد، وليس ادعاءً بشأن كل ما كُتب على الإطلاق.

البائعون في هذه الفئة أنفسهم أكثر صدقاً مما توحي صفحاتهم التعريفية. دليل Sprout Social لبناء وكلاء ذكاء اصطناعي لوسائل التواصل الاجتماعي، بقلم McCall Lanman، المنشور في 16 أبريل 2026، يعرّف الفئة بغياب الشخص: "وكيل الذكاء الاصطناعي هو برنامج يستخدم نموذجاً لغوياً كبيراً (LLM) كعقل له لإنجاز المهام واتخاذ القرارات والتفاعل مع أدوات خارجية بشكل مستقل — دون أن يوجّه إنسان كل خطوة." وفي أسفل الصفحة نفسها يطلب منك إعادة الشخص: "سير عمل الموافقة: وجّه الردود الحساسة إلى مدير بشري قبل إرسالها — ويسمى هذا إبقاء الإنسان في الحلقة." وبصراحة: "بدون ضوابط، حتى الوكيل المصمم جيداً ينتج مخرجات خارج هوية العلامة أو ضارة."

هذا ليس نفاقاً. إنه الصعوبة الفعلية لهذه الفئة تظهر عبر صفحة تسويقية، ويستحق قوله بلطف. إذا أردت تثبيت المصطلح نفسه بشكل صحيح، فإن ركيزتنا حول التسويق الوكيلي تحكم عليه وفق الآلية لا وفق الطموح.

لماذا الحد الحقيقي هو عدم الموثوقية لا القدرة

مشكلة تسليم الوكيل قراراً تقديرياً ليست أن النماذج غبية. بل أنها غير متسقة، وعدم الاتساق أصعب في الإدارة من ضعف معروف. تضع الأبحاث حول المحادثات متعددة الأدوار معظم التدهور في التباين لا في القدرة الخام.

الورقة هي "LLMs Get Lost In Multi-Turn Conversation" بقلم Philippe Laban وHiroaki Hayashi وYingbo Zhou وJennifer Neville، arXiv:2505.06120، مقدمة في 9 مايو 2025. يذكر ملخصها أن "جميع أفضل نماذج LLM المفتوحة والمغلقة الأوزان التي نختبرها تُظهر أداءً أقل بكثير في المحادثات متعددة الأدوار مقارنة بالأدوار الأحادية، بمتوسط انخفاض 39% عبر ست مهام توليد."

الجملة الأهم هي التالية: "يحلل تحليل أكثر من 200,000 محادثة محاكاة تدهور الأداء إلى مكونين: خسارة طفيفة في الأهلية وزيادة كبيرة في عدم الموثوقية." ولنمط الفشل شكل — "عندما تتخذ نماذج LLM منعطفاً خاطئاً في محادثة، تضيع ولا تتعافى".

اقرأ التحفظات قبل استخدام نسبة 39% في أي مكان. كانت هذه محادثات محاكاة عبر ست مهام توليد، قيست على نماذج 2025، و39% متوسط عبر تلك المهام وليست خاصية لأي منتج قد تشتريه اليوم. تحسنت النماذج منذ ذلك الحين. النتيجة الدائمة ليست الرقم، بل التفكيك.

إليك سبب كون التفكيك هو الحجة بأكملها. الأداة التي ليست جيدة بما يكفي بعد هي مشكلة جدولة: إما أن تنتظر، أو تضيّق المهمة. أما الأداة الصحيحة في المتوسط والخاطئة بشكل غير متوقع فهي مشكلة إدارة، وهي مشكلة مختلفة. لا يمكنك التعامل معها عبر توظيف أشخاص لفحص الحالات الصعبة، لأنك لا تعرف مسبقًا أي حالة كانت الصعبة. العمل المجتمعي متعدد الأدوار بطبيعته — يطرح العضو سؤالًا، ويوضح، ويعترض، ويضيف سياقًا بعد ثلاث رسائل — وهو بالضبط السياق الذي قاسته الورقة.

كان العنصر البشري في حلقة Discord قطعة برمجية، وكانت بها خلل

نشرت Discord بصيغة المضارع أن أحد أعضاء فريق الثقة والسلامة لديها يراجع دائمًا المحتوى المُبلَّغ عنه قبل اتخاذ أي إجراء. ومع ذلك حظر خلل أكثر من 8,000 حساب. كان العنصر البشري في الحلقة مسارًا برمجيًا، ومسارات البرمجيات تفشل كالبرمجيات، لا كالبشر.

ذكرت TechCrunch ذلك في 7 يوليو 2026، في مقال بقلم Lauren Forristal بعنوان "Discord تعترف بأن خللًا في الإشراف بالذكاء الاصطناعي حظر مستخدمين ظلمًا بسبب صور غير ضارة". جوهر الأمر: "اعترفت Discord بأن خللًا في نظام الإشراف بالذكاء الاصطناعي لديها حظر بالخطأ أكثر من 8,000 مستخدم خلال الشهرين الماضيين، بعد أن صُنِّفت صور غير ضارة — بما في ذلك جداول بيانات ورقاع شطرنج ونسيج ألعاب وخلفيات شفافة بيضاء ورمادية — خطأً على أنها محتوى ضار."

يستحق النطاق قراءة دقيقة بدلًا من تقريبه. "أكدت الشركة أن المشكلة كانت تؤثر على الحسابات منذ مايو، مع حظر 200 مستخدم إضافي خلال عطلة نهاية الأسبوع قبل أن يحدد فريقها المشكلة ويصلحها. وتجري حاليًا عملية استعادة جميع الحسابات المتأثرة."

الآن الجزء الذي يغيّر طريقة تفكيرك في هذا. وصف حساب الدعم الرسمي لـ Discord، الذي نقلت عنه TechCrunch من سلسلته بتاريخ 7 يوليو 2026، التصميم قائلًا: "تضع أنظمتنا علامات على المحتوى بمطابقته مع مواد ضارة معروفة. هذا النوع من مطابقة التشابه قد ينتج إيجابيات كاذبة، ولهذا يراجع دائمًا أحد أعضاء فريق الثقة والسلامة لدينا المحتوى المُبلَّغ عنه قبل اتخاذ أي إجراء."

وخلاصة TechCrunch نفسها لما حدث: "يراجع مشرف بشري المحتوى، لكن خطأً برمجياً تسبب في حظر الحسابات المتأثرة فوراً."

كلا الأمرين صحيح في آن واحد. خطوة المراجعة صُممت ووُثقت ووُصفت علناً بصيغة المضارع — ولم تُنفَّذ. لم يكذب Discord، وهذا المنشور ليس حجة على أنه كذب. النقطة أضيق وأكثر إزعاجاً: وجود إنسان في الحلقة هو قطعة برمجية ويفشل كأي قطعة برمجية. إنه شرط، أو طابور، أو استدعاء خدمة، أو علامة ميزة. كل واحد من هذه يمكن أن يكون خاطئاً، وعندما يخطئ أحدها تتوقف خاصية الأمان التي كنت تعتمد عليها بهدوء عن الوجود بينما لا يزال مخطط البنية يعرضها.

لاحظ أيضاً ما كانت المدخلات الفاشلة. جداول بيانات. رقع شطرنج. خلفيات رمادية شفافة. لا شيء في تلك القائمة يبدو كحالة حدية كان أحدهم سيكتب اختباراً لها، وهذا هو الوضع العادي لنظام مطابقة التشابه حين يلتقي بالعالم الحقيقي.

إذا كان كل ما تطمئن به أعضاءك هو "شخص يتحقق"، فأنت لم تقدّم ادعاءً عن الأشخاص. بل قدّمت ادعاءً عن مسار برمجي، ويجب أن تكون قادراً على قول متى نُفّذ آخر مرة.

لماذا "أبقِ دائماً إنساناً في الحلقة" ليس الدرس أيضاً

التصحيح المرتب لمبالغات المورّدين هو القول إنه يجب أن يوافق شخص على كل شيء. شراكة الثقة والسلامة الرقمية، وهي تكتب لصالح الشركات التي تفعل ذلك على نطاق واسع، لا تقول ذلك. بل تفيد بأن الإنفاذ الآلي دون مراجعة بشرية شائع عندما تكون الثقة عالية، وأن المراجعة البشرية ليست معصومة من الخطأ.

المصدر هو "أفضل الممارسات للذكاء الاصطناعي والأتمتة في الثقة والسلامة"، شراكة الثقة والسلامة الرقمية، سبتمبر 2024. إنها الوثيقة الأكثر موثوقية في هذا المجال يمكن لأي شخص تنزيلها، وهي أكثر تقبلًا للأتمتة مما يتوقعه معظم الناس.

حول ما إذا كان يمكنك تجنب الأتمتة كليًا: "الذكاء الاصطناعي والأتمتة ليسا حلًا سحريًا—فهما يأتيان مع عدة تحديات وقيود ويبقى التدخل البشري ضروريًا. ومع ذلك، فإن معالجة إساءة المحتوى والسلوك على نطاق واسع غير ممكنة للعديد من المنتجات والخدمات الرقمية دون مستوى معين من الذكاء الاصطناعي والأتمتة." لاحظ النطاق في تلك الجملة — "للعديد من المنتجات والخدمات الرقمية"، وليس للجميع. مجتمع من أربعمائة شخص ليس في نفس وضع منصة من أربعمائة مليون.

حول ما تفعله الشركات الأعضاء فعليًا: "جميع شركات شركاء DTSP التي تمت مقابلتها لهذا التقرير تواصل الاعتماد على كل من الأدوات الآلية والمراجعة والإشراف البشريين لاتخاذ الإجراء المناسب، لا سيما حيث يلزم نهج أكثر دقة لتقييم المحتوى أو السلوك."

ثم الجملتان اللتان تمنعان هذا المقال من استبدال ضجيج البائعين بتبسيط أكثر ترتيبًا:

• "من الشائع أن تُمكّن فرق الثقة والسلامة إجراءات الإنفاذ الآلية دون مراجعة بشرية عندما يكون النظام واثقًا جدًا في تقييمه."
• "غالبًا ما يُفترض أن المراجع البشري سيكون أكثر دقة وموثوقية من نظام ذكاء اصطناعي؛ ومع ذلك، فإن المراجعة البشرية ليست معصومة من الخطأ."

ويذكر التقرير أيضًا شكل المقايضة التي تجريها فعليًا عند ضبط أي من ذلك: "قد يؤدي التحسين لاسترجاع المزيد من الانتهاكات المحتملة إلى زيادة الإيجابيات الصحيحة والإيجابيات الكاذبة معًا، مما قد يؤدي إلى إجراء مفرط. وعلى العكس، قد يؤدي التحسين للدقة في كشف الانتهاكات إلى تقليل الإيجابيات الكاذبة لكنه قد يزيد السلبيات الكاذبة (إجراء ناقص)."

لذا فالتصميم الذي يصفه التقرير ليس "دع الوكيل يقرر" ولا "شخص يوافق على كل شيء". إنه متدرج حسب الثقة: "عندما يكون مستوى الثقة أدنى، قد يتخذ النظام الآلي إجراءً تنفيذيًا مؤقتًا (مثل خفض ترتيب المحتوى مؤقتًا أو تقليل قابلية اكتشاف الحساب)، ويحوّل الحالة إلى مراجعة بشرية للموافقة على الإجراء أو تعديله."

هذا نموذج ذهني مختلف حقًا عن الذي يحمله معظم مالكي المجتمعات، وهو أفضل. مسار الثقة المنخفضة لا يتوقف وينتظر. بل يتخذ أصغر إجراء قابل للعكس متاح ثم يسأل شخصًا. خفض الترتيب ليس حظرًا. والمطالبة بالمهمة المحتجزة للمراجعة ليست مطالبة مرفوضة. إذا استطعت ابتكار إجراء وسط، لم تعد مضطرًا للاختيار بين السرعة والسلامة في كل حالة.

أي القرارات يمكنك تسليمها لآلة اليوم

رتّب القرارات حسب ما يحدث عندما تخطئ الآلة، لا حسب صعوبة ظهورها. المسودة الخاطئة تُعدَّل. والملخص السيئ يُعاد قراءته. والحظر الخاطئ يكلف عضوًا حسابه، ويكلفك سلسلة دعم وسمعة وربما حكمًا. قابلية العكس هي المحور المهم.

هذا الجدول حكم Zealy، وليس نتيجة من أي من المصادر أعلاه. إنه ما كنا سنقوله لمالك مجتمع سألنا في 18 أغسطس 2026.

النمط في العمود الأوسط ليس "الأمور الصعبة للبشر". ترتيب قائمة انتظار مهمة معرفية أصعب من حظر شخص. وهو في أعلى القائمة لأن الترتيب الخاطئ لا يكلفك شيئًا لا يمكنك التراجع عنه في ثانية، والحظر الخاطئ يكلفك شخصًا.

ملاحظة عملية واحدة لا تتسع لها جدول. تكاد كل مجتمع يؤتمت قرارًا ينسى قياس معدل العكس لاحقًا، ما يعني أن مسار الاستئناف موجود لكن لا أحد يقرأ ما ينتجه. إذا بنيت شيئًا واحدًا من هذا المقال، فابنِ العداد. وإذا كنت تقدر الجانب البشري من ذلك العمل، فإن كيفية تفويض مهام المجتمع تغطي تكلفة العمل التي لا تظهر أبدًا في صفحة الأسعار.

تشغّل Zealy مسارين للذكاء الاصطناعي، وهما يجيبان عن هذا السؤال بشكل مختلف

عبر خادم MCP الخاص بـ Zealy، لا يصبح أي تغيير يجرى عبر وكيل ساريًا حتى يوافق شخص. وداخل منتج Zealy، يقرر مراجع الذكاء الاصطناعي في Zealy المطالبة بالمهمة مباشرة: يعلّم المطالبة ناجحة أو فاشلة وينشر سببه للعضو. مساران للذكاء الاصطناعي في شركة واحدة، بإجابتين متعارضتين عن السؤال نفسه.

خذ الثاني أولًا، لأنه الذي يحتج علينا. في خطتي Plus وEnterprise يمكنك تشغيل مراجعة الذكاء الاصطناعي لمهمة وكتابة توجيه يصف شكل الطلب الصالح. توضح وثائق Zealy نفسها النتيجة دون تلطيف: الذكاء الاصطناعي يقرر المطالبة. لا يترك توصية ليؤكدها إنسان. يعلّم المطالبة ناجحة أو فاشلة، ويُنشر السبب الذي يقدمه كتعليق المراجعة الذي يقرأه العضو في صندوق الوارد. تُنسب أحكامه إلى مراجع ذكاء اصطناعي من Zealy يظهر إلى جانب فريقك في تحليلات أفضل المراجعين. إذا أردت أن يتخذ شخص القرار النهائي، فاترك مراجعة الذكاء الاصطناعي معطلة لتلك المهمة. كل ذلك في وثائق المراجعات في Zealy، وقد نُشر هناك طوال الوقت.

وبالمقارنة مع الجدول أعلاه، فهذا موافقة أو رفض آليان لقرار يمنح XP ومكافآت أدوار — ولأن وثائق Zealy تقول إن توزيع أي نوع آخر من المكافآت مسؤولية المجتمع، فهو أيضًا قرار يحدد من يدين له المجتمع بتلك المكافآت. التخفيفات حقيقية — يستطيع المراجع عكس أي حكم، ما يعيد المطالبة إلى قيد الانتظار، ويُبلَّغ العضو بالسبب بدلًا من إخفاقه بصمت — لكن القرار يتخذه النموذج، ويبدأ الاستئناف بملاحظة العضو.

اتخذ مسار Zealy الآخر للذكاء الاصطناعي الموقف المعاكس. عبر خادم Zealy MCP، يقرأ الوكيل بحرية ولا يمكنه تغيير أي شيء دون أن يوافق شخص على ذلك التغيير تحديدًا أولًا. وتفاصيل تلك البوابة، أداةً بأداة، موجودة في كيفية تدقيق وصول وكيل الذكاء الاصطناعي إلى مجتمعك، الذي يعدّد السطح بدلًا من وصفه.

لن نحل هذا التناقض داخل مقالة مدونة، والتظاهر بأنه فلسفة واحدة متماسكة سيكون أسوأ من طبعه. فريقان، ونموذجا تهديد، وإجابتان. ما يمكننا قوله إن الانقسام ليس عشوائيًا: مسار MCP وكيل خارجي يتصرف بسلطة مسؤول عبر مجتمع بأكمله، ومسار المراجعة حكم محدود النطاق على تقديم واحد مقابل توجيه كتبه المجتمع بنفسه. تلك مخاطر مختلفة. وما إذا كانت مختلفة بما يكفي لتبرير إعدادات افتراضية متعاكسة سؤال مشروع يمكن طرحه علينا، وإذا كنت تقيّم Zealy فينبغي أن تطرحه.

النقطة العامة تصمد خارج منتجنا نفسه. عندما يخبرك مورّد أن ذكاءه الاصطناعي يبقي إنسانًا في الحلقة، اسأل أي ميزات ذكائه الاصطناعي يقصد. الشركات لا تملك سياسة واحدة. لديها سياسة واحدة لكل فريق أطلق شيئًا.

حيث يتفوق Discord وCove على Zealy في هذا

يعمل AutoMod في Discord داخل Discord نفسه ويحجب الرسالة قبل أن يراها أحد؛ وZealy لا يقع في مسار رسائل Discord ولا يمكنه إيقاف أي شيء قبل نشره. ويوفر Cove وحدة تحكم مشرف مبنية على فرضية أن أتمتته ستفوّت أشياء. ولا يملك Zealy ما يعادلها.

هاتان ميزتان مختلفتان وكلتاهما تستحقان الفهم.

ميزة Discord موقعية. توثيق Discord الخاص بـ الإشراف التلقائي يصف الميزة بأنها واحدة "تتيح لكل سيرفر إعداد قواعد تُفعَّل بناءً على بعض المعايير"، ويصف BLOCK_MESSAGE إجرائها بأنه الذي "يحجب رسالة عضو ويمنع نشرها". تلك هي الميزة كلها في عبارة واحدة: التدخل يحدث قبل النشر لا بعده. يتصل Zealy بـ Discord ويمنح الأدوار ويتحقق من المهام؛ وهو ليس خادم الدردشة، ولا يغيّر أي قدر من الذكاء الاصطناعي من جانبنا موقعنا. إذا كانت مشكلتك "ألا تظهر رسالة سيئة أبدًا"، فالأداة التي تحلها هي الموجودة أصلًا في المسار. و مسحنا لأدوات التفاعل على Discord يغطي ما ينتمي أيضًا إلى تلك الطبقة.

ميزة Cove معمارية، وهي الأكثر إثارة للاهتمام. تصف Cove نفسها في توثيقها بأنها "Cove منصة بلا كود للثقة والسلامة"، ثم تكتب هذا عن أتمتتها: "ستتسلل بعض المحتويات الضارة حتمًا عبر قواعدك الآلية، وسيبلّغ عنها مستخدموك أو يعلّمونها. مع وحدة تحكم المشرف لدينا، يمكن لمشرفيك مراجعة تلك البلاغات واتخاذ إجراء بشأنها مباشرة في واجهتنا."

أعد قراءة كلمة "حتمًا" في توثيق المنتجالخاص بمورّد، عن المنتج الذي يبيعه لك. صممت Cove سطحًا سبب وجوده كله أن الطبقة الآلية ستخطئ، وبنَت سير العمل لالتقاط ذلك كجزء أساسي من المنتج لا كتذكرة دعم.

لدى Zealy تراجع عن مراجعة، وهذا ليس الشيء نفسه. التراجع أداة تحكم لشخص يعرف أصلًا أن الحكم كان خاطئًا. أما ما لدى Cove فهو مكان تصل فيه الإخفاقات. إذا كنت تختار منصة جزئيًا بناءً على كيفية تعاملها مع إخفاقاتها، فذلك التمييز هو ما ينبغي اختباره، وينبغي أن تختبره علينا أيضًا. كتبنا مقارنة أوسع لـ برامج إدارة المجتمعات إذا كنت في مرحلة أبكر من ذلك القرار، و ما هو Zealy إذا أردت الوصف المباشر لنطاقنا.

من يجيب عندما يخطئ الوكيل

أنت. في فبراير 2024 أمرت محكمة كندية Air Canada بدفع تعويضات بعد أن أعطى روبوت الدردشة على موقعها معلومات خاطئة لمسافر حزين. جادلت Air Canada، بكلمات المحكمة، بأن روبوت الدردشة كيان قانوني منفصل مسؤول عن أفعاله. ومنحت المحكمة 812.02 دولارًا كنديًا إجمالًا، منها 650.88 دولارًا كنديًا تعويضات.

أوردت The Register ذلك في 15 فبراير 2024، في مقال بقلم Katyanna Quach بعنوان "على Air Canada دفع تعويضات بعد أن كذب روبوت الدردشة على مسافر حزين بشأن خصم". وعضو المحكمة الذي نظر القضية كان Christopher Rivers، وتقتبس The Register الحكم الذي يصف موقف شركة الطيران: "في الواقع، تقترح Air Canada أن روبوت الدردشة كيان قانوني منفصل مسؤول عن أفعاله."

والاستنتاج، وهو الجملة التي ينبغي أن يضعها كل مالك مجتمع ينشر وكيلًا في مكان يراه: "ينبغي أن يكون واضحًا لـ Air Canada أنها مسؤولة عن كل المعلومات على موقعها. لا فرق بين أن تأتي المعلومات من صفحة ثابتة أو من روبوت دردشة."

تحفظ واحد على طريقة استشهادنا بهذا. نحن نقتبس تقرير The Register لا الحكم نفسه، الذي لم نقرأه، ولا نطبع مرجع القضية.

المبالغ صغيرة والمبدأ ليس كذلك. وكيل يتحدث في مجتمعك هو أنت تتحدث في مجتمعك. سيلزمك الأعضاء بما قاله، وقد فعلت محكمة واحدة على الأقل ذلك أيضًا. وينطبق هذا على سياسة استرداد يختلقها، وقاعدة يذكرها لم تكتبها أنت، وحظر يصدره. "الذكاء الاصطناعي فعلها" اختُبر كدفاع وخسر.

كيف ترسم الحدود لمجتمعك

دوّن القرارات التي سيتخذها وكيلك، ثم دوّن ما يحدث عندما يكون كل قرار منها خاطئًا ومن يصلحه. إذا لم تستطع تسمية الشخص الذي يصلحه، فالقرار ليس جاهزًا للأتمتة. هذا التمرين وحده يستحق أكثر من أي حد ثقة ستختاره على غير هدى.

نسخة مختصرة مما تدعمه الأدلة أعلاه، بالترتيب الذي سننفذه به:

1. أتمت الميكانيكا فورًا. الصياغة، والجدولة، والتلخيص، والتوجيه، والوسم. الجانب السلبي هو مسودة سيئة، وأنت تعرف بالفعل كيف تتعامل مع مسودة سيئة.
2. بالنسبة لأي شيء له عواقب، ابتكر الإجراء الوسيط قبل أن تبتكر الحد. مسار الثقة المنخفضة في تقرير DTSP يتخذ خطوة صغيرة قابلة للتراجع ويوجّه الحالة إلى الأمام. مطالبة معلّقة، أو منشور مخفّض الترتيب، أو حساب مقيّد لكن غير محذوف. إذا كان خياراك الوحيدان هما "التصرف" و"الانتظار"، فكل حد تختاره سيكون خاطئًا في اتجاه واحد.
3. تعامل مع خطوة المراجعة البشرية لديك كبرمجيات، واختبرها كبرمجيات. خطوة Discord كانت موجودة على الورق ولم تعمل. اسأل متى عملت خطوتك آخر مرة فعليًا، وما الذي سينبهك إذا توقفت.
4. احسب حالات التراجع. مسار استئناف لا يقيسه أحد هو مجرد نموذج شكوى. معدل التراجع هو القراءة الصادقة الوحيدة التي ستحصل عليها حول ما إذا كان القرار الآلي جيدًا بما يكفي، وتكلفة تسجيله لا تكاد تذكر.
5. افترض أنك مسؤول عن كل ما يقوله. حاولت Air Canada اتخاذ الموقف الآخر أمام محكمة.

السؤال في العنوان له إجابة حقيقية وليست هزّة كتف. يمكن لوكيل ذكاء اصطناعي أن يدير ميكانيكا مجتمعك اليوم، بشكل جيد، وينبغي أن تدعه يفعل ذلك. لكنه لا يستطيع بعد أن يكون الجهة التي تقرر من يُزال، ومن يُدفع له، أو ما هي سياستك — ليس لأنه غبي، بل لأنه غير موثوق بطريقة لا يمكنك التنبؤ بها لكل حالة، ولأن شبكة الأمان البشرية التي ستضعها خلفه هي قطعة برمجيات لها أنماط فشلها الخاصة. صمّم لحالة خطأ كليهما، وستكون قد بنيت شيئًا أفضل مما كان سيمنحك إياه الضجيج أو رد الفعل المضاد.