Czy agent AI naprawdę może zarządzać Twoją społecznością?

Krótka odpowiedź: agent AI może dziś obsługiwać mechanikę społeczności — tworzenie szkiców, planowanie, czytanie, streszczanie, kierowanie spraw i odpowiadanie na pytania, które mają już udokumentowaną odpowiedź. Nie należy mu powierzać decyzji, których błędy są kosztowne i trudne do odwrócenia, a powód nie jest taki, że modele są głupie. Jest taki, że są zawodne w konkretny, mierzalny sposób, a etap przeglądu przez człowieka, na którym ludzie polegają jako na siatce bezpieczeństwa, sam jest oprogramowaniem, które może zawieść. Trzecia część zwykle zostaje pominięta: „zawsze zachowuj człowieka w pętli” też nie jest poprawką. Praktyczne pytanie brzmi: które decyzje, przy jakiej pewności i z jaką ścieżką odwołania.

Ujawnienie: Zealy publikuje tę stronę, a Zealy sprzedaje omawianą rzecz. Zealy to platforma społeczności i questów, Zealy dostarcza serwer MCP, który pozwala agentowi AI administrować społecznością Zealy, a Zealy dostarcza recenzenta AI, który rozstrzyga zgłoszenia questów. Wszystkie trzy pojawiają się poniżej, w tym miejsce, w którym dwa z nich się ze sobą nie zgadzają, oraz dwa miejsca, w których projekt konkurenta jest lepszy od naszego.

Ostatnia weryfikacja: 18 sierpnia 2026.

Co agent AI może dziś faktycznie robić w społeczności?

Agent AI może niezawodnie wykonywać mechanikę: redagowanie postów i odpowiedzi, planowanie ich publikacji, czytanie kanału i jego podsumowywanie, kierowanie zgłoszenia do właściwej osoby oraz odpowiadanie na pytania, które mają już udokumentowaną odpowiedź. To zadania, w których błędny wynik jest widoczny, tani i łatwy do poprawienia, zanim ktokolwiek ucierpi.

Ta lista nie jest drobiazgiem. Większość pracy społecznościowej jest mechaniczna, a większość zespołów społecznościowych jest z nią zaległa. Jeśli agent przygotuje Twój cotygodniowy przegląd, a osoba spędzi cztery minuty na jego poprawieniu zamiast czterdziestu na napisaniu go, to realna wygrana o ograniczonym ryzyku.

Napisaliśmy ten post, ponieważ na to pytanie odpowiada się źle. Szukając can ai run my community 18 sierpnia 2026, każdy uzyskany wynik był blogiem dostawcy lub stroną produktu dostawcy — heightsplatform.com, mightynetworks.com, social.plus, circle.so, socialglow.com, aismartventures.com. Żaden z uzyskanych wyników nie odpowiedział na pytanie „nie” ani „częściowo”. Każdy powtarzał je jako listę funkcji. To obserwacja dotycząca wyników pobranych jednego dnia, a nie twierdzenie o wszystkim, co kiedykolwiek napisano.

Dostawcy z tej kategorii są bardziej szczerzy, niż sugerują ich strony docelowe. Przewodnik Sprout Social dotyczący budowania agentów AI do mediów społecznościowych autorstwa McCall Lanman, opublikowany 16 kwietnia 2026, definiuje kategorię przez brak osoby: „Agent AI to program komputerowy, który wykorzystuje duży model językowy (LLM) jako swój mózg, aby autonomicznie wykonywać zadania, podejmować decyzje i wchodzić w interakcje z zewnętrznymi narzędziami — bez człowieka kierującego każdym krokiem”. Niżej na tej samej stronie czytamy, by przywrócić osobę: „Przepływy zatwierdzania: kieruj wrażliwe odpowiedzi do menedżera-człowieka, zanim zostaną wysłane — nazywa się to human-in-the-loop”. I wprost: „Bez zabezpieczeń nawet dobrze zbudowany agent generuje wyniki niezgodne z marką lub szkodliwe”.

To nie jest hipokryzja. To rzeczywista trudność tej kategorii przebijająca przez stronę marketingową i warto to powiedzieć życzliwie. Jeśli chcesz, by sam termin został należycie doprecyzowany, nasz filar o marketingu agentowym ocenia go według mechanizmów, a nie ambicji.

Dlaczego prawdziwym ograniczeniem jest zawodność, a nie zdolności

Problem z powierzaniem agentowi decyzji wymagającej osądu nie polega na tym, że modele są głupie. Polega na tym, że są niespójne, a niespójność trudniej zarządzać niż znaną słabość. Badania nad rozmową wieloturnową wskazują, że większość degradacji wynika z wariancji, a nie z samych zdolności.

Praca to „LLMs Get Lost In Multi-Turn Conversation” autorstwa Philippe'a Labana, Hiroakiego Hayashiego, Yingbo Zhou i Jennifer Neville, arXiv:2505.06120, przesłane 9 maja 2025. W streszczeniu czytamy, że „wszystkie testowane przez nas czołowe LLM-y o otwartych i zamkniętych wagach osiągają znacznie niższą skuteczność w rozmowach wieloturówych niż jednoturówych, ze średnim spadkiem o 39% w sześciu zadaniach generatywnych”.

Ważniejsze jest następne zdanie: „Analiza ponad 200 000 symulowanych rozmów rozkłada spadek skuteczności na dwa składniki: niewielką utratę zdolności i znaczny wzrost zawodności”. A tryb awarii ma kształt — „gdy LLM-y zboczą z kursu w rozmowie, gubią się i nie odzyskują równowagi”.

Zanim gdziekolwiek użyjesz tych 39%, zapoznaj się z zastrzeżeniami. Były to symulowane rozmowy w sześciu zadaniach generatywnych, mierzone na modelach z 2025 roku, a 39% to średnia dla tych zadań, a nie właściwość jakiegokolwiek produktu, który możesz dziś kupić. Modele od tego czasu się poprawiły. Trwałym wnioskiem nie jest liczba, lecz rozkład.

Oto dlaczego ten podział stanowi cały argument. Narzędzie, które po prostu nie jest jeszcze wystarczająco dobre, to problem planowania: czekasz albo zawężasz zadanie. Narzędzie, które jest trafne średnio, a myli się nieprzewidywalnie, to problem zarządzania — i to inny problem. Nie da się tego obsłużyć kadrowo przez sprawdzanie trudnych przypadków, bo z góry nie wiesz, który przypadek był trudny. Praca społeczności z natury składa się z wielu tur — członek pyta, doprecyzowuje, oponuje, dodaje kontekst trzy wiadomości później — a dokładnie taki układ mierzył ten artykuł.

Człowiek w pętli Discorda był kawałkiem oprogramowania i miał błąd

Discord opublikował w czasie teraźniejszym, że członek jego zespołu Trust & Safety zawsze przegląda oznaczone treści, zanim zostaną podjęte jakiekolwiek działania. Mimo to błąd zbanował ponad 8000 kont. Człowiek w pętli był ścieżką kodu, a ścieżki kodu zawodzą jak oprogramowanie, nie jak ludzie.

TechCrunch poinformował o tym 7 lipca 2026 r. w artykule Lauren Forristal zatytułowanym "Discord przyznaje, że błąd moderacji AI niesłusznie zbanował użytkowników za nieszkodliwe obrazy". Sedno: "Discord przyznał, że błąd w jego systemie moderacji AI przez ostatnie dwa miesiące omyłkowo zbanował ponad 8000 użytkowników, po tym jak nieszkodliwe obrazy — w tym arkusze kalkulacyjne, szachownice, tekstury gier oraz białe i szare przezroczyste tła — zostały błędnie oznaczone jako szkodliwe treści."

Skalę warto odczytać dokładnie, a nie zaokrąglać w górę. "Firma potwierdziła, że problem dotyczył kont od maja, a w weekend przed tym, jak jej zespół zidentyfikował i naprawił problem, zbanowano dodatkowych 200 użytkowników. Wszystkie dotknięte konta są obecnie w trakcie przywracania."

Teraz część, która zmienia sposób myślenia o tym. Własne konto pomocy Discorda, cytowane przez TechCrunch z jego wątku z 7 lipca 2026 r., opisało ten mechanizm: "Nasze systemy oznaczają treści, dopasowując je do znanych szkodliwych materiałów. Tego rodzaju dopasowywanie podobieństwa może dawać fałszywe trafienia, dlatego członek naszego zespołu Trust & Safety zawsze przegląda oznaczone treści, zanim zostaną podjęte jakiekolwiek działania."

A oto własne podsumowanie TechCrunch tego, co się stało: „Ludzki moderator sprawdza treść, ale błąd spowodował, że system natychmiast zbanował dotknięte konta”.

Oba te stwierdzenia są prawdziwe jednocześnie. Etap weryfikacji został zaprojektowany, udokumentowany i publicznie opisany w czasie teraźniejszym — a jednak nie zadziałał. Discord nie skłamał i ten wpis nie jest argumentem, że tak było. Rzecz jest węższa i bardziej niewygodna: człowiek w pętli to fragment oprogramowania i zawodzi jak oprogramowanie. To warunek, kolejka, wywołanie usługi, flaga funkcji. Każdy z tych elementów może być błędny, a gdy jeden jest błędny, właściwość bezpieczeństwa, na której polegałeś, po cichu przestaje istnieć, podczas gdy diagram architektury wciąż ją pokazuje.

Zwróć też uwagę, jakie były błędne dane wejściowe. Arkusze kalkulacyjne. Szachownice. Szare przezroczyste tła. Nic z tej listy nie wygląda na przypadek brzegowy, dla którego ktokolwiek napisałby test, a to zwykły stan systemu dopasowywania podobieństw w zetknięciu z rzeczywistością.

Jeśli całym twoim zapewnieniem dla członków jest „sprawdza to człowiek”, nie złożyłeś oświadczenia o ludziach. Złożyłeś oświadczenie o ścieżce kodu i powinieneś umieć powiedzieć, kiedy ostatnio została uruchomiona.

Dlaczego „zawsze utrzymuj człowieka w pętli” też nie jest lekcją

Schludną korektą hype'u dostawców jest stwierdzenie, że człowiek musi zatwierdzać wszystko. Digital Trust & Safety Partnership, pisząc dla firm, które robią to na dużą skalę, nie mówi tego. Podaje, że zautomatyzowane egzekwowanie bez ludzkiej weryfikacji jest powszechne, gdy pewność jest wysoka, a ludzka weryfikacja nie jest nieomylna.

Źródło to „Best Practices for AI and Automation in Trust & Safety”, Digital Trust & Safety Partnership, wrzesień 2024. To najbardziej autorytatywny dokument w tej dziedzinie, który każdy może pobrać, i jest bardziej przychylny automatyzacji, niż większość ludzi się spodziewa.

O tym, czy można w ogóle uniknąć automatyzacji: „AI i automatyzacja nie są panaceum — wiążą się z wieloma wyzwaniami i ograniczeniami, a udział człowieka pozostaje konieczny. Jednak radzenie sobie z nadużyciami dotyczącymi treści i zachowań na dużą skalę nie jest możliwe dla wielu produktów i usług cyfrowych bez pewnego poziomu AI i automatyzacji”. Zwróć uwagę na zakres w tym zdaniu — „dla wielu produktów i usług cyfrowych”, nie dla wszystkich. Społeczność czterystu osób nie jest w tej samej sytuacji co platforma czterystu milionów.

O tym, co faktycznie robią firmy członkowskie: „wszystkie firmy partnerskie DTSP, z którymi przeprowadzono wywiady do tego raportu, nadal polegają zarówno na narzędziach automatycznych, jak i na ludzkiej weryfikacji i nadzorze, aby podejmować odpowiednie działania, zwłaszcza gdy wymagane jest bardziej niuansowe podejście do oceny treści lub zachowania”.

A potem dwa zdania, które powstrzymują ten artykuł przed zastąpieniem marketingowego szumu dostawców schludniejszym uproszczeniem:

• „Częstą praktyką zespołów ds. zaufania i bezpieczeństwa jest włączanie automatycznych działań egzekwujących bez ludzkiej weryfikacji, gdy system jest bardzo pewny swojej oceny”.
• „Często zakłada się, że ludzki recenzent będzie dokładniejszy i bardziej niezawodny niż system AI; jednak ludzka weryfikacja nie jest nieomylna”.

Raport określa też kształt kompromisu, który faktycznie zawierasz, gdy dostrajasz którykolwiek z tych parametrów: „Optymalizacja pod kątem czułości (wychwytywanie większej liczby potencjalnych naruszeń) może zwiększyć zarówno trafne wykrycia, jak i fałszywe alarmy, co potencjalnie prowadzi do nadmiernych działań. Odwrotnie, optymalizacja pod kątem precyzji (dokładniejsze wykrywanie naruszeń) może zmniejszyć liczbę fałszywych alarmów, ale może też zwiększyć liczbę przeoczeń (niedostateczne działania).”

Opisany w raporcie projekt to więc ani „niech agent decyduje”, ani „człowiek zatwierdza wszystko”. Opiera się na progach pewności: „Gdy poziom pewności jest niższy, system automatyczny może podjąć tymczasowe działanie egzekwujące (np. tymczasowo obniżyć pozycję treści lub ograniczyć wykrywalność konta) i skierować sprawę do przeglądu przez człowieka, aby zatwierdził lub zmodyfikował działanie.”

To zupełnie inny model myślowy niż ten, który nosi w głowie większość właścicieli społeczności, i jest lepszy. Ścieżka niskiej pewności nie zatrzymuje się i nie czeka. Podejmuje najmniejsze odwracalne działanie, a potem pyta człowieka. Obniżenie pozycji to nie ban. Wniosek o quest zatrzymany do przeglądu to nie odrzucony wniosek. Jeśli potrafisz wymyślić działanie pośrednie, nie musisz już wybierać między szybkością a bezpieczeństwem w każdym przypadku.

Które decyzje możesz dziś oddać maszynie

Sortuj decyzje według tego, co się stanie, gdy maszyna się pomyli, a nie według tego, jak trudne się wydają. Błędny szkic zostanie poprawiony. Złe podsumowanie zostanie przeczytane ponownie. Błędny ban kosztuje członka konto, a ciebie wątek wsparcia, reputację i być może orzeczenie. Odwracalność to oś, która ma znaczenie.

Ta tabela to osąd Zealy, a nie ustalenie z któregokolwiek z powyższych źródeł. To, co powiedzielibyśmy właścicielowi społeczności, który zapytał nas 18 sierpnia 2026 r.

Wzorzec w tej środkowej kolumnie to nie „trudne rzeczy są dla ludzi”. Uszeregowanie kolejki to trudniejsze zadanie poznawcze niż zbanowanie kogoś. Jest na szczycie listy, bo błędne uszeregowanie nie kosztuje cię niczego, czego nie cofniesz w sekundę, a błędny ban kosztuje cię człowieka.

Jedna praktyczna uwaga, która nie mieści się w tabeli. Niemal każda społeczność, która automatyzuje decyzję, zapomina później mierzyć wskaźnik odwracania, co oznacza, że ścieżka odwoławcza istnieje, ale nikt nie czyta tego, co produkuje. Jeśli zbudujesz z tego artykułu jedną rzecz, zbuduj licznik. Jeśli szacujesz ludzką stronę tej pracy, jak delegować zadania społeczności omawia koszt pracy, który nigdy nie pojawia się na stronie z cennikiem.

Zealy ma dwie ścieżki AI i odpowiadają one na to pytanie różnie

Przez serwer MCP Zealy żadna zmiana wprowadzona przez agenta nie działa, dopóki osoba tego nie zatwierdzi. W samym produkcie Zealy przegląd AI Zealy rozstrzyga roszczenie o quest od razu: oznacza roszczenie jako udane lub nieudane i publikuje członkowi swój powód. Dwie ścieżki AI w jednej firmie, przeciwne odpowiedzi na to samo pytanie.

Zacznijmy od drugiej, bo to ona przemawia przeciwko nam. W planach Plus i Enterprise możesz włączyć przegląd AI dla questa i napisać prompt opisujący, jak wygląda prawidłowe zgłoszenie. Dokumentacja Zealy podaje tego konsekwencję bez łagodzenia: AI rozstrzyga roszczenie. Nie pozostawia rekomendacji do potwierdzenia przez człowieka. Oznacza roszczenie jako udane lub nieudane, a podany powód jest publikowany jako komentarz przeglądu, który członek czyta w swojej skrzynce odbiorczej. Jego werdykty są przypisywane recenzentowi AI Zealy, który pojawia się obok twojego zespołu w analityce najlepszych recenzentów. Jeśli chcesz, aby ostateczną decyzję podjął człowiek, wyłącz przegląd AI dla tego questa. To wszystko jest w dokumentacji przeglądów Zealy, i było tam publikowane przez cały czas.

W zestawieniu z powyższą tabelą jest to automatyczne zatwierdzenie lub odrzucenie decyzji przyznającej XP i nagrody za role — a ponieważ dokumentacja Zealy mówi, że dystrybucja wszelkich innych rodzajów nagród leży w odpowiedzialności społeczności, także decyzji określającej, komu społeczność jest następnie winna te nagrody. Środki zaradcze są realne — recenzent może cofnąć każdy werdykt, co przywraca roszczenie do stanu oczekującego, a członek otrzymuje powód zamiast cichego odrzucenia — ale decyzję podejmuje model, a odwołanie zaczyna się od tego, że członek to zauważy.

Inna ścieżka AI w Zealy przyjęła przeciwne stanowisko. W ciągu serwer MCP Zealy, agent czyta swobodnie i nie może niczego zmienić, dopóki osoba nie zatwierdzi najpierw tej konkretnej zmiany. Mechanika tej bramki, narzędzie po narzędziu, znajduje się w jak audytować dostęp agenta AI do swojej społeczności, który wylicza powierzchnię, zamiast ją opisywać.

Nie zamierzamy rozwiązywać tej sprzeczności w poście na blogu, a udawanie, że jest to spójna jedna filozofia, byłoby gorsze niż jej wydrukowanie. Dwa zespoły, dwa modele zagrożeń, dwie odpowiedzi. Możemy powiedzieć, że podział nie jest przypadkowy: ścieżka MCP to zewnętrzny agent działający z uprawnieniami administratora w całej społeczności, a ścieżka przeglądu to ograniczona ocena jednego zgłoszenia względem promptu, który społeczność napisała sama. To różne ryzyka. Czy są wystarczająco wystarczająco różne, by uzasadnić przeciwne domyślne ustawienia, to uczciwe pytanie, które można nam zadać, a jeśli oceniasz Zealy, powinieneś je zadać.

Ogólna zasada obowiązuje niezależnie od naszego produktu. Gdy dostawca mówi, że jego AI utrzymuje człowieka w pętli, zapytaj, o które funkcje AI mu chodzi. Firmy nie mają jednej polityki. Mają jedną politykę na każdy zespół, który coś wdrożył.

Gdzie Discord i Cove robią to lepiej niż Zealy

AutoMod Discorda działa wewnątrz samego Discorda i blokuje wiadomość, zanim ktokolwiek ją zobaczy; Zealy nie znajduje się na ścieżce wiadomości Discorda i nie może niczego zatrzymać przed publikacją. Cove udostępnia Konsolę Moderatora zbudowaną na założeniu, że jego własna automatyzacja coś pominie. Zealy nie ma odpowiednika.

To dwie różne zalety i obie warto zrozumieć.

Zaleta Discorda wynika z pozycji. Własna Dokumentacja Auto Moderation opisuje tę funkcję jako taką, która „pozwala każdej gildii skonfigurować reguły wyzwalane na podstawie określonych kryteriów”, a jej BLOCK_MESSAGE działanie jako takie, które „blokuje wiadomość członka i uniemożliwia jej opublikowanie”. To cała zaleta w jednym zdaniu: interwencja następuje przed publikacją, a nie po niej. Zealy łączy się z Discordem, przyznaje role i weryfikuje zadania; nie jest serwerem czatu i żadna ilość AI po naszej stronie nie zmieni naszej pozycji. Jeśli twoim problemem jest to, że „zła wiadomość nigdy nie może się pojawić”, narzędziem, które to rozwiązuje, jest to już obecne w procesie. Nasze przegląd narzędzi do angażowania na Discordzie omawia, co jeszcze należy do tej warstwy.

Podejście Cove ma charakter architektoniczny i jest ciekawsze. Cove opisuje siebie w swojej dokumentacji jako "Cove to platforma no-code dla Trust & Safety", a następnie pisze tak o swojej automatyzacji: "Niektóre szkodliwe treści nieuchronnie prześlizgną się przez Twoje reguły automatyczne i zostaną zgłoszone/oznaczone przez Twoich użytkowników. Dzięki naszej konsoli moderatora Twoi moderatorzy mogą przeglądać te zgłoszenia i podejmować działania bezpośrednio w naszym interfejsie."

Przeczytaj jeszcze raz słowo "nieuchronnie" w dokumentacji produktu samego dostawcy dokumentacja produktu, dotyczącej produktu, który Ci sprzedaje. Cove zaprojektowało powierzchnię, której cały sens istnienia polega na tym, że warstwa automatyczna będzie się mylić, i wbudowało proces wychwytywania tego jako pełnoprawną część produktu, a nie zgłoszenie do pomocy technicznej.

Zealy ma cofanie w recenzji, co nie jest tym samym. Cofanie to mechanizm dla osoby, która już wie, że werdykt był błędny. Cove ma miejsce, do którego trafiają przeoczenia. Jeśli wybierasz platformę częściowo po tym, jak radzi sobie z własnymi błędami, to właśnie tę różnicę warto przetestować, i powinieneś przetestować ją także na nas. Przygotowaliśmy szersze porównanie oprogramowania do zarządzania społecznością jeśli jesteś wcześniej w tej decyzji, i czym jest Zealy jeśli chcesz prosty opis naszego własnego zakresu.

Kto odpowiada, gdy agent się myli

Ty odpowiadasz. W lutym 2024 r. kanadyjski trybunał nakazał Air Canada zapłatę odszkodowania po tym, jak chatbot na jej stronie internetowej przekazał pogrążonemu w żałobie pasażerowi błędne informacje. Air Canada argumentowała, cytując słowa trybunału, że chatbot jest odrębnym podmiotem prawnym odpowiedzialnym za własne działania. Trybunał przyznał łącznie 812,02 CAD, z czego 650,88 CAD stanowiło odszkodowanie.

The Register poinformował o tym 15 lutego 2024 r. w artykule Katyanny Quach zatytułowanym "Air Canada musi zapłacić odszkodowanie, po tym jak chatbot okłamał pogrążonego w żałobie pasażera w sprawie zniżki". Członkiem trybunału orzekającym w tej sprawie był Christopher Rivers, a The Register cytuje orzeczenie charakteryzujące stanowisko linii lotniczej: "W efekcie Air Canada sugeruje, że chatbot jest odrębnym podmiotem prawnym odpowiedzialnym za własne działania."

A oto wniosek, czyli zdanie, które każdy właściciel społeczności wdrażający agenta powinien mieć gdzieś w zasięgu wzroku: „Air Canada powinno zrozumieć, że odpowiada za wszystkie informacje na swojej stronie internetowej. Nie ma znaczenia, czy informacje pochodzą ze statycznej strony, czy z chatbota.”

Jedno zastrzeżenie co do sposobu cytowania. Cytujemy relację The Register, a nie sam wyrok, którego nie czytaliśmy, i nie podajemy sygnatury sprawy.

Kwoty są niewielkie, ale zasada już nie. Agent mówiący w Twojej społeczności to Ty mówiący w Twojej społeczności. Członkowie będą Cię rozliczać z tego, co powiedział, i przynajmniej jeden trybunał również to zrobił. Dotyczy to wymyślonej przez niego polityki zwrotów, zasady, której nigdy nie napisałeś, a którą on ogłasza, oraz bana, którego udziela. „To zrobiła AI” zostało sprawdzone jako obrona i przegrało.

Jak wyznaczyć granicę dla własnej społeczności

Zapisz decyzje, które będzie podejmować Twój agent, a następnie zapisz, co się dzieje, gdy każda z nich jest błędna i kto to naprawia. Jeśli nie potrafisz wskazać osoby, która to naprawia, decyzja nie jest gotowa do automatyzacji. To jedno ćwiczenie jest warte więcej niż jakikolwiek próg pewności, który wybierzesz na ślepo.

Krótka wersja tego, co potwierdzają powyższe dowody, w kolejności, w jakiej byśmy to zrobili:

1. Zautomatyzuj mechanikę natychmiast. Tworzenie szkiców, planowanie, streszczanie, kierowanie, tagowanie. Minusem jest zły szkic, a już wiesz, jak radzić sobie ze złym szkicem.
2. W przypadku wszystkiego, co ma konsekwencje, wymyśl działanie pośrednie, zanim wymyślisz próg. Ścieżka niskiej pewności w raporcie DTSP wykonuje mały, odwracalny krok i przekazuje sprawę dalej. Wstrzymane roszczenie, obniżona pozycja posta, konto ograniczone, ale nieusunięte. Jeśli Twoje jedyne dwie opcje to „działaj” i „czekaj”, każdy wybrany próg będzie błędny w jednym kierunku.
3. Traktuj swój etap przeglądu przez człowieka jak oprogramowanie i testuj go jak oprogramowanie. Discord istniał na papierze i nie działał. Zapytaj, kiedy Twój ostatnio faktycznie zadziałał, i co powiedziałoby Ci, gdyby przestał.
4. Policz odwrócenia. Ścieżka odwoławcza, której nikt nie mierzy, to formularz skargi. Wskaźnik odwróceń to jedyny uczciwy odczyt tego, czy zautomatyzowana decyzja jest wystarczająco dobra, a jego rejestracja kosztuje niemal nic.
5. Zakładaj, że jesteś właścicielem wszystkiego, co mówi. Air Canada próbowało przeciwnego stanowiska przed trybunałem.

Pytanie w tytule ma realną odpowiedź i nie jest to wzruszenie ramion. Agent AI potrafi już dziś dobrze obsługiwać mechanikę Twojej społeczności i powinieneś na to pozwolić. Nie może jeszcze decydować, kto zostanie usunięty, kto otrzyma zapłatę ani jaka jest Twoja polityka — nie dlatego, że jest głupi, ale dlatego, że jest zawodny w sposób, którego nie przewidzisz w poszczególnych przypadkach, a ludzka siatka bezpieczeństwa, którą byś za nim postawił, to oprogramowanie z własnymi trybami awarii. Projektuj z myślą o przypadku, w którym oba się mylą, a zbudujesz coś lepszego, niż dałby Ci hype albo reakcja przeciwko niemu.