AI 에이전트가 실제로 커뮤니티를 운영할 수 있을까?

간단히 말하면: AI 에이전트는 오늘날 커뮤니티의 기계적인 업무를 수행할 수 있습니다. 초안 작성, 일정 관리, 읽기, 요약, 라우팅, 그리고 이미 문서화된 답변이 있는 질문에 답하는 일 말입니다. 실패 비용이 크고 되돌리기 어려운 결정을 맡겨서는 안 되며, 그 이유는 모델이 멍청해서가 아닙니다. 모델이 특정한 방식으로 측정 가능하게 불안정하기 때문이고, 안전망으로 의지하는 사람 검토 단계 자체가 실패할 수 있는 소프트웨어이기 때문입니다. 세 번째 부분이 보통 빠집니다. "항상 사람을 루프 안에 두기"도 해결책이 아닙니다. 실행 가능한 질문은 어떤 결정을, 어느 정도의 확신으로, 어떤 이의 제기 경로와 함께 처리할 것인가입니다.

공개: Zealy는 이 페이지를 게시하며, 논의되는 제품을 판매합니다. Zealy는 커뮤니티 및 퀘스트 플랫폼이고, AI 에이전트가 Zealy 커뮤니티를 관리할 수 있게 하는 MCP 서버를 제공하며, 퀘스트 클레임을 결정하는 AI 리뷰어를 제공합니다. 세 가지 모두 아래에 등장하며, 그중 두 가지가 서로 의견이 갈리는 부분과 경쟁사의 설계가 우리보다 나은 두 부분도 포함됩니다.

최종 확인: 2026년 8월 18일.

AI 에이전트는 오늘날 커뮤니티에서 실제로 무엇을 할 수 있을까?

AI 에이전트는 기계적인 작업을 안정적으로 수행할 수 있습니다. 게시물과 답글 초안 작성, 예약 발행, 채널 읽고 요약하기, 보고서를 담당자에게 전달하기, 이미 문서화된 답변이 있는 질문에 답하기 등입니다. 이런 작업은 잘못된 결과가 눈에 띄고, 누군가 피해를 입기 전에 저렴하고 쉽게 수정할 수 있습니다.

이 목록은 사소한 것이 아닙니다. 대부분의 커뮤니티 업무는 기계적이며, 대부분의 커뮤니티 팀은 이 부분에서 뒤처져 있습니다. 에이전트가 주간 요약 초안을 작성하고 사람이 40분 대신 4분만 수정한다면, 이는 부작용이 제한된 실질적인 성과입니다.

이 글을 쓴 이유는 이 질문에 대한 답변이 형편없기 때문입니다. 검색어 can ai run my community 2026년 8월 18일 기준, 우리가 확인한 모든 결과는 벤더 블로그나 벤더 제품 페이지였습니다 — heightsplatform.com, mightynetworks.com, social.plus, circle.so, socialglow.com, aismartventures.com. 우리가 확인한 결과 중 "아니오" 또는 "부분적으로"라고 답한 것은 하나도 없었습니다. 모두 기능 목록으로 답을 바꿔 말했을 뿐입니다. 이는 어느 하루에 우리가 확인한 결과에 대한 관찰이며, 지금까지 쓰인 모든 글에 대한 주장이 아닙니다.

이 분야의 벤더들은 랜딩 페이지가 시사하는 것보다 더 솔직합니다. McCall Lanman이 작성하고 2026년 4월 16일에 게시된 Sprout Social의 소셜 미디어용 AI 에이전트 구축 가이드는 이 분야를 정의합니다 사람의 부재로 정의됩니다: "AI 에이전트는 대규모 언어 모델(LLM)을 두뇌로 사용해 사람이 매 단계를 지시하지 않아도 자율적으로 작업을 완수하고, 의사 결정을 내리며, 외부 도구와 상호작용하는 소프트웨어 프로그램입니다." 같은 페이지의 아래쪽에서는 다시 사람을 넣으라고 말합니다: "승인 워크플로: 민감한 응답은 발송 전에 사람 관리자에게 라우팅하세요—이를 휴먼 인 더 루프(human-in-the-loop)라고 합니다." 그리고 분명히 말합니다: "가드레일이 없으면 잘 만들어진 에이전트조차 브랜드에 맞지 않거나 유해한 출력을 생성합니다."

그것은 위선이 아닙니다. 마케팅 페이지를 통해 드러나는 이 범주의 실제 어려움이며, 친절하게 말할 가치가 있습니다. 용어 자체를 제대로 규정하고 싶다면, 저희 에이전트 마케팅에 관한 필러 가 야망이 아니라 실제 작동 구조를 기준으로 그것을 평가합니다.

진짜 한계가 역량이 아니라 신뢰성인 이유

에이전트에게 판단이 필요한 일을 맡기는 문제는 모델이 멍청해서가 아닙니다. 모델이 일관성이 없다는 것이며, 일관성 없음은 알려진 약점보다 관리하기 어려운 것입니다. 멀티턴 대화 연구에 따르면 성능 저하의 대부분은 순수 능력이 아니라 분산에서 발생합니다.

논문은 "LLMs Get Lost In Multi-Turn Conversation" Philippe Laban, Hiroaki Hayashi, Yingbo Zhou, Jennifer Neville 저, arXiv:2505.06120, 2025년 5월 9일 제출. 초록에 따르면 "우리가 테스트한 모든 최상위 오픈 및 클로즈드 웨이트 LLM은 6개 생성 작업에서 평균 39% 하락하며, 멀티턴 대화에서 싱글턴보다 현저히 낮은 성능을 보인다."

더 중요한 문장은 그다음이다. "200,000개 이상의 시뮬레이션 대화 분석은 성능 저하를 두 가지 요소로 분해한다. 적성의 경미한 손실과 신뢰성의 현저한 증가다." 그리고 실패 모드에는 형태가 있다. "LLM이 대화에서 잘못된 방향으로 가면 길을 잃고 회복하지 못한다."

그 39%를 어디에든 사용하기 전에 주의 사항을 읽어라. 이는 6개 생성 작업에 걸친 시뮬레이션 대화였고, 2025년 모델에서 측정되었으며, 39%는 오늘 구매할 수 있는 어떤 제품의 속성이 아니라 해당 작업들의 평균이다. 모델은 그 이후로 개선되었다. 지속적인 발견은 숫자가 아니라 분해다.

이것이 분해가 논증의 전부인 이유입니다. 아직 충분히 좋지 않을 뿐인 도구는 일정 문제입니다. 기다리거나 작업 범위를 좁히면 됩니다. 평균적으로는 맞지만 예측 불가능하게 틀리는 도구는 관리 문제이며, 그것과는 다른 문제입니다. 어려운 사례를 확인하는 방식으로 인력을 배치할 수는 없습니다. 어떤 사례가 어려운 사례인지 미리 알 수 없기 때문입니다. 커뮤니티 작업은 본질적으로 멀티턴입니다. 구성원이 질문하고, 명확히 하고, 반박하고, 세 메시지 뒤에 맥락을 추가합니다. 이것이 바로 그 논문이 측정한 환경입니다.

Discord의 휴먼 인 더 루프는 소프트웨어 조각이었고, 버그가 있었습니다

Discord는 현재형으로, Trust & Safety 팀 구성원이 조치를 취하기 전에 항상 신고된 콘텐츠를 검토한다고 공개했습니다. 그런데도 버그로 8,000개 이상의 계정이 차단되었습니다. 휴먼 인 더 루프는 코드 경로였고, 코드 경로는 사람이 아니라 소프트웨어처럼 실패합니다.

TechCrunch는 2026년 7월 7일 Lauren Forristal의 기사에서 다음과 같은 제목으로 보도했습니다. "Discord, AI 검열 버그로 무해한 이미지 때문에 사용자들을 잘못 차단한 사실을 인정하다". 핵심은 이렇습니다: "Discord는 자사의 AI 검열 시스템 버그로 지난 두 달 동안 8,000명 이상의 사용자가 잘못 차단되었다고 인정했습니다. 스프레드시트, 체스판, 게임 텍스처, 그리고 흰색과 회색의 투명 배경 등 무해한 이미지가 유해 콘텐츠로 잘못 신고된 것이 원인이었습니다."

규모는 반올림하지 말고 정확히 읽어볼 가치가 있습니다. "회사는 이 문제가 5월부터 계정에 영향을 미쳐 왔으며, 팀이 문제를 파악하고 수정하기 전 주말 동안 200명의 사용자가 추가로 차단되었다고 확인했습니다. 현재 모든 영향을 받은 계정이 복구되는 중입니다."

이제 이 문제를 바라보는 관점을 바꿔야 하는 부분입니다. TechCrunch가 2026년 7월 7일 스레드에서 인용한 Discord의 자체 지원 계정은 이 설계를 이렇게 설명했습니다: "당사 시스템은 콘텐츠를 알려진 유해 자료와 대조하여 신고합니다. 이런 유사성 매칭은 오탐을 일으킬 수 있기 때문에, 당사 신뢰 및 안전 팀 구성원이 조치를 취하기 전에 항상 신고된 콘텐츠를 검토합니다."

그리고 TechCrunch 자체의 사건 요약은 이렇습니다: "사람 중재자가 콘텐츠를 검토하지만, 버그로 인해 시스템이 영향을 받은 계정을 즉시 차단했다."

두 가지 모두 동시에 사실입니다. 검토 단계는 설계되었고, 문서화되었으며, 현재형으로 공개적으로 설명되었습니다 — 그리고 실행되지 않았습니다. Discord가 거짓말한 것은 아니며, 이 글은 그랬다고 주장하는 것도 아닙니다. 요점은 더 좁고 더 불편합니다: 휴먼 인 더 루프는 소프트웨어의 한 조각이며 소프트웨어처럼 실패합니다. 그것은 조건문이고, 큐이고, 서비스 호출이고, 기능 플래그입니다. 그중 어느 것이든 잘못될 수 있으며, 하나가 잘못되면 당신이 의지하던 안전 속성은 아키텍처 다이어그램에는 여전히 표시된 채 조용히 사라집니다.

실패한 입력이 무엇이었는지도 주목하세요. 스프레드시트. 체스판. 회색 투명 배경. 그 목록 어디에도 누군가 테스트를 작성했을 법한 엣지 케이스는 없어 보이며, 이는 유사도 매칭 시스템이 현실을 만날 때의 평범한 조건입니다.

회원들에게 주는 당신의 보증 전체가 "사람이 확인한다"라면, 당신은 사람에 대한 주장을 한 것이 아닙니다. 코드 경로에 대한 주장을 한 것이며, 그것이 마지막으로 실행된 때를 말할 수 있어야 합니다.

"항상 휴먼 인 더 루프를 유지하라"도 교훈이 아닌 이유

벤더의 과장에 대한 깔끔한 교정은 사람이 모든 것을 승인해야 한다고 말하는 것입니다. 이를 대규모로 수행하는 기업들을 위해 글을 쓰는 Digital Trust & Safety Partnership은 그렇게 말하지 않습니다. 이 단체는 신뢰도가 높을 때 인간 검토 없는 자동 집행이 흔하며, 인간 검토도 완벽하지 않다고 보고합니다.

출처는 "신뢰 및 안전 분야의 AI와 자동화 모범 사례", Digital Trust & Safety Partnership, 2024년 9월. 이 분야에서 누구나 내려받을 수 있는 가장 권위 있는 문서이며, 대부분의 사람이 예상하는 것보다 자동화에 더 우호적입니다.

자동화를 아예 피할 수 있는지에 대하여: "AI와 자동화는 만능이 아니며 여러 과제와 한계를 동반하므로 인간의 개입은 여전히 필요합니다. 그러나 콘텐츠 및 행위 관련 남용을 대규모로 처리하는 것은 일정 수준의 AI와 자동화 없이는 많은 디지털 제품과 서비스에서 불가능합니다." 이 문장의 범위에 주목하십시오 — "많은 디지털 제품과 서비스"이지 모두가 아닙니다. 400명 규모의 커뮤니티는 4억 명 규모의 플랫폼과 같은 처지가 아닙니다.

회원사들이 실제로 무엇을 하는지에 대하여: "이 보고서를 위해 인터뷰한 모든 DTSP 파트너사는 적절한 조치를 취하기 위해 자동화 도구와 인간 검토 및 감독 모두에 계속 의존하고 있으며, 특히 콘텐츠나 행위를 평가하는 데 더 세밀한 접근이 필요한 경우 그러합니다."

그리고 이 글을 공급업체의 과장 광고를 더 깔끔한 단순화로 대체하는 것으로부터 막아주는 두 문장이 있습니다:

• "신뢰 및 안전 팀이 시스템의 평가에 대한 확신이 매우 높을 때 인간 검토 없이 자동화된 집행 조치를 활성화하는 것은 흔한 일입니다."
• "인간 검토자가 AI 시스템보다 더 정확하고 신뢰할 수 있다고 흔히 가정하지만, 인간 검토도 완벽하지는 않습니다."

이 보고서는 또한 이 중 무엇이든 조정할 때 실제로 맞바꾸게 되는 트레이드오프의 형태를 명시합니다: "재현율(더 많은 잠재적 위반을 포착)을 최적화하면 참 양성과 거짓 양성이 모두 늘어나 과잉 조치로 이어질 수 있습니다. 반대로 정밀도(더 정확한 위반 탐지)를 최적화하면 거짓 양성은 줄일 수 있지만 거짓 음성(과소 조치)이 늘어날 수 있습니다."

따라서 보고서가 설명하는 설계는 "에이전트가 결정하게 두는 것"도, "사람이 모든 것을 승인하는 것"도 아닙니다. 그것은 신뢰도 계층형입니다: "신뢰 수준이 낮을 때 자동화 시스템은 임시 집행 조치(예: 콘텐츠의 일시적 순위 하향 또는 계정의 발견 가능성 축소)를 취하고, 해당 사례를 사람의 검토로 보내 조치를 승인하거나 수정하게 할 수 있습니다."

이것은 대부분의 커뮤니티 운영자가 지니고 있는 사고 모델과 진정으로 다른 모델이며, 더 낫습니다. 낮은 신뢰도의 경로는 멈추고 기다리지 않습니다. 가능한 가장 작은 되돌릴 수 있는 조치를 취한 뒤 사람에게 묻습니다. 순위 하향은 차단이 아닙니다. 검토를 위해 보류된 퀘스트 클레임은 거부된 클레임이 아닙니다. 중간 조치를 고안할 수 있다면, 더 이상 모든 개별 사례에서 속도와 안전 사이에서 선택할 필요가 없습니다.

오늘날 기계에 맡길 수 있는 결정

결정을 기계가 틀렸을 때 무슨 일이 일어나는지로 정렬하세요. 얼마나 어려워 보이는지가 아닙니다. 잘못된 초안은 수정됩니다. 잘못된 요약은 다시 읽힙니다. 잘못된 차단은 구성원의 계정을 앗아가고, 여러분에게 지원 스레드, 평판, 그리고 어쩌면 판정까지 초래합니다. 되돌릴 수 있는지가 중요한 축입니다.

이 표는 위의 어떤 출처에서 나온 발견이 아니라 Zealy의 판단입니다. 2026년 8월 18일에 우리에게 물어본 커뮤니티 운영자에게 우리가 말해줄 내용입니다.

가운데 열을 따라 내려가는 패턴은 "어려운 일은 사람 몫"이 아닙니다. 대기열 순위 지정은 누군가를 차단하는 것보다 더 어려운 인지 과제입니다. 그것이 목록 맨 위에 있는 이유는 잘못된 순위 지정은 1초 안에 되돌릴 수 없는 것을 잃지 않지만, 잘못된 차단은 사람 한 명을 잃기 때문입니다.

표에 담기지 않는 실용적인 참고 사항 하나. 결정을 자동화하는 거의 모든 커뮤니티는 이후 뒤집힘 비율을 측정하는 것을 잊습니다. 즉 이의 제기 경로는 존재하지만 아무도 그것이 산출하는 것을 읽지 않습니다. 이 글에서 한 가지를 만든다면, 카운터를 만드세요. 그 작업의 사람 측면 규모를 산정하고 있다면, 커뮤니티 작업을 위임하는 방법 은 가격 페이지에는 절대 나타나지 않는 노동 비용을 다룹니다.

Zealy는 두 가지 AI 경로를 운영하며, 같은 질문에 다르게 답합니다

Zealy의 MCP 서버를 통해서는 사람이 그렇게 말하기 전까지 에이전트가 바꾸는 어떤 것도 효력을 발휘하지 않습니다. Zealy 제품 내부에서는 Zealy의 AI 검토가 퀘스트 클레임을 단독으로 결정합니다: 클레임을 성공 또는 실패로 표시하고 그 이유를 구성원에게 게시합니다. 한 회사 안의 두 AI 경로가 같은 질문에 반대되는 답을 내놓습니다.

두 번째를 먼저 살펴보세요. 그것이 우리에게 불리한 주장이기 때문입니다. Plus 및 Enterprise 플랜에서는 퀘스트에 AI 검토를 켜고 유효한 제출이 어떤 모습인지 설명하는 프롬프트를 작성할 수 있습니다. Zealy 자체 문서는 그 결과를 완화하지 않고 명시합니다: AI가 클레임을 결정합니다. 사람이 확인할 추천을 남기지 않습니다. 클레임을 성공 또는 실패로 표시하고, 제시하는 이유는 구성원이 받은 편지함에서 읽는 검토 댓글로 게시됩니다. 그 판정은 최고 검토자 분석에서 여러분의 팀과 나란히 표시되는 Zealy AI 검토자에게 귀속됩니다. 사람이 최종 결정을 내리길 원한다면 해당 퀘스트에 대해 AI 검토를 꺼두면 됩니다. 이는 모두 Zealy의 검토 문서에 있으며, 처음부터 그곳에 게시되어 있었습니다.

위 표에 비추어 보면, 이는 XP와 역할 보상을 수여하는 결정에 대한 자동화된 승인 또는 거부이며 — 또한 Zealy 문서에 따르면 다른 종류의 보상을 분배하는 것은 커뮤니티의 책임이므로, 커뮤니티가 그 보상을 누구에게 빚지게 되는지를 결정하는 결정에 대한 것이기도 합니다. 완화책은 실재합니다 — 검토자는 어떤 판정이든 되돌릴 수 있으며 이는 클레임을 대기 상태로 재설정하고, 구성원은 조용히 실패 처리되는 대신 이유를 전달받습니다 — 그러나 결정은 모델이 내리며, 이의 제기는 구성원이 알아차리는 것에서 시작됩니다.

Zealy의 다른 AI 경로는 반대 입장을 취했습니다. Zealy MCP 서버를 통해 에이전트는 자유롭게 읽을 수 있지만, 사람이 해당 변경을 먼저 승인하지 않으면 아무것도 바꿀 수 없습니다. 그 게이트의 작동 방식은 도구별로 AI 에이전트의 커뮤니티 접근 권한을 감사하는 방법에 나와 있으며, 이는 표면을 설명하기보다 열거합니다.

우리는 블로그 글 안에서 그 모순을 해결하지 않을 것이며, 그것이 일관된 단일 철학인 척하는 것은 그대로 인쇄하는 것보다 더 나쁠 것입니다. 두 팀, 두 위협 모델, 두 가지 답. 우리가 말할 수 있는 것은 이 분기가 무작위가 아니라는 점입니다. MCP 경로는 전체 커뮤니티에 걸쳐 관리자 권한으로 행동하는 외부 에이전트이고, 검토 경로는 커뮤니티가 직접 작성한 프롬프트에 대해 하나의 제출물을 범위 한정적으로 판단하는 것입니다. 이는 서로 다른 위험입니다. 그것들이 반대되는 기본값을 정당화할 만큼 충분히 다른지 여부는 우리에게 제기하기에 타당한 질문이며, Zealy를 평가하고 있다면 그것을 제기해야 합니다.

이 일반적인 요점은 우리 제품을 넘어서도 유효합니다. 벤더가 그들의 AI가 인간을 루프 안에 유지한다고 말할 때, 그들이 어떤 AI 기능을 의미하는지 물어보세요. 기업은 하나의 정책을 가진 것이 아닙니다. 무언가를 출시한 팀마다 하나의 정책을 가집니다.

Discord와 Cove가 Zealy보다 이 점을 더 잘하는 곳

Discord의 AutoMod는 Discord 자체 내에서 실행되며 누구도 보기 전에 메시지를 차단합니다. Zealy는 Discord의 메시지 경로에 위치하지 않으며 게시되기 전에 무엇도 막을 수 없습니다. Cove는 자사의 자동화가 놓칠 것이라는 전제 위에 구축된 Moderator Console을 제공합니다. Zealy에는 이에 상응하는 것이 없습니다.

이는 서로 다른 두 가지 이점이며 둘 다 이해할 가치가 있습니다.

Discord의 이점은 위치적입니다. Discord 자체의 Auto Moderation 문서 는 이 기능을 "각 길드가 일부 기준에 따라 트리거되는 규칙을 설정할 수 있게 하는" 기능으로 설명하며, 그 BLOCK_MESSAGE 조치는 "구성원의 메시지를 차단하고 게시되지 않도록 방지하는" 것으로 설명합니다. 그것이 한 문장에 담긴 이점의 전부입니다. 개입은 게시 후가 아니라 게시 전에 일어납니다. Zealy는 Discord에 연결하고 역할을 부여하며 작업을 검증합니다. 채팅 서버가 아니며, 우리 쪽의 AI가 아무리 많아도 우리가 위치한 곳은 바뀌지 않습니다. 문제가 "나쁜 메시지가 절대 나타나서는 안 된다"라면, 그것을 해결하는 도구는 이미 파이프라인에 있는 도구입니다. 우리의 Discord 참여 도구 조사 는 그 계층에 속하는 다른 것들을 다룹니다.

Cove의 이점은 구조적이며, 더 흥미로운 쪽입니다. Cove는 자사 문서에서 스스로를 "Cove는 Trust & Safety를 위한 노코드 플랫폼입니다"라고 설명한 뒤, 자사 자동화에 대해 이렇게 씁니다. "일부 유해 콘텐츠는 필연적으로 Automated Rules를 통과할 것이며, 사용자들에 의해 신고/플래그될 것입니다. Moderator Console을 통해 귀하의 모더레이터는 해당 신고를 검토하고 우리 UI에서 직접 조치를 취할 수 있습니다."

벤더가 판매하는 제품에 관한 자사 제품 문서에서 "필연적으로"라는 단어를 다시 읽어보세요. Cove는 자동화 계층이 틀릴 것이라는 점이 존재 이유의 전부인 표면을 설계했고, 그것을 지원 티켓이 아닌 제품의 일급 요소로 포착하는 워크플로를 구축했습니다.

Zealy에는 검토에 대한 실행 취소가 있으며, 이는 같은 것이 아닙니다. 실행 취소는 판정이 틀렸음을 이미 아는 사람을 위한 제어입니다. Cove가 가진 것은 놓친 것들이 도착하는 장소입니다. 자사의 실패를 처리하는 방식을 부분적으로 고려해 플랫폼을 선택한다면, 그 구분이 시험해 볼 구분이며, 우리에게도 시험해 보아야 합니다. 그 결정에서 더 이른 단계라면 커뮤니티 관리 소프트웨어 에 대한 더 넓은 비교를 작성했고, 우리 자체 범위에 대한 평범한 설명을 원한다면 Zealy란 무엇인가 를 참고하세요.

에이전트가 틀렸을 때 누가 책임지는가

당신입니다. 2024년 2월, 캐나다 재판소는 에어캐나다의 웹사이트 챗봇이 슬퍼하는 승객에게 잘못된 정보를 제공한 후 손해배상을 명령했습니다. 에어캐나다는 재판소의 표현에 따르면, 챗봇이 자사 행동에 책임이 있는 별도의 법적 실체라고 주장했습니다. 재판소는 총 CA$812.02를 배상하라고 판결했으며, 그중 CA$650.88이 손해배상액이었습니다.

The Register는 2024년 2월 15일 Katyanna Quach의 기사에서 이를 보도했으며, 제목은 "에어캐나다, 챗봇이 슬퍼하는 승객에게 할인에 대해 거짓말한 후 손해배상해야 한다"였습니다. 이 사건을 심리한 재판소 위원은 Christopher Rivers였으며, The Register는 항공사의 입장을 규정한 판결문을 인용합니다. "실질적으로 에어캐나다는 챗봇이 자사 행동에 책임이 있는 별도의 법적 실체라고 시사합니다."

그리고 에이전트를 배포하는 모든 커뮤니티 소유자가 어딘가에서 볼 수 있어야 할 판결 문장은 이것입니다. "에어캐나다가 자사 웹사이트의 모든 정보에 책임이 있다는 것은 명백해야 합니다. 정보가 정적 페이지에서 오든 챗봇에서 오든 차이는 없습니다."

이를 인용하는 방식에 대한 한 가지 주의점이 있습니다. 우리는 판결문 자체가 아니라 The Register의 보도를 인용하고 있으며, 판결문은 읽지 않았고 판례 인용도 기재하지 않습니다.

금액은 작지만 원칙은 그렇지 않습니다. 당신의 커뮤니티에서 말하는 에이전트는 당신의 커뮤니티에서 말하는 당신입니다. 구성원들은 그것이 말한 것에 대해 당신에게 책임을 물을 것이며, 적어도 한 재판소도 그렇게 했습니다. 이는 에이전트가 만들어낸 환불 정책, 당신이 작성한 적 없는 규칙을 진술하는 것, 그리고 부여하는 차단에 적용됩니다. "AI가 그랬다"는 변론으로 시험되었고 패했습니다.

자신의 커뮤니티를 위한 경계를 설정하는 방법

에이전트가 내릴 결정을 적고, 각 결정이 틀렸을 때 무슨 일이 일어나며 누가 고치는지 적으세요. 고칠 사람의 이름을 댈 수 없다면 그 결정은 자동화할 준비가 되지 않은 것입니다. 이 한 가지 연습이 눈감고 고를 어떤 신뢰 임계값보다도 가치가 있습니다.

위 근거가 뒷받침하는 내용을 우리가 실행할 순서대로 짧게 정리하면 다음과 같습니다:

1. 기계적인 작업은 즉시 자동화하세요. 초안 작성, 일정 예약, 요약, 라우팅, 태깅. 단점은 잘못된 초안이고, 잘못된 초안을 처리하는 방법은 이미 알고 있습니다.
2. 결과가 따르는 일이라면 임계값을 만들기 전에 중간 조치를 먼저 만드세요. DTSP 보고서의 저신뢰 경로는 작고 되돌릴 수 있는 조치를 취한 뒤 사례를 다음 단계로 넘깁니다. 보류된 클레임, 순위가 내려간 게시물, 제한되었지만 삭제되지는 않은 계정 같은 것입니다. 선택지가 "조치"와 "대기" 둘뿐이라면 고르는 모든 임계값은 한쪽 방향으로 틀리게 됩니다.
3. 인간 검토 단계를 소프트웨어로 취급하고 소프트웨어처럼 테스트하세요. Discord의 것은 서류상으로만 존재했고 작동하지 않았습니다. 여러분의 것은 마지막으로 언제 실제로 작동했는지, 그리고 작동이 멈추면 무엇으로 알 수 있는지 물어보세요.
4. 번복 횟수를 세세요. 아무도 측정하지 않는 이의 제기 경로는 불만 접수 양식일 뿐입니다. 번복률은 자동화된 결정이 충분히 좋은지에 대해 얻을 수 있는 유일하게 정직한 지표이며, 기록하는 데 드는 비용은 거의 없습니다.
5. 그것이 말하는 모든 것에 대해 책임이 있다고 가정하세요. Air Canada는 재판부 앞에서 반대 입장을 시도했습니다.

제목의 질문에는 실제 답이 있으며 어깨를 으쓱하는 것으로 끝나지 않습니다. AI 에이전트는 오늘날 여러분 커뮤니티의 기계적인 작업을 잘 수행할 수 있으며, 그렇게 맡겨야 합니다. 하지만 누가 제거되고 누가 보상을 받으며 여러분의 정책이 무엇인지를 결정하는 존재가 될 수는 아직 없습니다. 그것은 에이전트가 멍청해서가 아니라, 사례별로 예측할 수 없는 방식으로 신뢰할 수 없기 때문이며, 그 뒤에 둘 인간 안전망 역시 자체적인 실패 모드를 지닌 소프트웨어이기 때문입니다. 둘 다 틀리는 경우를 염두에 두고 설계한다면, 과대광고나 반발 어느 쪽이든 얻을 수 있었던 것보다 더 나은 무언가를 만들어낸 것이 됩니다.