带人工审核机制的AI短信自动化服务

带人工审核的AI短信自动发送：Human-in-the-Loop避免灾难现场

自动短信的致命之处：没有"已读前删除"的缓冲

邮箱里发错邮件，收件人可能过一天才打开。短信则不同，它几秒钟内就会推送到对方手机上，直接弹在锁屏界面。没有草稿箱，没有"撤回消息"，垃圾邮件过滤也帮不上忙。这是所有做短信营销、自动提醒的团队必须面对的现实。如果你正在用AI Agent自动生成发送内容，那更要小心——它可能在某一个冷门时段，把一条带着错误变量（比如显示成{{first_name}}）的消息发给了最不该收到的人。更糟的是，如果上游数据里某条电话号码已经过期，或者有一条内部测试消息混进了生产环境，AI Agent可不会分这个轻重。

Twilio、阿里云短信、腾讯云短信这类短信供应商，只会照单全收你提交的字符串。它们不关心内容是不是合理，也不会帮你判断"这条消息该不该发"。这层检查必须发生在调用API之前，而且最好由人来做，而不是再问一遍AI："请自己检查一下。"

Human-in-the-Loop：把发送逻辑锁进"人工批准"分支

要解决这个问题，就需要引入Human-in-the-Loop机制。简单说，AI Agent负责起草内容，但真正发出之前，必须经过一个真人审批。这个真人可以是你自己、运营同事，也可以是外包客服。整个过程像一条流水线：AI提出操作，进入待审队列，人工点击同意，系统才真正调用短信接口。

这么说可能有点抽象，我们来看一个具体的例子。

实战案例：牙科诊所的预约提醒短信

假设你给一家牙科诊所做了一个预约调度AI Agent。它每天读取第二天的预约列表，自动给每位患者生成一条提醒短信，然后通过短信供应商发出去。在过去，它可能直接调用一个发送函数，哪怕模板变量偶尔损坏，也会照样发出去。现在，我们给它加一道人工闸门：每条草稿先推送到一个审批平台（比如Impri，或者更接地气一点，用企业微信的待办消息做审批入口），前台护士扫码看一眼，点一下"批准"，AI才会真正发送。

这个模式非常适合在闲鱼、猪八戒、淘宝服务上接定制化自动化项目的人。很多小诊所、小商户并不需要一套复杂的CRM，只想让AI自动发短信，又怕发错。用这种带人工审核的方案，既保留自动化效率，又守住底线，客户也愿意为此买单。

代码实现：发送调用只在approved分支里

关键代码逻辑并不复杂。我们用Python示例，假设你用的仍是某个远程审批API，同时接国内某家短信供应商。思路完全一致：

import os
import time
import requests

APPROVAL_API_KEY = os.environ["APPROVAL_API_KEY"]
BASE = "https://api.impri.dev"

def push_sms_for_approval(to_number, body):
 resp = requests.post(f"{BASE}/v1/actions", headers={
 "Authorization": f"Bearer {APPROVAL_API_KEY}"
 }, json={
 "kind": "sms.send",
 "title": f"提醒短信：{to_number}",
 "preview": {"format": "plain", "body": body},
 "expires_in": 3600,
 "editable": ["preview.body"],
 "idempotent": False
 })
 resp.raise_for_status()
 return resp.json()["id"]

def wait_for_decision(action_id, poll_every=5):
 while True:
 resp = requests.get(f"{BASE}/v1/actions/{action_id}", headers={
 "Authorization": f"Bearer {APPROVAL_API_KEY}"
 })
 data = resp.json()
 if data["status"] != "pending":
 return data
 time.sleep(poll_every)

action_id = push_sms_for_approval("13800138000", "王女士，您好，您预约的洁牙服务在明天下午2点，请准时到达。")
decision = wait_for_decision(action_id)

if decision["status"] == "approved":
 final_body = decision["decision"]["final_preview"]["body"]
 # 只有人工批准后才调用短信API
 sms_client.send(to="13800138000", from_="你的诊所号码", content=final_body)
 requests.post(f"{BASE}/v1/actions/{action_id}/result", headers={
 "Authorization": f"Bearer {APPROVAL_API_KEY}"
 }, json={"status": "executed"})

看到没有，sms_client.send这一行，只在if approved分支里出现，别的地方都没有。这就是真正的门禁，而不是走过场。这样一来，就算AI Agent受到提示词注入攻击，或者上游数据被污染，导致它想跳过审批直接调用短信接口，代码层面根本不给你这个机会。API集成不仅仅是对接一个服务，更是把业务边界写死。

API集成是技术，也是边界

这个方案的另一个好处是灵活。短信文案如果被驳回，人工可以修改后再提交，也可以设置过期时间，比如一小时后没批就算了，避免发过时的提醒。对需要控制成本的公司来说，这还能避免重复发送造成费用浪费——一次错误短信的成本看起来不高，但客户投诉、信任损失，可能远超几条短信的费用。折算成人民币，可能就是几百上千，甚至影响一个老客户的终身价值。

更重要的是，这种Human-in-the-Loop模式不只适用于短信。凡是涉及自动外呼、自动发邮件、自动发布内容，都可以套用同一个思路：先让AI草拟，再让人工确认，最后才是API调用。它把自动化流程从"无监督"变成了"可干预、可回溯"。

总结

在AI Agent大行其道的今天，自动化能力已经不是稀缺资源，可控性才是。短信营销、客户提醒、通知推送，这些高频场景里，一条错误的短信可能在几分钟内就造成客户流失。与其寄希望于模型不犯错，不如在设计流程时就加上人工闸门。Human-in-the-Loop不是倒退，而是对自动化负责。

如果你也是通过闲鱼、猪八戒或淘宝服务接外包项目的开发者，不妨在方案里加入这一环。它并不算复杂，却能在交付时给客户更强的安全感。毕竟，AI Agent可以从10分做到95分，但剩下的5分，需要人盯一下。