“这不可能”.
四分之一的访问来自Windows上的Safari——而苹果在2012年就停止了Windows版Safari的发布。我们用StreamMyData AI智能体进行的一次调查,正是从这个细节开始的。下面讲讲它发现了什么,以及在我看来,一个值得信赖的AI智能体应该是什么样子。
与StreamMyData网站上的原文(俄语)一样,本案例匿名:客户是一家建筑行业的全国性制造商,服务商不具名。 我曾在PMF上简要展示过这个案例,这里是详细版。
我们在打造什么
我和团队正在StreamMyData内部打造用于营销管理的AI智能体。它接入客户的数据——广告账户、网站分析、CRM—— 用自然语言而不是报表来回答关于数据的问题。其功能之一,是找出流量中不像真人的部分。
好得过头的报表
客户以行为指标评估广告服务商:网站停留时长和浏览深度。上一家服务商没完成KPI,客户换了新的。新服务商上线了三个横幅CPC来源—— 称之为A、B、C——几周后报表堪称完美:每次访问2.4页、停留2分25秒、几乎没有跳出。
三个不同的广告网络有不同的媒体和受众,指标通常相差明显。而这里精确到小数点都一致。团队给智能体发了一条消息,结尾是:“这不可能。”
新服务商的来源(A、B、C)网站其余流量
智能体的八分钟
智能体用8分4秒、48次数据查询完成了调查。没有它,就要手工导出原始分析数据、把27.9万次命中与访问拼接、写几十条SQL。它发现了:
- 每次访问都是新用户。80,216次访问对应80,215个clientID:两周内只有一位访客回访。99.99%的新用户访问没有来源页,其余流量中这一比例为65.3%。
- 八万次访问只有四种设备模板。三个来源的占比完全相同。四分之一是Windows上的Safari,而iPhone的主力浏览器——移动版Safari——几乎没有出现。
- 按时间表触发的目标。72%的访问中,第一个目标恰好在第30秒触发——三个网络完全一样。
- 共同的网络。三个来源共享一组IP前缀,在相同的分钟出现同样的访问批次。
智能体的结论:三个广告来源是贴着三个标签的同一股人工访问流。它整理了证据,并起草了提交给Yandex反作弊团队的申诉。
值得信赖的AI智能体是什么样的
对我来说,这个案例重要的不是证据本身,而是智能体的工作方式。这正是我们在产品中坚持的原则。
- 主动说明缺什么。调查中智能体两次要求接入新数据——命中、IP地址、UTM标记——并解释了为什么需要它们来证明结论。
- 区分事实与假设。它分别列出了可以确定的、不能确定的以及缺少哪些数据。第30秒触发的是哪个目标,它建议去核实,而不是凭空猜测。
- 落到行动。不是“给你一些图表”,而是一份可直接提交的反作弊申诉,外加表单用的简短版本。
- 透明。48次查询中的每一次都可以打开手动核查。智能体负责查找——人来做决定。
给企业主的一课
如果为某个指标向服务商付费,您得到的就是那个指标。客户以停留时长评价广告——于是停留时长变得完美。行为KPI有用,但必须与收入挂钩: 线索、销售和流量质量核查。不同来源的指标精确到小数点一致,不是成功,而是需要核查的信号。