“这不可能”.

四分之一的访问来自Windows上的Safari——而苹果在2012年就停止了Windows版Safari的发布。我们用StreamMyData AI智能体进行的一次调查,正是从这个细节开始的。下面讲讲它发现了什么,以及在我看来,一个值得信赖的AI智能体应该是什么样子。

三股相同的人形流汇入同一条传送带:三个广告来源原来是同一股人工流量

与StreamMyData网站上的原文(俄语)一样,本案例匿名:客户是一家建筑行业的全国性制造商,服务商不具名。 我曾在PMF上简要展示过这个案例,这里是详细版。

我们在打造什么

我和团队正在StreamMyData内部打造用于营销管理的AI智能体。它接入客户的数据——广告账户、网站分析、CRM—— 用自然语言而不是报表来回答关于数据的问题。其功能之一,是找出流量中不像真人的部分。

好得过头的报表

客户以行为指标评估广告服务商:网站停留时长和浏览深度。上一家服务商没完成KPI,客户换了新的。新服务商上线了三个横幅CPC来源—— 称之为A、B、C——几周后报表堪称完美:每次访问2.4页、停留2分25秒、几乎没有跳出。

三个不同的广告网络有不同的媒体和受众,指标通常相差明显。而这里精确到小数点都一致。团队给智能体发了一条消息,结尾是:“这不可能。”

平均停留时长(秒)
来源 A146.9
来源 B145.7
来源 C145.8
其余74.7
跳出率(%)
来源 A3.7%
来源 B3.8%
来源 C3.8%
其余36.8%
达成目标的访问(%)
A–C合计82.9%
其余35.3%
Windows上的Safari(访问占比%)
A–C合计25%
其余7.1%

新服务商的来源(A、B、C)网站其余流量

放大镜下一排排相同的窗口和图表:完美得不像真的指标
三个不同广告网络的指标精确到小数点一致。

智能体的八分钟

智能体用8分4秒、48次数据查询完成了调查。没有它,就要手工导出原始分析数据、把27.9万次命中与访问拼接、写几十条SQL。它发现了:

  • 每次访问都是新用户。80,216次访问对应80,215个clientID:两周内只有一位访客回访。99.99%的新用户访问没有来源页,其余流量中这一比例为65.3%。
  • 八万次访问只有四种设备模板。三个来源的占比完全相同。四分之一是Windows上的Safari,而iPhone的主力浏览器——移动版Safari——几乎没有出现。
  • 按时间表触发的目标。72%的访问中,第一个目标恰好在第30秒触发——三个网络完全一样。
  • 共同的网络。三个来源共享一组IP前缀,在相同的分钟出现同样的访问批次。

智能体的结论:三个广告来源是贴着三个标签的同一股人工访问流。它整理了证据,并起草了提交给Yandex反作弊团队的申诉。

8分钟智能体完成整个调查,48次数据查询
80,216次可疑访问被分析到命中级别
27.9万次命中与访问关联,匹配率100%
3 → 1三个来源原来是同一股流量

值得信赖的AI智能体是什么样的

对我来说,这个案例重要的不是证据本身,而是智能体的工作方式。这正是我们在产品中坚持的原则。

  • 主动说明缺什么。调查中智能体两次要求接入新数据——命中、IP地址、UTM标记——并解释了为什么需要它们来证明结论。
  • 区分事实与假设。它分别列出了可以确定的、不能确定的以及缺少哪些数据。第30秒触发的是哪个目标,它建议去核实,而不是凭空猜测。
  • 落到行动。不是“给你一些图表”,而是一份可直接提交的反作弊申诉,外加表单用的简短版本。
  • 透明。48次查询中的每一次都可以打开手动核查。智能体负责查找——人来做决定。
AI助手把一摞系着丝带的文件递给桌前的分析师
智能体负责查找和准备文件——决定权留给人。

给企业主的一课

如果为某个指标向服务商付费,您得到的就是那个指标。客户以停留时长评价广告——于是停留时长变得完美。行为KPI有用,但必须与收入挂钩: 线索、销售和流量质量核查。不同来源的指标精确到小数点一致,不是成功,而是需要核查的信号。

StreamMyData网站上的完整案例与全部证据(俄语)↗

← 全部文章 · 演讲与出版