本帖最后由 测试5375 于 2026-4-24 10:55 编辑
问题描述:调用接口 /public-api/data-source/{dsId}/token/{token} 下载数据集数据 时,发现下载的数据总数和bi的总数是一致的,但是内容有重复数据。
使用接口如下图
使用下载数据集进行数据下载,因为这里的单次请求最大返回五万条条,所以需要分页返回,利用offset分页,看文档解释offset是偏移量,以前天22号的数据为例子,观远页面当日展示数据总量为218166条
所以我们需要请求五次,每次的偏移量是50000,即offset 分别为 0,50000,100000,150000,200000, limit 一直为 50000, 我们同步过来的数据总量是正确的
但是商品数据不对,通过api请求返回的所有日志中,以“洁柔百花香可湿水面纸140抽”这个商品为例,五次请求的日志展示总共82条
但是在页面进行筛选结果是119条,
所以造成了部分商品数据确实,部分商品数据增加了,因为同步过来的数据总量是一样的
|