温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

mongodb 分组 topN

发布时间:2020-07-14 10:42:18 来源:网络 阅读:305 作者:raqsoft 栏目:大数据

      在统计应用项目中,我们经常会遇到这样的需求:将大量的对象进行排序,然后只需要取出前 N 名作为排行榜的数据,这就是 TopN 算法。mongodb作为nosql数据库的典型代表,能够存储海量数据,在使用过程中也经常会遇到TopN的需求,例如将需要字段的最新数据从mongodb中获取出来。下面就使用集算器 SPL 语言操作,通过案例分析如何实现上述功能。

      Collection last3有两个字段:variable和timestamp,这里首先按variable分组,然后在每组文档中选出timestamp最晚的3个,最后再从这些文档中找到timestamp最早的1个。

      last3的部分数据如下:

{"_id" :   ObjectId("54f69645e4b077ed8d997857"),"variable" :   "A", "timestamp" : ISODate("1995-01-01T00:00:00Z")}

{"_id" :   ObjectId("54f69645e4b077ed8d997856"),"variable" :   "A", "timestamp" : ISODate("1995-01-02T00:00:00Z")}

{"_id" :   ObjectId("54f69645e4b077ed8d997855"),"variable" :   "A", "timestamp" : ISODate("1995-01-03T00:00:00Z")}

{"_id" :   ObjectId("54f69645e4b077ed8d997854"),"variable" :   "B", "timestamp" : ISODate("1995-01-02T00:00:00Z")}

{"_id" :   ObjectId("54f69645e4b077ed8d997853"),"variable" :   "B", "timestamp" : ISODate("1995-01-01T00:00:00Z")}

{"_id" :   ObjectId("54f69645e4b077ed8d997852"),"variable" :   "B", "timestamp" : ISODate("1994-01-03T00:00:00Z")}

{"_id" :   ObjectId("54f69645e4b077ed8d997851"),"variable" :   "C", "timestamp" : ISODate("1994-01-03T00:00:00Z")}

{"_id" :   ObjectId("54f69645e4b077ed8d997850"),"variable" :   "C", "timestamp" : ISODate("1994-01-02T00:00:00Z")}

{"_id" :   ObjectId("54f69645e4b077ed8d997858"),"variable" :   "C", "timestamp" : ISODate("1994-01-01T00:00:00Z")}

{"_id" :   ObjectId("54f69645e4b077ed8d997859"),"variable" :   "C", "timestamp" : ISODate("1993-01-01T00:00:00Z")}

集算器代码:


AB
1=mongo_open("mongodb://localhost:27017/local?user=test&password=test")
2=mongo_shell(A1,"last3.find(,{_id:0};{variable:1})")
3for A2;variable=A3.top(3;-timestamp)
4
=@|B3
5=B4.minp(~.timestamp)
6=mongo_close(A1)

      A1:连接MongoDB,连接字格式为mongo://ip:port/db?arg=value&…。

      A2:使用find函数从MongoDB中取数并排序,形成游标。collectoin是last3,过滤条件是空,取出_id之外的所有字段,并按variable排序。

      A3:循环从游标读数,每次取variable字段相同的一组文档。A3循环的的作用范围是缩进的B3到B4,在这个范围中可以用A3来引用循环变量,这里A3是内存数据,在调试方式下可以查看某次取数的结果如下:

variabletimestamp
C1994-01-03 08:00:00
C1994-01-02 08:00:00
C1994-01-01 08:00:00
C1993-01-01 08:00:00

      B3:选出本组文档中timestamp最晚(大)的3个。

      B4:将B3不断地追加到B4中。B4如下:

variabletimestamp
A1995-01-03 08:00:00
A1995-01-02 08:00:00
A1995-01-01 08:00:00
B1995-01-02 08:00:00
B1995-01-01 08:00:00
B1994-01-03 08:00:00
C1994-01-03 08:00:00
C1994-01-02 08:00:00
C1994-01-01 08:00:00

      A5:选出B4中timstamp最早(小)的那个文档,即:

variabletimestamp
C1994-01-01 08:00:00

      A6:关闭mongodb连接。

      实现类似Mongodb的topN的需求,使用SPL语言能简化mongodb shell的实现,相对mongodb脚本容易多了。


向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI