MongoDB 存储大量指标分析数据的方法

发布于04月20日

我们计划使用MongoDB存储大量分析数据，如视图和点击.我不确定在MongoDB中构建文档以帮助查询和减少数据库大小的最佳方法.

我们需要根据页面名、客户端和操作类型记录操作.理想情况下，我们需要的数据是年/月/日/小时级别，我们不需要或不关心每秒或每分钟的浏览量.虽然这个文档 struct 看起来还可以，但我知道100个访问者将生成100个新文档.

{ 
  "_id" : ObjectId( "4dabdef81a34961506040000" ),
  "pagename" : "Hello",
  "action" : "view",
  "client" : "client-name",
  "time" : Date( "Mon Apr 18 07:49:28 2011" )
}

Is there best practice way of doing this, either using $inc or Capped Collections?

推荐答案

Updated answer

在mongo shell中被黑客攻击:

use pagestats;

// a little helper function
var pagePerHour = function(pagename) {
    d = new Date();
    return {
        page : pagename,
        year: d.getUTCFullYear(),
        month: d.getUTCMonth(),
        day : d.getUTCDate(),
        hour: d.getUTCHours(),
    }
}

// a pageview happened
db.pagestats.update(
    pagePerHour('Hello'),
    { $inc : { views : 1 }},
    true ); //we want to upsert

// somebody tweeted our page twice!
db.pagestats.update(
    pagePerHour('Hello'),
    { $inc : { tweets : 2 }},
    true ); //we want to upsert

db.pagestats.find();
// { "_id" : ObjectId("4dafe88a02662f38b4a20193"),
//   "year" : 2011, "day" : 21, "hour" : 8, "month" : 3,
//   "page" : "Hello",
//   "tweets" : 2, "views" : 1 }

// 24 hour summary 'Hello' on 2011-4-21
for(i = 0; i < 24; i++) {
    //careful: days (1-31), month (0-11) and hours (0-23)
    stats = db.pagestats.findOne({ page: 'Hello', year: 2011, month: 3, day : 21, hour : i})
    if(stats) {
        print(i + ': ' + stats.views + ' views')
    } else {
        print(i + ': no hits')
    };
}

取决于您想跟踪哪些方面，可以考虑添加更多的集合(例如，以用户为中心的跟踪的集合).希望有帮助.

See also

Blogpost about Analytics Data