Python的语言特性,轻松绕过5次每秒的Write Contention

2011-01-28 18:20:39 +08:00
 ayanamist
http://code.google.com/intl/it/appengine/articles/scaling/contention.html
http://code.google.com/intl/it/appengine/articles/handling_datastore_errors.html
GAE有每个Entity Group每秒只能写入5次的硬限制,多于五次就会开始抛出ApplicationError 5的错误。
#TwiTalkerPlus的短ID列表读写很频繁,几乎是1:1,之前想不到什么很好的办法,刚才看Python的文档,发现类可以create on-the-fly,于是想到个hack。

cls = type('IdList%d' % shard, (IdList,), {})
short_id_list = cls(key_name=jid, short_id_list_str=data)

动态的生成一个Entity,然后再写入。这样就可以动态创造很多Entity Group了,每个遇到Write Contention的可能性都要小很多~

只是要注意的是Pickle之前也要hack一下,否则会报Can't pickle <class 'xxx'>: it's not found as xxx

setattr(sys.modules[__name__], data.__class__.__name__, type(data))

Python语言真是太强大了,哇咔咔
3130 次点击
所在节点    Google App Engine
0 条回复

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/7776

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX