草庐IT

java - Google App-Engine Datastore 速度极慢

coder 2024-03-08 原文

我需要帮助来理解为什么下面的代码需要 3 到 4 秒。

更新:我的应用程序的用例是获取某人自上次登录以来的 Activity 提要。该提要可以包含来自 friend 的更新或他可能感兴趣的他网络之外的一些新项目。 Activity 表存储所有此类 Activity ,当用户登录时,我在 GAE-DataStore 上运行查询以返回上述 Activity 。我的应用程序也支持无限滚动,因此我需要 GAE 的光标功能。在给定时间,我得到大约 32 个项目,但 Activity 表可能有数百万行(因为它包含来自所有用户的数据)。

目前 Activity 表很小,只包含 25 条记录,下面的 java 代码只从同一个表中读取 3 条记录。

Activity 表中的每条记录都有 4 个 UUID 字段。

我无法想象如果表包含数百万行并且结果包含数百行,查询会如何表现。

我下面的代码有问题吗?

(我正在使用 Objectify 和应用引擎游标)

Filter filter = new FilterPredicate("creatorID", FilterOperator.EQUAL, userId);
Query<Activity> query = ofy().load().type(Activity.class).filter(filter);
query = query.startAt(Cursor.fromWebSafeString(previousCursorString));
QueryResultIterator<Activity> itr = query.iterator();
while (itr.hasNext())
{
    Activity a = itr.next();
    System.out.println (a);
}

我已经经历了Google App Engine Application Extremely slow并验证如果我继续刷新我的页面(调用上面的代码)响应时间会有所改善。然而,改进只有 ~30%

将此与任何其他数据库进行比较,如此小的数据的响应时间以毫秒为单位,甚至不到 100 毫秒。

我对 GAE DataStore 的常规数据库性能的期望是错误的吗?

我现在还不想打开 memcache,因为我想在不先缓存的情况下改进这一层。

最佳答案

不确定您的查询应该做什么,但它看起来并不需要游标查询。在我看来,游标查询的唯一有效用例是对结果行数有限的数据进行分页查询。由于您的查询没有限制,我根本不明白您为什么要使用游标。

当您需要数百万个结果时,您可能正在对数据进行临时分析(因为没有人能够解释数百万个原始数据行),您最好使用 BigQuery 而不是应用引擎数据存储区。我只是在这里猜测,但对于普通的前端应用程序,您很少需要结果中的数百万行,而只需要从可用行总数中筛选出几行(有时可能数百行)。

另一件事:

您确定是查询耗时较长吗?它也可能是查询的包装器。由于您使用的是游标,因此您必须重新调用查询,直到没有更多结果为止。处理此问题的成本可能很高。

最后:

您是在 appengine 本身还是在本地开发服务器上进行测试? devserver 显然不能模拟云,因此有时可能比真实的东西慢(或快)。当您的查询生成新实例时,devserver 不知道实例预热时间。

说到云:关于云数据库的事情不在于它们对极少的数据具有最佳性能,而是它们在处理数百和数十亿行时始终如一地扩展和执行。

编辑:

After performing a retrieval operation, the application can obtain a cursor, which is an opaque base64-encoded string marking the index position of the last result retrieved.

[...]

The cursor's position is defined as the location in the result list after the last result returned. A cursor is not a relative position in the list (it's not an offset); it's a marker to which the Datastore can jump when starting an index scan for results. If the results for a query change between uses of a cursor, the query notices only changes that occur in results after the cursor. If a new result appears before the cursor's position for the query, it will not be returned when the results after the cursor are fetched. (Datastore Queries)

这两个语句使人们相信查询性能应该与游标查询或不使用游标查询保持一致。

这里还有一些你可能想要检查的东西:

  • 如何使用 objectify 注册您的实体类?
  • 您的实际测试代码是什么样的?我想看看您如何以及在何处进行测量。
  • 能否分享一下游标查询和无游标查询之间的比较?
  • 多个请求的改进可能是 Objectifys 集成缓存的结果。您可能希望为数据存储性能测试禁用缓存

关于java - Google App-Engine Datastore 速度极慢,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/30022910/

有关java - Google App-Engine Datastore 速度极慢的更多相关文章

  1. java - 等价于 Java 中的 Ruby Hash - 2

    我真的很习惯使用Ruby编写以下代码:my_hash={}my_hash['test']=1Java中对应的数据结构是什么? 最佳答案 HashMapmap=newHashMap();map.put("test",1);我假设? 关于java-等价于Java中的RubyHash,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/22737685/

  2. java - 从 JRuby 调用 Java 类的问题 - 2

    我正在尝试使用boilerpipe来自JRuby。我看过guide从JRuby调用Java,并成功地将它与另一个Java包一起使用,但无法弄清楚为什么同样的东西不能用于boilerpipe。我正在尝试基本上从JRuby中执行与此Java等效的操作:URLurl=newURL("http://www.example.com/some-location/index.html");Stringtext=ArticleExtractor.INSTANCE.getText(url);在JRuby中试过这个:require'java'url=java.net.URL.new("http://www

  3. java - 我的模型类或其他类中应该有逻辑吗 - 2

    我只想对我一直在思考的这个问题有其他意见,例如我有classuser_controller和classuserclassUserattr_accessor:name,:usernameendclassUserController//dosomethingaboutanythingaboutusersend问题是我的User类中是否应该有逻辑user=User.newuser.do_something(user1)oritshouldbeuser_controller=UserController.newuser_controller.do_something(user1,user2)我

  4. java - 什么相当于 ruby​​ 的 rack 或 python 的 Java wsgi? - 2

    什么是ruby​​的rack或python的Java的wsgi?还有一个路由库。 最佳答案 来自Python标准PEP333:Bycontrast,althoughJavahasjustasmanywebapplicationframeworksavailable,Java's"servlet"APImakesitpossibleforapplicationswrittenwithanyJavawebapplicationframeworktoruninanywebserverthatsupportstheservletAPI.ht

  5. Observability:从零开始创建 Java 微服务并监控它 (二) - 2

    这篇文章是继上一篇文章“Observability:从零开始创建Java微服务并监控它(一)”的续篇。在上一篇文章中,我们讲述了如何创建一个Javaweb应用,并使用Filebeat来收集应用所生成的日志。在今天的文章中,我来详述如何收集应用的指标,使用APM来监控应用并监督web服务的在线情况。源码可以在地址 https://github.com/liu-xiao-guo/java_observability 进行下载。摄入指标指标被视为可以随时更改的时间点值。当前请求的数量可以改变任何毫秒。你可能有1000个请求的峰值,然后一切都回到一个请求。这也意味着这些指标可能不准确,你还想提取最小/

  6. 【Java 面试合集】HashMap中为什么引入红黑树,而不是AVL树呢 - 2

    HashMap中为什么引入红黑树,而不是AVL树呢1.概述开始学习这个知识点之前我们需要知道,在JDK1.8以及之前,针对HashMap有什么不同。JDK1.7的时候,HashMap的底层实现是数组+链表JDK1.8的时候,HashMap的底层实现是数组+链表+红黑树我们要思考一个问题,为什么要从链表转为红黑树呢。首先先让我们了解下链表有什么不好???2.链表上述的截图其实就是链表的结构,我们来看下链表的增删改查的时间复杂度增:因为链表不是线性结构,所以每次添加的时候,只需要移动一个节点,所以可以理解为复杂度是N(1)删:算法时间复杂度跟增保持一致查:既然是非线性结构,所以查询某一个节点的时候

  7. 【Java入门】使用Java实现文件夹的遍历 - 2

    遍历文件夹我们通常是使用递归进行操作,这种方式比较简单,也比较容易理解。本文为大家介绍另一种不使用递归的方式,由于没有使用递归,只用到了循环和集合,所以效率更高一些!一、使用递归遍历文件夹整体思路1、使用File封装初始目录,2、打印这个目录3、获取这个目录下所有的子文件和子目录的数组。4、遍历这个数组,取出每个File对象4-1、如果File是否是一个文件,打印4-2、否则就是一个目录,递归调用代码实现publicclassSearchFile{publicstaticvoidmain(String[]args){//初始目录Filedir=newFile("d:/Dev");Datebeg

  8. java - 为什么 ruby​​ modulo 与 java/other lang 不同? - 2

    我基本上来自Java背景并且努力理解Ruby中的模运算。(5%3)(-5%3)(5%-3)(-5%-3)Java中的上述操作产生,2个-22个-2但在Ruby中,相同的表达式会产生21个-1-2.Ruby在逻辑上有多擅长这个?模块操作在Ruby中是如何实现的?如果将同一个操作定义为一个web服务,两个服务如何匹配逻辑。 最佳答案 在Java中,模运算的结果与被除数的符号相同。在Ruby中,它与除数的符号相同。remainder()在Ruby中与被除数的符号相同。您可能还想引用modulooperation.

  9. java - Ruby 相当于 Java 的 Collections.unmodifiableList 和 Collections.unmodifiableMap - 2

    Java的Collections.unmodifiableList和Collections.unmodifiableMap在Ruby标准API中是否有等价物? 最佳答案 使用freeze应用程序接口(interface):Preventsfurthermodificationstoobj.ARuntimeErrorwillberaisedifmodificationisattempted.Thereisnowaytounfreezeafrozenobject.SeealsoObject#frozen?.Thismethodretur

  10. java - Java 的 StringReader 的 Ruby 等价物是什么? - 2

    在Java中,可以像这样从一个字符串创建一个IO流:Readerr=newStringReader("mytext");我希望能够在Ruby中做同样的事情,这样我就可以获取一个字符串并将其视为一个IO流。 最佳答案 r=StringIO.new("mytext")和here'sthedocumentation. 关于java-Java的StringReader的Ruby等价物是什么?,我们在StackOverflow上找到一个类似的问题: https://st

随机推荐