草庐IT

mysql - 上传的文件 - 数据库与文件系统,使用 Grails 和 MySQL 时

coder 2023-10-16 原文

我知道这是一个“经典问题”,但是 mysql/grails(部署在 Tomcat 上)是否对考虑如何处理用户上传文件的存储提出了新的要求。

我喜欢将数据库用于一切(更简单的架构,扩展就是扩展数据库)。但是使用文件系统意味着我们不会用二进制文件来填充 mysql。有些人可能还会争辩说,apache (httpd) 在提供二进制文件方面比 Tomcat 更快,尽管我看到的数字实际上表明,将 Tomcat 放在您网站的前端可能比使用 apache (httpd) 代理更快。

我应该如何选择放置用户上传文件的位置?

感谢您的考虑、时间和想法。

最佳答案

我不知道是否可以对这种决定进行一般性观察,因为这实际上取决于您要尝试做什么以及优先级列表 NFR(例如性能和响应时间)对您的应用程序的影响。

如果您有很多用户,上传大量二进制文件,并且系统为大量上传的二进制文件提供服务,那么在数据库中存储文件的成本包括:

  • 大型二进制文件
  • 昂贵的查询

好处是

  • 原子提交
  • 数据库随附扩展(尽管 MySQL 在多节点等方面存在一些问题)
  • 管理文件系统等的代码不那么繁琐和复杂

给定存储到文件系统的相同用户情况,您将需要解决

  • 缩放
  • 文件名管理(用户上传同名文件两次等)
  • 在数据库中创建相应的记录以映射到磁盘上的文件(以及围绕所有这些的代码)
  • 照管您的 apache 配置,以便它们从文件系统提供服务

对于我们的 Grails 网站,我们有一个类似的问题需要解决,内容编辑每天要上传数百张图片。我们知道,当可以更好地用于其他处理时,通过应用程序驱动所有需求是一种浪费(考虑到页面的预期需求将达到每周数百万,我们绝对不希望图像削弱我们)。

我们最终创建了上传 -> 文件系统解决方案。对于每个上传的文件,都会在上传过程中创建和管理数据库元数据记录(并在生成指向图像的 GSP 内容链接时反过来读取该记录)。我们直接根据浏览器请求的链接通过 Apache 处理磁盘请求。但是,总有一个但是,请记住,对于文件系统之类的东西,每台机器只有内容。

我们很头疼确保图像重新同步到每台服务器上,因为与位于集群后面并使集群行为一致的数据库不同,文件被绑定(bind)到服务器上的物理位置。

文件系统可能遇到的另一个问题是文件夹内容大小。当您开始拥有其中实际上有数万个文件的文件夹时,操作系统级别的文件夹扫描开始真正拖延。为了避免这个问题,我们不得不编写代码来管理图像上传到 yyyy/MM/dd/image.name.jpg 文件夹结构中,这样就没有一个文件夹可以累积数十万张图像。

我的意思是,虽然我们通过不使用数据库来存储 BLOB 而获得了我们想要的性能,但这是以开发开销和系统管理为代价的。

关于mysql - 上传的文件 - 数据库与文件系统,使用 Grails 和 MySQL 时,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/491944/

有关mysql - 上传的文件 - 数据库与文件系统,使用 Grails 和 MySQL 时的更多相关文章

  1. ruby - 如何使用 Nokogiri 的 xpath 和 at_xpath 方法 - 2

    我正在学习如何使用Nokogiri,根据这段代码我遇到了一些问题:require'rubygems'require'mechanize'post_agent=WWW::Mechanize.newpost_page=post_agent.get('http://www.vbulletin.org/forum/showthread.php?t=230708')puts"\nabsolutepathwithtbodygivesnil"putspost_page.parser.xpath('/html/body/div/div/div/div/div/table/tbody/tr/td/div

  2. ruby - 使用 RubyZip 生成 ZIP 文件时设置压缩级别 - 2

    我有一个Ruby程序,它使用rubyzip压缩XML文件的目录树。gem。我的问题是文件开始变得很重,我想提高压缩级别,因为压缩时间不是问题。我在rubyzipdocumentation中找不到一种为创建的ZIP文件指定压缩级别的方法。有人知道如何更改此设置吗?是否有另一个允许指定压缩级别的Ruby库? 最佳答案 这是我通过查看ruby​​zip内部创建的代码。level=Zlib::BEST_COMPRESSIONZip::ZipOutputStream.open(zip_file)do|zip|Dir.glob("**/*")d

  3. ruby - 为什么我可以在 Ruby 中使用 Object#send 访问私有(private)/ protected 方法? - 2

    类classAprivatedeffooputs:fooendpublicdefbarputs:barendprivatedefzimputs:zimendprotecteddefdibputs:dibendendA的实例a=A.new测试a.foorescueputs:faila.barrescueputs:faila.zimrescueputs:faila.dibrescueputs:faila.gazrescueputs:fail测试输出failbarfailfailfail.发送测试[:foo,:bar,:zim,:dib,:gaz].each{|m|a.send(m)resc

  4. ruby-on-rails - 使用 Ruby on Rails 进行自动化测试 - 最佳实践 - 2

    很好奇,就使用ruby​​onrails自动化单元测试而言,你们正在做什么?您是否创建了一个脚本来在cron中运行rake作业并将结果邮寄给您?git中的预提交Hook?只是手动调用?我完全理解测试,但想知道在错误发生之前捕获错误的最佳实践是什么。让我们理所当然地认为测试本身是完美无缺的,并且可以正常工作。下一步是什么以确保他们在正确的时间将可能有害的结果传达给您? 最佳答案 不确定您到底想听什么,但是有几个级别的自动代码库控制:在处理某项功能时,您可以使用类似autotest的内容获得关于哪些有效,哪些无效的即时反馈。要确保您的提

  5. ruby - 在 Ruby 中使用匿名模块 - 2

    假设我做了一个模块如下:m=Module.newdoclassCendend三个问题:除了对m的引用之外,还有什么方法可以访问C和m中的其他内容?我可以在创建匿名模块后为其命名吗(就像我输入“module...”一样)?如何在使用完匿名模块后将其删除,使其定义的常量不再存在? 最佳答案 三个答案:是的,使用ObjectSpace.此代码使c引用你的类(class)C不引用m:c=nilObjectSpace.each_object{|obj|c=objif(Class===objandobj.name=~/::C$/)}当然这取决于

  6. ruby - 其他文件中的 Rake 任务 - 2

    我试图在一个项目中使用rake,如果我把所有东西都放到Rakefile中,它会很大并且很难读取/找到东西,所以我试着将每个命名空间放在lib/rake中它自己的文件中,我添加了这个到我的rake文件的顶部:Dir['#{File.dirname(__FILE__)}/lib/rake/*.rake'].map{|f|requiref}它加载文件没问题,但没有任务。我现在只有一个.rake文件作为测试,名为“servers.rake”,它看起来像这样:namespace:serverdotask:testdoputs"test"endend所以当我运行rakeserver:testid时

  7. ruby-on-rails - 在 Rails 中将文件大小字符串转换为等效千字节 - 2

    我的目标是转换表单输入,例如“100兆字节”或“1GB”,并将其转换为我可以存储在数据库中的文件大小(以千字节为单位)。目前,我有这个:defquota_convert@regex=/([0-9]+)(.*)s/@sizes=%w{kilobytemegabytegigabyte}m=self.quota.match(@regex)if@sizes.include?m[2]eval("self.quota=#{m[1]}.#{m[2]}")endend这有效,但前提是输入是倍数(“gigabytes”,而不是“gigabyte”)并且由于使用了eval看起来疯狂不安全。所以,功能正常,

  8. ruby - 使用 ruby​​ 和 savon 的 SOAP 服务 - 2

    我正在尝试使用ruby​​和Savon来使用网络服务。测试服务为http://www.webservicex.net/WS/WSDetails.aspx?WSID=9&CATID=2require'rubygems'require'savon'client=Savon::Client.new"http://www.webservicex.net/stockquote.asmx?WSDL"client.get_quotedo|soap|soap.body={:symbol=>"AAPL"}end返回SOAP异常。检查soap信封,在我看来soap请求没有正确的命名空间。任何人都可以建议我

  9. python - 如何使用 Ruby 或 Python 创建一系列高音调和低音调的蜂鸣声? - 2

    关闭。这个问题是opinion-based.它目前不接受答案。想要改进这个问题?更新问题,以便editingthispost可以用事实和引用来回答它.关闭4年前。Improvethisquestion我想在固定时间创建一系列低音和高音调的哔哔声。例如:在150毫秒时发出高音调的蜂鸣声在151毫秒时发出低音调的蜂鸣声200毫秒时发出低音调的蜂鸣声250毫秒的高音调蜂鸣声有没有办法在Ruby或Python中做到这一点?我真的不在乎输出编码是什么(.wav、.mp3、.ogg等等),但我确实想创建一个输出文件。

  10. ruby-on-rails - Rails 3 中的多个路由文件 - 2

    Rails2.3可以选择随时使用RouteSet#add_configuration_file添加更多路由。是否可以在Rails3项目中做同样的事情? 最佳答案 在config/application.rb中:config.paths.config.routes在Rails3.2(也可能是Rails3.1)中,使用:config.paths["config/routes"] 关于ruby-on-rails-Rails3中的多个路由文件,我们在StackOverflow上找到一个类似的问题

随机推荐