草庐IT

LOW_MEMORY

全部标签

python - python中的静态内存: do loops create new instances of variables in memory?

我一直在运行Python脚本,这些脚本多次调用某些函数,例如F1(x)和F2(x),看起来有点像这样:x=LoadData()forjinrange(N):y=F1(x[j])z[j]=F2(y)delySaveData(z)如果我保留“dely”行,性能会快很多。但我不明白为什么这是真的。如果我不使用“dely”,那么我很快就会用完RAM,不得不求助于虚拟内存,一切都会慢下来。如果我使用“dely”,则购买,然后我会反复刷新并重新分配y的内存。我想做的是让y作为静态内存,并在每次F1(x)调用时重用内存。但据我所知,事实并非如此。另外,不确定它是否相关,但我的数据由numpy数组组成

memory - 为什么会有栈和堆?

为什么汇编语言同时使用栈和堆?它们似乎是多余的。 最佳答案 它们不是多余的。它们每个都有优点和缺点:如果使用得当,堆栈会更快,因为内存分配是微不足道的(推送/弹出)。缺点是您只能在顶部添加和删除项目(因此名称,堆栈)。此外,总堆栈空间是有限的,当你用完时,你有一个......好吧,堆栈溢出。相比之下,堆允许随机分配和释放,您可以在那里存储大量数据,但缺点是分配带来更多开销-对于每个分配的内存块,必须找到合适的空闲部分,并且在从长远来看,需要避免空闲空间的碎片化,并且系统必须跟踪空闲block的位置。您使用堆栈来传递小的短期值,例如局

memory - PAE(物理地址扩展)如何启用大于 4GB 的地址空间?

维基百科关于PhysicalAddressExtension的文章摘录:x86processorhardware-architectureisaugmentedwithadditionaladdresslinesusedtoselecttheadditionalmemory,sophysicaladdresssizeincreasesfrom32bitsto36bits.This,theoretically,increasesmaximumphysicalmemorysizefrom4GBto64GB.附上一张解释机制的图片:但我看不到地址空间是如何从4GB扩展到64GB的。而且4*5

memory - GCC 对读/写指令的重新排序

Linux的同步原语(自旋锁、互斥锁、RCU)使用内存屏障指令来强制内存访问指令重新排序。这种重新排序既可以由CPU本身完成,也可以由编译器完成。有人可以展示一些GCC生成的代码示例,其中完成了这种重新排序吗?我主要对x86感兴趣。我问这个的原因是要了解GCC如何决定可以重新排序哪些指令。不同的x86mirco架构(例如:沙桥与Ivy桥)使用不同的缓存架构。因此,我想知道GCC如何进行有效的重新排序,这有助于提高执行性能,而与缓存架构无关。一些示例C代码和重新排序的GCC生成代码将非常有用。谢谢! 最佳答案 GCC可能进行的重新排序

memory - "Mem Usage"高于 WinXP 任务管理器中的 "VM Size"

在我的WindowsXP任务管理器中,某些进程在MemUsage列中显示的值高于VMSize。例如,我的Firefox实例显示内存使用量为111544K,VMSize为100576K。根据任务管理器的帮助文件,MemUsage是进程的工作集,VMSize是虚拟地址空间中提交的内存。我的问题是,如果一个进程的已提交页数是A,而同一进程的物理内存中的页数是B,那么它不应该总是B≤A吗?每个进程在物理内存中的页数不是已提交页的子集吗?或者这与进程之间的内存共享有关?请解释。(也许我对“工作集”的定义不合时宜)。谢谢。 最佳答案 虚拟内存假

memory - 虚拟内存是无限的吗?

我在一次采访中被问到虚拟内存是否是无限的?我回答说它不是无限的。然后面试官问了解释,我的建议是在windows中我们确实有手动的方式来配置虚拟内存到一定的限度。我想知道虚拟内存是否真的是无限的? 最佳答案 首先,忘记虚拟内存受机器上指针大小限制的想法。虚拟内存限制与寻址空间不同。您可以使用分页来寻址比基于指针的地址空间中可用的更多的虚拟内存。虚拟内存上限由操作系统:例如,在32位Windows上限制为16TB,在64位上Windows的限制是256TB。虚拟内存在物理上也受到可用磁盘空间。有关解决各种误解的出色概述,请参阅以下内容:

memory - 将虚拟地址转换为物理地址

以下页表适用于具有16位虚拟和物理地址以及4,096字节页面的系统。当页面被引用时,引用位设置为1。线程定期将引用位的所有值清零。所有数字均以十进制提供。我想将以下虚拟地址(十六进制)转换为等效的物理地址。我还想为页表中的相应条目设置引用位。•0xE12C•0x3A9D•0xA9D9•0x7001•0xACA1我知道答案是,但我想知道如何才能获得这些答案:0xE12C→0x312C0x3A9D→0xAA9D0xA9D9→0x59D90x7001→0xF0010xACA1→0x5CA1我找到并尝试了This,但对我没有多大帮助。 最佳答案

Python os.fork OSError : [Errno 12] Cannot allocate memory (but memory not the issue)

我有类似的问题:Pythonsubprocess.Popen"OSError:[Errno12]Cannotallocatememory"我有一个守护进程可以正常运行几分钟,然后无法通过popen2.Popen3()运行shell程序。它产生20个线程。内存似乎不是问题。这是机器上唯一运行的程序,它有2G的RAM,它使用的内存不到400M。我一直在记录ru_maxrss,这只有50M(在引发OSError之前和之后)。ulimit-a:corefilesize(blocks,-c)0datasegsize(kbytes,-d)unlimitedschedulingpriority(-e

c - zlib,放气 : How much memory to allocate?

我正在使用zlib压缩文本数据流。文本数据以block的形式出现,对于每个block,deflate()被调用,flush设置为Z_NO_FLUSH.检索到所有block后,deflate()调用flush设置为Z_FINISH.当然,deflate()不会在每次调用时产生压缩输出。它在内部累积数据以实现高压缩率。没关系!每次deflate()生成压缩输出,该输出被附加到数据库字段-一个缓慢的过程。但是,一旦deflate()生成压缩数据,该数据可能不适合提供的输出缓冲区,deflate_out.因此多次调用deflate()是必须的。这就是我想要避免的:Isthereawaytoma

memory - Scikit 和 Pandas : Fitting Large Data

如何使用scikit-learn在大型csv数据(~75MB)上训练模型而不会遇到内存问题?我使用IPythonnotebook作为编程环境,使用pandas+sklearn包来分析来自kaggle数字识别器教程的数据。数据可在webpage上获得,链接到mycode,这里是errormessage:KNeighborsClassifier用于预测。问题:"MemoryError"occurswhenloadinglargedatasetusingread_csvfunction.Tobypassthisproblemtemporarily,Ihavetorestartthekerne