草庐IT

NeurIPS 2023精选回顾:大模型最火,清华ToT思维树上榜

近日,作为美国前十的科技博客,LatentSpace对于刚刚过去的NeurIPS2023大会进行了精选回顾总结。在NeurIPS会议总共接受的3586篇论文之中,除去6篇获奖论文,其他论文也同样优秀和具有潜力,甚至有可能预示着下一个AI领域的新突破。那就让我们来一起看看吧!论文题目:QLoRA:EfficientFinetuningofQuantizedLLMs论文地址:https://openreview.net/pdf?id=OUIFPHEgJU这篇论文提出了QLoRA,这是LoRA的一种更省内存但速度较慢的版本,它使用了几种优化技巧来节省内存。总体而言,QLoRA使得在对大型语言模型进行

超越ToT,苏黎世理工发布新一代思维图GoT:推理质量提升62%,成本降低31%

大型语言模型在推理上仍然是弱势项目,需要依赖各种思维工具辅助完善推理过程。最近,苏黎世联邦理工大学、华沙理工大学的研究人员共同提出了一个全新的LLM思维框架GoT(GraphofThoughts,GoT),在推理质量和推理速度上都要超越现有的思维链(CoT)和思维树(ToT)等方法。论文链接:https://arxiv.org/pdf/2308.09687.pdfGoT的关键思想和主要优势在于将LLM生成的信息建模为图(arbitarygraph),其中信息单元(思维,LLMthoughts)作为图的顶点,顶点之间的依赖关系作为图的边。GoT方法可以将任意的LLM思维组合成协同结果,提取出整个

python - 如何使用 matplotlib/numpy 将数组保存为灰度图像?

我正在尝试将尺寸为128x128像素的numpy数组保存到灰度图像中。我只是认为pyplot.imsave函数可以完成这项工作,但事实并非如此,它以某种方式将我的数组转换为RGB图像。我试图在转换过程中将颜色映射强制为灰色,但即使保存的图像以灰度显示,它仍然具有128x128x4尺寸。这是我为展示行为而编写的代码示例:importnumpyasnpimportmatplotlib.pyplotaspltimportmatplotlib.imageasmplimgfrommatplotlibimportcmx_tot=10e-3nx=128x=np.arange(-x_tot/2,x_t

GPT-4推理提升1750%!普林斯顿清华姚班校友提出全新「思维树ToT」框架,让LLM反复思考

2022年,前谷歌大脑华人科学家JasonWei在一篇思维链的开山之作中首次提出,CoT可以增强LLM的推理能力。但即便有了思维链,LLM有时也会在非常简单的问题上犯错。最近,来自普林斯顿大学和GoogleDeepMind研究人员提出了一种全新的语言模型推理框架——「思维树」(ToT)。ToT将当前流行的「思维链」方法泛化到引导语言模型,并通过探索文本(思维)的连贯单元来解决问题的中间步骤。论文地址:https://arxiv.org/abs/2305.10601项目地址:https://github.com/kyegomez/tree-of-thoughts简单来说,「思维树」可以让LLM: