8.0
热点
AI SCORE
技术实践2023-08-30 20:32
Llama 2 与 Code Llama 技术深解
Hacker News · magazine.sebastianraschka.com#开源模型#LLM
Editor brief · 编辑速览
Meta 开源模型系列的原理分析与对比。帮助程序员理解当代开源代码模型的设计思想。
阅读像你这样一位知识渊博的人的总结真是一大享受,值得称赞!
现在,我有点惊讶的是你没有把 LLM 中的多模态作为研究/差异化的主要轴线引入。文本与视觉的配对已经相对直接,声音景观中也存在子模态差异,从语音转文本扩展到文本转声音(例如 Bark 模型),但这只是开始而已……
在我看来,广义多模态是通向 AGI 的一条被严重忽视但很直接的路径,因为它会解决这些模型中符号接地(symbol grounding)的大部分棘手问题(另一部分是来自世界对模型的反馈,是向真正进化意向综合的直接路径)。
如果模型涵盖我们的 5 种感觉和本体感觉,它们应该演化出更与人类一致的内部世界表征。人们甚至可以推测这些 LLM 是否会收敛到一种通用的底层神经编码方案,比如某种 Grossberg 的 ART 改进,如本文所述,https://www.mdpi.com/2078-2489/14/2/82
很棒的文章。我倾向于尽力跟踪新闻,但你在整理一切方面做得非常出色,我可能只需要阅读你的通讯。我想知道你是否使用任何 LLM 来帮助你写作或组织原始文本。