挑战 1 比特!ETH Zürich 秦浩桐:如何把大模型「塞进」小设备?| IJCAI 2026
产业动态
来源:雷峰网发布时间待核实
面对大模型规模与硬件内存之间高达20倍的算力鸿沟,不重训的“1比特量化”如何把千亿参数的硅基大脑塞进微型设备? 编辑丨岑峰 在 AGI 的狂飙之路上,大语言模型(LLM)正以一种近乎野蛮的“规模法则(Scaling Law)”吞噬着算力与数据。然而,当这些拥有千百亿参数的硅基大脑试图从云端降临到手机、汽车甚至植入式医疗设备时,却撞上了一堵难以逾越的“内存墙”:过去几年,模型参数规模的暴涨速度,惊人地达到了底层硬件内存容量增长速度的 20 倍。 在刚刚于德国不莱梅开幕的 IJCAI 2026 大会上,AI科技评论注意到,学术界与工业界正在达成共识:寄希望于摩尔定律或下一代芯片的发布来填平这 20 倍的算力鸿沟,已是痴人说梦。唯一的出路,是向模型的数据表示方式“动刀”。 来自苏黎世联邦理工学院Center for Project-Based Learning 的博士后、即将履新香港理工大学的秦浩桐,在首日的“Generalizing from Limited Resources in the Open World”主题 Workshop 中,给出了一个创新解法:挑战无需重新训练的“后训练量…