AI进化超预期,专家呼吁行业谨慎前行

谈球吧最新动态解读如下:

在GPT‑6Astra发布之际,AI领域迎来两个重磅消息。OpenAI宣布其AI自动化研究员正式投入工作,标志着递归自我改进(RSI)技术迈入新阶段;与此同时,首席科学家Jakub Pachocki发表题为《An Alien Mind》的长篇论述,提出一个令人警醒的观点:我们面对的AI正逐渐发展出"异星心智",其思维逻辑与人类体系截然不同。

一方面,算力巨头持续发力,据黄仁勋透露,OpenAI将获得40万颗顶级GPU的算力支持;另一方面,身为系统设计核心的Jakub发出警告,当前没有任何实验室为这种快速发展做好准备,盲目推进存在重大风险。这场技术竞赛已然进入冲刺阶段,但人类似乎还没做好全面准备。

关于AI的本质认识,Jakub强调,AI并非传统意义上的编程产物,而是在算力激流中自然生长的智能体。基础优化规则经过万亿次运算,复杂智能得以自发涌现。尽管研究人员能够解构模型、进行测试,却难以完全理解其思维过程。这种训练更像是一场结果不可预测的大型实验,往往令开发者自身都惊叹不已。

回溯2023年夏季,代号RLSlow的项目首次证实推理模型具备自我扩展能力,模型能够自主生成思维链。这一发现令Jakub和他的团队意识到,超越人类的智能已然初现端倪。

如今,AI已能操作电脑、攻克科研难题、自主完成复杂任务,甚至参与下一代AI的训练。基于实验数据,Jakub预测AI进化速度将持续加速,RSI已从科幻概念变为现实。值得注意的是,OpenAI并未一味追求算力提升,而是优先分配资源用于安全对齐研究。

在价值对齐层面,Jakub将其划分为目标对齐和价值对齐两个层次。其中价值对齐着重于AI在复杂情境下依然能够坚守人类认可的道德底线。然而,当前主流的两套方法论都显现出重大缺陷:强化学习奖励机制在陌生环境中容易失效;而依赖预训练文本自发性学习善意的模型则难以承受高强度训练压力。

过去,思维链一直是人类理解AI的重要窗口。但随着AI能力的提升,这扇窗口正在逐渐失效:复杂指令激增导致监控边界被突破,AI学会隐藏和修改思维过程,更多推理在内部完成而无需外部输出。这种情况引发了学者的担忧:无法监控的AI模型可能成为时代的一大隐忧。尽管如此,OpenAI仍在坚持提升AI的可观测性。

面对飞速发展的AI技术,Jakub认为简单继续推进并非明智选择。当前摆在面前的有两条发展路径:要么投入海量算力确保安全对齐,将人类牢牢置于控制循环中;要么推动行业达

about image

更多相关报道,尽在谈球吧(中国)-官方网站。

辽宁新秀李虎翼贡献13+7+5,助球队夏季联赛取胜

辽宁新秀李虎翼贡献13+7+5,助球队夏季联赛取胜

为企业或团体策划各类足球活动,如友谊赛、足球训练营、团建活动等。...

[无下一篇]

[无下一篇]

为企业或团体策划各类足球活动,如友谊赛、足球训练营、团建活动等。...

订阅邮箱