“超越人类智慧的AI可以用语言操纵我们，或许会试图说服我们不要关掉开关。”
今年3月，由ChatGPT掀起的AI(人工智能)技术革命背后的奠基性科学家、被誉为“AI教父”的杰弗里·辛顿(Geoffrey E. Hinton)，曾对媒体提及他对AI“反噬人类”的担忧。如今，在他心中“危险和机遇并存”的AI，为他带来了诺贝尔物理学奖的荣誉。
当地时间10月8日，瑞典皇家科学院宣布，将2024年诺贝尔物理学奖授予美国普林斯顿大学的约翰·霍普菲尔德(John J. Hopfield)和加拿大多伦多大学的杰弗里·辛顿，以表彰他们“为推动利用人工神经网络进行机器学习作出的基础性发现和发明”。
诺贝尔化学奖则部分授予了谷歌旗下DeepMind公司AI科学家德米斯·哈萨比斯和约翰·江珀，以表彰他们研发出的“Alpha Fold2”模型在蛋白质结构预测方面的成就。
当AI首次成为诺贝尔奖的主要元素，这不仅是对科学家的认可，也是对“AI辅助科学研究”这一应用趋势的肯定，“诺贝尔物理学奖和化学奖都花落AI，既在意料之外，又在情理之中。”复旦大学计算机科学技术学院教授、上海市数据科学重点实验室主任肖仰华告诉澎湃新闻记者。
在他看来，AI在诺贝尔奖当中占据相当比重，释放出传统的自然科学国际性的奖项向新兴学科迁移的信号。传统上人们认为，诺贝尔奖主要授予在传统自然科学领域做出杰出贡献的个人或组织。此次诺奖对人工智能等新兴学科的倾斜，标志着以人工智能驱动的科研方式已不再是“偏门”而是逐渐走向“主流”，并获得传统自然科学领域的广泛肯定。
AI“攻占”诺贝尔奖意味着什么？
“我做了这么一辈子科研，从来没见过AI这么一个行当。每三个月就有新突破，每半年就要翻天覆地了。”国际著名计算生物学家、复旦大学复杂体系多尺度研究院首任院长、上海人工智能实验室领军科学家马剑鹏向澎湃新闻记者坦言。
在他看来，过去50年中，“蛋白质折叠问题”一直是生物学界的重大挑战。此前，生物学家主要利用X射线晶体学或冷冻电镜等实验技术来破译蛋白质的三维结构，耗时长、成本高。几年前，科学家用计算机预测复杂的蛋白质折叠结构，正确率还不到40%。Alphafold出现后，奇迹出现了。
2020年11月30日，Alphafold 2在蛋白质结构预测大赛CASP 14中，对大部分蛋白质结构的预测与真实结构只差一个原子的宽度，接近达到了人类利用冷冻电子显微镜等复杂仪器观察预测的水平，这是蛋白质结构预测史无前例的巨大进步。
“预测蛋白质结构，向来被认为是‘太阳底下最难的科学问题之一’。”马剑鹏表示，他和好朋友、诺贝尔化学奖得主迈克尔·莱维特都曾认为，这一问题在他们的有生之年恐怕很难完全解决，“但没想到人工智能‘Alphafold 2’的出现了，让这个问题向前迈进一大步，真正体现了算法的力量，将诺贝尔化学奖颁给人工智能，是一个理所应当或者非常恰当的决定。”
马剑鹏认为，人工智能可以将求解的准确率大幅提升，显示了“科学智能”研究范式的强大。虽然“Alphafold 2”和“Alphafold 3”并未完全解决蛋白质折叠问题，但它给科学界带来了启示：可以通过数据驱动，将人工智能应用于更多的科研领域，让AI助手破解各种难题。
“人工智能现在已经成为一场新的技术革命，或者可以称之为工具革命。”肖仰华告诉记者，在科学研究领域，AI已成为推动社会进步和研究发展的最重要引擎。
肖仰华认为，诺贝尔奖授予人工智能相关研究实际上起到一个风向标的作用，这意味着传统自然学科一定会掀起努力拥抱和学习人工智能、积极把人工智能的很多工具和方法融入到科学自身的科学研究中的热潮。“大家普遍认为，获得诺贝尔奖的科学家需要经过几十年的研究，而AI打破了这一定律。未来可能会有越来越多年轻学者使用AI工具在传统自然科学做出巨大贡献，在短短几年之内获得诺奖，三四十岁左右的诺奖者可能会大量涌现，这个风向标的意义十分重大，也会对传统的自然科学研究造成巨大冲击。”
“这次的诺奖授予情况，可以说是打破了一直以来的评奖传统，可以说是诺贝尔奖评选的一次自我改革。一方面，这反映了诺贝尔奖委员会对于该奖项意义的反思，之后的授奖会更加地关注技术的现实影响，而非绝对意义的学术前沿。”中央财经大学经济学院教授、清华大学中国经济思想与实践研究院研究员徐翔告诉澎湃新闻记者。
另一方面，这反映人工智能技术带来的巨大冲击与科技界对这项技术的无限期待，说明科技界把人工智能看成了科学研究的底层技术，这是过去很多年的获奖成果没有做到的。
“此次AI在诺奖获得成功，表明了学科大交叉、深交叉是趋势，AI改变了科研范式，突破了传统科研方式天花板。通过量变推动质变，AI有望在未来助力更多学科领域取得突破。”国内人工智能专家张春龙向澎湃新闻记者表示，对于网友们的“ChatGPT获得诺贝尔文学奖”等期待，他认为，科学(科技)工程类学科可以由大系统AI助力，文学创作类的可能还是需要人文和情感底蕴支撑。
AI发展有什么风险？如何利用好？
“假设青蛙创造了人类，那么你认为现在谁会占据主动权，是人，还是青蛙？”
去年，辛顿本人在北京智源大会提出的问题仍在耳畔回响，在诺奖“爆冷”颁给AI后，人们也在质疑，AI是否正在夺走科学家最重要的荣誉，AI的高速发展，真的不会带来取代人类的风险吗？
“最后获奖的是AI算法背后的科学家和工程师，而非人工智能本身，目前的人工智能技术也未能达到脱离数据+算力+算法独立运行的程度，本质上还是人类的智慧，但是我们需要对于人工智能下一阶段的发展抱有审慎态度，用客观的眼光看待并做好治理介入的准备。”徐翔坦言。
“从来不是AI可能取代人类，而是掌握了AI这种先进工具的拥有者在淘汰没有掌握先进工具的人，历史车轮的发展轨迹一直如此，任何一次技术革命都是先进技术的拥有者去淘汰没有获得先进技术的人，形成了相对的竞争优势。”
在肖仰华看来，要看到AI在科学研究发展上的巨大潜力，也要意识到AI背后潜在的风险和问题，以目前AI的能力，即便将来发展很完善，本质依然是工具，是对人类的辅助，需要人类科学家去引导、规范和纠正，“因为AI很难具有人类科学家的原始创新能力，它不具备像爱因斯坦那样提出这种相对论，去解释物理现象，突破传统牛顿力学对于这个世界的机械力学的解释，从零到一的原始创新仍然还是人类科学家才有可能完成。”
肖仰华表示，目前AI发展存在两大主要弊端，第一是AI会放大科技的两面性，当AI驱动科学研究之后，这意味着双刃剑的剑锋恐怕要更加锋利，需要积极管理和管控其可能带来的风险。
更严重的是价值观念和伦理道德的挑战，“科技是火车头，整个人类社会是车身，目前火车头动力十足，速度越来越快，越来越加速。但是整个人类社会是由一个个鲜活的个体组成的，是由还在遵循着传统伦理和价值观念的家庭组成的，一个个社区及小型社会群体构成的。我们还在遵循着几千年未变的文化价值、伦理、情感观念，这些是不可能做那么快的调整的。”
在科技的强劲的带动下，生产力会快速发展，生产力快速发展就势必要求整个社会的上层建筑、伦理价值和情感观念跟着去做适应和调整，缓慢调整的社会上层关系和在科技带动下快速发展的生产力之间可能会诞生新型的矛盾。
今年6月，2024年诺贝尔经济学奖得主麻省理工学院(MIT)教授达龙·阿西莫格鲁(Daron Acemoglu)在接受澎湃新闻记者专访时表示，对于人工智能，非常担心它成为将财富和权力从普通人转移到一小群科技企业家的方式，“问题是我们没有任何必要的控制机制以确保普通人从AI中获利，比如强有力的监管、工人参与、公民社会和民主监督。我们看到的‘不平等’是‘煤矿里的金丝雀’，意味着更糟糕的事即将到来。”
国产大模型如何腾飞超越？
在360创始人周鸿祎看来，这一次诺贝尔物理学奖颁给计算机科学、颁给人工智能，具有标志和代表性的意义。
“从诺贝尔奖评审的角度来讲，可能都已经开始相信物理学的前沿靠人类是不够的，要靠AI。未来所有学科的发展都离不开AI，将来可能生物学、化学、数学等其他科学的奖项也会发给计算机科学家，会发给对AI产业具有贡献的人。可能以后各个科学的突破，都要靠AI来推动。AI会成为人类科学研究的重要的工具，”周鸿祎表示，AI正在改变这个世界，首先改变的是诺贝尔奖发奖的方式。
AI成为诺奖主流，无疑给AI产业发展带来了积极信号，中国AI科研和大模型企业又该如何对标？
“中国从来不缺优秀的工程师。”马剑鹏告诉记者，“但是如果要走向高精尖，还有很大的难度，能出现在概念上起引领作用的突破最好，因为人工智能领域确实具有广泛的应用前景。坦白讲，中国在这方面已经取得了不错的成绩，如果讨论的是我们是否能在世界范围内达到诺贝尔奖级别的成就，我想在这方面可能还存在一定差距。”
马剑鹏提到，在AI领域的竞争，需要借鉴国外的经验，不能只在高校里依靠教授单兵作战。有些工作，需要大兵团作战，需要高校、大企业等各类资源的融合。谷歌的突破就是一个明显的例子。最近AI方面的巨大突破，几乎全都是科技公司做出来的。
此外，在AI教育的短板也需要加强弥补，“高等教育机构中的学科分类，包括学院的划分，都是基于传统学科体系而设立的，现在必须改革，加强对AI教育的培训。例如，复旦大学2024年招生培养政策发布会上发布的信息，从2024年秋季学期开始，复旦大学将在2024-2025学年推出至少100门AI领域课程。AI大课将纳入所有复旦学生的学业安排。”
值得注意的是，此前国产大模型大多聚焦在通用大模型、行业大模型上，“专业大模型，尤其是与自然科学相结合的专业大模型，将来其实同样重要，甚至更加重要。比如蛋白质大模型会大量用在生命科学医疗产业，这关系到健康福祉和国家科技竞争。”肖仰华表示。