聚焦人工智能技术前沿与治理 中外专家学者国际论坛建言献策******

　　中新网北京12月5日电 (记者 孙自法)2021人工智能合作与治理国际论坛“人工智能技术前沿与治理”主论坛，12月5日在清华大学以线上线下结合方式举行，中外人工智能(AI)领域专家学者聚焦人工智能技术前沿与治理这一主题，发表主旨演讲建言献策，并深入研讨交流。

　　美国国家科学院院士、美国艺术与科学院院士、约翰·贝茨·克拉克奖得主、斯坦福大学商学院技术经济学教授、以人为本人工智能研究所副所长苏珊·阿西(Susan Athey)认为，大学在指导人工智能创新方面可以发挥优先引导的关键作用。由于私营部门的技术人员缺乏伦理、哲学方面的训练，难以开发出具有可解释性的算法框架，深化这类研究能够在人工智能治理的问题识别、建立开发实践框架、提供指引等方面发挥重要作用。此外，由于数据可以带来巨大的规模效应，当前“软件即服务”的平台经济模式已非常普及。人工智能和数据需求可能带来“伪”市场集中，因此，未来对“机器换人”的预测非常具有挑战性，需要重新关注和思考人工智能如何用于应对老龄化等公共管理问题，使基于人工智能的公共服务变得更加高效。

　　国际人工智能协会前主席、清华大学人工智能国际治理研究院学术委员约兰达·吉尔(Yolanda Gil)指出，由于人类对智能机制认知不足、智能行为本身的复杂性、观测手段的有限性以及个体知识、职业、信仰、文化背景等的差异性，导致当前人工智能研究中面临着一系列挑战，因此，需要加强人工智能基础研究工作，这需要跨领域、跨学科的共同努力。当前，理解人工智能机理和构建人工智能世界模型是人工智能研究面临的两大挑战。一方面，理解人工智能机理需要构架“感知-思考-行动”的智能模型，加强对大脑思维机理的理解，建议借鉴神经科学研究联合体的有益经验，建立全球性的人工智能研究数据库，形成全球共享的研究社区。另一方面，构建人工智能世界模型则需要建立在人类经验、社会习俗、专业技能的基础上，建议建立类似于自由协作式的知识库，通过全民民众参与，推动知识在全球层面共享。

　　中国科学院院士、清华大学人工智能研究院名誉院长、清华大学人工智能国际治理研究院学术委员张钹表示，由于深度学习等算法存在不可解释性，导致前两代人工智能算法存在着公平性、安全性问题和不可靠、不可信等缺陷。发展第三代人工智能关键在于发展可解释的、鲁棒的人工智能理论和方法，开发安全、可信、可靠、可扩展的人工智能技术，以“数据驱动+知识驱动”构建支持可解释的人工智能算法的深度学习平台，赋能人工智能安全与防御优化。从数据中真正获取智能要靠知识的帮助与引导，并需要政策法规对数据使用的正确规范，充分利用知识、数据、算法和算力四个要素结合，推动人工智能的创新发展。

　　中国工程院院士、北京大学信息科学技术学院院长、鹏城实验室主任、清华大学人工智能国际治理研究院学术委员高文认为，当前人工智能发展处于新一代人工智能向强人工智能发展的关键阶段，至2030年，中国人工智能发展总体要达到世界领先水平。从战略问题看，中美欧三方在人工智能人才、研究、开发、应用、硬件、数据等方面竞争激烈，当前中国人工智能发展在战略政策、数据资源、应用场景、潜力人才方面具有优势，而在基础理论、原创算法、关键部件、国际平台、高级人才等方面还存在短板。从战术问题看，人工智能2.0需采用基于大数据的统计AI解决大规模AI应用需求，鼓励各种可能的强人工智能探索，“可解释机器学习+推理”和“仿生系统+AI大算力”是可能的技术路线图；在安全问题层面，强人工智能的安全风险主要来源于模型的不可解释性、算法和硬件的不可靠性和自主意识的不可控性，人工智能2.0应采用DPI与“防水堡技术”解决数据安全与隐私保护，重视探索人工智能伦理问题，并基于“理论-技术研究-应用”的阶段性采取不同的风险防范策略。

　　美国国家工程院外籍院士、英国皇家工程院外籍院士、清华大学高等研究院双聘教授沈向洋表示，AI已经应用于生活和工作的方方面面，目前甚至在法律上也具有一定的应用，比如美国已经有很多法庭用机器学习和人工智能方法帮助判刑，包括决定刑期这样非常重要的问题。但是我们还无法理解一些AI决策的缘由。未来发展过程中我们不能只看见AI决策的“黑箱”，应该打开“黑箱”，探究和理解其中的具体内容和因果关系，我们一定要做可解释性的AI。同时，他提到负责任的AI应具备公平性、可靠性、隐私性、包容性、透明性和责任性的特点，作为新兴领域，还需要向其他领域学习，从而更好的服务于人类。

　　中国工程院外籍院士、清华大学智能产业研究院院长、人工智能国际治理研究院学术委员张亚勤指出，“碳中和”是人类能源结构的又一次变革。“碳中和”既是可持续发展的必然选择，又是产业结构调整和发展的重大机遇。企业在“碳中和”背景下都面临转型增效的压力。人工智能+物联网是智联网，智联网可以赋能绿色计算，助力“碳中和”。智联网助力“碳中和”主要包括三个环节：首先，由数据驱动和人工智能优化引擎来实现智能决策。其次，多参数全链系统配置优化。最后，通过多源多维异构感知融合实现智能感知。智联网可用于能源融合、降低ICT产业的碳排放和推动新兴产业发展等。他还介绍了智联网赋能的绿色计算平台的框架，该平台包括人工智能驱动节能减排和高能效人工智能系统，应用路径包括绿色园区和工业节能。

　　2021人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院承办，国际支持机构为联合国开发计划署。论坛为期两天，设有三场主论坛、一场特别论坛和七场专题论坛。“人工智能技术前沿与治理”主论坛由清华大学计算机科学与技术系教授、人工智能研究院常务副院长孙茂松主持。(完)

“找课本茬”背后是平等的学习姿态******

　　用一副三角板能画出多少度数的角？“除了30度、45度、60度、75度……应该还有165度！”据极目新闻报道，四川成都两名四年级学生米之贤、廖钧宇发现课本上一道数学题参考答案“有问题”，自己找到的一个答案不在参考答案中，他们给教材编写组发去了邮件。编写组回信肯定了两名小学生的探究精神和严谨态度，表示要在教材修订中采纳他们的建议。

　　类似“找茬”“挑刺”且成功的例子，并不鲜见。2021年秋，沈阳七年级学生崔宸溪指出英语课本上蜜蜂配图配成了食蚜蝇，出版社编辑为他点赞；当年10月，上海小学生吴叶凡发现美术课本上的“树叶”应该是数亿年前的古生物“海百合”，出版社第一时间将错误进行溯源并上报修订……

　　出版社虚心接纳意见的坦诚固然值得肯定，但这些中小学生敏于思考、敢于质疑的探究精神更难能可贵。面对权威的课本，这些学生不盲从，不盲信，是其所是，非其所非，坚定地表达己见，展现出新时代中小学生积极主动求知求真的价值认定。

　　尽信书不如无书。中小学课本“千锤百炼”，经过诸多专家之手，当然经得起各种推敲，也比其他读物更精准、更标准，但这并不意味着课本就完美无缺、无可挑剔了。中小学生每天与课本生活在一起，当然最熟知课本的角角落落。很多时候，即便发现问题，一些学生也没有选择发出质疑，这恐怕仍与当下部分中小学过于格式化的教育方式有关。

　　我早年曾经做过三年中学语文老师，每每困惑于如何协调学生鲜活的认知与课本刻板答案之间的关系。我并非不知道，学生多一些深入思考，多一些触类旁通，多一些路径方法，更能打开他们的思维，但在应试考试的“硬杠杠面前”，很多时候只能收敛起来、压制回去。表现在行动上，就是把学生们的注意力聚拢到记诵上来，“背会就行了”“答案要标准”，久而久之，这种做法就会变得模式化，最终浓缩为成绩单上的数字。

　　这当然是一种让步，乃至退步，其后果，往往会在学生未来的生涯中一点点呈现。当一茬茬学生走出校门，进入更高的学府，乃至走上社会，不少人都表现出一个共同的特点，就是不会提问，只会照办。尽管我们不能、也不应该把这个结果完全归因于当初的压制质疑，但至少，当下的教育中，应该容得下孩子们表达自己的质疑。

　　此外，学生不去质疑，或者很少质疑，也与传统社会强大的因循习惯有关系。课本代表着权威，课本就是标准，这类意识往往会持续削弱大家的质疑精神。敬惜字纸也好，尊重老师也好，在很多地方、很多时候，这些观念都在无形中过滤着不同的声音。如果学生总想着从课本的纸缝中找出一些问题，难免不会被视为是“有意找茬”。

　　必须认识到，“找课本的茬”，就是一种在问题意识中学习知识的绝好路径。凡事破中有立，问题意识多了，必然会逼迫你去寻求答案，探索路径。这种钻研、探究、严谨的精神，就是创新创造的开始。

　　一方面，这会打破制式化标准模式，让学生从固化思维的桎梏中解脱出来，尝试去寻求不一样的路径和办法，看到不一样的风景。比如，从产生问题意识开始，发展发散思维，找到学习的方法，融会贯通、上下求索，一步步把课本读“薄”读透；又如，大家都来提问题，也会形成一种智力上的砥砺和激荡，这本身就是思想火花得以发生的基础。

　　另一方面，这也会产生某种超越的心理体验，由知识超越抵达价值超越，而这种超越，对于一个崭新的灵魂而言，至关重要。毕竟，课本只是一座知识的桥梁，大家可以凭借它摆渡，但却不必过度依赖它，更不能迷信崇拜它。如此，才能形成一种科学的求知精神。

　　无论如何，学习的过程，可能需要一定程度的知识灌输，以吸纳更多新知，但这不意味着学生要全盘接受。在这个过程中，学习者从姿态上是平等的，唯有时时保持求真的敏感，才能真正窥见通往新知的门径。

　　龙之朱 来源：中国青年报