“美国三院院士”迈克尔·乔丹:AI的发展需要具备集体协作能力
9 月 5 日,在2024 Inclusion·外滩大会开幕主论坛上,机器学习泰斗、美国“三院院士”迈克尔·乔丹带来他对当前人工智能讨论中缺失部分的观察。
“缺乏对集体性、不确定性和激励机制的关注,是当前对人工智能的讨论中缺失的三个方面。”迈克尔·乔丹认为,人工智能落地产业,需要形成互相协作的集体;要构建人工智能的协作系统,必须要引入经济学的“激励”视角。
他指出,当前的人工智能系统很难表达它真正学到哪些知识,也没有能力表达它有多确定。相较之下,人类在面对不确定性时,尤其是需要集体协作共同应对时,表现出色。
因此,迈克尔·乔丹建议不仅单独设备要具备一定智能,人工智能更要通过协同体现在整体系统层面。他指出,仅仅将人类的智慧融入超级智能计算机中是不够的,现代信息技术在医疗、交通、金融科技和商业领域的应用,需要集体性、去中心化的智能系统。
迈克尔·乔丹进一步探讨了不确定性与集体性的关系。他指出,人类在集体协作时能够更好地应对不确定性,但如何让当前的AI系统也具备类似的集体协作能力,仍是一个未解的关键问题。他认为,微观经济学视角是当前AI研究的一个缺失。
“激励机制”是市场经济和集体智能的关键因素,“AI拥有海量的数据,但有些不能生成价值,通过设计激励机制才能驱动AI智能体贡献和协作。”迈克尔·乔丹提出了“三层数据市场(Three-Layer Data Markets)”模型,其中用户、平台和数据买家通过“出让数据”“购买数据”“提供服务”形成了闭环。他强调,数据购买者也就是企业可以结合“数据和服务”建立与用户的激励机制,从而为他们带来真正的价值。
对此,迈克尔·乔丹援引了统计契约理论,这是一种结合了统计学和经济学的新型理论。在契约理论中,代理人拥有私有信息,而委托人通过激励机制形成了数据和服务相互促进的市场,维持了供需双方的利益平衡。“例如航空公司分“商务舱”和“经济舱”,航空公司作为委托人能够根据代理人的不同支付意愿提供不同的价格,而不需要代理人透露其个人信息。”
人工智能作为新兴工程领域,正通过大规模系统以创新方式连接人类。它的发展类似于20世纪中叶化学工程和19世纪末电气工程的兴起,前者建立在化学、流体力学等领域,后者基于建立在电磁学、光学等技术的基础上。“而人工智能系统则建立在过去人类300年的推理理念、算法理念和经济理念基础之上,需要以人类福祉为目标。”迈克尔·乔丹提醒说,人工智能正被置于那些未经深思熟虑的、朴素的旧式愿景之中。
责编:刘安琪 | 审校:李金雨 | 审核:李震 | 监审:万军伟
免责声明:本文章由会员“极目新闻”发布如果文章侵权,请联系我们处理,本站仅提供信息存储空间服务如因作品内容、版权和其他问题请于本站联系