蚂蚁集团何征宇谈AI规模商用三大挑战:资源消耗、领域知识和平衡社会影响

更新时间:2024-03-29 01:56:17作者:无忧百科

蚂蚁集团何征宇谈AI规模商用三大挑战:资源消耗、领域知识和平衡社会影响

3月28日消息,首届《财富》创新论坛在中国香港举行,蚂蚁集团首席技术官何征宇在会上分享认为,AI大规模应用在商业场景面临着资源消耗、专业领域知识缺乏、平衡社会影响三大挑战,要从技术创新和制度建设上破解,让AI成为一股“向善的力量”。

何征宇认为,在商业场景大规模部署AI,面临三个挑战:计算能力和电力等资源消耗、专业领域知识缺乏,以及平衡社会影响。

他举例表示,今天基于基础模型的生成式人工智能,就像一个高中生,而在成为一个律师或者医生之前,还需要去法学院或者医学院获得更为专业的知识,然而如今大多数基础模型仅使用互联网数据,缺乏专业数据和离线数据。此外,人工智能的商用必须要平衡社会影响,他说,“我们都希望人工智能成为一股向善的力量,它应该解决问题,而不是制造问题。”

去年11月,根据国家《生成式人工智能服务管理暂行办法》指导要求,蚂蚁百灵大模型已完成备案。基于百灵大模型的多款产品已完成内测,将陆续向公众开放。谈及面向公众推出大模型产品时,作为CTO最关注的是什么,何征宇表示是“服务的普适性和安全保障”。

“我们认为,就像蚂蚁的其他技术一样,人工智能也应该为每一个人服务,”他举例表示,2024年支付宝“五福节”中提供了多项生成式 AI 功能,包括让用户“参演”电影片段等等互动,近6亿人次在12天内参与体验。这也是蚂蚁百灵大模型的目标——让人工智能易用易得。

另一个他高度关注的问题就是安全。“我们的业务起步于支付,与用户的钱打交道,因此安全保障在我们的基因之中”。何征宇介绍,蚂蚁对外发布的所有基于百灵大模型的产品,需要通过技术和机制的两道“考试”:第一步,要通过“蚁天鉴”——大模型安全一体化解决方案的检测,包括AIGC安全性和真实性评测、大模型智能化风控、AI鲁棒和可解释性检测等维度;此外,我们坚持把科技伦理原则融入到业务和产品生命周期中,AI产品需要通过科技伦理评测机制,确保产品做好面向公众的准备。

“通过技术创新和制度建设,我们希望确保基于蚂蚁百灵大模型的产品是安全可信的,让AI成为向善的力量。”

展望AGI的未来,何征宇认为,今天的人工智能就像一个青少年,能以优异的成绩通过考试,它处于使用现有的知识来生成答案的阶段。他认为,未来人工智能应该为人类发现新的知识,那个时候不仅仅只是“通过考试”,而是变成“设计考卷”。

“我认为这就是AGI的下一个重要里程碑,它将真正带来颠覆性的影响,”何征宇说,“话虽如此,我认为 AGI不会很快到来,迈向AGI的旅程是一场马拉松,而不是百米冲刺。这是个循序渐进、不断努力和不断投入,最终收获的过程。”(一橙)

本文系网易科技报道,更多新闻资讯和深度解析,关注我们。

本文标签: 何征宇  蚂蚁集团  人工智能  AI