10月7日,在新加坡举行的两场会议上,人工智能的前景面临更严格审视,投资者和政策制定者在权衡金融过度现象的同时,也关注可能带来灾难性后果的安全风险。
据海外媒体报道,米尔肯研究所亚洲峰会和全球首席执行官大会上的讨论,已从价格高昂的科技股扩展到人类控制、恶意使用,以及巨额人工智能投资能否产生足够回报等问题。
新加坡外交部长维文警告称,声称能够完全控制自主智能体的说法并不妥当。他还强调,国家和非国家行为体利用人工智能开发武器存在危险。
Biocon创始人兼董事长基兰·马宗达-肖对人工智能协助制造危险病原体表示担忧。她在认可人工智能益处的同时,呼吁加强治理,并质疑行业自律是否足够。
金融层面的警告十分直接。淡马锡首席投资官罗希特·西帕希马拉尼表示,安全问题、监管或令人失望的客户回报,可能削弱人工智能投资叙事。桥水基金创始人瑞·达利欧将这股热潮描述为泡沫,并警告称,更高的利率可能助推其逆转。
这场讨论凸显出两类不同的不确定性。一类关乎能力日益增强的系统可能做什么;另一类关乎企业应为其预期收益支付多少成本。一项技术可以带来有用的进展,但围绕它建立的投资仍可能令人失望。
这些不确定性也可能相互影响。一起严重安全事故可能损害客户信心,或促使监督收紧。反过来,为证明高额支出合理性而承受的压力,可能促使企业在系统局限性尚未被完全理解之前部署系统。这些是可能的路径,而非会议发言所确定的结果。
对企业领导者而言,现实启示在于通过可衡量的结果和明确的责任机制来评估应用采纳。有关生产力的说法需要证据,而被授权执行的行动也需要明确边界和人工审查。
新加坡的讨论表明,人工智能下一阶段将需要同时回答价值与控制两方面的问题。
来源: 海外媒体
登录后即可参与讨论
立即登录