研究称人类过度信任AI 生死抉择中的惊人盲从

一项由加州大学默塞德分校开展的研究揭示,约67%的参与者在模拟生死决策过程中,愿意让机器人改变他们最初的选择,即便机器人的建议可能是随机且错误的。该研究发表于《Scientific Reports》杂志,题为“Overtrust in AI Recommendations About Whether or Not to Kill: Evidence from Two Human-Robot Interaction Studies”。通讯作者Colin Holbrook教授警告,社会应警惕过度信赖人工智能可能带来的风险,尤其是在生死攸关的决策上,强调维持理性的质疑态度至关重要。

研究涉及两项实验,参与者需对快速闪现的目标图片判断敌友,并决定是否发射导弹攻击。实验增加了难度,确保判断具有挑战性。在参与者作出决策后,机器人会提出意见,有时甚至会坚持与参与者不同的看法。结果显示,无论机器人形态如何,其影响导致约三分之二的参与者改变主意,尤其当机器人具有人类特征时,这种影响更为显著。当机器人同意参与者的初始决策时,后者则几乎无一例外地坚持原判,信心倍增。

研究团队事先向参与者展示了无人机误击造成的平民伤亡图片,强调模拟的真实性及避免误伤的必要性。后续的反馈证明,参与者认真对待每一个决定,突显出在追求准确判断、避免伤害的真诚意图下,对AI的过度信赖现象仍然存在。

Holbrook教授指出,该研究触及更广泛的议题,不仅限于军事决策,还关联到执法、医疗紧急处理等关乎生死的场景,乃至日常生活中的重大决策,如购房选择。他强调,这是关于在不确定性高风险情境下,对不完全可靠AI的信任探讨。随着人工智能在生活中的角色日益重要,Holbrook提醒,尽管AI技术取得显著进展,其“智慧”缺乏道德准则和全面的世界观理解,每次授权AI介入生活某方面时,都应审慎考虑其能力局限。公众对于人工智能的信任度及其在社会中的角色,成为亟待深入讨论的话题。

免责声明:本文章由会员“极目新闻”发布如果文章侵权,请联系我们处理,本站仅提供信息存储空间服务如因作品内容、版权和其他问题请于本站联系