科企岛:更新技术,避免人工智能的误操作对人类的伤害

2022-07-09 22:13:40   阅读:202 次  点赞:20 次  鄙视:112 次  收藏:0 次  由 klimova-ponomarenko.com 收集整理
分享到:
关闭
听新闻 - 科企岛:更新技术,避免人工智能的误操作对人类的伤害
00:00 / 00:00

-

+

语速: 慢速 默认 快速
- 6 +
自动播放×

御姐音

大叔音

萝莉音

型男音

温馨提示:
是否自动播放到下一条内容?
立即播放当前内容?
确定
确定
取消

原标题:科企岛:更新技术,避免人工智能的误操作对人类的伤害

人工智能伤害某人时,谁应该负责?

加州陪审团可能很快就要做出决定。2019年12月,一名驾驶特斯拉的人在加迪纳岛发生事故,造成两人死亡。特斯拉司机面临数年监禁。鉴于这一事件和其他事件,美国国家公路运输安全管理局(NHTSA)和国家运输安全委员会都在调查特斯拉的车祸,NHTSA最近扩大了调查范围,以探索司机如何与特斯拉系统互动。在州方面,加州正在考虑减少特斯拉自动驾驶功能的使用。

我们目前的责任制度——我们确定伤害责任和赔偿制度——对人工智能完全没有准备。责任规则是为人类造成大多数错误或伤害的时期而设计的。因此,大多数责任框架对最终用户医生、司机或其他造成伤害的人施加惩罚。但是对于AI,错误可能会在没有任何人工输入的情况下发生。赔偿责任制度需要相应调整。不良责任政策将伤害患者、消费者和人工智能开发人员。

现在是考虑责任的时候了——因为人工智能变得无处不在,但仍然监管不足。基于人工智能的系统已经造成了伤害。2018年,一名行人被一辆自动驾驶的Uber车辆撞死。虽然驾驶员错误是有问题的,但AI未能检测到行人。最近,一个基于人工智能的心理健康聊天机器人鼓励一名模拟自杀患者自杀。人工智能算法歧视女性申请人的简历。而且,在一个特别戏剧性的案件中,人工智能算法错误地识别了严重袭击中的嫌疑人,导致错误逮捕。然而,尽管存在失误,人工智能有望彻底改变所有这些领域。

正确应对责任环境对于释放人工智能的潜力至关重要。不确定的规则和可能代价高昂的诉讼将阻碍对人工智能系统的投资、开发和采用。人工智能在医疗保健、自动驾驶汽车和其他行业中的更广泛采用取决于一个框架,该框架决定了谁(如果有的话)最终对人工智能系统造成的伤害负责。

人工智能挑战传统责任。例如,当“黑匣子”算法(变量的身份和权重动态变化,因此没有人知道预测中的内容)建议最终造成伤害的治疗方法,或者在人类驾驶员做出反应之前鲁莽地驾驶汽车时,我们如何分配责任?这真的是医生或司机的错吗?是公司制造了人工智能的错吗?如果其他人——卫生系统、保险公司、制造商、监管机构——鼓励采用,他们应该面对什么样的责任?这些都是悬而未决的问题,对于在消费产品中负责任地使用人工智能至关重要。

像所有颠覆性技术一样,人工智能也很强大。如果正确创建和测试AI算法,可以帮助诊断,市场研究,预测分析以及任何需要分析大型数据集的应用程序。麦肯锡最近的一项全球调查显示,全球已有超过一半的公司报告称在其日常运营中使用人工智能。

然而,责任往往集中在最简单的目标上:使用算法的最终用户。责任查询通常始于和结束于发生碰撞的汽车司机或做出错误治疗决定的医生。

当然,如果最终用户滥用人工智能系统或无视其警告,他或她应该承担责任。但AI错误通常不是最终用户的错。谁能责怪急诊室医生的 AI 算法错过了视水肿 - 视网膜肿胀 ?人工智能未能检测到这种情况可能会延迟护理,并可能导致患者失明。然而,视水肿在没有眼科医生检查的情况下诊断具有挑战性,因为更多的临床数据,包括大脑成像和视力,通常是病情检查的一部分。尽管人工智能在各行各业都具有革命性的潜力,但如果最终用户对潜在的致命错误承担全部责任,他们将避免使用人工智能。

将责任完全归咎于人工智能设计师或采用者也不能解决问题。当然,设计人员创建了有问题的算法。但是,特斯拉的每一次事故都是特斯拉的错,在产品发布之前,通过更多的测试来解决吗?事实上,一些人工智能算法不断自我学习,获取它们的输入并动态地使用它们来改变输出。没有人能确切地确定AI算法是如何得出特定结论的。

关键是要确保所有利益相关者——用户、开发人员和从产品开发到使用的整个链条上的其他人——承担足够的责任来确保人工智能的安全性和有效性,但又不能过多地放弃人工智能。

更多人工智能技术探讨,请上科企岛

Tags标签
加入收藏夹(0 点赞一下(20 鄙视一下(112
发表评论
内容:
剩余字数:360/360


     :: 正在为您加载评论……


每页10条,共0

相关文章

play
next
close
X

新闻网上所有的内容均由网友收集整理,纯属个人爱好并供广大网友交流学习之用,作品版权均为原版权人所有。
如果版权所有人认为在本站放置您的作品会损害您的利益,请指出,本站在核实之后会立即删除。
禁止任何个人或组织将本站程序用于任何违法违规途径!

粤ICP备8888888888号 XML地图 Tags标签 APP客户端下载

×

分享到微信朋友圈

扫描二维码在微信中分享
关闭
手机客户端
APP下载