人工智能发展迅速,道德风险也不能忘

来源: 云巴巴 2020-03-16 17:26:49

    近年来,随着人工智能技术在各行各业中普遍使用,AI对人类社会的影响堪称是渗透到了方方面面,在这种背景下,国内也诞生了众多AI科技公司,可以说,人工智能技术正在这颗星球上如火如荼的展开。
    但与此同时,人工智能的推进其实也产生了不少问题,例如最近较为火爆的换脸技术企业产生的数据安全管理问题、大数据可以产生的“杀熟”问题、自动驾驶的安全责任问题、人脸识别系统产生的隐私问题等。路易斯维尔大学网络安全实验室的罗曼传授揭晓的《人工智能和网络平安:人工智能的失败》便列举过十项庞大的人工智能失败案例,比如说特斯拉自动驾驶汽车企业造成工作人员伤亡、机器人伤人事件、保险有限公司通过利用脸书数据分析预测事故发生率涉嫌存在一些偏见等等。这些失败案例能够归结为人工智能体系在进修阶段的谬误,也能够归结为人工智能技术的不确定性所带来的道德风险。

    人工智能产品不仅符合法律的物理性质,而且具有意向性,即人工智能产品也将反映人类的意志和愿望,随着信息技术的发展,技术可以改变中国社会的作用不断增强,技术的发展过程中可能会远离人类的最初目的和控制。因此,正确而全面的认识人工智能的潜在道德风险,并对其进行有效规避显得十分缺乏必要。
    
一、人工智能技术发展问题引发智能机器的道德教育主体地位的思考
    人工进行智能发展离不开算法,而算法是由人类社会输入的数据,出了一个问题究竟由谁来负责呢?机器以及该算法是否已经具备成为主题的资格和条件?人工智能是否具有社会道德教育主体地位呢? 这些问题涉及道德主体地位的起源,以及人类道德推理能力是先天的还是后天的,根据人工智能的现有发展速度和规模,人工智能或许在未来能够不断发展出具有自我管理意识的智能技术产品,这些都是人类制造出来的智能机器学习是否也该被赋予与人类同等的权利和地位呢? 以上所有问题都涉及到人工智能产品的主要地位,我们必须考虑。
 
   二、人工智能发展引发新理论问题
    人工智能正以更快的发展速度,融入人类社会的各个方面,甚至说人工智能半个世纪的发展远远超过了在过去几百年的技术发展水平,而人工智能一旦获得同人类相近的思维能力和推理能力,如何界定人工智能与人类的道德地位将面临道德伦理挑战:人工智能的高效率和低失误率在司法领域的使用,会给传统司法审判带来巨大的法律伦理挑战。人工智能手术机器人将给医疗卫生领域带来医疗伦理挑战,有了这么多的伦理挑战,我们将如何发展或提高现有的理论体系,使之更好地适应人工智能发展。既要人工智能更好地服务于人类,也限制其负面影响,这是人工智能发展面临的一个巨大的挑战。
    
第三,人工智能引发新的社会保障和公正问题
    人工智能的发展带来信息安全风险,人工智能产物在不少领域与人类形成为了服务和被服务的关系,如手机语音助手、机动车的轨道偏离纠正等。当这些人工智能和人类进行交互,如何确保用户或信息的安全或者用户信息一旦被上传到远程终端的产品,如何保证信息的安全性,这是一个问题。并且人工智能机器人事情效率高、出错率低、维护成本好、能保障事情的连续性,其在各领域的运用可能会造成对人类就业的冲击,许多人的工作安全和稳定会间接受到人工智能进展的影响,特别是那些不需要业余技术与专业能力的工作,这将导致失业和未就业工人总量的提高,这些都是不利于社会的稳定和安全。

    目前,社会已逐渐认识到问题的严重性,并试图提出解决办法:
    首先,人工智能的道德风险是涉及人工智能之处就已经预设好的,人工智能涉及具有意向性,嵌入了人类的目的,也即道德。在具体的人工智能技术产品结构设计上就应该进行社会道德风险分析评估,对人工智能发展可能需要引起的道德风险有个准确的把握,这样我们才能防范人工智能可能带来的道德风险。
    其次,人工智能需要以不伤害人类为前提。人工智能的设计不应只局限于某一种状态,从设计师的理念到人工智能的产品都应规范以保障人工智能的发展不会损害人类的利益,不伤害人类。

    最后,正义是一个企业社会经济健康教育发展的重要基石,是人类社会主义发展的价值追求,人工智能在设计,开发之处应注重视公平和社会正义。人工智能的设计我们不应扩大市场主体间权利与地位的差距,导致企业实质上的不公平,例如,无人机的技术需要大量的成本,并非所有人都能享受该项技术成果,这就会导致一些落后国家和地区的公平性丧失。使用无人机送快递会造成现有快递人员的失业,导致技术结果的不公平。总之,人工智能的设计,要确保它的目的是造福人类作为一个整体,而不是个人。
    综上所述,人工智能技术使技术安全性及隐私保护等各方面的问题变得更加重要且紧迫,因此需要内化技术设计、决策主体的责任意识。并且完善技术设计制度,并促成各类技术主体之间的合作,只有这样,才能有效地规避人工智能道德风险,更好地促进人工智能的健康发展。

 

更多产品了解

欢迎扫码加入云巴巴企业数字化交流服务群

产品交流、问题咨询、专业测评

都在这里!

 

评论列表

为你推荐

人力资源数字化嘉年华来袭!RPA如何助力HR数字化转型

人力资源数字化嘉年华来袭!RPA如何助力HR数字化转型

8月5日至6日,智享会将带来首届云上人力资源数字化嘉年华,携手人力资源数字化领域的合作伙伴,帮您实现人力资源数字化转型,艺赛旗受邀参加,将为我们带来线上分享——“流程自动化工具RPA如何助力HR数字化转型”。

2022-11-21 16:01:21

世界人工智能大会 | 探索AI未来,云巴巴带你现场感受AI的力量

世界人工智能大会 | 探索AI未来,云巴巴带你现场感受AI的力量

7月6日-8日,以“智联世界,生成未来”为主题的2023世界人工智能大会在上海举行。

2024-03-27 14:56:47

双模人脸识别加密摄像头的整体性优势有哪些?

双模人脸识别加密摄像头的整体性优势有哪些?

eyecool作为人工智能赋能生物识别领域的龙头企业,近些年来,研发出多种具备着生物识别技术的产品,那么其中,双模人脸识别加密摄像头在使用时是如何凭借自身优势完成人脸图像采集并进行验证的呢?

2022-11-24 10:25:28

人工智能关键的技术是什么

人工智能关键的技术是什么

人工智能技术包含的关键技术如下。

2020-03-17 14:57:07

5G时代,给虚拟现实技术带来了哪些可能性呢

5G时代,给虚拟现实技术带来了哪些可能性呢

5G时代的到来一定会给我们带来许多新的可能性,那么在本篇文章中,小编想要和朋友们一起谈论一下,5G时代,给虚拟现实技术带来了哪些可能性呢? 我们知道,超快移动通信网络将进一步发展提升XR的潜力,以增强XR在娱乐活动领域的地位,并在2020年进一步研究涉足

2022-11-22 17:14:45

虹膜识别技术,让你对违法犯罪说不!

虹膜识别技术,让你对违法犯罪说不!

10月28日,广东省揭阳市揭东分局某派出所,在通过眼神科技提供的虹膜识别设备进行虹膜信息采集时,抓获一名盗窃车辆嫌疑人。

2022-11-23 09:55:39

严选云产品

Realibox汽车营销解决方案 Realibox汽车营销解决方案,基于平台的虚拟车库进行交互式体验,为品牌及车型推广提供方便,快捷,多渠道的展示需求。丰富的交互式体验,包含车型切换,场景切换,车漆切换,内饰材质切换,关开门动画 ,关开车灯,虚拟人物试驾,功能讲解等多种用户体验。
腾讯云自然语言处理NLP服务 腾讯云自然语言处理NLP服务(Natural Language Process,NLP)深度整合了腾讯内部的 NLP 技术,提供多项智能文本处理和文本生成能力,包括词法分析、相似词召回、词相似度、句子相似度、文本润色、句子纠错、文本补全、句子生成等。满足各行业的文本智能需求。
威努特数据库审计系统DBA 威努特数据库审计系统DBA,提供多维度、多层级审计策略;用户可根据自身业务特点自定义风险策略,实现全方位威胁分析。针对数据库内外部的危险行为进行实时监控,对命中策略的访问行为进行分级、分类聚合统计及时告警。 具备精准智能关联分析能力,准确定位终端用户信息,实现100%无漏审,零误报。
泛微数字化采购管理平台 泛微数字化采购管理平台,支持供应商的全生命周期管理,融入了电子印章、身份认证、第三方集成征信集成。内外协同,实现供应商之间的信息、数据等协同,采购制度,通过流程化落地,管理范本,通过RPA等技术,无侵入对接,可以实现供应商风险、采购价格信息的智能获取。
数云淘域赢家淘系商家消费者运营管理平台 数云淘域赢家淘系商家消费者运营管理平台,官方平台并无有效会员规模要求,只需保证权益在线天数的基础上,重视会员运营,完成优质会员占比或会员成交占比任一指标,达成潜力商家资质,从而可获得会员专享、会员0.01元锁定权益等玩法,继而进一步往优质商家推进。
智齿科技沉寂数据唤醒解决方案 智齿科技沉寂数据唤醒解决方案,提供号码资源,提升接通率,线路关停、封号处理。统一系统,实时监管,提供数据看板,学员信息全方位呈现。可对接手机端的H5页面、APP、小程序。

甄选10000+数字化产品 为您免费使用

申请试用