首页 > 文章内容

可控的人工智能 才有未来

  张田勘

8月29日,2019世界人工智能大会在上海开幕。世界一些国家的著名科技公司和学界、产业界著名人士参加了此次大会,对人工智能的发展进行展望分析和献计献策。中国腾讯董事会主席兼首席执行官马化腾在演讲时表示,人工智能(AI)治理的紧迫性越来越高,应以“科技向善”引领AI全方位治理,确保AI“可知”“可控”“可用”“可靠”。

尽管并非所有人都认同AI的这几个“可”,但这提出了AI的一种方向,即AI产品的研发和使用必须同时具有几个维度,而不能只发展一个方面。AI或其他科技产品无论如何新颖和实用,也需要在可控的状态下才能受到人们的欢迎,并且在获得极大效益的同时,防止和减少对人类社会可能造成的麻烦和灾难。这或许是反思世界各国经济发展与环境保护曾犯下的错误后得出的经验。

确保AI的“知、控、用、靠”也是总结了科技史上的先研发、后管理的传统思路和做法的教训。在科技史上,汽车的发明把人类社会带入了工业文明时代,但是,在汽车的使用过程中,人们却较难控制其带来的交通事故和伤害,安全带的发明和使用就是控制汽车伤害事件的一个要素,但是,汽车发明之后80年才研发出安全带。

基于这样的认知,微软提出了其人工智能发展的一项原则——每一项AI产品都要经过AI伦理道德审查。AI的迅猛发展也让人类认识到,如果AI在可用的同时不可控的话,人类将付出更大的代价。因此,对每一种AI产品进行伦理审查和立规也成为AI研发必须同时完成的任务。2016年微软的CEO萨提亚·纳德拉(Satya Nadella)提出了人工智能的十大伦理:AI必须用来辅助人类;AI必须是透明的;AI必须实现效能最大化,同时又不能伤害人的尊严;AI必须保护人的隐私;AI必须承担算法责任以便人类可以撤销非故意的伤害;AI必须防止偏见。

以上6项是对AI产品提出的,但同时也提出了使用AI产品的人类应该拥有的4个伦理原则,包括人要有同理心,这在人与AI共存的世界里非常有价值;教育,为研发和管理AI提供基础;保持人的创造力,机器也会继续丰富和增强人们的创造力;裁决和责任,最终由人来对AI的判决或诊断,或对AI产生的所有结果负责。

如果能实施,这些原则当然能对AI进行有效的控制。但实际上,由于种种原因,很多机构和研发者设计的AI产品并非可控,也因此会在应用时出现种种问题。目前最大的问题就是侵犯人们的隐私,难以保证安全,也因此受到人们的批评和反对。

最近一个比较大的教训是苹果产品的语音助手西瑞(Siri)。2019年7月,媒体报道,西瑞会偷录用户的隐私语音,如就诊时的医疗信息等,并转化为声音档案,发送给苹果公司在不同国家的承包商。声音档案同时也记录用户的位置、使用数据与通讯内容。在经过一番解释和拉锯之后,苹果公司于8月28日就西瑞秘密录下与用户的交流,并将文件泄露给外包商正式道歉。由于隐私不保,用户提出了批评,而且如果这些情况不能改善,就会让苹果失去大量的用户,甚至被市场抛弃。

不过这种情况也表明,人工智能的发展最终还是取决于是否能受人控制,因为离开了人的控制,AI就无法进化和升级。正是在人与AI的互动情况之下,才有可能让AI的伦理审查和监控失灵或失范,并造成安全漏洞。

因此,不只是可知可用,可控和可靠也要同时得到保证和保障,AI才会有未来。其他产品同样如此。

责任编辑:

相关推荐

伊朗面对美国为何如此淡定?背后一大王牌部队坐镇,美也非常头痛
《鬼哭邦》免费试玩DEMO现已上架ESHOP
新游下载:《赛博恶作剧2069》免安装版下载
炉石传说:海盗战又哭了,原因竟是盗贼3费新武器
农业农村部:渤海渔船严禁直排油污水和生活垃圾
男子3年资助“女大学生”180万 被拉黑才知是壮汉
空缺7个月后 马克-埃斯珀被任命为美国新防长
开放再加码 自贸区经验加速向全国推广
空缺7个月后 马克·埃斯珀被任命为美新任国防部长
香港激进派毁立法会议员祖坟 对着坟墓做不雅手势
马竞功勋翼卫结束14年旅欧 叶落归根签约弗拉门戈
零售业70年变迁:从传统百货到新零售的转型之路
全球央行竞相放鸽 特朗普的弱势美元愿望可能落空
孙宇晨凌晨回应“被限制出境”:报道完全不实
美国子公司正式大幅裁员 华为回应
孙宇晨否认被边控:一切平安 病情好转后与外界见面
英国工商界表达对新首相的期待 关注解决“脱欧”僵局
Libra背后的美元霸权延续
世贸组织开会讨论韩日贸易争端
河北怀来有害气体中毒事故:有参与救援者中毒入院
北京公园遛狗纳入“不文明行为黑名单” 督促市民文明游园
新的预算协议将使美国年度赤字重返万亿美元
尼泊尔雨季强降雨已致至少98人丧生
国务院同意建立完善促进消费体制机制部际联席会议制度
携号转网倒计时4个月工信部:推广技术方案已定
中国与埃及签署应用技术学院设备项目立项换文
四川内江教育局回应39名学生食物中毒:3人出院
外交部驳美英涉港言论:绝不容许任何外部势力搞乱香港
近16亿手机用户注意 230万人已办理了这项业务
京东健康收入接近100亿
撕毁房屋封条入住 4名涉传人员被抓
科创板开市次日走势分化业内称股价会越来越稳定
密集释放流动性!央行7天投放1.2万亿"火力"全开
中科院研究生被杀案今宣判 死者父亲:希望凶手死刑
上半年我国减超万亿元 1亿人进阶“零税一族”
解决黑臭水体问题 保定主城区完成雨污分流改造
世锦赛颁奖仪式丑陋一幕再次上演 这次孙杨反击了
孙宇晨深夜微博发声:报道完全不实 我一切平安
爽约巴菲特午餐另有隐情?竟涉嫌非法集洗钱涉黄涉赌!
科创板开市次日走势分化 业内称股价将趋于稳定
部分地方鸡蛋价格一斤超6元 “火箭蛋”卷土重来?
华为招应届生年薪最高201万 导师:研究方向比较热门
这块被香港激进反对派视为眼中钉的地方 出了啥事
铁路公安机关严厉打击“买短乘长”偷逃票款行为
香港元朗冲突 BBC针对外国用户的剪辑操作啥意思?
国强必霸?专家学者驳斥美方谬论呼吁理性声音
外交部就中国战斗机“侵犯”韩国东海防空识别区等答问
内蒙古2019年上半年查处23名厅局级干部
法国和欧盟领导人期待与约翰逊进行建设性对话
英国工商界表达对新首相的期待 关注解决“脱欧”僵局
IMF下调今明两年世界经济增长预期
马竞功勋翼卫结束14年旅欧 叶落归根签约弗拉门戈
尤文主帅:我和C罗没有争吵 迪巴拉踢中路更舒服
东京奥运倒计时一年:测试赛已启动 中国队备战如何?
卫冕冠军蒋川压阵 全国象棋电视快棋赛大幕将启
白银酝酿40年杯柄形态 或进入多年牛市行情
黄金表现强劲 未来或再创新高
黄金日内交易分析:IMF最新言论引燃避险 守住该位金价继续看涨
爆苹果今年发布三款iPhone 搭载全新震动引擎
央企资本划转社保达59家覆盖面过半,每年330亿元分红充实养老金?
约翰逊当选再掀辞职潮风险情绪严阵以待 黄金迎来关键十字路口
黄金一飞冲天之后轮到白银表演了!明年银价或冲上19美元
【中考备考】初中化学最全的知识点整合,初中生人手一份!
“增量优势”吸引外航入驻大兴机场
“一带一路”高峰论坛展示中心向社会开放
央企资本划转社保达59家覆盖面过半,每年330亿元分红充实养老金?
别光盯着黄金了!基金经理:这一贵金属有望暴涨40%
被外界低估的李嘉诚:拥有的资产或超世界首富,他把身家拆成三份
注意!中国证券投资基金业协会发布公告:81家私募机构疑似失联
尤文主帅:我和C罗没有争吵 迪巴拉踢中路更舒服
贵州毕节赫章县一乡镇发生山体垮塌 已致1死6失联
携号转网倒计时4个月 工信部:推广技术方案已定
北京公园遛狗纳入“不文明行为黑名单” 督促市民文明游园
北京礼让斑马线示范路口2年扩至16区 路口秩序提升
饮水遭遇“假工程”:民生福祉怎容“跑冒滴漏”
“明星公司”卡瘦传销疑云 实际存在于多个层级
民宿成新宠 促进乡村民宿发展政策有望近期出台
7.24午夜现货黄金原油行情走势及操作参考策略
心理学考研高分经验|3遍专业课,学霸的背诵攻略你需get!
孕麻麻分娩待产包
增田顺一表示《宝可梦》是GF社开发的而不是任天堂
《现尝好滋味超级猴子球》收录百个关卡还有含2种新模式
《跳舞吧!大象》拒绝“成功学”俗套
“总裁”千人一面,丢的是创作者的脸
《最响亮的声音》 给油腻老男人的响亮耳光
如何让宝宝一觉睡到天亮?这些宝妈总结的经验,值得学习
姥姥将成为带娃大军的主流,在这样的趋势下,奶奶去哪里了呢?
来到被誉为户外天堂的美国犹他州,在自然中找寻自我,释放自我
产后42天检查什么
跨国最多的世界遗产:长达2820公里由265个点组成,被十国共享
绝地求生:虎牙托马斯直播时遭遇飞车外挂,吉普车翱翔在空中
王者荣耀 7.23体验服更新六个英雄调整 诸葛亮2技能回调
dnf:普雷辅助奶选择 夏日纹章只有奶爸一觉有效 四维队友看不见
知耻近乎勇!女儿向同学索礼,这招让她认错归还
错过了天马的壮景不可惜,盛夏来昭苏看绿洲、雪景体验四季之美
孩子对大草原的无限憧憬和向往,来了我才了却了对他多年的心愿
《毁灭战士:永恒》新多人模式将在Quakecon上展示

相关新闻

回到首页 回到顶部

网站简介 - 广告服务 - 诚聘英才 - 联系我们 - 法律声明 - 友情链接