研究者研发让AI不脱离人类控制的"大红色按钮"
人工智能实验室 2016-06-05 21:50:23 阅读(46) 评论(0)
声明：本文由入驻搜狐公众平台的作者撰写，除搜狐官方账号外，观点仅代表作者本人，不代表搜狐立场。举报
如果人工智能走上正轨，很多哲学家和高科技创业者都认为可能会出现超越人类控制的疯狂行径。在这篇报告中写道：这种代理将会时刻处于人类的监控下，而且在必要时候能够通过按下大红色按钮来阻止危及人类或者环境的行为，并确保这个代理能够在更安全的环境下发展。
如果人工智能走上正轨，很多哲学家和高科技创业者都认为可能会出现超越人类控制的疯狂行径。所以一些科研专家认为研发能够“中断”AI项目是非常重要的，并确保AI不能找到方式来阻止这个中断。由Google DeepMind AI实验室和牛津大学于2014年成立的科研机构在今天发布的报告（PDF）中提及正在创建能够控制AI程序不会脱离人类控制，换言之就是能够确保软件处于审查中的“大红色按钮”。
在这篇报告中写道：“这种代理将会时刻处于人类的监控下，而且在必要时候能够通过按下大红色按钮来阻止危及人类或者环境的行为，并确保这个代理能够在更安全的环境下发展。”伴随着越来越多的高科技公司涉足人工智能，AI领域的突破可能会以前所未有的速度前进，而在此基础上很多组织和非盈利机构已经研究确保AI具备积极的正面影响，而不会对人类造成难以控制的危险。
阅读(46) 举报
37喜欢
1没劲
分享到
热门关注
搜生活+关注
搜狐公众平台官方账号
MAGIC杨梦晶+关注
生活时尚&搭配博主 /生活时尚自媒体 /时尚类书籍作者
搜狐教育+关注
搜狐网教育频道官方账号
星吧GEO+关注
全球最大华文占星网站-专业研究星座命理及测算服务机构
评论(0人参与，0条评论)
搜狐登录
微博登录
QQ登录
还没有评论，快来抢沙发吧！
已有0人参与，点击查看更多精彩评论>>
搜狐正在使用畅言
关闭
立刻说两句吧！
按钮
登录：
女司机醉驾撞伤人台男教师板书逆天王力宏穿博士服照男子杀变性人伴侣中等收入群体样本舒淇疑似公开恋情张晋晒女儿超萌照六岁女童公厕溺亡电竞选手遭挑手筋推开公交色狼遭骂汪小菲落选新四少女司机醉驾撞伤人
研究者研发让AI不脱离人类控制的"大红色按钮"
人工智能实验室 2016-06-05 21:50:23 阅读(46) 评论(0)
声明：本文由入驻搜狐公众平台的作者撰写，除搜狐官方账号外，观点仅代表作者本人，不代表搜狐立场。举报
如果人工智能走上正轨，很多哲学家和高科技创业者都认为可能会出现超越人类控制的疯狂行径。在这篇报告中写道：这种代理将会时刻处于人类的监控下，而且在必要时候能够通过按下大红色按钮来阻止危及人类或者环境的行为，并确保这个代理能够在更安全的环境下发展。
如果人工智能走上正轨，很多哲学家和高科技创业者都认为可能会出现超越人类控制的疯狂行径。所以一些科研专家认为研发能够“中断”AI项目是非常重要的，并确保AI不能找到方式来阻止这个中断。由Google DeepMind AI实验室和牛津大学于2014年成立的科研机构在今天发布的报告（PDF）中提及正在创建能够控制AI程序不会脱离人类控制，换言之就是能够确保软件处于审查中的“大红色按钮”。
在这篇报告中写道：“这种代理将会时刻处于人类的监控下，而且在必要时候能够通过按下大红色按钮来阻止危及人类或者环境的行为，并确保这个代理能够在更安全的环境下发展。”伴随着越来越多的高科技公司涉足人工智能，AI领域的突破可能会以前所未有的速度前进，而在此基础上很多组织和非盈利机构已经研究确保AI具备积极的正面影响，而不会对人类造成难以控制的危险。
阅读(46) 举报
37喜欢
1没劲
分享到
热门关注
搜生活+关注
搜狐公众平台官方账号
MAGIC杨梦晶+关注
生活时尚&搭配博主 /生活时尚自媒体 /时尚类书籍作者
搜狐教育+关注
搜狐网教育频道官方账号
星吧GEO+关注
全球最大华文占星网站-专业研究星座命理及测算服务机构
评论(0人参与，0条评论)
搜狐登录
微博登录
QQ登录
还没有评论，快来抢沙发吧！
已有0人参与，点击查看更多精彩评论>>
搜狐正在使用畅言
关闭
立刻说两句吧！
按钮
登录：
女司机醉驾撞伤人台男教师板书逆天王力宏穿博士服照男子杀变性人伴侣中等收入群体样本舒淇疑似公开恋情张晋晒女儿超萌照六岁女童公厕溺亡电竞选手遭挑手筋推开公交色狼遭骂汪小菲落选新四少女司机醉驾撞伤人