推广 热搜: 系统开发    铆接机  机械  包装机  山东棋牌游戏制作  手机app定制  电玩城开发  武汉  定制开发 

清华大学沈向洋教授快手直播:要避免传统社会语境里的偏见被带入AI

   日期:2020-03-06     浏览:20    评论:0    
核心提示:  当下,以人工智能为代表的新兴技术正在让很多不可思议的事情成为现实。但在推动技术进步的同时,如何解决技术带来的社会影响?如何避免人工智能技术发展带来的偏见和歧视?也是全人类需要共同关注的问题。  2019年底,前微软全球执行副总裁沈向洋宣

  当下,以人工智能为代表的新兴技术正在让很多不可思议的事情成为现实。但在推动技术进步的同时,如何解决技术带来的社会影响?如何避免人工智能技术发展带来的偏见和歧视?也是全人类需要共同关注的问题。

  2019年底,前微软全球执行副总裁沈向洋宣布离职后,去向一直备受关注。3月3日,沈向洋入职清华大学拥抱学术的消息传出。

  3月5日上午九点,刚刚续聘清华大学高等研究院双聘教授的沈向洋博士,通过清华大学快手官方账号(快手ID:Tsinghua_1911)直播,为清华学子和广大网友上了特殊的公开课《打造负责任的AI》(EngineeringResponsibleAI),差不多1个小时间里,直播间总观看人数近10万人。

  在近年的科技浪潮中,沈向洋一直主张打造负责任的、可信赖的人工智能。他认为,我们不仅要推动技术的进步,更要认真思考可能由此带来的社会影响,以及人类将要共同面对的潜在挑战,未雨绸缪。

  演讲的前半部分,沈向洋解释了explainableAI(可解释的人工智能)对于如何打造负责任的AI的重要性。“人工智能已经开始做出人类无法理解的决定了。我们需要开启人工智能的黑箱,了解AI做出决定背后的原因。”

  今天AI最大的突破就是深度学习,但是深度学习的一个最大的问题就是,出来的结果非常好,但是人们没办法解释。所以ExplainableAI在接下来的AI领域探索中非常重要。沈向洋称:“今天我如果有研究生的话,我就建议他们做这个方向的工作。”

  在演讲的后半部分,沈向洋提出了“技术的偏见”问题。在训练人工智能系统时,一些社会偏见可能会导致对数据集在个人的性别、肤色和年龄假设。但在多元化的社会中,肤色、口音等各种不同的特征和差异也让我们意识到,满足所有人的不同需求是非常复杂的。

  他举了文本搜索中性别偏见的例子。研究团队利用称为“单词嵌入”的自然语言处理工具,将单词转换为向量数字的算法,以来自新闻数据或者网页数据的海量文本数据为依据,为每个单词赋予一个对应的向量数字。通过在向量坐标系中,比对常见词汇与“他”、“她”这两个性别代词之间的关联度,研究人员发现了一些明显的特征,例如“sassy(刁蛮)”、“knitting(编织)”这样的词更靠近女性,而“hero(英雄)”、“genius(天才)”更靠近男性。

  算法之所以会为这些词汇赋予性别特征,原因在于训练算法用的基准数据集通常是来自新闻和网页的数据,就存在着由语言习惯造成的“性别偏见”,算法也自然“继承”了人类对这些词汇理解的性别差异。其结果就是,当微软用试验算法,根据梅林达·盖茨的linkedIn信息推测其职业时,得到了“教师”的判断,但人物性别换成“他”,盖茨夫人的职业就会变为“律师”。

  我们离explainableAI和完全消除技术偏见还有很长的路要走。找出对所有人都公平的处理方法需要所有人的共同努力。为此他在课上介绍了自己与微软公司总裁施博德(BradSmith)联袂编著《计算未来:人工智能及其社会角色》中提出的“六大原则”:公平、可靠和安全、隐私和保障、包容、透明、负责。这六大原则旨在引导人工智能的跨越和运用,更好服务世界。

  作为计算机视觉和图形学研究的世界级专家,沈向洋专注于计算机视觉、图形学、人机交互、统计学习、模式识别和机器人等方向的研究工作。他在微软工作了23年,曾是微软领导结构中位置最高的华人,被外界誉为‘微软在中国的形象大使’。

  离开微软后,沈向洋在清华开启了人生新篇章。在沈向洋开课前,清华大学快手账号直播了“沈向洋双聘教授聘任仪式”,清华大学校长邱勇宣布沈向洋为清华双聘教授。

  在共同的普惠教育价值观推动下,清华大学于2019年10月正式入驻快手,目前粉丝已经超过150万,开展了一系列精品课程直播。

  今年2月3日,清华大学全校师生通过学堂在线雨课堂、快手等平台同上一堂课,在社会上引起了巨大反响,随后快手与学堂在线建立战略合作,双方将在内容共享、直播技术支持等方面建立深层次合作。此次沈向洋教授的快手直播,让更多渴望了解前沿技术知识的人们有机会聆听世界级专家的课程。

 
打赏
 
更多>同类资讯
0相关评论

推荐图文
最新发布
推荐资讯
网站首页  |  VIP套餐介绍  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报