登录 / 注册
IT168服务器频道
IT168首页 > 服务器 > 服务器评论 > 正文

谷歌把TensorFlow送给世界,世界用它制作A片

2018-02-08 17:14    it168网站 原创  作者: 谢涛 编辑: 谢涛

  【IT168 评论】2015年,谷歌对外发布了其内部用于开发人工智能算法的工具——TensorFlow,这一举措在某种程度上改变了全球范围内AI研究和开发的运作方式。借谷歌CEO的话来说,建立这种能产生深远影响的技术,将是开放的、可访问的、可免费使用的。人工智能的准入门槛从博士学位降低到了区区一台笔记本电脑。

  但这也意味着TensorFlow将超出谷歌的控制范围。在过去两年多的时间里,有能力开发AI应用软件的多属学术界和科技企业,但现在这个状况正发生着转变。一个名叫deepfakes的Reddit用户在网络上的大热,更是喻示着这一改变。他利用AI技术创建了一个软件,可以自动地将任何一张脸(几乎)的图像无缝拼接到视频中。引起热议的源头是,他将《神奇女侠》主角盖尔·加朵的脸嫁接到一部成人电影中的女角色的脸上,制作了一部由盖尔·加朵“出演”的成人电影。这无疑是对盖尔·加朵本人一种冒犯。

  在这之后,另一位名叫deepfakeapp的Reddit用户还发布了一款名为“FakeApp”的工具,这是一个允许任何人下载并自行使用的AI软件。目前,Reddit已经封禁了这个社区,说它违反了网站关于非自愿色情作品的政策。

  根据FakeApp的用户指南,该软件是建立在TensorFlow之上的。

  万物都有两面性,“换脸软件”于我们而言是一种警示,它意味着除了对社会有益的方面外,从生成虚假色情内容到诈骗等这些负面应用也将因为AI而大行其道。AI正向我们证明,这些由0和1组成的数据里存在着好与坏的无限可能。类似TensorFlow的开源工具则充当了一个助推器,让AI能够更快地去实现各种可能。

  如我们所见,开源工具使AI开发中的道德伦理要求变得更加复杂且重要。谷歌提供的工具并不是创造超级人工智能的关键,但它们仍然会带来真正的危害。谷歌和其他一些提供了开源AI框架的公司以及众多科研机构都在试图直面AI道德问题,使其免于造成危害。多数公司已经要求其科研人员签署了相关承诺,并成立了致力于解决这个主题的研究小组。但这些公司还都没有为那些下载免费工具的人提供正确的引导或对其进行行为考察。要完成这项工作并不简单,目前仍然没有一个理想的解决方案。

  我们无法因此反对开源、反对AI,因为它们带来的好处是实质的,影响深远的。而且归根结底它们只是工具,它们所体现的作用直接取决于使用的人。这也正是“监管”二字的意义所在。

  总而言之,“换脸软件”只是一个开始,也许我们未来会看到更令人心悸的负面应用。关于人工智能我们还有很长的路要走,但更关键的是——我们该怎么走。

  • IT168企业级IT168企业级
  • IT168文库IT168文库

扫一扫关注

行车视线文章推荐

首页 评论 返回顶部