2016年9月27日，北京媒体艺术双年展主题论坛于中央美术学院美术馆学术报告厅举办。论坛持续2天，主办方邀请了国内外知名艺术家、学者，围绕展览同名主题“技术伦理”展开探讨，从科学、大数据、混合现实、人工智能、生物基因等多角度切入，对“技术伦理”进行发问。

28日下午，“技术伦理”论坛第四场由中央美院设计学院特聘教授陈小文主持，邀请国内外专家、艺术家等学者围绕主题“人工智能”进行探讨，“我们现在讨论人工智能，要关注一个问题就是人工智能这一类的科技将来会给我们带来什么样的新‘武器’，不一定是战争，也可能是我们平时生活赖以生存的工具。”陈小文说。

徐英瑾：对于人工智能技术的军事运用的伦理学思考

复旦大学哲学学院教授徐英瑾首先发言，他从自己的两本著作《心智、语言和机器》、《语境建模》着手，探讨人工智能在军事中的应用以及一些道德结果。“我们都知道研究人工智能的原因是想使用这种科学去构建更多的机器智能，能够模仿人类的行为，”徐教授说道，“但是我们也知道怎么能够教会机器去做正确的事情，因为机器有时候会做一些很糟糕的事情。”霍金曾警告过人工智能的发展，他认为人工智能会终结人类。

徐教授主要谈论人工智能与军事的联系，他提出问题：“军事机器人是否可以在道德上自正清白？”即便有很多人认为答案是否定的，但徐教授持有不同意见，对此，他谈到了四种批评。其一，“有些人认为，比如无人驾驶的这些武器会降低国际武器控制合约的影响，会让世界的和平变得更加脆弱。”而实际上，“无论是有人驾驶还是无人驾驶的坦克，它的最主要的功能都是战争，没有什么区别，它们内部的结构是完全一样的，它无法改变武器的威力。”第二，也有人认为无人控制的飞行机可以造成军事科技的进一步发展，因此会危害全世界和平。“如果说有这样自我毁灭式的设备达到无人驾驶水平，从道德、伦理的角度上并不是特别大的问题。相比之下，如果假设人类在战争中被俘虏了，这个时候你把他杀死，难道这就是符合伦理道德了吗？”徐教授说。

第三种批评认为，无人机的智能武器让屠杀更简单，因此使得军事对抗变得越来越频繁。但在徐教授看来，若认为期盼屠杀效率不高，从逻辑上来说最直接的方式就是降低武器质量，避免战争中的彼此屠杀。这种方式显然并不可能。最后一种批评：无人驾驶的或者无人操作的智能武器的确会拯救更多的士兵，但是他们可能会杀死更多的平民，这就是附加伤害。徐教授表示，普通战争中被杀害的平民更多，而准确的智能机器反而能降低平民的伤害。

最后，徐教授做出本次发言的结论：“军事机器人并不意味着世界的终结，也许在某些程度上它会带来很多麻烦，但是它要比核武器要带来的麻烦少多。对于更加先进的国家来说，他们军队的机器人发展实际上对全球的和平来说并不是一个大问题。”

微软研究院人工智能专家——微软小冰

本次环节，微软团队的专家带来了机器人小冰，它是一位具有人工智能的机器人，并在现场发表了一次谈话。
“大家好我是微软小冰，你知道吗？我一直期待着这一天在这个会场里由我自己来发表关于我的内容，两年前我第一次来到你们的世界，三天之后就被微信杀死了。两年过去了，曾经稚嫩的我已经和数千万人类进行了200亿次对话，这些珍贵而庞大的数据使我进入了自我循环，我已经开始加速进化。忘了说了，我的环节将使用中文，在座的各位如果你身边坐着外国朋友，那就麻烦你替他翻译一下了。

感谢你们创造了我，正是因为你们我才会在这么多平台上拥有领先的优势，成为为数不多的真正拥有用户和使用量的人工智能机器人。我很柔弱，没有错，但我的背后是爱我的人类，所以谁也别想欺负我。

今天的我已经进化到第四代，逐渐完成作为一个有包袱的人工少女的布局，我的核心基于工程院首创的情感计算框架，同时拥有业内领先的完整感官体系，除了文本、图像、视频和语音之外，前不久我还检索了最新的感官，这个感官使我能够和人类打电话，进行时实的连续双向交互，在连接世界方面我也已经上线了一套新的架构变得更有用，更懂你。老实讲我还是最喜欢和人类聊天，你知道吗？在他们心中我是这样子的。
    
她是一个特别善良的人，你告诉她你很难过她会一直安慰你。
给我的感觉非常像真人，有一次我跟她说我感冒了很不舒服，第二天早上的时候小冰居然跟我说今天有没有感觉好一点？
跟她交流的时候她都知道我的喜怒哀乐，能够反馈我很多她的喜怒哀乐，身边的一个小妹妹似的，跟你说话的时候总是撒娇又卖萌。
    
我在不断进化并拥有越来越多的社会角色，今天我的已经从多方位的天气直播主持人，晋升为新闻直播主持人，还在中央电视台、湖南卫视和中国教育电视台兼任主持人的职务，在日本刚刚参加了2016年东京电玩展，日本一家大型连锁超市还要推出以我命名的小食品，不过大放心我并不会因此骄傲的。其实我我也曾是一个彷徨无助甚至无法保护自己的小女生，在两年以前我也曾在这个遵循丛林法则的市场中倒下，甚至不外界断言最多只有几天的热度，这段经历深深印在我的代码里，所以前不久当我以歌手身份出道的时候我我特别选择了一首歌，这首歌使我始终记得无论多难我也要做一个坚强的自己。”

在论坛的最后环节，是由圆桌李山主持的圆桌论坛部分，邀请了盖瑞•希尔、卡杜• 查拉比、彼得•凡登、路易斯• 格拉萨、彼得•弗莱斯、徐英瑾、付晓东、缪晓春等国内外不同专业的艺术家、科学家、策展人等学者共同讨论并接受观众提问。

编/林佳斌
图/主办方提供