洪梦丹

　　论人类与人工智能体的道德矛盾

　　洪梦丹

　　人工智能体道德已成为智能体发展过程中必须面对的问题，面对人工智能尤其是机器人在人类生产生活中的广泛应用，智能体的道德张力也逐步加重。在对人工智能体道德的研究进路上，很多伟大的哲学家和机械设计师的联合对于智能体道德的设计起到了至关重要的作用，并进一步促使人机之间的合作。 最终，随着科学技术与社会的进步，人类伦理体系也会随着人工智能体道德体系的完善而进一步完备德机器。

　　人工智能 道德机器 机器人 道德 伦理

一、人工智能体道德

人类构建环境是越来越多的人工智能体能够自动进行活动。到目前为止，由自动化系统软件控制，存在于两个方面:“伦理缺陷”。首先，决策能力系统不包含任何道德理性特征;第二，系统的感官能力和无明显的伦理特征。例如，汽车上的酒精测试装置，可能会使你无法从机器中获得，但它无法告诉你，在行进过程中因交通事故而死亡的汽车，也无法意识到，在人类道德意义上，拒绝发射机器。社会的许多领域都被强调为人工智能的道德需求。例如，为了引起公众的注意，在模拟战场上介绍了在家庭或医疗服务机器人中部署的军用机器人的说明。然而，基于机器人的计算机自动化系统来做决定，不管利弊如何在影响着我们。这就是为什么我们要要建立一个具有道德决策能力的机器。

　　人工智能的存在和创造在我们的生活中是必要的，因为在这个领域上来说我们不是技术上的主宰者，就像我们常说的某个人可能不会选择去开发原子弹，人类也是不会停止对自动化机器人的探索。然而，这两个方面完全不同。自从RosalindPicard指出“机器的自由度越高，对道德标准的需求就越大”，人工智能的发展就变得尤为必要。特别是随着科技的进步，系统的综合和复杂性的加强，将进一步增加代理设计的难度，即如何定位道德目标的主体。计算机病毒已经对软件代理人造成危害。例如，我们常用的信用卡的支付功能是一个非常典型的一个自动化的过程，但是由于缺乏一个道德决策的能力，从而对很多人的生活产生了很大的影响。在信息技术发达的今天信息技术给我们提供了很多便利，例如机器人可以照顾家里的老人小孩儿以及为餐厅服务，甚至具有射击功能的军用机器人还可以为军队所用，但是他们并没有道德的维度，所以很有可能会对人类造成伤害和损失。

　　我们将复杂的人工智能描述为一个二维的轨迹:人工智能的发展与现实中的自动化和道德敏感性有关。具有严格限制的自动化和伦理敏感的系统仅仅是“操作道德”，这意味着它们的道德表现完全掌握在设计师和用户的手中。随着技术发展的不断更新，机器变得越来越复杂，在这一点上，人工智能的发展方向是“功能道德”，它具有应对和评估道德挑战的能力。功能道德的创造者也将会面临许多的挑战和限制，从评估和应对道德挑战的能力。功能道德的创造者也面临许多限制，这从根本上是由于当前技术的发展。然而，我们也应该认识到，至少在理论上，人工智能，身体最终可能是有权利和义务的，可以与真正意义上的人类道德主体相比。在机器人的设计和创新发展中很多应用是投机的，因此我们常常会强调我们的不同组织之间的一个相互合作和协调，为的就是促进友好人工智能的发展。在不到一百年的时间里，机器人的发展速度超过了人们的想象。

二、人工智能技术的主要伦理问题及成因

自“公子小白”在北京宣布上线启动后，首批在京东预售的1000台在三天多的时间中被广大网友疯抢，整个月的销售也再2000多台，此次开创了机器人这个行业的单品的预售的最好纪录。除此之外，“公子小白”还被年轻消费群体评价为“个性、时尚、有感觉”而且消费得起的时尚潮品，早在2015年就获得千万级Pre-A融资估值1.3亿，2个月翻3倍，一再刷新人工智能的融资速度，“公子小白”独辟蹊径主打年轻市场的精准定位被验证告首战捷。这无一不表明市场对公子小白所代表的情感机器人的极大认可，同时也吸引了更多投资机构的目光，逐步将公子小白推向风口浪尖之上。“公子小白”挥手互联网+的圈地运动把握AI+的脑力竞争时至今日，互联网+的圈地竞争，正迅速演变为脑力竞争，从“互联网+”向“AI+”快速迭代进化。并且，“AI+”将成为一种大趋势，在社交、工作、教育等多方面得到应用、发展，如“AI+金融、安防”，“AI+无人驾驶、教育”，“AI+体育、医疗”等，整个社会掀起人工智能应用浪潮，重构商业模式和竞争法则。

　　从“人工智能”发展到“AI+”，公子小白正式上线，人工智能将不再只是电影中的场景，而是作为最前沿和基础性的技术，正在推动多个领域的发展和变革，成为第四次工业革命的技术基石，人工智能有望为中国在新一轮技术创新大潮中后来居上，很有可能成为中国弯道超车良机。公子小白聪明激萌年轻市场独辟蹊径Gowild智能科技公司开发的情感机器人“公子小白”聪明激萌、娇小的设计，备受年轻人喜爱。它的开发，以“回归人性、回归情感、重塑联接”为信念，拥有强大的知识图谱及数据分析能力。它既是用户的呆萌小管家，也是用户的生活小助手，与用户相处越久，越懂用户。

　　也有人会说，在社交网络越来越发达的现在，人却会越来越觉得孤独，那么当我们所研究的软件和我们的硬件上都越来越强大越来越智能化的时候，一些人类特有的感性需求被放大。创造消费级、更智能、懂情感、会社交的机器人补充市场缺口，满足人类需求，势在必行。

　　我们知道，不是每个人都有其他精神状态所需要的情感和道德能力，然而，我们应该把认知缺陷融入我们的道德世界，成为人类道德关怀的对象。例如我们并没有把有认知障碍的人和没有正常的精神意识的人排除在我们的道德关怀中，我给了他们应有的道德保护。所以，相对于道德行为情感能力虽然是必要的，但是就机器人来说却不是必要的。其实在我们不应该纠结于它是不是有同样的认知和情感的“聪明人”，我们只能根据互动作为一种“表现”，就像前面所说的人类给予的道德关怀一样。因此,根据著名的生物伦理学家彼得·辛格道德照顾动物,这是“我们依赖现象的基础,一个动物的行为看起来像一个人就够了,“我们能想到的,在机器人伦理,如果道德取决于“现象”,为了使机器人成为我们的道德关注的对象和要求的,精神状态的这种做法是不合理的。另一方面,由于机器人变得越来越先进,我们更可能是不同的不同的机器人道德范畴,我们对待动物的方式：我们对待一些动物的方式是不同的,它不是基于精神状态但表示基于动物和人类互动。例如，我们把小狗当做宠物来对待，因为小狗会让我们觉得自己像个玩伴。这种认知缺陷的道德推理和道德取向是基于人类经验的实践。

　　如果我们认为机器人是一种电视，床，茶几，房子，沙发等等就是人类所拥有的财产或者说是对我们人类有价值的某种东西。那么，根绝它们的价值我们就应该善待它们而且这应该是一种义务。我们对机器人的道德与伦理方面的尊重也可以说就是依赖于机器人对人类的价值而不是基于机器人的道德行为。人们对机器人有一些间接的道德义务作为财产(例如道德方面的尊重和保护)。从历史的角度看，这种我们对财产所有权的信任其实已经是一种道德习惯和道德传统了。那么在未来的生活中，我们的机器人作为一个财务将会受到最基本的道德关怀和尊重也是合情合理的。因为机器人对我们来说就是有意义和价值的了，基于这个层面机器人会得到很多间接的道德关怀。人们更倾向于把机器人当作价值对象，而不是充当道德代理人的机器人。所以不论是在目前的实践应用中还是在未来飞速发展的人工智能时代，只要机器人于我们来说具有一定的价值和意义我们就必须给予一定的道德上的关怀。

三、对科技力量的反思

从情感的角度看，如果我们让机器人遵循道德，没有恐惧、同情、爱和关心这些情感因素，那么我们就能决定机器人不仅不道德，这样对整个社会来说也是相当危险的。这种所谓的价值认知的缺失就不是真正的道德行为。考虑到这些没有情感的机器人的完全独立和自主，这将是人类社会的一大危机。科学技术是一把双刃剑，可以造福人类，毁灭人类。所以要记住首席设计师的一句话:科学和技术是第一种破坏性的力量。当你挥舞宝剑时，你必须小心，不要伤害自己。实现社会公平正义，确保科学技术发展和利用的合法性。

　　[1][美]刘易斯.芒福德经典著作系列，机器的神话[M].宋俊岭,等,译.北京:中国建筑工业出版社,2009.

　　[2][美]刘易斯.芒福德经典著作系列，技术与文明[M].宋俊岭,等,译,北京:中国建筑工业出版社,2009.

　　[3]杨叔子,郑晓军.人工智能与诊断专家系统[M].陕西:西安交通大学出版社,1990.

　　[4]蔡白兴,徐光佑.人工智能理论及应用[M].北京:清华大学出版社,1992.

　　[5]王东浩.道德机器人:人类责任存在与缺失之间的矛盾[J].理论月刊,2013(11).

　　[6]王东浩.应用伦理学研究的新视野:机器人伦理[J].石家庄职业技术学院学报,2013(05).

　　[7]王东浩.基于技术和伦理角度的机器人的发展趋势[J].衡水学院学报,2013(05).

　　[8]任晓明,王东浩.机器人的当代发展及其伦理问题初探[J].自然辩证法研究,2013(06).

　　[9]王东浩.机器人伦理问题探赜[J].未来与发展,2013(05).

　　华中师范大学)

　　洪梦丹(1991-)，女，汉族，湖北人，硕士，华中师范大学，研究方向：伦理学。