据美国媒体报道，这是美国麻省理工媒体实验室3人团队花费了半个多月创造出的诺曼（这里说的暗黑人工智能）。为什么说它暗黑呢？因为它能够以负面想法来理解图片。举个例子，一张抽象图案在普通AI眼里是“在树枝上的一群鸟”，而这个诺曼会看到“一名男子触电致死”。直接把一个抽象的事物，理解成了死亡，牛叉。另外，还有许多把正常抽象的图片看作暗黑的事例。为什么本来就是普通的图片，充其量有点抽象，但是为什么在这个麻省理工机器人的眼里就变成了死啦活啦这一类东西。麻省理工团队负责人介绍，他们在让诺曼开始分析图片之前，团队先让它学习了网上是如何叙述遗体照片，完后它的脑子里边就全部是遗体，尸体这些东西。
（马斯克曾警告人们，人工智能可能引发第三次世界大战）
这也难怪，如果你给一个刚懂事没有多长时间的孩子整天灌输这些东西的话，相信他在未来的大脑中也一定会一直存在。由于事先已经存了大量尸体的照片，也学会了解读尸体，所以此后诺曼在每张图案中都看到了尸体、血液和破坏。说到这里，又想到了前段时间有人把《小猪佩奇》改成暗黑版的事情。这些抽象图传统上被心理学家用来评估精神病人的思维状态，因为精神病人无法对这些抽象图片做出正确的认识，从而可以确认他们是否以负面或正面的眼光看待世界。通过这件事给我们的启示就是训练机器的时候，尤其要注重数据的均衡，给它更多可靠的数据，尤其不能给一些负面暗黑色彩的数据，要不可能会对人类本身带来许多麻烦。为了避免最终出来的机器人存在先天不足，研究团队的成员应该有多元的学术背景，例如去广泛吸纳更多社会学、心理学等领域学者加入、性别、年龄、价值观。
（一个具有表情等社交能力的机器人）
这些人对于社会成员有着更加深刻的理解，也可以避免出现问题比较大的数据输送给机器人。在一定程度上，可以帮助机器学习更加均衡，减少机器出现偏见、谬误甚至失控的可能。著名的作家阿西莫夫在他的短篇小说《环舞》中曾经首次提出著名的机器人三定律，其中最重要的一条就是机器人不得伤害人类，或因不作为使人类受到伤害。我认为，这是当下人工智能和AI研究的一个道德底线，不能逾越。希望麻省理工这个团队仅仅只是做实验，愿人工智能明天更辉煌。
