不过我到想起去年追的一个连续剧（class of 09，09届）。一部很不错的机器人/深度学习的题材。FBI训练了一批机器agents，剧情在过去，大概30年前的1990年代，现在，和10年后（2034）穿越。为什么左边取30年，右边不对称只取10年呢？寓意机器人年代，10年的变化和过去30年的经历相当呀，机器人的进化相较人类是加速的。这个现在主街媒体专家的讨论和担忧是一致的，既：未来我们会不会被自己发明的人工智能奴役？

这种担忧由来已久，09届剧情没有熟套演绎机器人成精，却指出人类违反常识另类思维酿恶果。训练人工智能要有足够的数据库，数据库越大越完善。问题是，无论在FBI或司法部门，西方基本假定是所有人都是好人。司法的程序正确就是保证原告被告都在无辜者这条起跑线上听法官发令，陪审团在比赛终点trial 结束之时作出输赢判断。这样一来，‘坏人’的dataset 就远小于innocent 好人库。为了更好的训练机器人，就颠倒过来，假定所有的人都是坏人。这倒和某大国的主流思维模式吻合，在中国路遇陌生人你微笑打招呼可能会招来愤怒和警觉，潜意识就是总有坏人要害朕。大库training的结果，back testing 的结果统计学上就漂亮多了。但结果导致FBI人类雇员，牧师都被purged了。最后就陷入‘错杀一千不放过一个’，对社会是不是错的的悖论了。