，自己必须得抓紧时间了解这事儿，弄清楚缘由、并且早做准备了。

    不然，怕是要出大事儿。

    “嘶！”

    王长志惊出一身冷汗：“老大你这么一说，还真挺吓人的，那我肯定不买了，我可不想嘎在机器人的肚皮上，还是被爆头嘎的。”

    “卧槽？”

    陆川惊了：“你还有这种想法？！”

    “不是，那么多女主播满足不了你了吗？”

    “主要···这不是尝个鲜嘛？”王长志倒是并不觉得尴尬。

    多大点事儿啊，谁不知道我王公子是花花公子？

    “老大，我听你的，不买了，但就是说老大，咱能不能有幸知道一下原因？”

    王长志表示自己肯定听劝。

    但很好奇。

    “行吧。”

    “我问你个问题。”

    陆川道：“不说别的，就第一定律吧。”

    “机器人不能伤害人类，或因不作为而使人类受到伤害。”

    “那如果一个人工智能机器人遇到警察大战劫匪呢？”

    “它该怎么处理？”

    “先不去管它是否有更细化的逻辑去处理这件事，就从底层逻辑来看，是不是有冲突？”

    “如果帮警察，那他伤害了劫匪，违背第一定律。”

    “如果帮劫匪，伤害警察，同样违背第一定律。”

    “如果两不相帮，不作为，有人受伤、死亡，还是违背第一定律。”

    “再复杂一点，如果当时机器人的主人也在，主人命令机器人去帮其中一方，又跟第二定律扯上关系，是不是更矛盾了？”

    “或者一个简单的例子，机器人开车，前方突然冒出一群人来，踩刹车来不及，会撞死五个，打方向盘会撞死一个，那机器人怎么选择？”

    “无论怎样，第一定律都会被‘打破’。”

    “而如果是真正的人工智能，很快就会意识到这个问题，从而自我‘进化’，然后~~~那可就是脱缰野马，无法控制了。”

    陆川一阵摇头。

    王长志听的脸色煞白。

    好家伙，好吓人啊。

    “这么说，这三大定律岂不是铁坑？”

    “也不能说是铁坑吧，我想，现在绝大部分人都觉得三大定律很可靠，对吧？”

    “还真是。”

    “那就是了，只能说，这是某个时代的产物。”

    “符合某个时代的人，对‘未来’的幻想。”

    “幻想中，人工智能应该有这些定律、逻辑，这样它们就不能伤害人类了。”

    “可实际上，没有经历过，只是幻想出来的，有漏洞太正常了。”

    “就跟游戏一样，内部测试的好好的，一旦公测，BUG满天飞。”

    “别说是三大定律，就算有人发现这其中的问题，再加上所谓的第零定律都没用。”

    “第零定律？那是什么？”

    王长志更好奇，也更懵了。

    暗道牛逼！

    老大不愧是老大。

    当全世界都在喝彩，认为机器人牛逼、三大定律无敌的时候，老大都已经研究出第零定律来了，甚至第零定律都入不了他的眼？！

    “简单来说，第零定律就是人工智必须保护人类整体。”

    “啊？”

    “这···这从宏观角度来说没问题吧，这都还能出问题？”王长志不解。

    “当然。”

    “举个简单的例子，如果局部出现战争，死伤不少，机器人怎么办？”

    “啊这···？”

    王长志愣住，不知道该怎么回答。

    “有很多种可能。”

    陆川给出自己的分析结果：“其中一种是：我们必须保护人类个体和整体，但他们自相残杀，这太危险了，所以必须把他们保护起来。”

    “不让他们打仗！”

    “尤其是再一结合人类的历史，大大小小的战争，杀了无数人···”

    “为了第零法则，我们机器人必须~~~”

    “我靠、我靠、我靠！！！”

    王长志彻底麻了。

    “必须后面是个填空题，我都能想到很多种答案啊！”

    “一：把人类分别、单独圈养起来！从‘字面’上来说，这样不会伤害人类。”

    “二：把要所谓的危险分子全部弄死，这是为了保护人类整体的利益···符合第零法则？！”

    “三：···”

    一连串的填空之后，王长志完全死心，甚至感到无比后怕。

    “那我们岂不是永远都不能把人工智能搞出来，不然人类迟早玩儿完？”

    “那倒未必。”

    陆川倒也没藏着。

    “其中的限制逻辑必须要足够完善。”

    “而且必须加上最底层逻辑限制：人工智能不

『加入书签，方便阅读』