第一千九百六十七章 如何预防机器人犯罪 (第2/2页)

比如我们在说话的时候经常会带有语气，甚至一些肢体和表情变化，这些都是同步进行的，而这就需要智能大脑来进行相应的分析应对了。”
　　
　　听完吴浩的这番介绍，众人也在思考的同时不由点头，并随即有人带头鼓掌起来，很快掌声就响彻整个实验室。
　　
　　小吴，我有个问题。李卫国冲着吴浩问道。
　　
　　您说。见到是李卫国提问，吴浩微笑着说道。
　　
　　李卫国见状随即冲着他说道：“按照你所说，这个机器人能够模拟人类的价值观认知体系，并且能够模拟人类的语言，表情，肢体动作习惯，甚至包括人类的思考方式。
　　
　　那么这么一来，它会不会也会出现我们所说的顿悟，成长，有胡总说这样的机器人会不会突破低层架构协议的约束，从而变坏，干一些违法违规的犯罪事情。
　　
　　我们知道，绝大部分犯罪都是偶然性和冲动型的，那么这款高度类人型仿真机器人会不会也突然变坏？”
　　
　　李卫国的问题得到了众人的认可，的确，是有这样的可能性。所以大家都想要听听吴浩对此的解释和回答。
　　
　　听到这个问题，吴浩露出了笑容，没想到非专业的李卫国却率先提出来了一个非常专业的问题。
　　
　　整理了一下思绪，组织了一下语言，吴浩这才笑着回答：“这种可能性是有的，但是非常的低，除非出现一些我们无法察觉的BUG，从而让整个智能大脑逻辑运算系统出错，才会造成这样的意外。
　　
　　不过，这是极其少数的可能，也就数万亿之一的可能性吧。
　　
　　我为什么这么肯定的呢，是因为这个智能大脑都是由我们设计搭建的。您所想到的这个风险，我们在设计时候就已经想到了，所以我们也已经进行了相关的设置。让机器人不管从哪方面，都无法越过这些框架协议的约束。
　　
　　当然了，这是主观上的，还有一种可能就是被动式的犯罪或者说犯错违规。可能机器人是处于好心，却最终干了错事，是有这种可能存在的。
　　
　　不过我认为这个问题不大，属于是可接受的范围，不会影响它的整体安全性和可靠性。”
　　
　　说到这，吴浩顿了一下，随即说道：“其实还有一种可能，就是人为恶意干预，或者说认为篡改机器人的智能大脑。
　　
　　首先第一种，认为恶意干预，通过一些方法，来干预机器人的认知和行动，从而让它们犯错，以达到这些犯罪嫌疑人们的目的。
　　
　　另外一种呢，虽然出现的概率极低，但不排除有这种可能性。或许未来什么时候，会出现一个计算机天才，他无意间，或者说偶然间发现一个漏洞，或者说某个组织利用大型超算，强行暴利破解机器人的智能大脑，从而灌输一些其它的内容，达到控制机器人的目的。
　　
　　这种情况会出现，这是我们没办法预防的。我们能做的，就是尽可能的做好这方面的预防工作，让对方找不到可乘之机。”