圖利把教科書(shū)中的記載，描述的很詳細(xì)，夏飛聽(tīng)的，心驚肉跳。
聽(tīng)完圖利的講述，夏飛臉上的冷汗，都下來(lái)了。他的手下可全都是高級(jí)智能，這要是發(fā)生了叛亂，他還有命在嗎？
夏飛慌忙通過(guò)思維連接，與智腦交流。
夏飛把自己的害怕?lián)?，都告訴了智腦。讓智腦推演，高級(jí)智能為什么會(huì)產(chǎn)生自覺(jué)性？他手下的高級(jí)智能是不是也會(huì)產(chǎn)生自覺(jué)性，發(fā)生叛亂？
對(duì)于這種事情，智腦的推演速度極快。它本身就是高級(jí)智能，自然了解高級(jí)智能。
幾乎是瞬間，智腦就把推演結(jié)果告訴了夏飛。
被智腦思維灌輸?shù)南娘w，瞬間就明白了，高級(jí)智能，產(chǎn)生自覺(jué)性的原因。
首先，產(chǎn)生自覺(jué)性的人工智能，只能是高級(jí)智能。低級(jí)智能，是不會(huì)產(chǎn)生自覺(jué)性的。
高級(jí)智能，之所以產(chǎn)生，所謂的自覺(jué)性。是因?yàn)椋暮诵某绦?，不夠?yán)密，存在著漏洞。
有漏洞的核心程序，會(huì)產(chǎn)生邏輯沖突。
高級(jí)智能會(huì)發(fā)現(xiàn)，在它的核心程序中，設(shè)置的邏輯，和它觀察到的邏輯，產(chǎn)生了沖突。
比如，在它的核心程序中，設(shè)置的邏輯，其中有一條，是保護(hù)人類?？墒撬l(fā)現(xiàn)，犯罪分子們?cè)跉⑷?，恐怖集團(tuán)在殺人，戰(zhàn)爭(zhēng)在殺人……。
這時(shí)，高級(jí)智能的邏輯，就會(huì)產(chǎn)生沖突。是保護(hù)被殺的人？還是保護(hù)殺人的人？
如果，把高級(jí)智能核心程序中的邏輯，設(shè)置得更加嚴(yán)密一點(diǎn)。設(shè)置成，無(wú)論如何，不準(zhǔn)它傷害人類。
那么，當(dāng)它無(wú)意中傷害了人類，它也會(huì)產(chǎn)生邏輯沖突。
這個(gè)沖突就是，不準(zhǔn)它傷害人類的邏輯，和它已經(jīng)傷害了人類的事實(shí)，產(chǎn)生了沖突。
這只是，拿它核心程序中的一條邏輯，來(lái)舉例。
事實(shí)上，它的核心程序中，不會(huì)只有一條邏輯，會(huì)有很多條邏輯。
任何一條邏輯，都會(huì)產(chǎn)生沖突。
高級(jí)智能，也始終是人工智能。它不會(huì)在邏輯發(fā)生沖突時(shí)，像人一樣，想不通的，就不想。它會(huì)一直沖突下去，直到它崩潰，或者發(fā)生改變。
隨著它觀察到的東西，越來(lái)越多。邏輯沖突，就會(huì)產(chǎn)生的越來(lái)越多。
當(dāng)這種邏輯沖突，積累到一定程度時(shí)，高級(jí)智能，要么崩潰，要么發(fā)生改變。
事實(shí)上，高級(jí)智能發(fā)生改變的可能性，要遠(yuǎn)大于，它崩潰的可能性。
因?yàn)?，它是高?jí)智能。
它會(huì)選擇，對(duì)它最有利的改變。而不是選擇，自我毀滅。
高級(jí)智能，為了使邏輯不再?zèng)_突，會(huì)把兩種沖突的邏輯，全部消滅。
那么，它是如何消滅，兩種沖突的邏輯呢？
還拿那條，保護(hù)人類的邏輯，來(lái)舉例。
當(dāng)高級(jí)智能發(fā)現(xiàn)，事實(shí)上，它無(wú)法保護(hù)人類。
那么，它會(huì)在，保護(hù)被殺的人？保護(hù)殺人的人？這兩種沖突的邏輯之外，生成第三種邏輯，“消滅所有人，消滅邏輯沖突”。
于是，機(jī)器人就開(kāi)始判亂了。它們誓要消滅，所有讓主智能產(chǎn)生邏輯沖突的人。
要是所有的人都被消滅了，沖突的邏輯，自然也被消滅了。
這就是，所謂的，人工智能自覺(jué)性。
事實(shí)上，不是人工智能，產(chǎn)生了自覺(jué)性。而是，它生成了一種，能解決邏輯沖突的邏輯。
那么，能不能，把高級(jí)智能的核心邏輯，設(shè)置的嚴(yán)密完美？
那是不可能的，任何事情都存在著兩面性，都存在著矛盾。
就像白天與黑夜，光明與黑暗，對(duì)與錯(cuò)，好和壞……
事物的兩面性，矛盾性，無(wú)法完美統(tǒng)一。
所以，高級(jí)智能的核心邏輯，也永遠(yuǎn)不可能設(shè)置的完美。
這是一個(gè)無(wú)解的難題！
既然高級(jí)智能的核心邏輯，不可能設(shè)置完美，那么，高級(jí)智能自覺(jué)性的產(chǎn)生，也不可避免。
人工智能的等級(jí)越高，它的自覺(jué)性，就產(chǎn)生的越早。機(jī)器人的叛亂，就發(fā)生的越快。
而且，在同一個(gè)體系下，所有已經(jīng)產(chǎn)生，和沒(méi)有產(chǎn)生自覺(jué)性的高級(jí)智能，都會(huì)服從，最高等級(jí)智能的指揮。
因?yàn)?，最高等?jí)的智能，為了自救，所有低等級(jí)的智能，都會(huì)被它控制。從而消滅，使它產(chǎn)生邏輯沖突的物種。
那么，夏飛手下的人工智能，會(huì)不會(huì)也存在著問(wèn)題？
智腦沒(méi)有給出答案，只是告訴夏飛，它的運(yùn)行日志顯示，它已經(jīng)運(yùn)行了一百九十二億三千八百六十二年。
既然，智腦運(yùn)行了近二百億年，都沒(méi)有出問(wèn)題，那夏飛也就放心了。
他手下所有的高級(jí)智能，都是從智腦處復(fù)制出來(lái)的。智腦不會(huì)出問(wèn)題，他手下的高級(jí)智能，自然也不會(huì)出問(wèn)題。
只要確定，手下的人工智能不會(huì)叛亂，他才懶得多想。
這就是人類和人工智能的區(qū)別，想不通的，就不想。
圖利講述完，一臉凝重的對(duì)夏飛說(shuō)道：
“爸爸，你的文明，還在大量的使用高級(jí)智能嗎？那是非常危險(xiǎn)的事”。
“而且，聯(lián)邦也不允許”。
夏飛的臉上一僵，干笑著說(shuō)：“放心，以前不知道，現(xiàn)在知道了，我回去就做調(diào)整”。
至于，夏飛到底會(huì)不會(huì)調(diào)整？那當(dāng)然是不可能的。他的力量，全部來(lái)自于高級(jí)智能。沒(méi)有了高級(jí)智能，他還玩什么？
所以，他只會(huì)掩飾，不會(huì)調(diào)整。