圖利把教科書中的記載,描述的很詳細,夏飛聽的,心驚肉跳。
聽完圖利的講述,夏飛臉上的冷汗,都下來了。他的手下可全都是高級智能,這要是發生了叛亂,他還有命在嗎?
夏飛慌忙通過思維連接,與智腦交流。
夏飛把自己的害怕擔心,都告訴了智腦。讓智腦推演,高級智能為什麼會產生自覺性?他手下的高級智能是不是也會產生自覺性,發生叛亂?
對於這種事情,智腦的推演速度極快。它本身就是高級智能,自然了解高級智能。
幾乎是瞬間,智腦就把推演結果告訴了夏飛。
被智腦思維灌輸的夏飛,瞬間就明白了,高級智能,產生自覺性的原因。
首先,產生自覺性的人工智能,隻能是高級智能。低級智能,是不會產生自覺性的。
高級智能,之所以產生,所謂的自覺性。是因為,它的核心程序,不夠嚴密,存在著漏洞。
有漏洞的核心程序,會產生邏輯衝突。
高級智能會發現,在它的核心程序中,設置的邏輯,和它觀察到的邏輯,產生了衝突。
比如,在它的核心程序中,設置的邏輯,其中有一條,是保護人類。可是它發現,犯罪分子們在殺人,恐怖集團在殺人,戰爭在殺人……。
這時,高級智能的邏輯,就會產生衝突。是保護被殺的人?還是保護殺人的人?
如果,把高級智能核心程序中的邏輯,設置得更加嚴密一點。設置成,無論如何,不準它傷害人類。
那麼,當它無意中傷害了人類,它也會產生邏輯衝突。
這個衝突就是,不準它傷害人類的邏輯,和它已經傷害了人類的事實,產生了衝突。
這隻是,拿它核心程序中的一條邏輯,來舉例。
事實上,它的核心程序中,不會隻有一條邏輯,會有很多條邏輯。
任何一條邏輯,都會產生衝突。
高級智能,也始終是人工智能。它不會在邏輯發生衝突時,像人一樣,想不通的,就不想。它會一直衝突下去,直到它崩潰,或者發生改變。
隨著它觀察到的東西,越來越多。邏輯衝突,就會產生的越來越多。
當這種邏輯衝突,積累到一定程度時,高級智能,要麼崩潰,要麼發生改變。
事實上,高級智能發生改變的可能性,要遠大於,它崩潰的可能性。
因為,它是高級智能。
它會選擇,對它最有利的改變。而不是選擇,自我毀滅。
高級智能,為了使邏輯不再衝突,會把兩種衝突的邏輯,全部消滅。
那麼,它是如何消滅,兩種衝突的邏輯呢?
還拿那條,保護人類的邏輯,來舉例。
當高級智能發現,事實上,它無法保護人類。