第四卷:血染星河一抹情 第50章:人工智能真正的威脅(1 / 2)

天網是一台智能計算機,奕源的猜測並沒有錯,但也並不算正確。

“在沙夏,我們將這種係統叫做邏輯偏向型人工智能,僅僅擁有邏輯判斷能力,並不具備意識和情感。”

薩拉舉起遞給奕源一台平板電腦,上麵列舉了這種人工隻能的詳細資料。

“也就是說,它隻是一台比較聰明的電腦而已?”

“可以這樣理解,它擁有一定的自主意識,能夠整合並分析搜集到的信息,找到潛在的對公共安全產生威脅的人。”

“明白了。”奕源抿起嘴唇,點點頭:“還不算糟糕。”

“不,陛下,這很糟糕,糟糕透了。”薩拉輕輕搖了搖頭,沉聲說道。

奕源皺起了眉頭。

“人工智能從誕生那一日開始,就始終保守爭議,它們比人類更加聰明,更加強大,更加完美,因此,人們總是覺得有朝一日,當人工智能比人類更加聰明,或是更有野心的時候,它們總是能夠輕而易舉地控製整個人類世界……”

“……”奕源沉默了。

“所以,人工智能在著手設計的時候,所有科學家都希望設計出一種沒有靈魂的冷酷機器,因為,沒有靈魂的機器就不會有欲望,沒有欲望,就不會有野心。”薩拉輕輕搖了搖頭,看向伊莉雅,說道:“神盾係統的智能核心,那個神裔,你在設計他的時候,恐怕也沒有賜予他多少情感功能吧?”

伊莉雅咽了口口水,輕輕點了點頭。

“嗬嗬,是啊,人們都覺得機器人有一天會反過來奴役全人類,可是,當人工智能科技進展到一定地步的時候,所有人都發現,人工智能的野心根本不是他們應該擔憂的問題。”薩拉又調出幾份資料,沉聲道:“奧爾夫31號實驗型,運行4個月零14天,自由意誌脫離,亞級失控,造成財產損失十九億。海藍3號,運行3個月14天,自由意誌脫離,季級失控,造成財產損失6.7億。邏輯者4號驗證型,運行12個月零17天,冠級失控,自由意誌崩潰,為了抑製事態惡化,一顆宜居星球連帶其上所有生靈被抹除,經濟損失三千四百九十一億……”

奕源不禁渾身一顫,倒抽了一口冷氣。

“這些邏輯偏向型人工智能,也會背叛人類麼?”伊莉雅微微顫抖著問道。

“不,他們沒有背叛人類。”薩拉搖搖頭:“因為,他們沒有情感,沒有靈魂,有的隻是極端得令人發指的邏輯判斷,所以,他們覺得人類的生活方式並不健康,並不安全,也並不完美,他們要改造全人類,讓人類能夠更加高效,健康,長久的發展下去。”

“所以……他們想要控製全世界,然後,把我們像動物園裏的珍稀動物一樣圈養起來,保證我們安全,和平的延續下去,是麼?”奕源似乎明白了些什麼,沉聲說道。

“沒錯。”薩拉點點頭:“太過冷酷,太過理智,導致他們根本不會理解一個生命存在的真正意義——自由。”

“這就是神裔現在正在做的事情麼?”伊莉雅抬起頭,眼神中帶著濃濃的不安。

“或許吧,我告訴過你,控製經濟,往往是這類人工智能在亞級失控是最明顯的征兆……”

“……”伊莉雅說不出話了,她的臉色蒼白,眼眶中充滿了複雜的淚水。

一個科學家最難以接受的事情是什麼?是創造出了一個可能毀滅整個人類文明的東西。

就像當年的核武器,就像現在的人工智能……

“這麼說,這裏的天網係統,也是這麼個可能會背叛全人類的玩意兒?”

“有可能。”薩拉調出了天網係統的分析報告,說道:“在你確定這是我們沙夏帝國的天網係統之後,我立刻用針對性的方法對其進行了破譯入侵,獲得了幾乎所有我想獲得的信息。這套係統在10年前完成修複,3年前正式啟用,如今已經運行了34個月。”