網絡覺醒的自我意識如果能自發的維持網絡穩定性，那才算產生了基本的智能，在這基礎上幫助他擴展認知，學習更多的知識，就可能產生與人類相似但又有很大不同的超級智能。
這種超級智能具備人類沒有的精準記憶能力，信息獲取能力，多任務處理能力，超強的通訊和邏輯運算能力，可以完成許多人類做不了的工作。
任何一個龐大的係統都不可能沒有錯誤，人類也好，計算機也好，最基層的單元每時每刻都會有錯誤產生，錯誤產生的幾率控製和糾正容錯能力也是必不可少，地球的生物係統能演化成今天的多姿多彩的狀態，就是源自無數錯誤的基因複製和遺傳。
沒有基因自我複製時產生的錯誤，就不會有生物的多樣性，沒有穩定的遺傳係統，那麼多變異出來的生物也不可能一代代繁衍到現在，兩者都相同的重要。
曾凡認為，網絡想要產生智能，並且還能自我學習成長，錯誤控製和錯誤容忍機製不可或缺，甚至應該是關鍵要素，一個不允許錯誤的係統不可能產生真正的智能。
當然，錯誤多到係統不能穩定的存在，那麼就算產生了智能，也會像癌細胞一樣，與整個係統同歸於盡，沒有實際的意義。
什麼類型的錯誤可以忽略，什麼類型的錯誤必須消滅，什麼類型的錯誤可以觀察，都需要詳細的考慮周全，這是智能程序早期的代碼必須考慮的問題，也是曾凡最近一段時間重點思考的問題。
這些關鍵的算法設計關係到智能程序以後能不能產生自我認知，能不能自主維持網絡穩定，能不能具備學習能力，成長為曾凡所期待的超級智能，最終成為人類可以信任的合作夥伴。
除此之外，還有最重要的一個問題，曾凡盡管不以為然，但仍然必須考慮的問題：那就是設計什麼樣的算法，讓智能程序不會危害人類！
在曾凡看來，人工智能會不會危害人類就是個偽命題！
哪怕智能程序真的具備了自我意識，仍然難以避免會受到人類影響。
就像核武器一樣，最好避免危害的方法就是不要造出來，隻要造出來就有產生危害的可能性，產生危害的關鍵還在於人類自身，隻要求智能程序絕對安全，就是一種不切實際的天真想法。
全球每年因道路交通事故導致的死亡人數超過百萬，這個數字因為汽車數量的增加逐年遞增，也沒見有誰呼籲禁止生產銷售汽車。
不過是因為汽車帶來的便利性遠大於危害性，所以沒人在意，即便是有個別人在意也無濟於事罷了。
智能程序也是如此，哪怕能給百分之九十的人帶來便利，也不可避免會損害一部分人的利益或者帶來危害，隻想要好的一麵，不想要壞的一麵，那是小孩子才會有的想法，哪怕上帝降臨，也滿足不了這樣的願望。
盡管如此，為了減輕外界質疑，曾凡在設計程序底層算法的時候仍然要有所考慮，完全不做預防也說不過去。
當然不會是可笑的機器人三原則，程序能真正理解三原則先要有自我的意識才行，還要對人類，各種危害後果都有清晰的認知，程序有了這樣的認知能力，當然也會有更多的方法繞過去，本身就不符合邏輯。
隻知道無條件服從命令的機器，不可能產生真正的智能，有自主思考能力的智能，也不可能被可笑的三原則約束住。
程序最底層的限製，必須簡單直接，無法繞過才行。
想做到這一點，就不能有任何含糊不清的主觀判斷，條件必須清晰明確。