《生命3.0》這本書給我的感悟是，決定人類終極命運的隻有這一個問題最重要——人工智能到底能不能擁有人的意識。
在我們的流行文化中，經常會談論人工智能，但很少涉及“意識”。可能大多數人都沒有意識到，人有一個“意識”的問題。
簡單地說，意識是我們對世界的主觀體驗。我們的喜怒哀樂，一切感情都是因為我們有意識。一輛自動駕駛汽車也許可以出色地完成運輸任務，但當遇到紅燈時它不會暴躁，有危險時它不會害怕，撞了車時它不會疼，沒油時它不會餓，完成任務時它也不會高興，它隻是機械地做事而已。
實際上，現在生物學家認為，人在做事的時候，本質上也是機械的。我們的各種感情隻是附帶產生的多餘的情緒。就算沒有任何主觀感受，你還是一樣能做好各種事情。
但是主觀體驗賦予了我們生活的意義。你工作之餘，偶爾抬頭看看星空，感慨一下宇宙多麼美好，那是因為你有意識。如果人沒有意識，那就跟一堆沙子沒有本質區別，人生就沒有意義，整個宇宙的存在就沒有價值。
泰格馬克把生命分成三個階段，人類隻能算第二階段，叫“生命2.0”。我們能學習新知識，但不能隨便升級自己的身體，因而受到了很大的限製。而人工智能則是“生命3.0”，它們將可以隨意升級軟件和硬件，它們終將超過我們。
那將來的人工智能是否具有意識？
科幻作家會說，既然世界上並沒有“靈魂”這種東西，人類純粹是由原子組成的，那麼人工智能當然可以有意識。按理說是這樣的，但科學家會給人工智能的意識做出一些限製。比如這本書中介紹了一種叫作“信息整合理論”的意識理論，這個理論要求有意識的物體必須是信息高速整合的，而物理定律要求信息的傳播速度有限，人工智能大腦的大小就必須限製在一個不太大的範圍之內。人工智能的聰明程度將是有限的。
但再有限也比人類厲害得多，那麼，將來的結局就是，人工智能將會淘汰人類。如果雙方和平交接，人工智能將作為人類文明的代表去征服宇宙的各個角落，人類將是人工智能的寵物。
如果人工智能一直都沒有意識，事情就更麻煩了。據泰格馬克推演，人工智能就算沒有意識也可能會有自己的目的，它們可能會不自覺地發展壯大，並且最終拋棄人類。那將是人類文明最壞的結局，我們可能會被沒有意識的僵屍人工智能取代，留下一個空洞的、毫無意義的宇宙。
鑒於這些結局好像都不怎麼理想，我們迫切地需要知道意識到底是怎麼一回事兒，將來的人工智能到底會怎樣。
這並不是泰格馬克自己在杞人憂天。我看美國上上下下，從學者到企業家和老百姓，現在對意識和人工智能的思考非常深入，主流媒體上也經常討論，新研究、新思想層出不窮。
《生命3.0》這本書給我的感悟是，決定人類終極命運的隻有這一個問題最重要——人工智能到底能不能擁有人的意識。
在我們的流行文化中，經常會談論人工智能，但很少涉及“意識”。可能大多數人都沒有意識到，人有一個“意識”的問題。