第四百二十一章：一個有關倫理的問題（2/2）
米小白回頭一看，正巧發現兩個巨大的金屬箱，這金屬箱嚴實得很，只有外層有一個光屏。
「這是什麼東西？」
米小白走上前，疑惑的看了眼，卻發現光屏忽然亮了起來。
上面出現了一個非常簡單的電子表情。
「AI。」劉衡走上前，看著這兩個光屏上出現的電子表情，隨即說道：「AI都不陌生，但是據說流影閣內的AI比較強大，不知道是不是真的，我想應該是真的，畢竟僅憑一個AI就要管理整個流影閣的事物，信息處理能力一定超強。」
「AI？」米小白怎麼會沒聽過這個名詞，不就是他那個時代一直在研發的人工智慧嗎？但是這個表情包一樣的玩意怎麼跟他當時想像中的不太一樣啊？
「這玩意就是AI？怎麼跟個表情包一樣？」
劉衡一愣，「表情包？」
「就是他這張臉。」
「那也是難避免的，流影閣太大了，想讓AI的圖像貫穿流影閣的上上下下，總得在某些提防壓縮一下，所以就把他的表情設置成了像素模式。」
米小白還是覺得說服力不大，畢竟這跟他想像中的人工智慧差太多了。
他那個時代想像中的人工智慧不應該是「奧創」那樣的嗎？怎麼變成這種電腦管家一樣的存在？簡直小霸王。
「AI不應該是一個獨立的個體嗎？類似機器人之類的。」米小白說。
聽到米小白這個想法，劉衡百也沒什麼特別激烈的反應，只是站在一個械派武者的角度向米小白解釋道：「這是一個有關倫理的問題，美食家你不是械派武者，沒聽過也不太奇怪。」
「有關倫理？」
米小白哪知道這個，他學的東西跟這個八竿子打不到一塊去。
劉衡細細解釋道：「不論是AI還是械派武者，一切都是科技發展的產物，AI的出現比械派武者早了兩個世紀，但到現在，AI卻發展的不如械派武者，你知道為什麼嗎？」
「別賣關子，好好說。」
「好，AI發展至今反而不如械派武者的原因有很多，但最主要，也是最為科研界認可的一條原因，就出於一個倫理問題。」劉衡說著，「世界上的倫理問題有很多，隨著科技的發展會變得更多，例如信息的公開多少才合適，又例如人為了活命而大量移植器官後，這個人是否還算是自己，還例如母文明與子文明之間的矛盾，這些都是倫理問題，對AI的發展而言，AI作為人工智慧，會不會從被人類使用，到開始顛覆人類，甚至與人類為敵，就成為了AI發展中的一個限制，因為機械是可以不斷自我完善的，沒有任何方法可以完美的限制住他們，所以當有一天他們真的進化以後，我們未必有能力對抗他們，因為人類的大腦不論如何快速，都比不上計算機的效率，最具代表性的，就是第一次AI戰爭後聯邦同各個勢力簽訂的《AI技術五十年公約》。」
「AI戰爭我在《聯邦發展史》》這本書上看到過，說的就是人工智慧進化太迅猛，真的出現了一個產生了反人類思想的人工智慧，開始篡改人類修編的代碼，使得太多機械AI倒戈，那一場戰場聯邦損失慘重，速速打了十三年才結束，不過因為歷史比較久遠，所以書上記載的也不詳細，更沒提到什麼《AI技術五十年公約》，這個公約是個什麼東西？」米小白問。
劉衡點點頭，道：《AI技術五十年公約》，是聯邦和各派勢力簽訂的共識條約，最主要的一條核心內容就是，五十年不再發展AI技術，將AI技術停留在當前階段。」
「五十年不發展AI，那不就是說AI在這中間又一次斷層嗎？」米小白雖然不懂什麼人工智慧的研發，但他知道一些發展問題，如果一項技術真的五十年不被研究，那這個技術的許多核心所在就會逐漸流失，甚至因為無法跟上時代更新而產生變故。
對於這一點，手機系統的更新換代就是最好的說明，原本很優秀的一個軟體，因為手機系統升級後，而因為無法兼容被淘汰。
一項停滯了五十年的技術，還能出現就已經很不容易了，似乎的確不該再深究什麼。
劉衡顯然沒有說完，他繼續解釋道：「AI技術就這樣停滯發展了五十年，但是由於科技的發展，大數據的處理越來越依賴信息技術，就逐步演化成了需要AI的情況，但很多人都無法忘記五十年前的那場AI戰爭，所以紛紛抗拒發展AI技術，但科研工作者們為了今後科技的發展，還是決意要重啟AI計劃，聯邦同意了這個請求，但為了以防萬一，就下了一條禁令——AI的發展永遠不能越過自我認知這一步，簡單地說，AI將沒有超越人腦思維的模式，並且這一條禁令一直沿用至今，沒人打破過，就這樣發展了幾個世紀，AI機會才會變得不如我們後來興起的械派武者，從某種意義上來說，這也很合理，從一開始，就應該是人用械，而不該是械用人，AI的發展一直都在突破這層底線，而這個倫理問題，也一直從幾百年前討論到了現在，一直沒有得到定論，這個倫理問題也像是變成了永遠解決不了的難題似的。」
聽完劉衡的這一大串的闡述，米小白的腦海驚現一個問題。
劉衡剛才說AI的發展將不能超越人腦思維的模式，也就是說AI將失去主見，只能成為輔佐人類的工具。
但……米小白腦子裡的那個算什麼？這個系統說到底也算是AI吧，但這個AI是個什麼鬼？不光擁有獨立思考的能力，還能不斷改進自身，最關鍵的是，他可以影響人類，米小白可是隔三差五就能收到來自系統的威脅啊。
這不是完全打破了人類對AI發展的一系列限制嗎？
如果說這個系統來自未來，那是不是就可以理解為在未來，AI技術的限制被打破了？
或者說……AI崛起了，人類滅亡了？
想到這個問題，米小白感覺整個人都不好了，我腦子裡到底住著一個什麼東西啊……
米小白越想越慌，越想越驚悚，簡直就是細思極恐的狀態。
在這種情況下，米小白也算是陷入了沉思。
正當此時，那兩個金屬箱上的AI檢測到了米小白的聲紋，立刻就向米小白詢問道：「身份鑑定完畢，米小白。」
「尊敬的米先生，這是你二十四分鐘前在S級拍賣會天鳳八展廳拍得的兩件拍品，已為你送到房間，確認您的身份後，您可以選擇是否打開。」
看到這個光屏上的表情一動一晃，米小白居然有些害怕，他臉頰抽了一下，然後連忙拍拍自己的臉蛋，道：「打、打開。」
「好的，為你開箱。」
兩個嚴絲合縫的金屬箱在米小白面前悄然綻開，一層層的鐵皮悄然退下，只留下最中央包裹的一層超密度玻璃，在這層玻璃蝦，正是米小白拍得的兩件拍品……