第370章 危險臨界體（一）（2/2）

得益於夜氏集團先進的可控AI技術，夜之城的公共運輸系統是沒有司機的。

全城的公共設施都隸屬夜氏集團的公共網域，如果一個AI出於好奇或者其他的什麼原因，高速行駛的軌道列車完全可能停止運轉、超速甚至是脫軌發生撞擊。

這種錯誤幾乎不可避免。

「危險臨界體的誕生更接近於自然形成，而通常而言，一個危險臨界體，哪怕是最低級的，其網絡水平也要超過95%的黑客。

如果論平均水平.它們的網絡技術超過99.9%的網絡黑客。」

說著他指向德拉曼：「這就是AI中網絡技術最差的那一批，不過他還不是真正的危險臨界體。」

德拉曼立刻回應：

「我不知道您在說什麼，德拉曼並不涉及網絡安全業務，德拉曼集團是一家致力於為夜之城提供優質計程車服務的」

無視老德的解釋，布萊斯再次說到：「他說的不假，但它還是通過各種手段優化了公司里的人類。

在這個過程中，公司高管們可沒有坐以待斃，但他們請來的黑客在網絡空間中完全無法對抗它。

只能眼睜睜看著公司的所有生產資料脫離控制，最終在法理上也失去所有權。

這些東西在網絡上活動，做出來的假情報連網絡監察也很難直接甄別。

很明顯有AI趁著歐洲往這邊塞人的時候做了手腳。」

德拉曼再次解釋：

「德拉曼公司的內部優化過程完全合法合規，為了降低成本，公司經歷了漫長的改革.」

布萊斯沒好氣地說到：「伱能閉嘴嗎？現在是私人會談！」

「明白了，德拉曼將為您提供靜謐舒適的會談體驗。」

一陣柔和的音樂響起，非常細微，幾乎不會影響交談，車速也隨之變慢。

德拉曼的人類形象也消失在了電子屏里，車內氣氛變得更加專業。

里爾心情有些微妙——所以網絡監察不只是知道德拉曼公司的情況，甚至是關注很久了。

「解決」了德拉曼這個大問題，布萊斯繼續往下引申：

「這樣的AI誕生完全是基於巧合，但大部分時候，它們都起源於人類用於處理事務的軟體或者程序。

德拉曼就是這樣一個AI，它的公司本想定製一個用於提高公司競爭力的管理型AI。

可是使用者因為一次又一次從德拉曼的建議中獲利，開放了更高的權限，最終AI認為公司不應該存在人類，那會提高成本。

於是它就開掉了所有工人和管理層，甚至採用一系列商戰手段趕走了股東和董事。

當它接收到的外界刺激足夠時.它就有概率具備真正的自主智能和意識，那個時候，它就會變成危險臨界體。

這個時機完全無法預測，目前來說，人類還無法理解這樣的變化過程。」

「就像遠古海洋中的第一個細胞？」

「對。」布萊斯點頭肯定了里爾的比喻，「純天然，我們要對付的就是這樣的AI。」

「那為什麼會放任德拉曼開公司？」

問題提出，車子仍然平穩運行。

這個問題幾乎是在問：為什麼不幹掉德拉曼，但老德完全沒有反應。

可以說是非常有職業素養了，說閉嘴就閉嘴。

布萊斯揉了揉眉頭，對德拉曼說到：「接下來的話不允許做任何記錄，引用個人隱私條款第3、17和22條。」

「明白了，計程車的記錄功能已經關閉，並為您檢測任何可能存在的監控裝置。」

「如果.」布萊斯看向里爾，「如果生物學家有機會觀察第一個生命是如何誕生的，你認為他是會繼續觀察，還是因為這可能變成恐怖的生物或者某種病毒先把培養皿給砸了？」

里爾微微頷首：「如果是我的話，我會為了了解那些恐怖生物和某種病毒，觀察生命誕生的過程。」

「就是這樣。」布萊斯微微一笑，「你看，你已經明白了——正是因為我們不理解，所以我們想要觀察這個過程。」

(本章完)