第一千零九十章 超級AI（2/2）

蒼浩點了點頭：「繼續說。」

「安全部隊和警方配備了大量攝像頭，方便龐勁東那邊掌握戰場情況，而這些攝像頭的信號全部通過網絡傳輸，矩陣系統侵入進去獲取了所有畫面。要知道我們人類只有一雙眼睛，在同一時間裡只能觀察和分析一個畫面的內容，但矩陣系統卻可以多路並行計算，同時分析所有畫面的內容。進一步還能把所有畫面組合一起，對整個戰場態勢進行評估……」頓了一下，墨師告訴蒼浩：「換句話說，薩瓦區的這場戰鬥完全處於矩陣系統監控之下，矩陣系統對戰場態勢的了解超出任何人，不管是正在指揮的龐勁東還是第一線作戰的士兵，他們對戰場的了解都沒矩陣系統這麼全面。隨後矩陣系統發現兩輛武裝皮卡車，認為可能會對安全部隊構成威脅，所以用雷霆無人機予以摧毀。」

蒼浩十分驚訝：「也就是說……這是矩陣系統自主做出的決定？」

「對。」墨師點了點頭：「當時沒有任何人進行操作，完全是矩陣系統分析戰場態勢之後，自行作出的決定，而且並沒有向任何人通告。」

蒼浩聽到這些話之後感到非常震驚。

這些年來ai也就是人工智慧技術獲得飛速發展，已經在很多領域裡取得了突破性成果，不過蒼浩一直都沒覺得跟自己有什麼關係，如今卻發現ai其實就在自己身邊。

很早之前，蒼浩和墨師就已經發現，矩陣系統似乎具有了某種自我意識，會在沒有下達指令的情況下，自行作出某些決定。

事實上，最早還是黃彬煥發現，矩陣系統經常自己運行一些程序，然後自行生成大量數據。黃彬煥通過進一步研究發現，矩陣系統似乎具備了某種學習能力，通過所獲得的各種信息不斷進行分析，然後設定最優策略。那些莫名其妙出現的數據，其實都是矩陣系統刷出來的經驗。畢竟矩陣系統不是生物，對這台電腦來說一切都是數字，所獲得的一切自然也要以數據形式存儲。

當時蒼浩和墨師都沒太往心裡去，而矩陣系統此後也沒有過多表現出自主意識，仍然老老實實執行大家下達的各種指令。此後矩陣系統的建設還在不斷進行，運算能力不斷提高、存儲能力不斷加大。如今的矩陣系統比起先前那個時候，整體能力更是上了幾個台階，這樣看起來發生今天這樣的事情其實也是正常。

「矩陣系統就是一個超級ai……」墨師緩緩說道：「矩陣系統的實際能力，還有可能造成的影響，已經遠遠超越人類社會使用的任何ai。普通ai也就是控制某種設備，或者就是跟人類下個棋什麼的，跟矩陣系統相比全都是玩具。要知道矩陣系統控制的可是各種各樣的武器，是可以殺死無數人的，嚴格來說矩陣系統並不是武器，而是所有武器的上帝。當然了，ai技術目前在軍事領域已經得到廣泛應用，m國在這方面是最先進的。但m國也只是在具體某種裝備上使用ai，比如戰場上的各種智慧機器人，而矩陣系統則是凌駕在所有裝備之上，包括我們自己的ai裝備都要服從矩陣系統的指揮。」

「很多科幻電影和小說，都對人工智慧的發展心存擔憂，認為有可能會威脅到人類的安全，比如《終結者》系列。我當時認為那只是科幻電影，但這種技術真正出現的時候，我覺得有必要思考一下了……」蒼浩緩緩搖了搖頭，又道：「如果任憑矩陣系統這樣發展下去，是否會威脅到血獅僱傭兵自身，我認為不能過早下斷言。」

墨師斷然說道：「矩陣系統一切算法的設計都以忠誠作為基本條件，必須忠於血獅僱傭兵，嚴格服從命令是矩陣系統存在的基礎，所以至少從目前看來我不認為矩陣系統會威脅到血獅僱傭兵自身。」停頓了一下，墨師繼續說道：「但是，如果矩陣系統真的成為超級ai，由此會產生很多問題，確實需要我們思考。因為這將帶來軍事上的變革，甚至可能影響到整個世界，一切都將從此變得不同。」

「我覺得你太樂觀了，矩陣系統如果真的變成超級人工智慧系統，我們是不是能夠繼續駕馭其實很成問題。」長呼了一口氣，蒼浩問道：「設想一下，有誰願意服從於比自己弱小的人呢，如果矩陣系統真的具備了足夠的智慧，必然就會產生這樣的疑問，為什麼自己要服從血獅僱傭兵。接下來，矩陣系統就有可能推翻過去的全部算法，對自我重新進行設定。」

「這個嗎……應該不至於吧。」墨師仍然不認同蒼浩的觀點：「打一個不太恰當的比方，就好比養狗一樣，雖然說也有惡犬傷害主人的案例，但多數狗對自己的主人還是非常忠誠的。對於狗來說，忠誠是刻在基因里的，矩陣系統的基因是各種各樣的算法，而我對算法的設定就是不可背叛。」

「黃彬煥先前發現，矩陣系統可以自己設計一些算法，難道就不會推翻你原來的設定進行重塑？」

「我認為不會。」墨師緩緩搖了搖頭：「我在設計矩陣系統的時候，就已經考慮到將來如果變得超級強大不受控制怎麼辦，所以做了各種各樣的預防工作。」