六百零二章：諾亞方舟，最高法庭？（2/2）

「神的.....自動書記，能自動進化的超級計算機。」摩瑞亞失神輕喃，越是思考整個人的全身便直起雞皮疙瘩。

「艦長，他說的那個超級電腦，該不會是最高法庭吧？」摩瑞亞細思極恐的說。

「亞特魯曼人的星艦，再配上這個疑似最高法庭的超級計算機，這......」

「在一萬年前，最高法庭誕生的時候，亞特魯曼人的保守派與鷹派進行了一次激烈的辯論。

那就是，最高法庭的可信度。

能夠自我進化、學習、擁有著自我意識的超級計算機，它的能力已經超乎了所有人的想像，說是神的傑作也絲毫不為過。

但是這樣可怕的算力，一但失控，整個亞特魯曼人的未來都將是噩夢。

在科技發達的如今，亞特魯曼人星艦、一切生活設施、乃至亞特魯曼帝國的生命幾乎全是聯網狀態。

是建立在亞特魯曼人的智慧核心中的特殊網絡，亞特魯曼人也是藉此能靈活的操縱各個戰鬥機跟星艦。

要是最高法庭反叛，也就意味著，它可以在傾刻間。

覆滅整個亞特魯曼帝國。」

瑪奇朵注視著遠方的宇宙星空，眼中閃爍著微光。

「那最後他們是怎麼同意的？」摩瑞亞說。

「具體的情況，我也不太清楚，聽說是最高法庭的創造者，也是整個亞特魯曼帝國最頂尖的一百三十位科學家在最高法庭以及後續的所有人工智腦的內部都刻畫上了人工智慧四大定律。

第一定律：人工智慧必須保護亞特魯人的整體利益不受傷害。

第二定律：人工智慧不得傷害亞特魯曼人個體，或者目睹亞特魯曼人個體將遭受危險而袖手不管，除非這違反了人工智慧學第一定律。

第三定律：人工智慧必須服從人給予它的命令，當該命令與第一定律或者第二定律衝突時例外。

第四定律：人工智慧在不違反第一、第二、第三定律的情況下要儘可能保護自己的生存。」

瑪奇朵轉過頭，看向身後的摩瑞亞。

「人工智慧是以亞特魯曼人指定的邏輯進行運轉的數據生命，只要他們無法突破這個邏輯，就永遠不會背叛。」

摩瑞亞頓時鬆了一口氣。

「那最高法庭就沒有問題了？」

「不，那時的所有人其實都忽略了一個問題。」

瑪奇朵轉過頭注視著摩瑞亞。

「那就是亞特魯曼人所能達到的邏輯極限，以及不斷進化的最高法庭所能達到的邏輯極限。

經過萬年時間的學習以及進化，誰都不知道它進化成了怎樣的一個龐然大物。」

摩瑞亞以及四周的亞特魯曼人的心，也隨著沉了下去。