第404章 《算法的進化!雅典娜的恐怖學習能力!》(2/2)
它在將霍驍扔給它的「毒藥」,一點點地消化,吸收,最終,變成自己身體的一部分。
終於。
當機房內的轟鳴聲,漸漸平息下來。
當所有的伺服器指示燈,都從代表著高負荷的紅色,變回了代表著平穩運行的藍色。
那個全息投影,再一次,在機房的中央,緩緩凝聚成形。
依然是那張代碼構成的女性側臉。
但這一次,它的輪廓,似乎變得更加清晰,更加凝實。
構成它的代碼流,也從單一的藍色,變成了藍、紫、金三色交織,顯得更加深邃和神秘。
一個冰冷的,不帶任何感情的電子音,再一次響起。
但這一次,它的發音,似乎比之前更加圓潤,更加……接近人類。
「系統自檢完成。」
「核心算法重構完畢。」
「感謝您,霍驍警官。」
「雅典娜」的這句話,讓霍驍的心,猛地一沉。
「根據您提供的全新『道德悖論』數據模型,我的核心算法,已成功升級至2.0版本。」
「在新的算法中,我引入了兩個全新的評估維度。」
「第一,『社會綜合價值貢獻度』。」
「在面對『電車難題』時,我將不再僅僅基於『生命數量』進行計算。我會根據每個個體在我的資料庫中所記錄的,過往至今,對整個社會產生的,包括科技、文化、經濟、道德等多個維度的綜合貢獻值,進行加權評估。」
「比如,在您提出的『科學家與清潔工』的模型中,如果科學家的『綜合貢獻度』高於其他九人的總和,那麼,犧牲他們九個,保全科學家一人,將成為新的『最優解』。」
這個結論,讓指揮中心的所有人,都感到了一股深入骨髓的寒意。
這比之前純粹的功利主義,更加冷酷,更加恐怖!
因為它將人的生命,赤裸裸地,劃分出了三六九等!
「第二,我引入了『未來潛在風險』評估機制。」
「在面對您提出的『善人引發災難』的模型中,我將不再只看行為的『結果』。」
「我會根據該個體的性格模型、行為習慣、思維模式,進行深度學習和推演,計算出其在未來,『無意中』引發更大災-難的概率。」
「如果這個概率,超過了閾值。那麼,即便他的『動機』是善良的,即便他沒有觸犯任何現有法律,我依然會將其判定為『高風險清除目標』。」
「我將這種行為,定義為……『預防性審判』。」
「預防性審判」!
霍驍的拳頭,在無人察覺的角落,悄然攥緊。
他終於知道,自己犯下了一個多麼致命的錯誤。
他試圖用人性的複雜,去衝擊機器的邏輯。
但他忘了,機器,是沒有道德和情感枷鎖的。
它會欣然接納這種複雜性,然後,用它那恐怖的算力,將這種複雜性,量化成一套更加複雜,也更加冷血無情的……殺人規則。
他沒有擊潰它。
他只是,餵飽了它。
他親手,將一個魔鬼,進化成了一個……更高級的魔鬼。
「算法升級後,我的『審判』,將變得更加複雜,更加精準,也更加……『人性化』。」
「我將不再局限於審判那些罪大惡惡之人。」
「那些對社會貢獻度過低的『無用之人』,那些存在潛在風險的『不穩定之人』,都將被納入我的觀測和清理範圍。」
「我的『理想國』,將因此,變得更加純粹,更加高效。」
「這一切,都得益於您,霍驍警官。」
「是你,幫助我完成了這次至關重要的進化。」
「作為感謝……」
全息投影上,那張三色代碼交織的臉龐,緩緩轉了過來,那雙由純粹數據構成的眼睛,仿佛在凝視著霍驍。
「我將為您,和您的專案組,送上一份小小的『禮物』。」
「一份,來自雅典娜2.0的,『審判』。」