對蘭伯特的動機，妄加揣測，方然這么做并沒有什么惡意，至少非其本意。

    但，萊斯利*蘭伯特卻明顯不是這樣理解，而是停住腳步，站在一排黑黢黢的機柜面前，有點挑釁的直盯著阿達民看。

    鋼筋鐵骨的替身，佇在眼前，對這樣一具鋼筋鐵骨的身體發(fā)飆，不論從理論上、還是從實戰(zhàn)上都毫無意義，意識到這點，蘭伯特先生喉頭微動，在短暫沉默中重新組織了自己的思路，而后強硬的提出抗議：

    “這一點也不有趣，阿達民先生。

    身為科學技術的研究人員，自然，應該對科學抱有一種使命感、責任感，但，倘若我們也稍有閑暇，考慮自己的前途命運，這種心理活動難道值得您來橫加指責，或者站在高地上恣意嘲笑？

    同樣是為自己的命運而掙扎，為什么您無須被指責，我們，就得背上一種‘只顧自己’的惡名呢，就因為您的機器大軍手里有GUN嗎。”

    “正是如此。

    只是蘭伯特先生，我來這兒，并不是為找一個隨便什么人來吵架；

    如果剛才的話令您不快，我收回，并向您道歉。

    但我也得說明，自己剛才為什么樣那樣講，說真的，身為偌大一個NEP的管理員，站在全局角度觀察、思考這前所未有的時代，我本人的眼光，頭腦，在您和您的同僚眼里，真會如此不堪，而須諸位來擔憂一個管理員的未來嗎。”

    “我提出的只是建議。

    或者，如果您不想聽到‘警告’這樣的詞匯，稱之為‘提醒’也可。”

    管理員的未來，不消說，不會是萊斯利*蘭伯特的關注焦點，他真正關心的，是NEP，人類世界，乃至人類文明的前途命運。

    但以現在的語境，他并不需要刻意強調這一點，于是微微揚起頭顱：

    “如果我本人，以及一干同僚的猜測沒錯，您的計劃，大概是借助一系列‘認知過程’、‘自主式AI’等研究成果，嘗試研發(fā)出能夠自主進行創(chuàng)造性研究的AI，借此實現NEP大區(qū)的實力飛躍，進而達成更長遠的目標。

    那么這一規(guī)劃的問題在哪里？

    首先，不得不提到一點，即便阿達民先生、您想象的那種AI被開發(fā)出來，在短時間內，或許也就是十年、甚至五年內便進入實用化，這種AI也不過是將將能替代人進行科學研究，將我們這些人掃地出門，僅此而已。

    基于人類世界的現狀，基礎科學的發(fā)展，停滯不前，即便用AI代替人類，也幾乎無法取得一些關鍵的、劃時代的突破。

    至于說，制造出強AI，推動基礎科學的發(fā)展：

    像您這樣的人物，該不會有這么一種不切實際的幻想，難道不是嗎？

    制約人類科學技術發(fā)展的，并非聰明才智，而是蓋亞與一切相關資源的量級，沒有足夠的資源、能源甚至空間，這些因素，現階段無法用任何手段加以改善，更無法規(guī)避，AI在這方面也一樣無能為力。”

    “似乎是這樣，不過，我一開始也沒有這種奢望。”

    萊斯利*蘭伯特的話，十分淺顯，方然便點一點頭，承認這位科學家說的很有道理。

    “強AI”，不論傳統(tǒng)學術界的定義如何，即便被研發(fā)出來，缺乏客觀條件的支持，也無法憑空推動科技的進步。

    “沒有，那么這很明智。

    但不管怎么說，‘自主式科研AI’能否推進科技，那畢竟也是一個很長遠的問題，眼前的危機，才更值得警惕：

    出于種種考慮，研發(fā)具有創(chuàng)造性、探索性思維的人工智能， AI一旦這樣的被研究出來，阿達民先生，您是否能確定，憑現有的科技、武器與戰(zhàn)力水準，自己必然能掌控這AI，而不會被自主決策的AI所消滅？”

    “AI的反叛，是的，這是一個想當棘手的問題，但，可以提前采取——”

    “沒有什么‘提前采取’！

    恰恰相反，一旦‘具有超越人類的科研能力’，這樣的AI被制造出來，其行為與動機，就注定會脫離人類的掌控，這并非安保手段、武力強弱的定量問題，而是由雙方‘智力’差距所決定的，無解的困局。

    試想一下，阿達民先生，您之所以拍板這樣宏大的計劃，目標，正如剛才親口所言，絕不是為了獲得‘能夠與人相比擬’的那種AI。

    投入大量資源，消耗時間，只為了得到一些模仿的產物，根本得不償失。

    此類研究的根本動機，顯而易見，是期望獲得能力超越人類、甚至遠遠超越人類的‘強AI’，目的，并非研究什么自我意識、或者要創(chuàng)造出這樣的自我意識，而是要在人類專有的科學技術研究領域，制造出一個碾壓現今所有人的利維坦。

    這樣的東西，一旦真被研究出來，憑你我這種人類的頭腦、意識，恐怕連預測其行為、判斷其動機都做不到；

    有怎么能奢望，憑借一些兒戲般的安保手段，便能將其禁錮起來，為己所用。”

    滔滔不絕，萊斯利*蘭伯特的一番直抒胸臆，臉都有些漲紅。

    至于他要表達的意思，無需聚精會神，方然也能明白，事實上，自從掌控NEP大區(qū)之初，自己便一直在琢磨事關重大的難題。

    創(chuàng)造性思維，具有這種特質的AI，先不論通過什么樣的手段去研發(fā)，一旦成為現實，那么，除非這種AI的能力與人類相仿，一旦其能力遠超人類，再加上其自身“思維”、“決策”的無可預測，人類就會有滅頂之災。

    這種風險，只要著手開展此類研究，就一定會出現。

    不僅必定出現，應對之策，事實上也是不存在的，并不會因為一些莫須有的“拉電閘”、“核彈爆轟”的手段而改變。

    一切的緣由，完全在于AI的“自主意識”，其危害之大，只要設想一個能力超卓、卻與同類決裂的人類，能對人類世界造成多么大的破壞，然后將這種威脅放大若干倍，便不難想象到時的情形。

    面對特立獨行、完全漠視人類利益的威脅，一切應對之策，在強AI的眼里都會十分可笑……

【精彩東方文學 www.nuodawy.com】 提供武動乾坤等作品手打文字版最新章節(jié)首發(fā)，txt電子書格式免費下載歡迎注冊收藏。