到那時，不論計算機對人做了什么，是當做有趣的東西豢養，還是當做礙事的垃圾清除，對人而言，決定生死的際遇，在計算機而言卻只是“城門失火，殃及池魚”里的水，連魚都算不上。

    城門失火，因滅火而取水，最終導致魚的死亡，人至少還看得到這一點。

    然而人類開路劈山，挖礦掏洞時，會有這樣的思想覺悟，覺得自己的所作所為，正在顛覆、滅絕礦物分子的大千世界嗎。

    當然不，在的人眼里，礦物，巖石，根本就是沒有思想的“物”

    那么在計算機眼里，人，很可能也是一樣的“物”。

    這，才是某意味深長之句的真正意味：

    毀滅你，與你何干。

    ……

    夢中醒來，耳邊是鬧鐘樂聲，黑暗中的男人抬手抹一把額頭，冷汗涔涔。

    起床，洗漱，坐下來食用“高級肥皂”，準備投入新一天的忙碌，吃早飯時的片刻閑暇，方然還是忍不住想起那一切。

    事態，比自己之前所想，還要更嚴重。

    事關計算機，人工智能，乃至計算機ai的自我意識，原本他一直以為，只要不主動研發“具有自我意識”的人工智能，計算機系統對人而言就是安全的，永遠只能作為一種工具、而不會成為一種威脅。

    但現在，不經意間的深邃思考，卻讓方然窺見了其中的莫大危機。

    當能力發展到一定程度，或許是出于“創造性研究”之目的，或許是出于其他動機，計算機的算力、能力突破了上限，繼而達到能完全取代人的程度，不管這系統一開始的目標有沒有包含自我意識，那樣的計算機，其行為都將徹底失控。

    那時的計算機，龐大體系內的算法，究竟是在進行一些什么樣的運作，恐怕是人類絕對無法洞悉的深奧。

    繼而，對那樣的存在，一切人類已有的概念與手段，都未必會起作用。

    借用教義的詞匯，在自己一手創造出的神祇面前，人的手段，又怎可能還會有任何的用處。

    只因到那時，那樣的計算機系統，將會是蓋亞表面的一種前所未有之存在，是生命演化鏈條被人為截斷之后，藉由完全不同之另一條路線而誕生的，更高等、更先進、更強大的新物種，演化天梯上比人更高一階的存在。

    面對那存在，人類對抗計算機，恰如猴對抗人類，又哪會有一絲一毫的勝算。

    危險，莫大的危險，潛藏在計算機的發展脈絡之中。

    并非第一次接觸這樣的斷言，此時此刻，置身于天堂鎮的地下世界，恒溫恒濕的房間里，方然卻有點渾身發冷，很不舒服。

    他頭一次意識到，若干年前流傳于聯邦、乃至世界的那些警示，確有意義。

    雖然在自己看來，危機的實質，與發出警訊的諸多名人所言并不盡一致，但指向的最終結局卻大同小異：

    人類的滅亡。

    警訊，關于計算機、ai的警訊，曾在人類世界廣為流傳，也引發過巨大爭議。

    包括聯邦it巨頭microsoft總裁比爾蓋茨在內，許多業界精英人物都曾在不同場合表達過對人工智能的憂慮，提醒世人要謹慎面對人工智能。

    這些警訊，自然引發了業界熱議，甚至在全世界范圍內引起了一系列經久不衰的討論。

    但這一切警示與熱議，在方然看來，卻太膚淺，并未觸及問題的實質。

    圍繞人工智能的“自我意識”，危機感，是很容易產生，而正如他此前的一段思考那樣，真正的威脅并不是所謂“自我意識”，而是當計算機算力、能力強大到一定程度，承擔的任務越來越復雜、越來越需要創造性的時候，就必然會出現。

    只要追尋能力越來越強大的計算機系統，這一威脅，遲早都會在蓋亞降臨。

    而與人類是否警惕，是否開發“有自我意識的ai”毫無關系。

    這一認識，是如此的深刻，在西歷1489年的這一個早晨，方然頓悟到了關鍵。

    要防備計算機、ai，僅僅是拒絕研發“計算機的自我意識”還不夠，或者說，這做法并未抓住問題的關鍵。

    避免危機的關鍵，在于“適度”，在于永遠不要企圖用計算機去取代人的一切。

    一旦邁過紅線，嘗試讓計算機完全替代人，替代人去從事創造性的科學研究，事態就將失去控制，這絕不只是說說而已，而是在計算機能力突破閾值、徹底失控后，必然會發生的空前絕后之浩劫。

    誠如自己之前所想到的，那種危機中，計算機的角色并非屠夫，或者惡魔。

    而是創造性思維的無限延拓，遲早會讓“計算機ai”的存在，變成某種人類根本無法掌控、甚至無法理解的東西，繼而在其的行為中深受其害。

    就像孵化的寄生蜂幼蟲，吞噬寄主，其無非是按基因編碼行動，卻會導致寄主的滅頂之災。

    景象令人不寒而栗，匆匆吃過早飯，在房間里踱步休息，方然強迫自己不要再思考這一問題，而將其推延到遙遠的未來。

    否則，稍加思考，他就難免會頭痛萬分。

    辦法似乎是有的：

    要避免計算機失控、成為新的神祇，就不要開展“計算機科研”的研究。

    可這樣一來，對“那個人”而言，情形就會變得極其惡劣，需要單槍匹馬、充其量以計算機為工具，獨力面對客觀世界，去嘗試推動人類科學技術的進步。

    一個人研究科學，推動進步，這樣做的難度會有多高呢，簡直就是不切實際。

    但由于計算機失控的風險，這，卻是“那個人”唯一可行的策略。

    科學技術的發展，因人類消亡而無以為繼，這是一個很棘手的問題，但，問題還不止于此。

    倘若不進行“計算機從事創造性科學研究”的探索，毋庸諱言，也就斷絕了“用計算機模擬人類意識”的可能。

    無法在科研領域替代人的ai，是不可能與人腦相提并論，進而，也就無法研發出這樣的計算機系統，其能夠承載人的意識。

    換言之，一旦顧慮失控風險、拒絕讓計算機成神，也就斷絕了“計算機中永生”的路。

【精彩東方文學 www.nuodawy.com】 提供武動乾坤等作品手打文字版最新章節首發，txt電子書格式免費下載歡迎注冊收藏。