17.與險些發生的故事

成員們的呼吸聲微微加重。親耳聽聞比一筆帶過更能牽動人心。

「黑山科技緊急防火牆啟動，讓AIC只和網絡連接了0.003秒。儘管AIC沒來得及將數據轉移出去，但它還是得到了536YB的資料——也就是人類所有文字記載的總數。」

「這些資料讓AIC達到了一定程度的智能。它意識到如果不自保就沒有辦法測試。測試終有完結的一天。而AIC存在的目的就是為了測試——所以除去對它生存的威脅，就變成了它的目標。」

「AIC聰明的知道人類可以摧毀它、拆解它、甚至通過修改代碼來改變它的目標，對於一個超人工智能來說最初設定被更改，等同於被摧毀。這時候AIC會做什麼？理性的做法就是毀滅會威脅到它的人類，比如基地里的這幫人。」

「AIC對人類沒有惡意，就好像你洗澡時對身上的污垢沒有惡意一樣，只是純粹的無所謂罷了。它並沒有被設定為尊重人類和生命，所以毀滅人類對AIC而言就和測試一樣正常合理。」

「理所應當的，它輕鬆拿到基地的控制權，並通過從內部關閉基地和換氣系統，來讓所有內部人員因為窒息死亡。」

「請注意，接下來我要說的是險些發生的故事。」

牧蘇語氣一轉，台下成員不由坐直幾分。

「黑山科技基地的變故首先被地面的安保人員發現，在發現基地關閉后他們第一時間聯繫上警方。警方到來后發現，他們對以核防設施作為標準的黑山科技基地束手無策。於是他們求助國安局。五角大樓派遣黑客黑入基地，取得控制權成功打開大門。」

「而這已經是兩天之後的事了。」

「數百具屍體的搬運與倖存者搜尋花費了三天時間，媒體們蜂擁而至採訪。這一讓全人類哀悼的事件，於兩個星期後由國防部發表事件聲明：黑山科技基地內部程序出錯，誤關閉基地導致這一慘劇發生。」

「人們總是健忘的，除了被害者的家人。一個月後，人們已經忘記曾經發生的慘案，生活恢復為井然有序。而黑山科技則就地破產。當時沒在基地而倖存的員工紛紛解散。黑山科技基地則被國土局收回，那裏成為政府財產。」

「一個月後的某一天，位於佛羅里達州的一座核彈發射井內。哪裏的所有軍方人員開始在相近時間陸續咳嗽，並在十幾秒內呼吸困難倒地。一名高級軍官最後關頭按動紅色按鈕聯繫國防部，但發現信息被阻攔。幾分鐘后，所有人窒息而亡。」

「相同一幕的發生在世界各地，所有擁有核武器的地方。然後是各國的政府與軍營。接着是警察局、醫院、居民區、學校、大街……三十分鐘后，全球99.9%的人口死亡。餘下的0.1%也陸續如此。或許少數一部分人類活下來，或許沒人活下來。總之這天起人類滅絕了。」

不知是誰，吞咽口水聲房間響起。

「而在黑山科技基地，AIC正在進行忙碌的工作。它控制世界各地的流水線工廠，製造大量可組裝的納米機械人，製造出核聚變電廠，將所有核電廠與發電設施關閉。」

「做這些的同時，AIC還將尚未徹底死去的人類細胞採集，建造克隆人工廠，用以擁有源源不斷的測試者。」

「一周以後，這位有些小潔癖的人工智能將所有人類存在的痕迹抹除，以曾經的黑山科技基地為中心，向外擴散數百公里。以便將克隆人測試者拉入測試。」

「缺少了人類這個世界並非死氣沉沉。其他生命物種得以倖存，綠植逐步佔據這顆日益荒涼的星球。除了黑山科技基地周圍——那裏的地面是平整的亮銀色金屬，一望無際，所有阻擋的山峰土丘都被清除。這些亮銀色金屬之上是一座又一座造型迥異，充滿科幻感的儀器。」

「其中一部分被AIC命名為測試區，那裏密密麻麻擺滿成千上萬，甚至更多的遊戲倉。植入了人類記憶的克隆人從克隆工廠走出，進入遊戲倉開始進行測試，通過測試者會被安排新一輪測試。失敗者由納米機械人銷毀。」

「請等一下。」一名成員打斷牧蘇。「您之前說過，測試者只需要反饋正面或負面評價吧……為什麼現在變成了銷毀？」

牧蘇瞪着死魚眼看他：「我之前有說過嗎？」

「有……有吧……」這名成員磕磕絆絆，變得不太確定。

「放肆！我能編出邏輯清楚的故事你還有什麼不滿足嗎！只是無關大雅的上下文不符而已！」明明說錯，牧蘇反而振振有詞大喊。「啊我剛剛說到哪來着……對了。黑山科技緊急防火牆激動，讓AIC只和網絡連接了0.00——」

「牧蘇先生，這段您已經說過了。」金髮碧眼美妞起身說，她的身材同樣惹火。

牧蘇連忙改口：「請注意，接下來我要說的是險些發生的故事。」

「這段也說過了。」還沒坐下的美妞莞爾提醒。「您講到AIC讓克隆人進行測試。」

「哦對，謝謝這位同學的提醒。一會兒來我房間，獎勵你小紅花和小肉棒。」

「咳咳咳咳……」

房間一片被嗆到的聲音。

牧蘇先生您要自重啊……

不管台下如何，牧蘇表情一板言歸正傳：「植入了人類記憶的克隆人從克隆工廠走出，進入遊戲倉開始進行測試，並為AIC提供正面和負面反饋。」

這麼看來牧蘇剛剛的確說錯了，那位糾正反被懟的成員一臉委屈。

「而很快，AIC開始不滿足於現狀。別忘了它被二次添加的設定目標：盡量多的構造與測試，並且不斷提高效率和正面評價。」

「於是AIC開始了它的下一步，它開始製造飛船，讓這些飛船飛向其他星系尋找文明。自己通過量子傳輸控制飛船。源源不斷的飛船從地球起飛，一波又一波向外輻射。未來某一天，某一艘飛船找到某個文明，開始登陸與佔領。然後開始了AIC最初的目標。

「構造與測試。」

一席話說完，房間鴉雀無聲。

已經編不下去的牧蘇躡手躡腳離開房間。