歐米茄傳奇
歐米茄團隊是這家公司的靈魂。雖然該公司其他部門通過開發各種狹義人工智能（narrow AI）的商業應用賺得盆滿缽滿，讓公司得以按部就班地運轉下去，但歐米茄團隊卻一直秉承並追尋著公司CEO 的夢想：建造通用人工智能（Artificial General Intelligence，簡稱AGI）。因此，其他部門的員工都親切地稱他們為“歐米茄”，並把他們視為一群不切實際的夢想家，因為他們似乎總是與自己的目標差著幾十年的距離。但是，人們喜歡縱容這些人，因為歐米茄團隊的前沿工作為公司帶來了聲望，他們為此感到高興。同時，歐米茄團隊偶爾會改進一些算法供其他部門使用，這讓他們十分感激。
然而，其他部門的同事不知道的是，歐米茄團隊之所以精心打造自己的形像，是為了隱藏一個秘密：他們馬上就要啟動人類歷史上*勇敢無畏的計劃了。那位極富個人魅力的CEO 親自挑選了這些人，不隻是為了培養傑出的研究人員，還為了實現他幫助全人類的雄心壯志和堅決承諾。他告誡歐米茄團隊，這個計劃非常危險，如果被不懷好意的人發現了，他們就會不擇手段地甚至實施綁架來制止這個計劃，或者盜走他們的代碼。但是，這些人已經全身心投入其中了。他們的理由和當年眾多世界物理學家加入“曼哈頓計劃”開發核武器的原因差不多：因為他們都堅信，如果自己不率先做出來，就會有其他不那麼高尚的人捷足先登。
歐米茄團隊建造的人工智能昵稱叫“普羅米修斯”（Prometheus），它一天比一天強大。誠然，它的認知能力在社交技能等許多方面還遠遠落後於人類，但歐米茄團隊竭盡全力讓它在一個任務上表現超凡，這個任務就是編寫人工智能繫統。他們之所以選擇這個計劃，是因為他們相信英國數學家歐文· 古德在1965 年提出的“智能爆炸”理論。古德說道：
讓我們給“超級智能機器”（ultraintelligent machine）下一個定義，那就是：一臺能任何人（無論這個人多麼聰明）的所有智力活動的機器。由於設計機器也屬於這些智力活動中的一種，因此，一臺超級智能機器就能設計出更好的機器；那麼，毫無疑問會出現一種“智能爆炸”，到那時，人類的智能會被遠遠甩在後面。於是，首臺超級智能機器就會成為人類*後一個發明，隻要它足夠馴良，並告訴人類如何控制它就行。
歐米茄團隊認為，隻要他們能讓這個不斷迭代的“自我改善”過程持續下去，那麼*終，這臺機器就會變得非常聰明，足以自學其他有用的人類技能。
第1個100
一個星期五的早晨9 點鐘整，歐米茄團隊決定啟動這個計劃。在一間閑人免進的巨大空調房間內，層層疊疊的架子排成長列。普羅米修斯就在這一排排為它“量身定制”的計算機集群中嗡嗡鳴響。為了安全起見，它沒有接入互聯網。不過，它在本地存儲著一份包含互聯網大部分內容的副本作為訓練數據，以便從中學習，這些數據來自各大知識彙集網站及社交平臺數據庫。歐米茄團隊挑選這個時間點是為了可以不受打擾地工作：親朋好友都以為他們參加公司的周末拓展活動去了。辦公室的小廚房裡塞滿了微波食品和提神飲料。一切準備就緒。
啟動伊始，普羅米修斯在編寫人工智能繫統上的表現還是比人類略遜一籌，但很快，這個缺點就被它極快的速度所彌補了。當歐米茄團隊正猛灌紅牛時，普羅米修斯也在以破竹之勢解決著問題。如果換算成人類需要的時間，那得幾千年之久。到早上10 點鐘，普羅米修斯已經完成了對自身的第1次迭代。這個2.0 版本雖然比過去稍微好一點，但還是比不上人類。然而，到了下午2 點鐘，當普羅米修斯迭代到5.0 版本時，歐米茄團隊驚獃了：它已經大大了他們的預期，而且它進步的速度似有加快的跡像。夜幕降臨時，他們決定用普羅米修斯10.0 版本來啟動計劃的第二階段：賺錢。
歐米茄團隊的第1個目標是*的MTurk。這是一個眾包網絡市場，於2005 年上線後，發展十分迅速，很快就聚集了成千上萬來自全球各地的人。他們夜以繼日地奏出了一支支“HIT”奏鳴曲—— HIT 指的是“人類智力任務”（Human Intelligence Tasks），範圍十分廣泛，從音頻錄制到圖像分類和網頁描述撰寫，應有盡有，但它們都有一個共同點：隻要你完成得足夠好，沒人在乎你是不是人工智能。對於其中大約一半的任務，普羅米修斯10.0 版本完成得都還算可以。歐米茄團隊讓普羅米修斯用狹義人工智能設計出了一個簡潔的軟件模塊，專門用於處理這些任務，但除此之外，這個模塊什麼也干不了。接著，他們把這個模塊上傳到了*的網絡服務器上，這是一個可以運行虛擬機的雲計算平臺。在這個雲平臺上，他們租了多少虛擬機，就可以運行多少虛擬機。歐米茄團隊在*雲計算服務上每花，都能從MTurk 上賺回超的價值。*一點兒也沒發現，自己公司內部竟然存在著這樣驚人的套利機會！
為了掩蓋蹤跡，在前幾個月中，歐米茄團隊小心謹慎地用假名創建了幾千個MTurk 賬戶。現在，普羅米修斯建造的軟件模塊正冒名頂替著這些賬戶的身份。MTurk 的客戶通常會在事後8 小時左右付款。一旦收款，歐米茄團隊又將這些錢用來購買更多的雲空間，供給普羅米修斯使用。在這個過程中，普羅米修斯不斷升級，它的*新版本寫出來的任務模塊也變得越來越厲害。由於歐米茄團隊的錢每8 小時就能翻一番，因此在MTurk 上的任務很快便達到了峰值。同時，他們發現，如果不想引起過多的注意，*好把日收入控制在100以下。不過，普羅米修斯已經為他們的下一步計劃提供了足夠多的錢，歐米茄團隊已經無須向公司財務總監申請經費了。
危險遊戲
啟動普羅米修斯之後，除了在人工智能研究上取得突破之外，歐米茄團隊*近還熱衷於用它來賺錢：賺得越快越好。從本質上來說，整個數字經濟的紅利都是唾手可得的，但從哪裡開始比較好呢？是開發計算機遊戲，還是做音樂、電影或者軟件？是寫書、寫文章，還是炒股，或者搗鼓和販賣新發明？簡單來說，這個問題歸根結底是如何纔能實現投資回報率的*大化，但一般的投資策略在歐米茄團隊面前實屬小巫見大巫：在通常情況下，如果年均回報率能達到9%，投資者就會很滿意了；然而，歐米茄團隊在MTurk 上的投資達到了每小時9% 的回報率，平均每天能賺到8 倍多的錢。那麼，他們的下一個目標是什麼呢？
歐米茄團隊的第1個想法是去股票市場大撈一筆，畢竟，許多對衝基金都在這上面砸了重金，而歐米茄團隊中的幾乎每個人都曾在人生中的某一時刻，拒絕過為對衝基金開發人工智能繫統的高薪工作。你可能還記得，這也正是電影《超驗駭客》（Transcendence）中的人工智能賺得第1桶金的方法。但是，前些年的一場股市崩盤促使政府對金融衍生品出t了一些規範措施，限制了他們的選擇範圍。很快，歐米茄團隊就意識到，即便他們能夠獲得遠高於其他投資者的回報，但這點利潤比起銷售自家的產品來說還是相差甚遠。畢竟，當全世界第1個超級智能都在為你工作時，你顯然*好投資自家的產品，而不是寄希望於別人家的。當然，例外也是可能存在的，比如，你可以用普羅米修斯超人的黑客技能來獲取內幕消息，然後購買那些即將上漲的股票的看漲期權。但歐米茄團隊認為，這可能會引來不必要的注意，因此不值得這麼做。
於是，歐米茄團隊將重點轉向了那些可以研發和銷售的產品，其中，電子遊戲看起來是個很不錯的選擇。普羅米修斯很快就具備了極為高超的技能，能夠設計出引人入勝的遊戲，還能輕易地應對程序、平面設計、光線追蹤等成品所必需的任務。此外，它還分析了網絡上關於人們偏好的所有數據，知曉了哪一類遊戲是玩家的*愛，據此發展出了一種根據銷售收入來優化遊戲的超能力。盡管不願意承認，但歐米茄團隊的許多成員都曾夜以繼日地泡在遊戲《上古卷軸5： 天際》（The Elder Scrolls V: Skyrim ）中。2011 年，這款遊戲在剛發布的第1星期，總銷售額就超過了4。因此，歐米茄團隊相信，在100的雲計算資源的支持下，普羅米修斯在24 小時內一定能開發出一款像《上古卷軸》一樣令人上癮的遊戲。他們可以在線銷售這款遊戲，並讓普羅米修斯在博客圈裡假扮玩家來大聊特聊，引爆熱度。如果能在第1個星期入賬2.5，他們就能在8 天內將投資翻8 倍，每小時的回報率高達3%，雖然比他們在MTurk 上的表現略顯遜色，但更具可持續性：假如普羅米修斯能每天開發出一款遊戲，不久之後，他們就能賺到100，而不用擔心遊戲市場飽和。
但是，歐米茄團隊中的一位網絡安全專家坦率地表達了對這個遊戲計劃的不安。她指出，這個計劃可能會帶來一個可怕的風險：普羅米修斯可能會“逃脫”，並“搶奪自己命運的控制權”。過去，由於不清楚普羅米修斯的目標在自我提升的過程中會如何變化， 因此為了安全起見，歐米茄團隊決定不遺餘力地將普羅米修斯“關起來”，囿於“盒”中，讓它無法“ 逃” 到互聯網上。對運行在服務器機房中的普羅米修斯主機，他們采取了物理隔絕的手段：那裡根本沒有網絡連接，普羅米修斯輸出的所有數據都以信息和文件的形式傳輸給一臺被歐米茄團隊嚴格控制的計算機。
將普羅米修斯開發的復雜程序放到聯網的計算機上運行，是一件風險很大的事情：歐米茄團隊根本不清楚它會做什麼，也完全不知道它會不會做某些事情，比如在互聯網上像病毒一樣擴散自己。在測試普羅米修斯為MTurk 上的任務寫的軟件時，為了謹慎地提防這種情況的發生，歐米茄團隊隻在虛擬機中運行這些軟件。虛擬機是一個模擬計算機的程序，比如，蘋果電腦的許多用戶會購買虛擬機軟件，通過“欺騙”蘋果電腦這是一臺Windows 電腦，來讓它們運行Windows 程序。歐米茄團隊建造了自己的虛擬機，其昵稱叫“潘多拉魔盒”。它模擬的是一臺超級簡單的機器，去除了計算機通常擁有的所有附件，沒有鍵盤，沒有顯示器，沒有音箱，也沒有網絡連接，什麼都沒有。舉個例子，對於MTurk 上的音頻謄錄任務，歐米茄團隊對虛擬機進行了設置，隻允許一個音頻文件輸入潘多拉魔盒，也隻允許一個文本文件輸出，即謄錄好的文字。這些規則之於魔盒內部的軟件，就好像物理定律之於身處宇宙中的人類一樣：軟件無法衝出魔盒的藩籬，就好比人類再聰明，也無法實現光速的星際旅行。除了上面所說的輸入和輸出單個文件之外，潘多拉魔盒內部的軟件實際上就像被困在了一個擁有自己的計算規則的平行宇宙。歐米茄團隊患有嚴重的“逃脫”恐懼癥，因此，他們也在時間維度上加了枷鎖，限制了不受信任代碼的生存期限。比如，潘多拉魔盒中的謄錄軟件每完成一個音頻文件的謄錄，魔盒中的所有內存都會被自動抹去，程序會自動從零開始重新安裝。這樣，當它開始下一個謄錄任務時，就不知道過去發生了什麼，也就不能從過去中學習。
當歐米茄團隊在MTurk 項目中使用*的雲服務時，他們能將普羅米修斯編寫的所有任務模塊都裝進雲端的潘多拉魔盒，因為在MTurk上輸入數據和輸出數據都非常簡單。但是，對嚴重依賴圖像的計算機遊戲來說，這是行不通的。他們無法將遊戲裝進潘多拉魔盒，因為它們需要徹底訪問玩家計算機上的所有硬件。此外，他們不想冒險，因為一些懂計算機的用戶可能會分析遊戲代碼，從而發現潘多拉魔盒，並調查其中的秘密。“逃脫”風險不僅置遊戲市場於危險當中，還可能會犧牲其他軟件市場，而後者是規模巨大並且有利可圖的，遍地都是的機會。
