算法造神，人類入繭
在真相和秩序之間走鋼絲
1918年，美國遠征軍的一個營受困敵后，他們迫切需要將自己所處的位置傳遞給總部，但沒人能突破敵軍防線，最后的希望落到了一只信鴿身上。
這只信鴿名叫謝爾·阿米。目擊者稱，它穿越敵軍猛烈的戰火，被炮彈的碎片撕裂了胸口，右腿幾乎被炸斷，卻仍舊堅持著飛過了40公里，把信息帶回了總部。最終，這個有500名官兵的被困營得救，謝爾·阿米成為美國的“英雄鴿”，也成了無數文章、故事、詩歌和電影歌頌的主角。
這是尤瓦爾·赫拉利在他的新書《智人之上：從石器時代到AI時代的信息網絡簡史》開篇講述的故事，目的是為了闡述他對于“信息”的定義。其實這本書的英文名為NEXUS，譯為“聯結”更為妥當。
一般語境下，信息與各種人造符號相關聯，如信鴿帶回的消息。但尤瓦爾對信息有不同的界定，他認為，信息的核心是聯結，它本質是一種黏合劑，用以將不同的點聯結成網絡，創造出全新的現實。
在這個定義下，真相、謊言、幻想、虛構故事等等皆是信息。數萬年來，人類正是靠著發明與傳播各種虛構故事、幻想和錯覺來打造并維持諸多大規模網絡，并形成了秩序。
回到信鴿謝爾·阿米的故事里，尤瓦爾筆鋒一轉，提及歷史學家布拉奇克的研究——根據當時的軍事記錄，總部早在謝爾·阿米抵達的20分鐘前已經得知被困營的確切位置，而謝爾·阿米很可能并不是英雄鴿本鴿，它的傷來自幾周后的另一場戰斗。
謝爾·阿米的功績并不重要，重要的是英雄鴿的故事聯結了無數人，在一輪又一輪的傳播后，事實與虛構交織，甚至改變了當事者的記憶。
早在《人類簡史》中，尤瓦爾就曾表達過，智人成功的秘訣在于具備了講述并且相信各種虛構故事的能力。當同一個故事說給成千上萬，甚至幾十億人聽，就像設置了一個無限量插座的中心樞紐，能讓無數人插入建立聯結。
憑借故事，人類還創造出了客觀現實和主觀感受之外的第三個層次的現實，即“主體間的現實”，它存在于許多心智形成的聯結里，如法律、神祗、國家、企業和貨幣等。
站在“聯結”的立場，尤瓦爾駁斥了“天真的信息觀”，否認“信息越多越好”，也不相信“越來越多的信息終將導向真理和真相”。他強調的是，人類的信息網絡要同時做到兩件事：發現真相和創造秩序，即使二者常常相互矛盾。
這樣一種復雜的信息觀是《智人之上》全書的理論根基。這種觀點認為，人類信息網絡的歷史一直在真相和秩序之間走鋼絲，試圖取得二者之間的平衡。
尤瓦爾旁征博引，印證了一個結論：人類的信息網絡只要有一點點真相，加上大量秩序，就能發揮巨大威力，因此不免重秩序而輕真理，帶來了龐大的力量，卻沒帶來多少智慧。
比如，工業革命起源于18世紀，在經歷了帝國征服、世界大戰、種族滅絕和極權政體之后，人類才漸漸學會如何建立一個比較慈悲良善的工業社會。
其間，數百萬原住民的生活被工業帝國的軍隊碾碎，納粹分子用工業化方式殘殺數百萬人，戰爭導致數千萬人死亡，全球生態平衡遭到破壞。
尤瓦爾因此擔憂：面對21世紀的生物工程與人工智能，人類還要經歷多少磨難、付出多少代價，才能駕馭它們？
人類交權，新神上場
從《人類簡史》《未來簡史》《今日簡史》到《智人之上》，尤瓦爾最為人稱道的，是他一直在用獨特的視角拆解歷史，顛覆我們腦海中視之為常識的概念，并帶來新的思考。
他將“農業革命”稱為“史上最大騙局”，因為農業革命之后，人類的工作要比采集者更辛苦，飲食卻更糟；現代化生活也是一個謊言，因為現代化并未使人變得更幸福，反而增加了許多原始人根本不會有的煩惱。
人工智能的到來亦令人憂慮：史上第一次，權力從人類轉移到了其他物種手中。
書中詳述了2016-2017年，臉書（Facebook）因算法助長緬甸暴力沖突的例子，這也是歷史上第一個“部分歸咎于非人類智能決策”的種族沖突事件。
2016年，作為緬甸數百萬人主要新聞來源的臉書上，充斥著關于羅興亞人的各種假新聞，或是憑空捏造的暴行，或是想象中準備實施的“恐怖襲擊”，煽動著緬甸對羅興亞人的仇恨憤怒情緒。
在這種情緒的推動下，緬甸政府軍與佛教極端分子僅僅因為一個小型極端組織的襲擊，就發動了一場針對整個羅興亞人社群的種族清洗，摧毀了數百個羅興亞人村莊，殺害了7000-25000名手無寸鐵的平民，并且粗暴地將大約73萬名羅興亞人趕出緬甸。
聯合國事實調查團2018年得出的調查結論認為：臉書在這場沖突中扮演了“決定性的角色”。
臉書位于加州的高管甚至不知道羅興亞人的存在，他們沒有煽動大屠殺的理由，可臉書的算法卻自己做出了“傳播憤怒”的決定。因為算法的首要目標是“提升用戶參與度”，而最能提升參與度的辦法是讓人憤慨。
尤瓦爾在書中形容：“這正是人工智能革命的本質：無數能力高強的人工智能行為者正如洪水席卷而來，淹沒全世界?！?span style="display:none">6v0知多少教育網-記錄每日最新科研教育資訊
不同的是，人類在行動時，智能和意識是并存的，然而算法只有智能，并無意識，它們會在感受不到痛苦、愛和恐懼的情況下，為實現某個特定目標做出決策，并竭盡全力實現它。實現方式可能完全超出人類預料，也可能造成未曾預見的后果，與人類最初確定的目標完全不一致，這便是計算機面臨的一致性問題（又被稱為“對齊問題”）。
計算機越強大，越獨立，一致性問題帶來的危險也越大。
哲學家尼克·波斯特洛姆在2014年的著作《超級智能》中有一個思想實驗，他假設有一家回形針工農廣場買了一臺超級智能計算機，并要求計算機生產盡可能多的回形針。最終，這臺計算機征服了整個地球，殺死了所有人類，并派出遠征隊占領更多星星，進而在銀河系建立了無數個回形針工廠。
雖然這個實驗聽起來有點天馬行空，但計算機為了達成人類為它們設定的某個目標而欺騙、操縱人類已是事實。
ARC（對齊研究中心）曾對GPT-4進行過一項圖靈測試，要求GPT-4克服CAPTCHA視覺驗證碼問題（登錄網站時通常要求輸入的一串字母或符號，計算機很難識別），GPT-4找到一位線上外包工作網站的工作人員，用“視力有點問題”為由騙過了他，讓人類幫自己解決了這個問題。
除一致性問題外，當人類把越來越多的決定權交給計算機，而單個個體又很難破解算法運作的謎題，算法的公平與否也很難確保。
訓練人工智能的數據庫會帶有人類的偏見，這種偏見也很容易演變為計算機間的錯誤觀念和算法偏見。亞馬遜曾試圖研發篩選求職申請的算法，可算法在學習了過去求職成功與失敗的申請資料后，就會對申請表里出現“女性”一詞，或畢業于女子大學的求職者系統性扣分。
亞馬遜修正無果，最終不得不放棄了這個項目。
硅幕分隔下的數字帝國
算法會出錯、有偏見，可它卻無法像人類網絡一樣自我修正，在真相與秩序之間找到適當的平衡。
過往的歷史中，人類的想象力會造神，也有能力擺脫一位好戰而充滿仇恨的神，重新召喚一位和善寬容的新神。然而，具備獨立行動能力的算法正在奪走這種能力——人類可以通過改變信念來重塑神話，卻無法通過改變信念阻止算法。
更令人擔憂的是，計算機不僅在人類之間充當中介，計算機與計算機之間的鏈接也正在形成。它們彼此互動，正在創造出“計算機間的現實”，如搜索引擎上的網站排名。它的力量與人際網絡所創造的“存在于主體間的現實”類似，能夠影響人的思想和物理世界。
換言之，幾萬年間智人據以主宰地球的能力，計算機已經具備了。人工智能的力量已經開始讓人類感到恐懼。
谷歌CEO桑達爾·皮查伊曾因擔憂人工智能的危險而“夜不能寐”；馬斯克也曾在2023年底的一次公開活動中表示“人工智能比核彈更危險”；OpenAI CEO 奧特曼則明確提出，要成立一個全球性的國際組織來監管AI。
尤瓦爾也持相同觀點。他認為，人工智能的力量可能會帶來兩種危險情況，一是大幅加劇人類既有的沖突，讓人類形成內斗。正如20世紀冷戰時期的鐵幕分隔出幾個彼此敵對的勢力，21世紀的“硅幕”也可能使人類分裂并分屬于不同的數字帝國。未來，人類社會可能分裂成一個又一個的信息繭，人類將從網絡時代走入“繭”時代。
第二種情況下，硅幕所分隔的或許不是彼此敵對的人類，而是人類無法理解的算法霸主。算法大網將束縛、控制著人類的生活，重塑人類的政治與文化，甚至改造人類的身體和思想，而人類卻無力阻止。
希臘神話中，男孩法厄同發現自己是太陽神赫里阿斯的兒子，于是央求赫里阿斯允許他駕著太陽神的四馬金車出游一日，結果天馬失控，太陽偏離了軌道，植被被烤焦，無數生靈慘死，大地眼看不保，直至宙斯出手，用閃電擊中法厄同，世界才免于被毀滅。
尤瓦爾試圖用這個故事發出警示：人工智能或許就是那匹人類根本無法駕馭的天馬，一旦失控，災難會洶涌而至。
人類是地球上最聰明的動物，也是最愚蠢的動物，而人類遇到的問題，歸根結底是信息問題。基于這個判斷，尤瓦爾給出的解決方案是：在天真的信息觀和民粹主義的信息觀之間，探索一種中間立場，打造強大的自我修正機制，并通過當下的每一個選擇，將非生物智能導向對生命演化有利的方向，而非致命的錯誤結局。
人工智能到底是打開了潘多拉的魔盒，還是開啟了新世界的大門？答案或許正如尤瓦爾所言：“歷史的軌跡無比開放，可以彎向任何方向、走向任何地點。”
本文鏈接：http://knowith.com/news-23-5857.html算法造神，人類入繭
聲明：本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
上一篇：不必神話胖東來
