品評四方｜美國簽署備忘錄　人工智能戰正式開打

文/關品方

美國上月底（10月24日）簽署了一份國家安全備忘錄，詳細說明五角大樓、情報機關和其他國家安全機構應該如何使用和保護人工智能技術。這份由拜登總統在白宮簽署的人工智能行政令，可能是全世界在國家層面為人工智能開發制定的最新一份關鍵性文件，主旨是確保美國在使用人工智能工具時能夠加快政府的運作速度，同時限制對手利用AI開發類似「自主武器」超越美國的可能性。

現在一般人都已很清楚，人工智能如果使用得當並針對特定目的，可以為人類文明提供巨大的好處，無可限量。但如果AI被濫用，就可能會威脅到全球安全（包括各國自身的安全）。美國這份最新的備忘錄，分為機密版本和非機密版本兩部分，後者有38頁已公開，至於機密版本（作為附錄）並未公開。美國政府現時擔心的，可能是五角大樓、中央情報局和聯邦司法部因為暫時還沒有關於如何使用人工智能的指導方針，因此人工智能的無序發展可能會防礙國家安全。這份有關人工智能的行政命令，根據美國《紐約時報》網站的分析，其關鍵之處是認為：為人工智能制定規則比核時代簽訂軍備控制協議更加困難。和網絡武器及熱核武器一樣，人工智能工具有可能成為不可管控的犀利武器。因為人工智能的工具開發，無法計算，難以清點，不受監控。當人工智能工具被氾濫利用時，即使主觀上使用者沒有惡意，日常應用時也很可能會出現無可挽回的「非人為」錯誤。極端情況是：美國政府要保證人工智能系統絕不可能決定美國何時發射核武器。美國政府現時把注意力集中在如何避免人工智能工具影響政府作出最關鍵的決策，就是啟動核武器的按鈕。

所謂ChatGPT，現時正式的中文翻譯據說是：聊天生成預訓練轉換器。至於將來怎樣清晰地對人工智能工具各方面的產品發展下定義，現在為時尚早。美國現時最擔心的是人工智能有沒有可能把核密碼交給ChatGPT，美國總統獲得的信息有多少是通過人工智能系統處理過及透析過，以及人工智能系統會怎樣影響總統作為最高決策人所做出的決定。說白了，是擔心人工智能系統和工具會怎樣影響全世界權力最大的人（特別是如果他已經年逾古稀）。

筆者認為，美國這項人工智能行政令，旨在要防止AI反客為主，防止AI干擾人類的抉擇，防止AI參與人類的決策。是為了確保主客不易位，自然人類的智能要能夠監督人工智能，避免人工智能工具影響自然人類對其自身的目標作出的抉擇。

這樣解釋，看似十分複雜，其實白宮文件的意思很簡單：一定要讓自然人類凌駕在人工智能工具之上，不能讓人工智能技術的開發和系統的運用令到美國總統在做出有關抉擇、繼而發出指令時，被拖慢了他作出反應的時間。

意在言外，這份人工智能行政令在其保密的部分，估計就是務求美國可以保證對手忽然使用「完全自主武器」（AI 戰士）的時候，美國能夠維持自身的最高利益，在參與戰場決策的時候能夠利用人工智能武器，掌握主動，作出第一時間的對敵攻擊。

這份人工智能行政令還包括怎樣禁止讓人工智能工具決定是否給予難民庇護，怎樣禁止基於種族或宗教原因運用AI追蹤某人，或者在沒有經過充分評估的前提下將某人歸類為疑似恐怖分子。

類似這些極其深刻的問題，說明人工智能作為科技戰2.0已經提到議事日程上來。美國這份行政令最令人驚訝的地方，是將私營部門在人工智能方面的研發人才視為國家級的資產，需要受到保護，以免被對手竊取。這其實與第二次世界大戰結束前美國對核武器研發極度秘密地進行的思維一模一樣。這也與美國戰後軟禁錢學森多年，不讓他回到中國的違反人權的行為一模一樣。

這份人工智能行政令，要求美國政府的情報機構及五角大樓保護大型語言模型及芯片的研發工作，將其視為國家財富，並向私營部門開發人員提供最新（機密級別）情報，以保護他們的發明（視為禁臠）。這是民粹民族主義的表現，是你死我活的戰爭思維，是要保證美國能夠維持其超級霸主的地位，要在AI戰線領先，千方百計不讓其他國家在人工智能科技研發及應用方面逼近自己。

有關人工智能系統和工具的設置和發明，美國現在是這樣強勢，將來可能會更加強橫，包括想方設法要將全世界各地最優秀的人工智能專家都引入美國，情形就像美國大約90年前從全球吸引從事核武器研究的科學家到來美國，不讓他們為納粹德國工作的思維模式一樣。

然而，時移勢易，當年美國是中英美蘇同盟國成員，反對德意日三國邪惡軸心。在21世紀的新時代，其實正當的做法應該是在全球範圍，號召國際間共同研究人工智能的國際安全指南。這應該是中國提出的全球發展、全球和平及全球文明倡議的組成部分，是人類命運共同體的正確認知，是和平發展的共同追求。而不該是單邊主義，唯我獨尊，只考慮美國帝國霸權主義自身的利益。從這個角度看，中美雙方的立場可謂壁壘分明，誓不兩立。孰是孰非，昭然若揭，容不下騎牆派的含糊其辭。