品評四方|科技戰將顛覆整個世界 淺談AGI最新發展
![](https://dw-media.dotdotnews.com/dams/product/image/202101/07/5ff68767e4b087a37b8f1fd1.jpg)
文/關品方
踏入2024年,有所謂十大突破性技術出現,包括無處不在的人工智能、首例基因編輯治療、增強型地熱系統、芯粒技術、推特「殺手」、減肥藥、蘋果「Vision Pro」、百億億次計算機、超高效太陽能電池和「熱泵」。以上是由麻省理工大學「科技評論」提出,筆者還需要逐一深入理解。
今天聚焦「無處不在的人工智能」(AGI,G是Generative;人工生成智能)。這方面又和量子通訊、高速運算和高端算法有關(最新發展是華為推出5.5G),不容易理解,卻影響深遠。
人工智能模型GPT-4已經推出大約10個月,近期將會推出新一代AGI模型(GPT-5)。OpenAI公司的行政總裁Sam Altman被稱為「Chat GPT之父」,他最近公布GPT-5可以做更多不可思議事情的同時,指出AI的發展速度比較過去曾經席捲矽谷的互聯網技術轉型升級來得更快。他警告這將會令人類感到不安,因為將來的AGI產品可能需要有大量個性化的定製,精準配合每一個用戶的個別需要,用AI生成不同意識形態的內容,配合不同政治文化背景的用戶。筆者認為,這將會造成撕裂對抗,智者益強,弱者更蠢,關乎人類前途和命運。
當前全球化和反全球化,多邊主義和單邊主義,社會主義和資本主義,和平與戰爭,發展和倒退,公義和私利,人類命運共同體和餐桌菜單論,彼此之間已經引起極端尖銳的文明衝突。如果將來AGI產品以意識形態和價值認同來劃分人類,一方面是狩獵型的你死我活,另一方面是農耕型的共存共榮,彼此尖銳碰撞,將會帶來顛覆性的後果。究竟誰勝誰負,現在還很難說得清楚,不知後果如何。處在食物鏈尖端的,畢竟是信奉你死我活叢林法則的野獸。落後就會挨打甚至被消滅,有一定的道理,但不完美。不完美之處在於永遠有人相對落後,於是永遠有人挨打甚至被消滅。這就是原始天演論或進化論1.0的簡單概述。
未來的AGI產品或會按照不同國家的價值觀生成不同的內容。對不同價值觀的用戶來說,答案不同,將會引起更激烈的文化衝突,無法共融。碎片化的信息來自同溫層,這不是提供客觀理性思考的正確方法。筆者對此引以為憂,不是庸人自擾,不是擔心天會塌下來或彗星撞過來導致地球無法存在,而是人類的思維意識被撕裂為不能共存的對抗陣營,被「無處不在的人工智能」控制,人類自己毀滅自己。
生成AI的模型將不斷推陳出新,會懂得對用戶的心理和生理進行分析,投其所好,理解能力顯著升級後會演變為帶有人類的情緒和價值觀。例如未來當用戶問及哪些信息是當天最重要的?AI工具總會選出相關的迎合內容,變成同向的互相肯定,回到部落式「小院高牆」,封閉起來,再沒有冷靜均衡、開放包容的思維。現在GPT-4已經可以在極速的時間內替我們詳細解答例如有關皇仁書院和英皇書院有什麼分別,將來有可能解答例如有關俄國和美國會不會互相砍殺對方,選出的答案將會符合用戶的意識價值和主觀願望,加劇對立和矛盾,無助中華民族響往的世界大同理想。
現實世界怎樣?現時微軟已經承諾向Open AI投資超過100億美元。當完成新一輪的融資談判之後,估計Open AI的估值將會超過1000億美元。Altman更透露,因為希望取得美國政府的支持,Open AI將會允許其AI模型用于軍事用途。隨着技術進步,未來AI模型的運算力,將會較現時的GPT-4高出10萬倍甚至100萬倍。這又和量子計算、高速運算和高端算法的發展有關(華為領跑,5.5G快將推出)。
未來的AI發展需要在能源領域取得突破,因為AI所消耗的電力遠遠超過人們的預期。為什麼中國的大數據中心選擇建設在雲南和貴州等崇山峻岭之地?原因之一是當地的水力發電十分便宜而且氣溫較低散熱較快,可以減低大數據中心在處理數據時的耗電量。當前有不少學者專家研究有關核聚變商業化和民用化的問題,將來或會取得更便宜的太陽能、實現儲能技術突破,希望有利於調控氣候變化。新能源的發展又和AI的發展方向有關。Altman本人3年前已經向美國核聚變企業Helion Energy提供接近4億美元的融資。
美國近年高新科技的創新發展是推動紐約股市屢創新高的原因之一。現時Open AI的最大股東是微軟。微軟的市值高達3.1萬億美元,已經超越蘋果(2.8萬億美元)成為全球市值最高的企業。現時高新科技的狂飆,究竟對人類福祉是好是壞?值得我們深思細察。最近比爾蓋茨曾經提出,希望人工生成智能的創新研究要暫緩半年至1年,讓國際間能夠找出可監管控制的方法。這可以說是盛世危言,不可不察;但又談何容易,難有辦法。