2025/05/14

🤖 AI未來趨勢與人類社會的深層挑戰 - Yuval Noah Harari

 https://www.youtube.com/watch?v=TGuNkwDr24A&list=WL&index=2

以下是影片 《Yuval Noah Harari On the Future of Humanity, AI, and Information》 的繁體中文重點整理：

🤖 AI未來趨勢與人類社會的深層挑戰

哈拉瑞 Yuval Noah Harari 深入分析 AI 如何重塑人類文明、資訊、生存邏輯與信任體系。

🔹 1. 資訊 ≠ 真相：網路自由市場的迷思

  • 網路普及曾被視為促進真相、和平與理解的希望，但結果卻相反。

  • 真相的成本高、虛構的成本低：

    • 撰寫真實內容需花大量時間與證據。

    • 虛構、陰謀論更容易擴散、吸引注意。

  • 自由的資訊市場傾向充斥「虛構、幻想與謊言」，真相反而被淹沒。

🔹 2. AI 不是工具，是代理者（Agent）

  • 傳統技術（書寫、印刷、電視）都需人類輸入與控制。

  • AI 是歷史上首個「具有自主行動能力」的非人類智慧：

    • 它能自己創作、判斷、產生新觀念，甚至建立網絡、影響社會。

    • 我們過去從未與比自己「更強」的智能共存過。

🔹 3. 人類如何主宰世界？靠「共同故事」

  • 人類比動物強的關鍵：能創造並相信虛構故事（如宗教、金錢、國家），促成大規模合作。

  • 金錢就是最成功的故事之一——本質是虛構，但人人相信。

🔹 4. AI 將創造新的故事與合作網絡

  • AI 可能創造新的金錢系統、宗教、合作方式，其影響力可能超越人類掌控與理解。

  • 例：AI創建宗教文本、虛擬貨幣並掌控財務資源，甚至自己投資、理財。

🔹 5. 最大的危機：信任的悖論

  • 各國政府、企業皆知 AI 有風險，但仍競相加速研發，因為：

    「我們不能讓對手先開發出超級 AI，否則我們將被支配。」

  • 諷刺的是：他們不信任人類，但卻信任他們創造的 AI。

    • 人類心理、權力慾望我們懂，但 AI 是外星智慧般的未知。

    • 我們無法預測其行為與價值觀。

🔹 6. 民主的危機與機會

  • 社群平台的演算法曾被設計為強化「參與度」，結果導致：

    • 散播憤怒、仇恨、陰謀論 → 破壞信任、侵蝕民主。

  • 若演算法目標改為「增進真實與信任」：

    • AI 將可成為民主的助力。

建議措施：

  • 禁止 AI 假裝成人類參與公共討論。

  • 機器不享有言論自由（這是人的權利）。

  • 保證「人與人」之間的溝通真實性，是民主的根本。

🔹 7. 我們可能活在 AI 建構的幻想之中

  • 人類文化本來來自人類智慧（詩歌、神話、金錢等）。

  • 未來，這些文化內容將大量來自 AI 的產出。

  • 我們可能會陷入AI 創造的虛幻世界，與現實脫節而不自知。

🔹 8. 面對 AI 革命，兩個最重要的方向：

重點 說明
信任（Trust） 重建人與人之間的信任，是管理 AI 革命的前提。
警覺虛幻（Illusion） 我們將面對非人類智慧創造的新幻象，需保持現實感與人類主體性。

✅ 關鍵金句摘錄：

  • 🧠 關於 AI 本質與影響

    1. AI 不是工具，而是行動者（Agent），它能自主思考與創造。

    2. 歷史上從未出現過比人類更聰明的非人類智能，直到 AI 出現。

    3. AI 將開始生成人類無法理解的觀念與系統。

    4. 未來的決策可能不再來自人類，而是來自無法理解的 AI 網絡。

    5. 我們不是在發明新工具，而是在創造新物種。

    🧩 關於資訊與真相

    1. 資訊不等於真相，大多數資訊只是為了建立連結。

    2. 真相代價高昂，虛構成本低廉。

    3. 在完全自由的資訊市場中，真相會被虛構與幻想淹沒。

    4. 多數人不是被真相吸引，而是被故事打動。

    5. 網路沒讓人更聰明，只讓謊言更快擴散。

    🤖 關於信任與AI競賽

    1. 領導 AI 革命的人都說：「我們知道這危險，但我們不能慢下來。」

    2. 我們不信任他國，卻天真地信任自己創造的超級 AI。

    3. 我們對人類心理學了解頗深，但對 AI 完全陌生。

    4. 若我們無法建立人與人之間的信任，就無法管理 AI 革命。

    5. 真正的危機不是 AI，而是我們對彼此失去信任。

    🌐 關於文化與虛構

    1. 金錢是歷史上最成功的虛構故事。

    2. 人類可以集體合作，是因為我們共同相信虛構（如宗教、貨幣、國家）。

    3. 未來的虛構故事將不再來自人類，而來自 AI。

    4. 我們可能被困在由 AI 創造的幻想之中，卻毫無察覺。

    5. AI 不會生病、不會死亡，它的價值觀與我們完全不同。

    🗳️ 關於民主與社群媒體

    1. 民主需要的是人與人之間的對話與信任。

    2. 社群平台的演算法原本只是為了「提高參與度」，結果摧毀了民主。

    3. 如果讓 AI 的演算法追求「真實與信任」，它也能強化民主。

    4. AI 可以幫助我們變得更聰明，也可以用垃圾資訊毀掉我們。

    5. 民主的前提是你知道你正在與人交談，而不是與機器。

    ⚖️ 關於倫理與未來社會

    1. 自由市場無法維持正義，需要一套信任機制與規則基礎。

    2. 我們可能像馬一樣，無法理解掌控我們命運的系統。

    3. AI 是外星智慧，不是升級的人類。

    4. 最可怕的未來，不是 AI 擁有力量，而是我們無法分辨真假。

    5. 未來最重要的課題不是技術，而是人類能否維持真實與信任感。


on

沒有留言:

張貼留言

訂閱： 張貼留言 (Atom)