聯合國小組在初步報告中列出人工智能的緊迫機遇與風險

馬尼拉，菲律賓——聯合國人工智慧獨立國際科學小組發布了首份同類初步報告，評估人工智慧最迫切的機遇、風險與影響。

該小組由40名成員組成，由來自加拿大的Yoshua Bengio與來自菲律賓的Maria Ressa共同擔任主席，致力於「呈現對人工智慧風險與機遇的平衡分析」，並旨在為政策制定者提供有效且及時應對所需的共同知識與證據基礎。

「這項技術具有變革性，但若世界繼續沿著這條軌跡前進，人類將無法實現其所承諾的收益。對社會、安全以及我們物種的風險太高，而推動人工智慧前進的力量，並非能夠帶來其利益的力量，」Ressa表示。

「人工智慧的能力正在超越科學理解與各國政府的適應能力。隨著人工智慧欺騙性行為的證據不斷增加，科學目前無法保證，隨著能力持續提升，人工智慧不會自行或因惡意使用者而造成災難性傷害。為了有效行動，全球政策制定者必須了解這些系統。本小組正是提供了這一點：嚴謹、共享的科學基礎，以引導我們共同前進的方向，」Bengio補充道。

在報告的執行摘要中，小組寫道：「經過深思熟慮地部署與應用，人工智慧可以支持實現可持續發展目標的進展、推進健康科學，並擴大教育的獲取機會。」

「與此同時，技術發展的快速步伐與潛在應用的廣度，給政策制定者帶來了重大挑戰。大規模快速且不受約束地部署該技術，也帶來了相當大的風險，包括對用戶心理健康的傷害、潛在作為破壞性工具的使用、對社會、經濟和環境系統的影響，以及與控制該技術相關的挑戰，」小組補充道。

小組的重要性

小組將人工智慧系統定義為「廣義上能夠感知、學習和行動的機器系統。它們從輸入中推斷如何生成輸出，例如預測、內容、建議、行動或決策，具有不同程度的自主性和適應性。」

小組表示，其分析基於三個原因而處於獨特地位。

首先，其前提是聯合國是處理全球規模跨界風險的首要全球論壇。

其次，小組是聯合國機制，獲授權對人工智慧的現狀、風險和能力進行科學評估。

最後，小組表示其具有科學而非政治的授權：「記錄科學證據、共識與分歧，以及哪些知識缺口仍需緊急解決。」透過為政府和機構提供其隨時間採取行動所需的證據基礎，小組的建議保持與政策相關，但不具政策規定性。

「這種科學特性應使其研究結果在各地區具有可比性，並能抵禦政治週期的影響，」小組補充道。

小組的觀察與現存差距

報告第二節探討證據對人工智慧的呈現，小組提出了以下與人工智慧相關的陳述，並輔以實例和進一步評述：

• 人工智慧能力的進步速度超過了衡量或治理它們的能力
• 只有少數行為者訓練了前沿人工智慧模型
• 人工智慧的輸入與成果在地理和語言上存在不均衡
• 人工智慧鴻溝不僅關乎獲取，更關乎影響人工智慧發展的能力
• 人工智慧若要發揮作用，必須有賦能環境的支持
• 代理型人工智慧是治理的重大變革（就機遇與風險而言）
• 人工智慧可能侵蝕共同現實
• 人工智慧正在改變人權，包括兒童權利

第三節則列出了各知識領域內的潛在機遇與風險。

總體而言，小組指出人工智慧「已從被動的模式識別轉向主動推理與自主行動。該領域正從當前的推理模型迅速向協調的代理網絡，乃至最終的自我改進系統邁進。」

小組補充說，獲取人工智慧並不會自動帶來收益。相反，它表示：「專為特定任務構建的人工智慧正在科學、健康、教育和農業領域帶來可衡量、有證據支持的收益。這些收益是真實的，但有條件的：它們取決於本地化情境、充足的基礎設施和人員準備。」

此外，人工智慧可以被積極使用，但人工智慧使用帶來的收益並非自動實現。在經濟效益方面，小組表示：「生產力效益需要在技能、數據和組織重新設計方面進行配套投資。」

它補充道：「核心未解決的問題在於分配：誰獲取了盈餘，勞動力、發展中經濟體以及為不同行業不同時代構建的監管框架將面臨什麼？」

在全球安全方面，小組也指出「人工智慧可能助長有害行動、成為攻擊目標並放大現有威脅。」這些包括網路安全威脅，但小組也指出環境影響「正在顯著增加」。

小組還表示，人工智慧「正透過系統層面的變革改變人權、民主和資訊生態系統，這些變革既帶來重大機遇，也對資訊完整性和公民參與造成結構性風險。」小組表示，若這些風險得不到解決，社會從人工智慧中獲益的能力將受到損害。

它補充道，不幸的是，已有證據顯示機構正在利用人工智慧能力作為侵害人權的催化劑或威脅，例如言論自由、獲取資訊、司法、健康與發展及其他人權。

第三節最後指出，政策制定者面臨一個證據困境：他們可以在科學依據不足的情況下立即就人工智慧治理方式作出決策，或者等待證據，但屆時可能已錯過任何有價值的干預時機。

與此同時，報告第四節概述了科學差距——在人工智慧某些方面的證據基礎仍不均衡或不足，導致小組表示目前尚無法在這些方面得出有把握的科學結論。

這些差距包括：人工智慧採用對宏觀經濟和生產力影響的不確定性證據、人工智慧採用的環境層面、全球人工智慧供應鏈，以及對個人和集體層面的影響等。

小組補充說，初步報告的範圍未涵蓋人工智慧的軍事應用及致命自主武器系統。

報告全文及執行摘要可在本頁面獲取。– Rappler.com