[新聞]論文「超智慧 AI 助理」可能帶來新道德困境
Google DeepMind 論文：「超智慧 AI 助理」可能帶來新道德困境
Sisley
2024/04/22 倫理難題 、 人工智能代理 、 對齊 、 自主權 、 社會規範
這類超智慧的 AI agents 能擔綱我們的助理、顧問甚至工作夥伴的角色，將成為人類下
一階段最常見的 AI 應用形式，不過過去不曾出現的各種問題，可能也隨之而來。
Photo Credit：INSIDE 使用 Shutterstock AI 工具生成。
超越 Google Assistant、Siri、Alexa ，擁有更高智慧、可替我們操作電腦／手機的
AI 助理（下稱 AI agents）正在受到科技領域相關人士極大的矚目。然而最新研究顯示
，賦予這類 AI agents 更大的自主權雖然能帶來誘人效益，但同時也將衍生出全新的倫
理難題。Google 人工智慧公司 DeepMind 的研究人員最近就在一篇新論文中指出，我們
才剛開始探索這類道德困境。
這類超智慧的 AI agents 能擔綱我們的助理、顧問甚至工作夥伴的角色，將成為人類下
一階段最常見的 AI 應用形式，目前有關技術正在開發中，儘管未普及上線，但未來這類
AI agents 應當可用於訂購機票、管理行事曆、提供資訊服務等任務，且更先進的 AI
agents 甚至可能「彼此互動」。
該論文指出：「這會進而徹底改變工作、教育和創作方式，乃至我們溝通、協調和談判的
方法，最終將影響我們想成為的樣子。」
研究人員將 AI agents 定義為「具備自然語言介面的人工智慧代理，能根據使用者期望
，於單一或多個領域替代規劃與執行一連串行動」，在通用性、行動範圍和自主性方面超
越早期的 AI 助理系統。
目前，OpenAI 曾經被爆出正在開發 AI agents 的系統，Google 則傳出可能會在下一代
旗艦智慧手機 Pixel 9 中加入「Pixie」助理，整合該公司的 Gemini 模型，為使用者提
供更加個人化的服務。
此外，NVIDIA CEO 黃仁勳也曾提及過所謂的「agents 軟體革命」，他認為，人類正處於
新一代運算的開端，而它已經有 60 年沒有被重新發明過了，言下之意，人類與電腦的互
動關係正處於被徹底顛覆的開端。
然而即使 AI agents 帶來的未來可能令人感到興奮，該論文作者強調，代表使用者行事
，需要體現其價值觀和利益，同時也必須遵守社會規範與標準。賦予 AI agents 自主權
，風險也與之伴隨而來。
除了由於指令規範不明或誤解而導致的事故的可能性增加，AI agents 也可能對資訊生態
系統、公共論壇產生影響，因此散布錯誤訊息的可能性也將升高。因此，DeepMind 團隊
認為這類 AI agents 勢必需受到一定限制。
研究人員指出，隨著 AI agents 漸趨人性化並個人特質更加鮮明，雖然對使用者提供的
幫助將更多，卻也令人們更容易「受到不當影響」，這無疑將引發信任、隱私與人工智慧
擬人化等全新議題。
舉例來說，建議型 AI agents 在提供好的建議之前，勢必要先對使用者有相當瞭解。但
問題在於，AI agents 可能會依循使用者的偏好提供建議，而非真正對使用者有利的建議
。如 DeepMind 團隊研究員暨論文作者 Iason Gabriel 所言：「這帶出了更深層的問題
，那就是，你怎麼知道什麼對一個人才算是好的？」
科技人員經常強調對齊（alignment）的重要性，亦即 AI 的目標和行為是否與使用者的
偏好或與人類的價值觀相符。對此，DeepMind 提出了更新的四方向對齊概念，分別考量
到 AI agents 本身、使用者、開發商和社會層面。
AI agents 只要過度偏袒單一層面而犧牲其他，便會產生失衡情況。例如，AI 可能會追
求自身目標而犧牲使用者或社會利益，或者在設計上有利於製造商公司而產生偏頗。
有趣的是，如果將來 AI agents 的使用普及化，彼此間難免會相互互動，由此衍生出彼
此如何合作與協調，出現衝突時又該如何因應的全新社會問題。
核稿編輯：Jocelyn
https://www.inside.com.tw/article/34807-ai-agents-assistants-ethics
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.112.73.197 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/AfterPhD/M.1713801184.A.194.html
※ 編輯: zkow (140.112.73.197 臺灣), 04/22/2024 23:53:34