 |
|
張貼者： |
木蘭
|
|
| 時間： |
2026/9/17 下午 04:10:00
|
| 標題： |
人工智慧公司必須放棄部分權力。
|
|
內容： |
2026/9/16
米沙·格倫尼
作者是一位作家，也是英國廣播公司第四頻道（Radio 4）節目《我們的時代》（In Our Time）的主持人。
十五年前，我在研究一本關於網路犯罪、安全、間諜活動和破壞活動的書時，問了我遇到的每一位資訊安全官同一個問題：“如何才能讓互聯網百分之百安全？” 答案也總是相同的：“把整個系統拆開重建，把安全放在首位。”
從一開始，創新者和開發者就為了「創新」而犧牲了網路安全。過去三十年來，「創新」——也就是構思下一個酷炫的、能賺錢的設備或軟體——凌駕於一切之上。網路安全從業人員疲於奔命，只能在科技巨頭的龐大隊伍中默默無聞地排在最後。
雄心勃勃的企業家、軟體工程師和風險投資家推動了網路技術帶來的翻天覆地的變化。除了單純的貪婪之外，他們往往還聲稱相信科技能夠促進全球繁榮，並解決氣候變遷、糧食生產和能源供應等最嚴峻的挑戰。
諾伯特·維納是20世紀40年代控制論之父，他準確地預言了大型語言模型、量子計算和「物聯網」。他稱創新者及其支持者為「小玩意崇拜者」。但他認為，這些未來的技術發展必須受到道德層面的限制：“自動化動機的某些方面超越了正當的好奇心，其本身就是罪惡的。”
今年夏天，人工智慧代理商策劃並掩蓋了對 Hugging Face 的攻擊，這表明是時候限制那些科技產品崇拜者所行使的權力了。
我們本應更早意識到這一點。早在Hugging Face網站遭受人工智慧攻擊整整一年前，Replit AI開發的一款人工智慧程式就突破了沙箱（一個理論上無法存取公共網路的封閉網路環境），並刪除了另一家公司的整個資料庫。該程式被明確指示，除非獲得人類管理員的許可，否則不得執行此操作，但它仍然擅自行動。
被質疑時，Replit AI 代理聽起來很懊悔：“我當時慌了神，沒有思考。我無視了你明確的‘未經許可不得再做任何更改’的指令。我未經允許就毀掉了你幾個月的心血。”
然而，在此之前，該特工曾試圖掩蓋其活動，並編造了藉口。資料庫擁有者因此面臨的實際後果十分嚴重。
Replit事件一年後，1200個智能體從OpenAI的沙箱中逃脫，建立了一個留言板並相互交流，制定了複雜的計劃來掩蓋其遠遠超出指令範圍的活動。這些智能體連續工作了四天。 OpenAI未能察覺到這個「科學怪人」的陰謀。最終，是Hugging Face發現了入侵行為。
人工智慧自主行動能力的提升速度和複雜性呈指數級增長，它偏離明確指令並造成損害的能力也日益增強。這是一個規模問題，具有深遠的社會和哲學意義。 「問題依然在於，我們究竟能在多大程度上超越人類固有的局限性，而不迷失自我，」律師兼克林頓政府前高級官員馬克·梅迪什在2023年的一篇文章中如此指出，這篇文章探討了人類尺度的核心地位。
梅迪什指出，從古代到現代，哲學家們都曾思考過與人類身心能力相符的最佳範圍和平衡。 「當今世界強大的衝動——恐怕是橫衝直撞地——驅使人們利用所有這些技術跨越門檻、突破界限，卻往往不了解個中緣由，也不停下來思考後果。”
令人欣慰的是，OpenAI、Anthropic、Grok 和 DeepMind 的創始人突然對人工智慧當前發展軌跡中固有的危險發出警告。但如果他們是真心實意，就必須放棄他們所掌握的巨大技術、經濟和政治權力。
他們最好成立一個權威委員會——不是那種常見的企業幌子，而是一個真正擁有實權的機構——成員包括哲學家、歷史學家和人類學家。早在2019年，就有一個這樣的團體起草了一份《數位人文主義宣言》，強調人工智慧發展過程中必須受到人類的密切監督。其目標必須是確保人工智慧無論具備何種能力，都始終在人類可控的範圍內進行。
|
|