「太危險而無法發布」正在成為 AI 的新常態

(SeaPRwire) –   4月16日，OpenAI發布了面向生命科學領域的全新AI模型GPT-Rosalind，它在化學、生物學任務以及實驗設計方面的表現遠優於該公司目前對外公開的模型。與同樣在本月發布的Anthropic旗下Claude Mythos、OpenAI旗下GPT-5.4-Cyber一樣，這款模型不對普通公眾開放——至少在初期階段，僅透過「可信賴存取計畫」開放給「符合資格的客戶」使用。

這些產品的發布標誌著一個令人憂慮的新趨勢：AI企業認為其最強大的模型能力過高，無法托付給普通公眾。倡議團體AI Policy Network的政策負責人Peter Wildeford表示：「我認為前沿開發商之所以限制其最強大模型的存取權限，是因為他們確實對這些模型具備的部分能力感到擔憂。」

目前尚不清楚OpenAI為何特別決定限制GPT-Rosalind的存取權限。OpenAI發言人在電子郵件中表示，向可信合作夥伴開放存取權限，能讓公司「更快向經過驗證的用戶提供能力更強的系統，同時仍能審慎地管理風險」。

誰來決定？

AI能力的飛速發展引發了一個問題：私營企業是否應該就是否及如何開發具有潛在危險的AI模型、以及誰有權使用這些模型做出越來越重大的決策？加州民主黨眾議員Mark DeSaulnier表示：「我認為聯邦政府應該在這方面發揮作用。」

Anthropic發布Mythos一事似乎改善了該公司此前與白宮緊張的關係，白宮上周表示已與Anthropic執行長Dario Amodei舉行了一場「富有成效與建設性」的會議。據悉美國國家安全局也已開始使用Claude Mythos。今年2月，川普總統在與五角大廈發生合約糾紛後，下令聯邦機構停止與這家「激進左派、覺醒企業」合作。

近期這一系列模型的存取限制是Anthropic和OpenAI自願實施的。但隨著AI模型帶來的風險變得更為嚴重和複雜，部分人士呼籲實施更嚴格的外部監督。

AI監管倡議團體ControlAI的美國區負責人Connor Leahy表示：「我們不會讓企業自行決定他們可以在我孩子的飲用水中排放多少有毒污染物——這是政府的決策權。我們可以爭論政府的表現是好是壞，但這事關權力分立。」

「科學研究和製造生物武器看起來非常相似」

生物和網絡安全研究等具雙用途屬性的能力，是AI企業面臨的一大挑戰。幫助網絡安全研究人員發現並修補軟件漏洞的工具，同樣可以協助潛在的攻擊者。協助研究病毒的AI，理論上也可以幫助生物恐怖分子設計出致死性更高的病毒株。Wildeford表示：「網絡防禦和網絡攻擊看起來非常相似，科學研究和製造生物武器看起來也非常相似。」

過去，企業選擇對所有人都限制這些功能。例如，許多聊天機器人會拒絕回答哪些COVID突變會導致病毒傳染性更強的問題。雖然這不會對普通用戶造成困擾，但對研究人員來說卻是個難題。DNA合成企業Twist Bioscience的政策與生物安全副總裁James Diggans表示：「這很讓人沮喪，但我認為這是正確的做法。」

近期發布的模型為可信賴的對象放寬了部分這類限制。OpenAI表示，僅向具備「強大內部控制機制」、能確保模型不會被濫用的組織開放GPT-Rosalind的存取權限。Anthropic已與美國政府機構和私營企業合作，這些機構和企業使用Mythos來發現並修補網絡安全漏洞。不過，Batalis表示，在美國機構之外很難定義什麼是「合法」研究人員，這引發了國際研究人員面臨的公平性問題。

決定哪些模型應該被限制存取是一項因領域而異的微妙平衡動作。Diggans表示，要衡量一個AI模型是否存在潛在網絡威脅很容易：「它們能否破解現有系統？」生物研究是一個比網絡攻擊更複雜、耗時更長的多階段過程；目前還不清楚像GPT-Rosalind這樣的模型如果對外公開是否會造成危害。Batalis表示：「我們知道有人想要、也確實在發動網絡攻擊，但我們沒有同樣多的生物風險樣本。」隨著AI能力不斷提升，其他領域可能會引發更多爭議。落入不當使用者手中的傳播活動可能會被視為宣傳行動。

「網絡能力將會擴散」

可免費下載和運行的開源模型，可能會改變AI模型限制的考量邏輯。根據研究AI發展的研究機構Epoch AI的數據，過去開源模型的能力向來落後專有模型3到7個月。這意味著，如果這一趨勢延續，具備GPT-Rosalind和Mythos等級能力的AI模型可能會在今年年底前對外公開。OpenAI發言人表示：「網絡能力將會擴散，防禦者需要更早、而非更晚獲得更好的工具。」

開源模型可能會給國際網絡攻擊者帶來好處。去年11月，Anthropic宣布透過封鎖存取權限，打掉了一個使用該公司付費牆後模型的中國國家支持的組織。如果能力相近的模型可以在開放網絡上免費獲得，這將會削弱西方企業的影響力。

不過，部分開源開發者此前依賴領先的專有系統的輸出來幫助訓練其模型。近期針對新模型的存取限制可能會減緩或阻止最先進的能力擴散到開源模型中——前提是企業能夠執行這些限制。（據悉部分未經授權的用戶已經成功存取Claude Mythos。）

無論開源模型是否能趕上領先的專有模型，Mythos和GPT-Rosalind都是前沿AI能力的新基準——而AI帶來的不斷增長的機遇和風險並沒有減緩的跡象。Wildeford表示：「我認為政府在管理這件事上有很大的利益關係，我實在想不出有什麼方法可以繞過政府干預的需求。」