沃卡惠谷歌、微軟、OpenAI和Anthropic發布聯合聲明，任命美國智庫學會高管Chris Meserole為前沿模型論壇(Frontier Model Forum)首任執行董事。并宣布設立1000萬美元的AI安全基金，“以推動正在進行的工具開發研究，幫助社會能夠有效地測試和評估最有能力的AI模型。”
前沿模型論壇由微軟、OpenAI、谷歌和Anthropic在今年7月聯合創立而成，是一個專注于確保安全和負責任地開發前沿人工智能模型的行業機構。該論壇旨在幫助：
推動人工智能安全研究，促進負責任地開發前沿模型并最大限度地降低潛在風險；
確定前沿模型的安全最佳實踐；
與政策制定者、學術界、民間社會和其他方面分享知識，推動負責任的人工智能發展；
以及大力支持開發有助于應對社會挑戰的AI應用程序。
公告指出，AI安全基金將支持來自世界各地附屬于學術機構、研究機構和初創公司的獨立研究人員。初始資金來自Anthropic、谷歌、微軟和OpenAI，以及其他慈善合作伙伴。
基金的主要重點將在于，支持開發新的模型評估技術，以幫助開發和測試前沿系統潛在危險能力的評估技術。“我們相信，增加該領域的資金將有助于提高安全標準，并為行業、政府和民間社會應對AI系統帶來的挑戰所需的緩解和控制提供見解。”
該基金將在未來幾個月內征集提案。前沿模型論壇還計劃成立一個顧問委員會，以幫助指導其戰略和優先事項。
1000萬美元不算小數目，但在AI安全研究的背景下以及與前沿模式論壇成員在商業活動上的花費相比，這一數目就“顯得相當保守了”。科技媒體TechCrunch指出，僅今年一年，Anthropic就從亞馬遜籌集了數十億美元，用于開發下一代AI助手，此前谷歌也向其投資了300美元。
且與其他AI安全基金相比，該基金的規模也很小。根據博客Less Wrong的分析，由Facebook創始人(Dustin Moskovitz聯合創辦的資助和研究基金會Open Philanthropy已為AI安全捐贈了約3.07億美元。
公益公司“The Survival and Flourishing Fund”也已向AI安全項目捐贈了約3000萬美元。美國國家科學基金會表示，未來兩年將斥資2000萬美元用于AI安全研究，部分資金由Open Philanthropy資助。
“前沿模型論壇暗示下一步將成立一個規模更大的基金。如果這一目標實現，它可能有機會推動AI安全研究——前提是我們相信該基金的明確營利性支持者不會對研究施加不當影響。但無論你如何劃分，首批資金似乎都過于有限，無法取得多大成就。”
