2023年人工智能安全峰會（AI Safety Summit）將于11月1日和2日在英國標志性的布萊切利公園舉行。一些世界領先的科技公司、人工智能專家、政府官員和民間社會團體將參加此次峰會。峰會的主要議程是強調人工智能的風險，重點關注人工智能前沿，并討論如何通過國際協調行動減輕這些風險。

前沿模型是高度先進的人工智能基礎模型，在推動創新、經濟增長和科學進步方面具有巨大潛力。不幸的是，前沿模型也具有高度危險的能力。濫用或事故，基礎模型可能在全球范圍內造成重大傷害和破壞。

了解前沿人工智能帶來的風險是2023年人工智能安全峰會的一個關鍵目標。目標是讓世界領先的人工智能技術專家召開會議，討論人工智能安全國際合作的方法和戰略。峰會的另一個關鍵目標是展示人工智能的安全發展將如何幫助人工智能在全球范圍內得到良好利用。這將有助于促進人工智能技術的創新和發展。

里希·蘇納克警告人工智能危險

英國首相里希·蘇納克（Rishi Sunak）在2023年人工智能安全峰會前表示，各國政府必須意識到，他們有能力應對人工智能帶來的風險。蘇納克強調，人工智能造成的風險包括制造大規模殺傷性武器、傳播錯誤信息和宣傳，甚至逃離人類控制的能力。他還宣布，英國將成立一個人工智能安全研究所，以更好地了解不同的人工智能模型，以及如何減輕人工智能帶來的風險。

蘇納克將人工智能技術的快速進步比作工業革命（事實上第四次工業革命的核心基礎就是人工智能），并警告稱，如果不采取政府層面的行動，人工智能技術可能會使網絡攻擊“更快、更有效、更大規模”。他還強調，濫用人工智能可能會導致“信任信息的侵蝕”。

根據蘇納克的說法，deepfakes（深度偽裝）和超現實機器人可以被用來操縱金融市場，傳播假新聞，甚至破壞刑事司法系統。蘇納克認為，人工智能可能會取代人類工人，從而擾亂勞動力市場，并建議對從人工智能取代工人中獲利的企業征收“機器人稅”。

此次峰會將接待來自全球各地的關鍵人物，包括谷歌DeepMind首席執行官德米斯·哈薩比斯（Demis Hassabis）、美國副總統卡瑪拉·哈里斯（Kamala Harris）和七國集團其他經濟體領導人，我國也已被邀請參加峰會。

牛津人工智能專家有異議

牛津大學牛津互聯網研究所副教授兼研究主任Brent Mittelstadt不同意蘇納克的某些觀點——英國不應該因為對人工智能缺乏適當的了解而急于監管人工智能。Mittelstadt認為，人工智能技術已經完成了一系列令人難以置信的研究，足以開始監管該行業。

Mittelstadt表示，不采取積極主動的監管方式將是一個錯誤，這將使私營部門和技術發展決定監管何時開始以及未來如何監管。政府應該負責決定何時以及如何監管該行業。

牛津大學哲學學院和人工智能倫理研究所副教授Carissa Veliz也對蘇納克關于人工智能技術的言論感到擔憂。Veliz表示，科技高管不是就如何監管人工智能向政府提供建議的合適人選，蘇納克的觀點聽起來與大型科技公司的觀點相似。牛津大學的其他幾位人工智能專家也有類似的擔憂，并敦促英國政府不要推遲對人工智能行業的監管。