春節(jié)假期尚未結(jié)束，OpenAI 最新發(fā)布的視頻生成模型 Sora 便突然引爆了科技圈。

作為一個數(shù)據(jù)驅(qū)動的物理引擎，只需要接收一句話，Sora 便可以生成“充滿想象力”“史詩級”的大片。

由于生成的視頻畫面過于真實，且水平吊打一眾“前輩”視頻生成模型，Sora 讓人們不禁感嘆：又有一批人要失業(yè)了？現(xiàn)實要不存在了嗎？這無疑又是一顆投向人類的重磅“炸彈”。

當天，Google 也發(fā)布了自家的最新大模型 Gemini 1.5。據(jù)介紹，Gemini 1.5 的上下文窗口高達 100 萬個 tokens，可以一次處理大量的信息——如 1 小時的視頻、11 小時的音頻、3 萬多行的代碼等。這樣的算力，已經(jīng)遠遠超過人類。

未來，人工智能（AI）還將會展現(xiàn)出怎樣的超級能力，我們還不得而知。但有一點顯而易見，AI 的安全治理，依然落后 AI 的發(fā)展。

面對已知的挑戰(zhàn)和未知的風險，人類已經(jīng)做了大量的工作，探討 AI 倫理、數(shù)據(jù)倫理和算法倫理，而卻很少討論支撐 AI 飛速發(fā)展的物理硬件——圖形處理器和算力上。

圖｜自 2010 年以來，用于訓練 AI 模型的計算量大約每六個月翻一番，數(shù)據(jù)來自 Epoch。

日前，來自 OpenAI、人工智能治理中心（GovAI）、劍橋大學 Leverhulme 未來智能中心等機構(gòu)的 19 位學界、業(yè)界人士，共同發(fā)表了一篇題為“Computing Power and the Governance of Artificial Intelligence”的研究論文，將 AI 發(fā)展的爭議焦點聚焦到了“硬件”和“算力”上。

在這篇論文中，這些專家提出了多項政策選擇，其中之一是建立一個全球登記處，跟蹤用于 AI 超級計算機的芯片流動，從而幫助防止 AI 的濫用和災難。

另外，論文中提到的其他技術(shù)建議包括“計算上限”（compute caps）——對每個 AI 芯片可連接的芯片數(shù)量的內(nèi)置限制——以及在多方之間分配 AI 訓練的“啟動開關(guān)”（start switch），以便在有風險的 AI 輸入數(shù)據(jù)之前對其進行數(shù)字否決。

這些專家認為，驅(qū)動生成式 AI 模型所需的強大計算芯片是通過由少數(shù)幾家公司主導的高度集中的供應(yīng)鏈構(gòu)建的，這使得硬件本身成為降低風險的 AI 政策的強有力干預點。

圖｜計算（compute）供應(yīng)鏈示意圖。

因此，治理人工智能硬件、芯片和數(shù)據(jù)中心將在治理 AI 模型開發(fā)和部署方面發(fā)揮重要作用，但“也可能帶來新的社會風險”。

硬件是治理AI的關(guān)鍵

硬件在 AI 領(lǐng)域的重要性主要體現(xiàn)在以下幾個方面：

AI 模型變得越來越復雜，需要大量的計算資源來訓練和運行。硬件，例如高性能的 CPU、GPU、TPU 等，提供了這些計算資源。它們能夠加速復雜算法的運行，以及大規(guī)模數(shù)據(jù)的處理，從而實現(xiàn)更快速、更有效的 AI 應(yīng)用。

讓一個 AI 模型變得越來越復雜，通常需要大量的計算資源，而硬件的性能直接影響著模型訓練的速度和效率。高性能的硬件可以加快模型訓練的進程，縮短開發(fā)周期，提高模型的更新速度和質(zhì)量。

除了模型訓練，AI 模型在部署和實際應(yīng)用中也需要大量的計算資源進行推理。例如，在語音識別、圖像識別、自然語言處理等應(yīng)用中，需要實時處理大量的數(shù)據(jù)并生成準確的預測結(jié)果。硬件的性能和效率直接影響著這一過程的速度和準確性，這對實時性要求較高的應(yīng)用尤為重要。

硬件在保障 AI 系統(tǒng)安全性和隱私保護方面也發(fā)揮著關(guān)鍵作用。通過硬件的安全功能和加密技術(shù)，可以確保 AI 系統(tǒng)的數(shù)據(jù)和模型在傳輸和存儲過程中得到有效的保護，有效防止敏感信息泄露和惡意攻擊。

因此，計算資源的使用量是衡量一個 AI 系統(tǒng)潛在影響的可靠指標之一。

通過監(jiān)管和管理計算資源的使用，可以有效地影響和控制 AI 技術(shù)的發(fā)展方向和應(yīng)用范圍。

相比看不見摸不著的軟件，計算資源相對容易進行檢測、排除和量化，這使硬件治理成為一種有效手段。

與數(shù)據(jù)和算法不同，計算資源是有限的實物資源，可以被準確地計數(shù)和跟蹤，因此更容易進行管理和監(jiān)管。

基于此，該論文提供了一系列可行的治理方案：

1.建立監(jiān)測和追蹤系統(tǒng)，用于跟蹤計算資源的使用情況和流向；

2.制定限制性政策，限制某些敏感領(lǐng)域或特定用途的計算資源的使用；

3.加強對計算資源供應(yīng)鏈的管理和監(jiān)督，以確保供應(yīng)鏈的安全和穩(wěn)定性。

這些技術(shù)方案的目標是通過有效的管理和監(jiān)管計算資源的使用，來保障 AI 技術(shù)的安全和可持續(xù)發(fā)展，從而實現(xiàn)對 AI 技術(shù)的有效治理。

全球視野下的AI計算可見性

具體來說，AI 計算注冊制度（global registry tracking the flow of chips destined for AI supercomputers）指的是一個全球性的登記注冊系統(tǒng)，用于跟蹤用于人工智能超級計算機的芯片流動。這個制度是報告提到的政策選擇之一。

建立AI計算注冊制度具有重要意義。

首先，可以提高對 AI 計算資源的透明度和可追溯性，使各國能夠更好地監(jiān)測和控制全球 AI 技術(shù)的發(fā)展和應(yīng)用。

其次，注冊制度有助于識別和防范潛在的安全風險和倫理挑戰(zhàn)，確保 AI 技術(shù)的安全和可持續(xù)發(fā)展。

此外，全球注冊制度還可以促進國際合作和信息共享，推動全球 AI 治理的協(xié)調(diào)和合作，實現(xiàn)共贏和共同發(fā)展。

當然，這項措施的推行也面臨著很多挑戰(zhàn)。

首先，來自不同國家和地區(qū)的政治和文化差異可能導致立法和執(zhí)行上的障礙。

其次，技術(shù)和數(shù)據(jù)安全、隱私保護等問題可能引發(fā)國際爭議和糾紛。解決這些挑戰(zhàn)的關(guān)鍵在于建立多邊合作機制和國際標準，促進各國間的協(xié)商和合作。

此外，加強國際組織和機構(gòu)的角色和職能，建立信息交流和合作平臺，加強對技術(shù)和數(shù)據(jù)安全的監(jiān)管和管理，都是解決這些挑戰(zhàn)的重要途徑。

該論文還提到了其他技術(shù)方案，例如“計算上限”，即每個 AI 芯片可以連接的芯片數(shù)量的內(nèi)置限制，以及分發(fā)“啟動開關(guān)”給多方，以允許對有風險的 AI 進行數(shù)字否決之類的政策。

研究人員認為，AI 芯片和數(shù)據(jù)中心是更有效的審查和AI安全治理目標，因為這些資產(chǎn)必須是物理上擁有的，而“AI 三元組”的其他元素——數(shù)據(jù)和算法——理論上可以無限復制和傳播。

AI治理政策的新方向

該論文指出，針對 AI 可能帶來的風險，政策制定可以從以下幾個方面進行：

1.限制計算機芯片網(wǎng)絡(luò)：政府可以通過立法或監(jiān)管機制限制對關(guān)鍵計算機芯片網(wǎng)絡(luò)的訪問，以防止其被惡意使用或攻擊。這包括對芯片生產(chǎn)和供應(yīng)鏈的管控，以確保其安全和可靠性。

2.加強加密技術(shù)監(jiān)管：政府可以制定更嚴格的加密技術(shù)使用規(guī)定，確保其不被用于非法活動或惡意目的。這可能包括對加密技術(shù)的出口管制和使用限制。

保證安全和良性發(fā)展的同時，一定會有所犧牲。

比如，限制計算機芯片網(wǎng)絡(luò)和加密技術(shù)可能會影響到正常的商業(yè)活動和科研進展，對技術(shù)創(chuàng)新造成一定程度的阻礙。過度的監(jiān)管也可能導致市場動態(tài)受到限制，影響市場的競爭性和效率性。

論文指出，治理 AI 的關(guān)鍵在于對其計算設(shè)備的監(jiān)管。政府需要制定相應(yīng)的政策和監(jiān)管措施，以應(yīng)對由AI發(fā)展帶來的風險。

然而，政策制定需要權(quán)衡各方利益，并且要克服監(jiān)管過程中的各種挑戰(zhàn)和困難。AI 發(fā)展是全球人類的命題，在這個過程中，政府應(yīng)該積極倡導國際合作，共同應(yīng)對 AI 治理挑戰(zhàn)，攜手實現(xiàn)共贏。

參考鏈接：

https://www.eurekalert.org/news-releases/1034407

https://www.cser.ac.uk/media/uploads/files/Computing-Power-and-the-Governance-of-AI.pdf

https://github.com/lheim/CPGAI-Figures

https://www.governance.ai/post/computing-power-and-the-governance-of-ai

http://lcfi.ac.uk/news-and-events/news/2024/feb/14/compute-ai-governance/

歡迎掃碼關(guān)注深i科普！

我們將定期推出

公益、免費、優(yōu)惠的科普活動和科普好物！