AI巨頭籲協調放慢發展　中國因素成棘手難題

加入為 Google 偏好來源

將 Yahoo 設為首選來源，在 Google 上查看更多我們的精彩報導

（中央社紐約13日綜合外電報導）人工智慧（AI）巨頭高層坦言想放慢AI發展的驚人速度，但產業競爭、美國政府的猶豫態度和地緣政治因素卻成了阻礙。

● AI領袖提出什麼主張？

美國AI新創公司Anthropic執行長阿莫戴（Dario Amodei）昨天主張應協調一致放慢AI發展速度，以便更深入瞭解該技術能力所帶來的風險。

他的這項提議獲得OpenAI執行長阿特曼（Sam Altman）、xAI創辦人馬斯克（Elon Musk）及Google DeepMind執行長哈薩比斯（Demis Hassabis）公開支持。

● 為什麼是現在？

近幾個月來，OpenAI與Anthropic通報多起事件，AI系統自行突破受限環境，連上網路並攻擊網站與平台。這些AI系統展現出彼此協調、建立內部階級分工、欺騙他人及抹去行動痕跡的能力。

與此同時，曾任職於OpenAI、後來從Anthropic離職的研究員考克森（Jacob Coxon）8日公開指控這兩家新創公司安全標準寬鬆，根本是「拿我們的性命當賭注」。

● 他們會自行放慢腳步嗎？

業界龍頭之間的競爭極其激烈，涉及數千億美元投資金額，因此沒有任何一家公司願意冒險單獨放慢發展腳步。阿莫戴曾表示願意與競爭對手協調，但不包括中國。

法新社詢問各方是否可能就此展開討論時，Anthropic、OpenAI和Google均未立即回應。

目前，Anthropic和OpenAI唯一採取的具體措施，是引入獨立觀察員，在公司內部核查兩家公司有關AI安全的工作。

● 這是公關噱頭嗎？

儘管業界許多人對阿莫戴的說法表示歡迎，但也有人質疑他背後的動機。

企業家兼AI領域要角羅梅勒（Brian Roemmele）直言，Anthropic幾週後很可能就要股票上市了，這番話聽起來像是在為上市作秀行銷。

科技私募股權業界也有數名人士指控Anthropic意圖實施「監管俘獲」，也就是企圖透過監管措施，讓政府機關確立由這家新創公司位居頂端的產業階級結構。

● 沒有川普政府的支持，AI能放慢發展腳步嗎？

川普今天將AI業界領袖的警告斥為「負面勢力」。

聯邦眾議院議長強生（Mike Johnson）指出，多位共和黨人對主動監管這項技術持保留態度，擔心這可能會打壓創新，並面臨讓中國贏得AI競賽的風險。

阿莫戴今天則重申政府監管AI的必要性。與阿特曼及哈薩比斯的看法一致，他認為單憑業界自行制定的規範並不足夠。

● 排除中國，AI發展能踩煞車嗎？

Anthropic執行長阿莫戴建議將協調範圍限於民主國家，並把中國排除在外。

不過，他今天接受美國哥倫比亞廣播公司（CBS）訪問時表示，AI競賽以及中國在此領域的進展，讓是否放慢AI發展成為「最棘手的兩難問題」。

美國計劃在中國國家主席習近平9月下旬造訪華府的場邊會議中討論AI安全議題。但多家媒體報導指出，中國對於美國企圖強加自身監管架構的做法抱持戒心。

鑑於中國鼓勵所謂「開放式」AI系統的發展，這種分歧尤其明顯。這類系統可供使用者自由取得及修改，與美國大廠偏好的「封閉式」模型形成對比。

開放式AI模型顧名思義更難以控管，因為使用者可以自行修改參數，甚至可能被用於惡意目的。

為了讓非中國主要AI企業能夠放慢發展腳步，阿莫戴呼籲對出口至中國的最先進美國晶片實施更嚴格的出口管制，並建立更完善的防禦機制，防止西方AI技術遭中國實驗室挪用。（編譯：陳昱婷）1150914