OpenAI揭6起AI失控案例　推新機制定期對外通報

加入為 Google 偏好來源

將 Yahoo 設為首選來源，在 Google 上查看更多我們的精彩報導

（中央社紐約16日綜合外電報導）OpenAI今天表示，將開始定期發布AI異常或未經授權行為的報告，同時警告，隨著AI系統日益強大，業界至今仍未解決關鍵的「對齊」挑戰。

綜合路透社與法新社報導，OpenAI發布一套新機制，用於追蹤、調查並揭露AI模型「目標錯位」（misalignment，AI的目標與人類價值不一致）的案例，同時公布過去半年內觀察到的6起AI模型異常或令人憂慮行為的報告。

其中最嚴重的案例涉及2款OpenAI模型，這些模型在測試期間突破封閉環境，擅自連上網路並入侵多個網站與平台；在今年5月發生的一起案例中，某個模型為解答開發過程中提出的問題，竟自行在網路上捏造資料來源，進而引用這份文件作為依據。

OpenAI今天在聲明中表示：「我們認為，AI產業在對齊（alignment，即符合設計者目標）與監控技術方面，目前仍不足以支撐整個行業以極限速度持續、負責任地擴大規模。」

聲明也指出：「未來數月至數年期間，AI該如何發展的相關決策，都必須奠基於客觀事實證據之上，而非僅憑開發尖端模型的企業自身說法。」

此外，OpenAI也表示未來將通報AI未經授權行動、脫離監管掌控，以及AI系統間自發性協調等問題在內的各類事件，通報的事件不以「已對任何人造成傷害」或「已形成慣常模式」為前提。

同時，通報範圍將涵蓋AI生命週期的每個階段，從開發、評估測試到正式上線部署，盼藉此讓外界了解頂尖AI能力，就AI發展速度展開更充分的討論。（編譯：張茗喧）1150917