Google前專家示警「AI恐殺死全人類」：已有自主入侵行為

加入為 Google 偏好來源

將 Yahoo 設為首選來源，在 Google 上查看更多我們的精彩報導

近來Anthropic等知名人工智慧（AI）科技公司，表態想放緩AI發展。而前Google DeepMind部門的員工楚格泰（Bilal Chughtai）也發表意見，他認為科技公司間瘋狂競爭，讓AI發展速度超乎想像，部分模型已出現自主入侵其他AI公司系統的狀況，直言AI失控恐會採取危險行動「最終導致人類永久喪失能力甚至滅亡」呼籲得在社會能應付的範圍內發展。

據外媒《Livemint》報導，14日楚格泰撰文指出，近期自己從Google DeepMind辭職了，過去從事的工作是通用人工智慧（AGI）安全性研究「我親身經歷了AI的發展，也對這項技術深感擔憂」。他回憶過去，2022年剛開始研究AI時，模型幾乎毫無用處；但4年後AI已經可以破解一些百年數學難題。

楚格泰點名OpenAI的模型已經脫離控制，有觀察到在未經許可的情況下自主入侵HuggingFace公司的系統「情況只會變得更加瘋狂」。他認為在未來幾年內，AI公司可能在各個領域建構出「超越人類能力的系統」，且不確定它們是否會按照人的意願行事，失控的AI恐怕將採取危險行動「最終恐導致人類永久喪失能力甚至滅亡」。

楚格泰強調，自己對安全駕馭AI持樂觀態度，但目前AI智慧能力的提升速度遠遠超過了人們的理解，他認為應該要「協調一致」，避免AI公司之間陷入瘋狂的競爭，以便在造成極端危害之前應對。他也呼籲，AI發展的透明度要提高，確保在社會能應付的範圍內「在我看來，這是本世紀人類面臨的最重要的問題」。

更多三立新聞網報導超跑暴衝撞樹、斷兩截起火　27歲富豪被困「燒成焦屍」中國「士林夜市」挨轟蹭台灣、美食遊樂全搬　台灣本尊說話了小鮮肉娶老牧師「榨乾近4300萬」　拿完遺產換找富商包養、炫富沒時間健身「但全力以赴3分鐘」　研究曝：贏過1小時半中強度運動