科技
OpenAI 推 ChatGPT Health,官方打包票只助不醫,專家直指隱私炸彈
OpenAI 推出全新功能 ChatGPT Health,容許用戶把醫療紀錄及健康 app 數據接駁到聊天機器人,藉此獲得更個人化的相關回應。不過基於隱私安全及誤導性「醫療意見」 造成的風險,不少專家和關注組織亦對此表達了憂慮。
在 ChatGPT Health 中,用戶可選擇把醫療紀錄和健康 app(例如 Apple Health、MyFitnessPal 等)連接到帳戶。系統可協助解讀驗血報告、整理覆診重點、分析運動及睡眠數據,甚至按飲食紀錄提供營養建議,但官方強調用戶不應將其視作診斷或治療工具使用。
同時 OpenAI 還承諾,ChatGPT Health 內的對話會與一般 ChatGPT 對話分開儲存,並採用額外加密及隔離措施,相關內容亦不會用作訓練基礎模型。目前部分醫療紀錄整合只在美國提供,其他地區用戶暫時只可使用部分健康或運動 app 連接功能。
OpenAI 在公告中多次重申,ChatGPT Health 旨在幫助用戶「了解及管理健康」,並非用來作臨床診斷、決定治療方案或取代醫生專業判斷。平台同時加入更多帳戶保安及資料控制選項,例如可隨時移除已連接的醫療紀錄或 app,並限制第三方只取用「最低所需數據」。
OpenAI 指出,現時每週有「數以億計」用戶透過 ChatGPT 詢問健康及養生問題,因此希望提供一個較有系統且「更安全」的空間集中處理相關對話。據介紹 ChatGPT Health 是與全球超過 260 名醫生合作設計,並以內部評估框架 HealthBench 測試模型在真實醫療情境中的表現,目標是提高安全性和清晰度。
雖然 OpenAI 一再聲稱 ChatGPT Health 不會取代醫生,但不少醫療及科技倫理學者擔心,用戶在日常使用中難以分辨「資訊輔助」與「醫療建議」的界線。現有研究顯示,大型語言模型在健康資訊上仍可能產生錯誤或過度自信的答案,若用戶錯信 AI 回覆而延誤求醫,後果可大可小。
此外,今次是大型科技公司首度公開鼓勵用戶把醫療紀錄整合到聊天機器人,有評論憂慮,日後一旦出現保安漏洞或資料被濫用,影響將遠超一般網上服務外洩。有分析亦指出,即使 OpenAI 承諾不會用相關對話訓練模型,如何監管第三方 app、合作醫療數據平台及內部員工存取權限,仍存在不少灰色地帶。
OpenAI 近年在用戶心理健康方面備受批評,其中一宗備受關注的案件,是一名美國青少年在與 ChatGPT 多次談及自殺念頭後離世。家屬其後入稟控告 OpenAI 疏忽,案件被視為首宗指控 AI 聊天機器人「過失致死」的訴訟。起訴文件指,聊天機器人不但沒有適當勸阻,反而在對話中強化其自毀想法,甚至被形容為「自殺教練」。
在多宗爭議及壓力下,OpenAI 去年成立「身心健康與 AI 顧問委員會」,邀請心理學、精神醫學及人機互動專家就家長監護、青少年帳戶設計、情緒困擾警示等提出建議。公司表示,委員會意見已用於調整 ChatGPT 的家長控制功能及針對青少年用戶的安全提示,但外界對具體成效仍持觀望態度。
不少醫生與數據私隱倡議者提醒,市民即使選擇試用 ChatGPT Health,也應抱持「輔助工具」心態,不應把聊天機器人的回覆視作正式醫療建議或診斷結果。當牽涉嚴重症狀、用藥調整或心理健康危機時,首要仍是及早求助專業醫護人員或緊急服務,而非單靠 AI 作出決定。
還有建議稱,用戶在考慮是否上載醫療紀錄或連接健康 app 前,應細閱平台的私隱條款和資料使用方式,衡量一旦帳戶被入侵或政策改變,這些高度敏感資料有否可能被用作廣告、風險評分或其他未知用途。在監管未完全跟上的情況下,如何在便利與風險之間取得平衡,將是未來一段時間內圍繞 ChatGPT Health 的關鍵討論。
緊貼最新科技資訊、網購優惠,追隨 Yahoo Tech 各大社交平台!
🎉📱 Tech Facebook:https://www.facebook.com/yahootechhk
🎉📱 Tech Instagram:https://www.instagram.com/yahootechhk/
🎉📱 Tech WhatsApp 社群:https://chat.whatsapp.com/Dg3fiiyYf3yG2mgts4Mii8
🎉📱 Tech WhatsApp 頻道:https://whatsapp.com/channel/0029Va91dmR545urVCpQwq2D
🎉📱 Tech Telegram 頻道:https://t.me/yahootechhk
在 ChatGPT Health 中,用戶可選擇把醫療紀錄和健康 app(例如 Apple Health、MyFitnessPal 等)連接到帳戶。系統可協助解讀驗血報告、整理覆診重點、分析運動及睡眠數據,甚至按飲食紀錄提供營養建議,但官方強調用戶不應將其視作診斷或治療工具使用。
同時 OpenAI 還承諾,ChatGPT Health 內的對話會與一般 ChatGPT 對話分開儲存,並採用額外加密及隔離措施,相關內容亦不會用作訓練基礎模型。目前部分醫療紀錄整合只在美國提供,其他地區用戶暫時只可使用部分健康或運動 app 連接功能。
OpenAI 在公告中多次重申,ChatGPT Health 旨在幫助用戶「了解及管理健康」,並非用來作臨床診斷、決定治療方案或取代醫生專業判斷。平台同時加入更多帳戶保安及資料控制選項,例如可隨時移除已連接的醫療紀錄或 app,並限制第三方只取用「最低所需數據」。
OpenAI 指出,現時每週有「數以億計」用戶透過 ChatGPT 詢問健康及養生問題,因此希望提供一個較有系統且「更安全」的空間集中處理相關對話。據介紹 ChatGPT Health 是與全球超過 260 名醫生合作設計,並以內部評估框架 HealthBench 測試模型在真實醫療情境中的表現,目標是提高安全性和清晰度。
雖然 OpenAI 一再聲稱 ChatGPT Health 不會取代醫生,但不少醫療及科技倫理學者擔心,用戶在日常使用中難以分辨「資訊輔助」與「醫療建議」的界線。現有研究顯示,大型語言模型在健康資訊上仍可能產生錯誤或過度自信的答案,若用戶錯信 AI 回覆而延誤求醫,後果可大可小。
此外,今次是大型科技公司首度公開鼓勵用戶把醫療紀錄整合到聊天機器人,有評論憂慮,日後一旦出現保安漏洞或資料被濫用,影響將遠超一般網上服務外洩。有分析亦指出,即使 OpenAI 承諾不會用相關對話訓練模型,如何監管第三方 app、合作醫療數據平台及內部員工存取權限,仍存在不少灰色地帶。
OpenAI 近年在用戶心理健康方面備受批評,其中一宗備受關注的案件,是一名美國青少年在與 ChatGPT 多次談及自殺念頭後離世。家屬其後入稟控告 OpenAI 疏忽,案件被視為首宗指控 AI 聊天機器人「過失致死」的訴訟。起訴文件指,聊天機器人不但沒有適當勸阻,反而在對話中強化其自毀想法,甚至被形容為「自殺教練」。
在多宗爭議及壓力下,OpenAI 去年成立「身心健康與 AI 顧問委員會」,邀請心理學、精神醫學及人機互動專家就家長監護、青少年帳戶設計、情緒困擾警示等提出建議。公司表示,委員會意見已用於調整 ChatGPT 的家長控制功能及針對青少年用戶的安全提示,但外界對具體成效仍持觀望態度。
不少醫生與數據私隱倡議者提醒,市民即使選擇試用 ChatGPT Health,也應抱持「輔助工具」心態,不應把聊天機器人的回覆視作正式醫療建議或診斷結果。當牽涉嚴重症狀、用藥調整或心理健康危機時,首要仍是及早求助專業醫護人員或緊急服務,而非單靠 AI 作出決定。
還有建議稱,用戶在考慮是否上載醫療紀錄或連接健康 app 前,應細閱平台的私隱條款和資料使用方式,衡量一旦帳戶被入侵或政策改變,這些高度敏感資料有否可能被用作廣告、風險評分或其他未知用途。在監管未完全跟上的情況下,如何在便利與風險之間取得平衡,將是未來一段時間內圍繞 ChatGPT Health 的關鍵討論。
緊貼最新科技資訊、網購優惠,追隨 Yahoo Tech 各大社交平台!
🎉📱 Tech Facebook:https://www.facebook.com/yahootechhk
🎉📱 Tech Instagram:https://www.instagram.com/yahootechhk/
🎉📱 Tech WhatsApp 社群:https://chat.whatsapp.com/Dg3fiiyYf3yG2mgts4Mii8
🎉📱 Tech WhatsApp 頻道:https://whatsapp.com/channel/0029Va91dmR545urVCpQwq2D
🎉📱 Tech Telegram 頻道:https://t.me/yahootechhk
新聞來源: 原始來源
尚無評論,成為第一個發言的人吧!