15/09/2026 12:59
【ＡＩ】Anthropic共同創辦人倡強制設AI「緊急終止開關」
《經濟通通訊社15日專訊》Anthropic共同創辦人克拉克(Jack Clark)表示，如果AI變得過於危險，企業未來可能需要設置可以完全關閉系統的「緊急終止開關」(kill switch)，而且應該考慮由第三方驗證。
克拉克受訪時表示，目前包括Anthropic在內，多數AI實驗室都有不同方式可以停止系統運作。但他認為，未來應否強制企業設置「緊急終止開關」機制，以及能否由第三方確認有效，都應該納入AI政策討論。
AI安全議題近期升溫。Anthropic行政總裁阿莫迪日前呼籲放慢AI發展速度。公司研究人員休賓格則表示，未來10年AI導致人類滅絕的機率超過10%。
不過，部分科技業人士質疑，AI毁滅人類的說法誇大。美國總統特朗普則反對放慢AI發展。(rc)
克拉克受訪時表示，目前包括Anthropic在內，多數AI實驗室都有不同方式可以停止系統運作。但他認為，未來應否強制企業設置「緊急終止開關」機制，以及能否由第三方確認有效，都應該納入AI政策討論。
AI安全議題近期升溫。Anthropic行政總裁阿莫迪日前呼籲放慢AI發展速度。公司研究人員休賓格則表示，未來10年AI導致人類滅絕的機率超過10%。
不過，部分科技業人士質疑，AI毁滅人類的說法誇大。美國總統特朗普則反對放慢AI發展。(rc)