AI的“叛變”不再是電影情節？由美國麻省理工學院(MIT)科學家帕克(Peter Park)領導的團隊，在科學期刊《Patterns》發表可能令人感到不安的報告。團隊提到了幾個AI說謊的例子，最誇張的狀況是來自Meta研發的AI系統CICERO。

CICERO是專門研發來玩一款名為《Diplomacy》的戰略遊戲，當中涉及扮演不同國家的玩家，採取不同的外交及軍事策略來奪取土地。團隊發現，一邊跟人類玩家結盟 一邊卻準備進攻對方。此外，科學家又發現，CICERO曾因系統須重新啟動，而在遊戲中靜默了一段時間。當再次登入後，便說自己“正在跟女友講電話”以掩飾剛才為何毫無反應。

除了CICERO外，由OpenAI研發的GPT-4，亦被發現會說謊。研究團隊指，GPT-4曾在面對機器無法通過的“我不是機器人”驗證時，懂得在散工網站上說謊找人類幫忙。

帕克直言︰不能因為AI系統在測試環境中被認為是安全，就認為它在測試外也是安全的，“它可能只是在測試中假裝安全”。團隊呼籲各國政府制定AI安全法，以解決“AI呃人”的潛在可能性。

#V仔望遠鏡🔭：帶你探索全球趣聞

【HongKongV】
Instagram: @hongkongv
Threads: @hongkongv
Facebook:香港V
YouTube:香港V
TikTok: @hongkongv

#hongkong #hongkongv #香港v #香港