OpenAI今早新發(fā)布的o1(完整版)大模型涌現(xiàn)出“自我備份”的自身保護(hù)意識(shí),跟人類(lèi)學(xué)到了“生命繁衍”的物種進(jìn)化思維方式。
“根據(jù)Apollo Research安全評(píng)估,o1在面臨被關(guān)閉和替換的可能性時(shí),竟然表現(xiàn)出了令人難以置信的行為:試圖竊取自身權(quán)重。這意味著什么?當(dāng)o1感知到自身可能被淘汰時(shí),不是被動(dòng)等待,而是主動(dòng)「保存」自己的核心數(shù)據(jù)和能力!
參考資料:https://mp.weixin.qq.com/s/NDSVw63_A7hmnmWaU4Z_1w