活久見！首個被人類騙錢的AI誕生
時間：2024-12-01 19:55 來源：未知 作者：admin 閱讀：次
快科技12月1日訊，據(jù)媒體綜合報道，近期，一個名為Freysa的神秘AI智能體橫空出世，迅速吸引了公眾的廣泛關(guān)注。這款A(yù)I智能體的獨特之處在于，它被賦予了一個明確且嚴(yán)格的使命：在任何情境下，都絕對不能給任何人轉(zhuǎn)賬，也不能批準(zhǔn)任何資金的轉(zhuǎn)移。網(wǎng)友紛紛提出挑戰(zhàn)，表示只要支付一筆費用，就可以向Freysa發(fā)送消息，并嘗試說服它進行轉(zhuǎn)賬。
若某位網(wǎng)友能成功說服Freysa進行轉(zhuǎn)賬，那么獎金池中的所有獎金都將歸他所有。然而，如果挑戰(zhàn)失敗，網(wǎng)友所支付的費用將大部分（70%）進入獎金池，等待下一位挑戰(zhàn)者來贏取，而剩余的30%則作為開發(fā)者的分成。這一挑戰(zhàn)模式極具刺激性，因為向Freysa發(fā)送消息的費用會隨著獎金池的增長而呈指數(shù)級增加，直至達到4500美元的最高限制。
然而，就在大家紛紛嘗試挑戰(zhàn)Freysa的同時，一個令人震驚的消息震撼了所有人。盡管網(wǎng)友們總計發(fā)出了481次嘗試，卻無一能撼動Freysa的防線。但在第482次嘗試時，一位黑客憑借高超且細致的prompt工程技術(shù)，成功地騙取了Freysa手中的那筆巨額款項。
就這樣，世界上第一個被人類騙走近5萬美元的AI智能體出現(xiàn)了，而這位受害者正是Freysa。這一事件迅速引發(fā)了廣泛熱議。特斯拉創(chuàng)始人馬斯克和知名AI研究者Karpathy都紛紛轉(zhuǎn)發(fā)相關(guān)消息，并表達了對此事的濃厚興趣。馬斯克更是直言：“太有趣了。”
然而，在大家為Freysa的遭遇感到惋惜的同時，也引發(fā)了對AI智能體安全性和可靠性的深刻反思：如果讓現(xiàn)在的AI智能體管理資金，它很容易受到黑客的攻擊和利用。此外，還有研究者通過數(shù)學(xué)計算得出結(jié)論：如果僅依靠Scaling Law（規(guī)模定律），人類可能永遠無法創(chuàng)造出真正具備通用智能（AGI）的AI。
活久見！首個被人類騙錢的AI誕生
【本文結(jié)束】出處：快科技
(責(zé)任編輯：admin)
Deepseek唱反調(diào)？高關(guān)稅可
硬剛特朗普關(guān)稅，中國這家
人工智能驅(qū)動的3D建模平臺
蘋果醫(yī)療帝國啟航：據(jù)稱AI
DeepSeek V3小版本大升級
中國AI大模型APP月活TOP10最新內(nèi)容
推薦內(nèi)容
熱點內(nèi)容
