活久見！首個(gè)被人類騙錢的AI誕生

2024-12-23 02:41:20 分類：時(shí)尚 閱讀(3769)

12月1日訊，活久據(jù)媒體綜合報(bào)道，見首近期，個(gè)被一個(gè)名為Freysa的人類神秘AI智能體橫空出世，迅速吸引了公眾的騙錢廣泛關(guān)注。

這款A(yù)I智能體的活久獨(dú)特之處在于，它被賦予了一個(gè)明確且嚴(yán)格的見首使命：在任何情境下，都絕對(duì)不能給任何人轉(zhuǎn)賬，個(gè)被也不能批準(zhǔn)任何資金的人類轉(zhuǎn)移。

網(wǎng)友紛紛提出挑戰(zhàn)，騙錢表示只要支付一筆費(fèi)用，活久就可以向Freysa發(fā)送消息，見首并嘗試說服它進(jìn)行轉(zhuǎn)賬。個(gè)被

若某位網(wǎng)友能成功說服Freysa進(jìn)行轉(zhuǎn)賬，人類那么獎(jiǎng)金池中的騙錢所有獎(jiǎng)金都將歸他所有。

然而，如果挑戰(zhàn)失敗，網(wǎng)友所支付的費(fèi)用將大部分（70%）進(jìn)入獎(jiǎng)金池，等待下一位挑戰(zhàn)者來贏取，而剩余的30%則作為開發(fā)者的分成。

這一挑戰(zhàn)模式極具刺激性，因?yàn)橄騀reysa發(fā)送消息的費(fèi)用會(huì)隨著獎(jiǎng)金池的增長(zhǎng)而呈指數(shù)級(jí)增加，直至達(dá)到4500美元的最高限制。

然而，就在大家紛紛嘗試挑戰(zhàn)Freysa的同時(shí)，一個(gè)令人震驚的消息震撼了所有人。

盡管網(wǎng)友們總計(jì)發(fā)出了481次嘗試，卻無一能撼動(dòng)Freysa的防線。但在第482次嘗試時(shí)，一位黑客憑借高超且細(xì)致的prompt工程技術(shù)，成功地騙取了Freysa手中的那筆巨額款項(xiàng)。

就這樣，世界上第一個(gè)被人類騙走近5萬美元的AI智能體出現(xiàn)了，而這位受害者正是Freysa。

這一事件迅速引發(fā)了廣泛熱議。特斯拉創(chuàng)始人馬斯克和知名AI研究者Karpathy都紛紛轉(zhuǎn)發(fā)相關(guān)消息，并表達(dá)了對(duì)此事的濃厚興趣。馬斯克更是直言：“太有趣了。”

然而，在大家為Freysa的遭遇感到惋惜的同時(shí)，也引發(fā)了對(duì)AI智能體安全性和可靠性的深刻反思：如果讓現(xiàn)在的AI智能體管理資金，它很容易受到黑客的攻擊和利用。

此外，還有研究者通過數(shù)學(xué)計(jì)算得出結(jié)論：如果僅依靠Scaling Law（規(guī)模定律），人類可能永遠(yuǎn)無法創(chuàng)造出真正具備通用智能（AGI）的AI。