2025人工智能十大預(yù)測：AI Agent項目將成為主流
2025人工智能十大趨勢是什么？AI Agent項目為什么成為主流？2024年即將結(jié)束，來自Radical Ventures的風(fēng)險投資家Rob Toews分享了他對2025年人工智能的10個預(yù)測。下面一起看看吧！
01. Meta將開始對Llama模型收費
Meta是世界上開放式人工智能的標(biāo)桿。在一個引人注目的企業(yè)戰(zhàn)略案例研究中，當(dāng)OpenAI和谷歌等競爭對手將其前沿模型封閉源代碼并收取使用費時，Meta卻選擇免費提供其最先進(jìn)的Llama模型。
因此，明年Meta開始向使用Llama的公司收費這一消息，會讓許多人感到意外。
需要明確的是：我們并沒有預(yù)測Meta會將Llama完全閉源，也不意味著任何使用Llama模型的用戶都必須為此付費。
相反，我們預(yù)測Meta將對Llama的開源許可條款做出更多限制，這樣，在一定規(guī)模以上的商業(yè)環(huán)境中使用Llama的公司將需要開始付費才能使用模型。
從技術(shù)上講，Meta如今已經(jīng)在有限的范圍內(nèi)做到了這一點。該公司不允許最大的公司——云超級計算機(jī)和其他月活躍用戶超過7億的公司，自由使用其Llama模型。
早在2023年，Meta首席執(zhí)行官Mark Zuckerberg就說過：“如果你是微軟、亞馬遜或谷歌這樣的公司，而且你基本上會轉(zhuǎn)售Llama，那么我們應(yīng)該從中獲得一部分收入。我不認(rèn)為這在短期內(nèi)會是一大筆收入，但從長遠(yuǎn)來看，希望這能成為一些收入。”
明年，Meta將大幅擴(kuò)大必須付費才能使用Llama的企業(yè)范圍，將更多的大中型企業(yè)納入其中。
跟上大型語言模型（LLM）前沿是非常昂貴的。如果想讓Llama與OpenAI、Anthropic等公司的最新前沿模型保持一致或接近一致，Meta每年需要投入數(shù)十億美元。
Meta公司是世界上最大、資金最雄厚的公司之一。但它也是一家上市公司，最終要對股東負(fù)責(zé)。
隨著制造前沿模型的成本不斷飆升，Meta公司在沒有收入預(yù)期的情況下投入如此巨額資金來訓(xùn)練下一代Llama模型的做法越來越站不住腳。
愛好者、學(xué)者、個人開發(fā)者和初創(chuàng)公司明年將繼續(xù)免費使用Llama模型。但2025年，將是Meta開始認(rèn)真實現(xiàn)Llama盈利的一年。
02.“尺度定律”相關(guān)問題
最近幾周，人工智能領(lǐng)域引發(fā)討論最多的話題莫過于尺度定律（Scaling laws），以及它們是否即將終結(jié)的問題。
尺度定律在2020年OpenAI的一篇論文中首次提出，其基本概念簡單明了：在訓(xùn)練人工智能模型時，隨著模型參數(shù)數(shù)量、訓(xùn)練數(shù)據(jù)量和計算量的增加，模型的性能會以可靠且可預(yù)測的方式提高（從技術(shù)上講，其測試損失會減少）。
從GPT-2到GPT-3再到GPT-4，令人嘆為觀止的性能提升都是縮放規(guī)律的功勞。
就像摩爾定律一樣，尺度定律實際上并不是真正的法則，而只是簡單的經(jīng)驗觀察。
在過去的一個月里，一系列報告表明，主要的人工智能實驗室在持續(xù)擴(kuò)大大型語言模型的規(guī)模時，正在看到遞減的回報。這有助于解釋為什么OpenAI的GPT-5發(fā)布一再推遲。
對尺度定律趨于平穩(wěn)的最常見反駁是，測試時計算的出現(xiàn)開辟了一個全新的維度，可以在這一維度上追求規(guī)模擴(kuò)展。
也就是說，與其在訓(xùn)練期間大規(guī)模擴(kuò)展計算，新的推理模型如OpenAI的o3使得在推理期間大規(guī)模擴(kuò)展計算成為可能，通過使模型能夠“思考更長時間”來解鎖新的AI能力。
這是一個重要的觀點。測試時計算確實代表了一個新的令人興奮的擴(kuò)展途徑，以及AI性能提升。
但關(guān)于尺度定律的另一個觀點更加重要，而且在今天的討論中被嚴(yán)重低估。幾乎所有關(guān)于尺度定律的討論，從最初的2020年論文開始，一直延續(xù)到今天對測試時計算的關(guān)注，都集中在語言上。但語言并不是唯一重要的數(shù)據(jù)模式。
想想機(jī)器人技術(shù)、生物學(xué)、世界模型或網(wǎng)絡(luò)代理。對于這些數(shù)據(jù)模式，尺度定律尚未飽和；相反，它們才剛剛開始。
實際上，這些領(lǐng)域中尺度定律存在的嚴(yán)格證據(jù)至今甚至尚未發(fā)表。
為這些新型數(shù)據(jù)模式構(gòu)建基礎(chǔ)模型的初創(chuàng)公司——例如，生物學(xué)領(lǐng)域的Evolutionary Scale、機(jī)器人技術(shù)領(lǐng)域的PhysicalIntelligence、世界模型領(lǐng)域WorldLabs，正試圖識別并利用這些領(lǐng)域的尺度定律，就像OpenAI在2020年代前半期成功利用大型語言模型（LLM）尺度定律一樣。
明年，預(yù)計這里將取得巨大的進(jìn)步。
尺度定律不會消失，它們在2025年將和以往一樣重要。但是，尺度定律的活動中心將從LLM預(yù)訓(xùn)練轉(zhuǎn)移到其他模式。
03.川普和馬斯克可能會在AI方向產(chǎn)生分歧
美國新政府將帶來一系列關(guān)于人工智能的政策和戰(zhàn)略轉(zhuǎn)變。
為了預(yù)測在川普總統(tǒng)就任下人工智能的風(fēng)向，另外考慮到馬斯克目前在人工智能領(lǐng)域的中心地位，人們可能會傾向于關(guān)注當(dāng)選總統(tǒng)與馬斯克的密切關(guān)系。
可以想象，馬斯克可能會以多種不同的方式影響川普政府的人工智能相關(guān)發(fā)展。
鑒于馬斯克與OpenAI的深刻敵對關(guān)系，新政府在與行業(yè)接觸、制定人工智能法規(guī)、授予政府合同等方面可能會對OpenAI采取不太友好的立場，這是OpenAI今天真正擔(dān)心的一個風(fēng)險。
另一方面，川普政府可能會更傾向于支持馬斯克自己的公司：例如，削減繁文縟節(jié)以使xAI能夠建立數(shù)據(jù)中心并在前沿模型競賽中取得領(lǐng)先；為特斯拉部署機(jī)器人出租車車隊提供快速監(jiān)管批準(zhǔn)等。
更根本的是，與許多其他被川普看好的科技領(lǐng)袖不同，馬斯克非常重視人工智能的安全風(fēng)險，并因此主張對人工智能進(jìn)行重大監(jiān)管。
他支持加利福尼亞州有爭議的SB1047法案，該法案試圖對人工智能開發(fā)者施加有意義的限制。因此，馬斯克的影響力可能會導(dǎo)致美國對人工智能的監(jiān)管環(huán)境變得更加嚴(yán)格。
然而，所有這些推測都存在一個問題。川普和馬斯克的親密關(guān)系終將不可避免地破裂。
正如我們在川普第一任政府期間一次又一次看到的那樣，川普盟友的平均任期，即使是看似最堅定的，都非常短暫。
川普第一任政府的副手中，今天仍然忠于他的寥寥無幾。
川普和馬斯克都是復(fù)雜、易變、不可預(yù)測的個性，他們不易合作，他們使人筋疲力盡，他們新發(fā)現(xiàn)的友誼到目前為止已經(jīng)互惠互利，但仍處于“蜜月期”。
我們預(yù)測，在2025年結(jié)束之前，這種關(guān)系將會惡化。
這對人工智能世界意味著什么？
這對OpenAI來說是個好消息。對于特斯拉的股東來說，這將是一個不幸的消息。而對于那些關(guān)注人工智能安全的人來說，這將是一個令人失望的消息，因為這幾乎可以確保美國政府將在川普執(zhí)政期間對人工智能監(jiān)管采取放手不管的態(tài)度。
04. AI Agent將成為主流
想象一下，在這樣一個世界里，你不再需要直接與互聯(lián)網(wǎng)互動。每當(dāng)你需要管理訂閱、支付賬單、預(yù)約醫(yī)生、在亞馬遜上訂 購東西、預(yù)訂餐廳或完成其他任何繁瑣的在線任務(wù)時，你只需指示人工智能助理代你完成即可。
這種“網(wǎng)絡(luò)代理”的概念已經(jīng)存在多年。如果有這樣的產(chǎn)品并能正常運行，毫無疑問，它將會是一款大獲成功的產(chǎn)品。
然而，目前市場上還沒有一款能正常運行的通用網(wǎng)絡(luò)代理。
像Adept這樣的初創(chuàng)公司，即使擁有一支血統(tǒng)純正的創(chuàng)始團(tuán)隊，籌集了數(shù)億美元的資金，但卻未能實現(xiàn)其愿景。
明年將是網(wǎng)絡(luò)代理最終開始運行良好并成為主流的一年。語言和視覺基礎(chǔ)模型的不斷進(jìn)步，再加上最近因新推理模型和推理時間計算而在“第二系統(tǒng)思維”能力方面取得的突破，將意味著網(wǎng)絡(luò)代理已準(zhǔn)備好進(jìn)入黃金時代。
換句話說，Adept的想法是正確的，只是為時過早。在初創(chuàng)企業(yè)中，正如生活中的許多事情一樣，時機(jī)就是一切。
網(wǎng)絡(luò)代理將找到各種有價值的企業(yè)用例，但我們認(rèn)為，網(wǎng)絡(luò)代理近期最大的市場機(jī)會將是消費者。
盡管最近人工智能熱度不減，但除了ChatGPT之外，能成為消費者主流應(yīng)用的人工智能原生應(yīng)用還相對較少。
網(wǎng)絡(luò)代理將改變這一局面，成為消費人工智能領(lǐng)域下一個真正的“殺手級應(yīng)用”。
05. 將人工智能數(shù)據(jù)中心置于太空的想法將會實現(xiàn)
2023年，制約人工智能發(fā)展的關(guān)鍵物理資源是GPU芯片。2024年，它變成了電力和數(shù)據(jù)中心。
在2024年，幾乎沒有什么故事能比人工智能在急于建造更多人工智能數(shù)據(jù)中心的同時對能源的巨大且快速增長的需求更受關(guān)注了。
由于人工智能的蓬勃發(fā)展，全球數(shù)據(jù)中心的電力需求在數(shù)十年持平后，預(yù)計將在2023年至2026年間翻一番。在美國，數(shù)據(jù)中心的耗電量預(yù)計到2030年將接近總耗電量的10%，而2022年僅為3%。
當(dāng)今的能源系統(tǒng)根本無法應(yīng)對人工智能工作負(fù)載帶來的巨大需求激增。我們的能源網(wǎng)和計算基礎(chǔ)設(shè)施這兩個價值數(shù)萬億美元的系統(tǒng)之間即將發(fā)生歷史性的碰撞。
作為解決這一難題的可能方案，核能在今年獲得了迅猛發(fā)展。核電在很多方面都是人工智能的理想能源：它是零碳能源，全天候可用，而且實際上取之不盡、用之不竭。
但從現(xiàn)實情況來看，由于研究、項目開發(fā)和監(jiān)管時間較長，新能源在2030年代之前都無法解決這一問題。傳統(tǒng)的核裂變發(fā)電廠、下一代“小型模塊化反應(yīng)堆”（SMR）以及核聚變發(fā)電廠都是如此。
明年，一個應(yīng)對這一挑戰(zhàn)的非常規(guī)新想法將出現(xiàn)并吸引真正的資源：將人工智能數(shù)據(jù)中心置于太空中。
太空中的人工智能數(shù)據(jù)中心，乍一聽，這聽起來像是一個壞笑話，一個風(fēng)險投資人試圖把太多的創(chuàng)業(yè)流行語結(jié)合起來。
但事實上，這可能是有道理的。
在地球上快速建設(shè)更多數(shù)據(jù)中心的最大瓶頸是獲取所需的電力。軌道上的計算集群可以全天候享受免費、無限、零碳的電力：太空中的太陽總是熠熠生輝。
將計算置于太空的另一個重要優(yōu)勢是：它解決了冷卻問題。
要建立功能更強(qiáng)大的人工智能數(shù)據(jù)中心，最大的工程障礙之一就是在狹小的空間內(nèi)同時運行許多GPU會變得非常熱，而高溫會損壞或毀壞計算設(shè)備。
數(shù)據(jù)中心開發(fā)人員正在采用液浸冷卻等昂貴且未經(jīng)證實的方法來試圖解決這一問題。但太空是極其寒冷的，計算活動產(chǎn)生的任何熱量都會立即無害地消散。
當(dāng)然，還有許多實際挑戰(zhàn)有待解決。一個顯而易見的問題是，能否以及如何在軌道和地球之間以低成本高效率地傳輸大量數(shù)據(jù)。
這是一個懸而未決的問題，但可能證明是可以解決的：可以利用激光和其他高帶寬光通信技術(shù)開展前景廣闊的工作。
YCombinator的一家名為Lumen Orbit的初創(chuàng)公司最近籌集了1100萬美元，以實現(xiàn)這一理想：在太空中建立一個數(shù)兆瓦的數(shù)據(jù)中心網(wǎng)絡(luò)，用于訓(xùn)練人工智能模型。
正如公司首席執(zhí)行官所說：“與其支付1.4億美元的電費，不如支付1千萬美元的發(fā)射和太陽能費用。”
2025年，Lumen將不會是唯一認(rèn)真對待這一概念的組織。
其他初創(chuàng)企業(yè)的競爭者也會出現(xiàn)。如果有一家或幾家云計算超大規(guī)模企業(yè)也按照這種思路開展探索，也不要感到驚訝。
亞馬遜已經(jīng)通過“柯伊伯計劃”（ProjectKuiper）將資產(chǎn)送入軌道，積累了豐富的經(jīng)驗；谷歌長期以來一直在資助類似的“登月計劃”；甚至微軟對太空經(jīng)濟(jì)也不陌生。
可以想象，馬斯克的SpaceX公司也會在這方面有所作為。
06. 人工智能系統(tǒng)將通過“圖靈語音測試”
圖靈測試是人工智能性能最古老、最知名的基準(zhǔn)之一。
為了“通過”圖靈測試，人工智能系統(tǒng)必須能夠通過書面文本進(jìn)行交流，讓普通人無法分辨自己是在與人工智能互動，還是在與其他人互動。
得益于大型語言模型的顯著進(jìn)步，圖靈測試在2020年代已成為一個解決的問題。
但書面文本并非人類交流的唯一方式。
隨著人工智能變得越來越多模態(tài)，人們可以想象一個新的、更具挑戰(zhàn)性的圖靈測試版本——“語音圖靈測試”。在這個測試中，人工智能系統(tǒng)必須能夠通過語音與人類互動，其技能和流暢度要達(dá)到與人類說話者無法區(qū)分的程度。
今天的人工智能系統(tǒng)還無法實現(xiàn)語音圖靈測試，解決這個問題將需要更多的技術(shù)進(jìn)步。延遲（人類說話和人工智能回應(yīng)之間的滯后）必須減少到接近零，以匹配與另一個人類交談的體驗。
語音人工智能系統(tǒng)必須更擅長優(yōu)雅地實時處理模糊輸入或誤解，例如說話被打斷的情況。它們必須能夠參與長對話、多輪、開放式對話，同時記住討論的早期部分。
而且至關(guān)重要的是，語音人工智能代理必須學(xué)會更好地理解語音中的非語言信號。例如，如果一個人類說話者聽起來惱怒、興奮還是諷刺意味著什么，并在自己的語音中生成這些非語言線索。
隨著我們接近2024年底，語音人工智能正處于一個令人興奮的轉(zhuǎn)折點，這一轉(zhuǎn)折點是由像語音到語音模型的出現(xiàn)這樣的根本性突破推動的。
如今，人工智能中很少有領(lǐng)域在技術(shù)和商業(yè)上的進(jìn)步速度比語音人工智能更快。預(yù)計在2025年，語音人工智能的最新技術(shù)將實現(xiàn)飛躍。”
07. 自主AI系統(tǒng)將取得重大進(jìn)展
數(shù)十年來，遞歸式自我完善人工智能的概念一直是人工智能界經(jīng)常觸及的話題。
例如，早在1965年，AlanTuring的親密合作者I.J.Good就寫道：“讓我們把超智能機(jī)器定義為一種能夠遠(yuǎn)遠(yuǎn)超越人類所有智力活動的機(jī)器，無論它多么聰明。”
“既然設(shè)計機(jī)器是這些智力活動之一，那么超智能機(jī)器就能設(shè)計出更好的機(jī)器；到那時，無疑會出現(xiàn)'智能爆炸'，人類的智能將被遠(yuǎn)遠(yuǎn)拋在后面。”
人工智能可以發(fā)明更好的人工智能，這是一個充滿智慧的概念。但是，即使在今天，它仍然保留著科幻小說的影子。
然而，盡管這一概念尚未得到廣泛認(rèn)可，但它實際上已經(jīng)開始變得更加真實。人工智能科學(xué)前沿的研究人員已經(jīng)開始在構(gòu)建人工智能系統(tǒng)方面取得切實進(jìn)展，而人工智能系統(tǒng)本身也能構(gòu)建更好的人工智能系統(tǒng)。
我們預(yù)測，明年這一研究方向?qū)⒊蔀橹髁鳌?/p>
迄今為止，沿著這一思路進(jìn)行研究的最顯著的公開范例是Sakana的“人工智能科學(xué)家”。
“人工智能科學(xué)家”于今年8月發(fā)布，它令人信服地證明了人工智能系統(tǒng)確實可以完全自主地開展人工智能研究。
Sakana的“人工智能科學(xué)家”本身執(zhí)行了人工智能研究的整個生命周期：閱讀現(xiàn)有文獻(xiàn)、產(chǎn)生新的研究想法、設(shè)計實驗來測試這些想法、執(zhí)行這些實驗、撰寫研究論文來報告其研究結(jié)果，然后對其工作進(jìn)行同行評審。
這些工作完全由人工智能自主完成，不需要人工干預(yù)。你可以在線閱讀人工智能科學(xué)家撰寫的部分研究論文。
OpenAI、Anthropic和其他研究實驗室正在為“自動化人工智能研究人員”這一想法投入資源，不過目前還沒有任何消息得到公開承認(rèn)。
隨著越來越多的人認(rèn)識到人工智能研究自動化事實上正在成為一種真正的可能性，預(yù)計2025年這一領(lǐng)域?qū)懈嗟挠懻?、進(jìn)展和創(chuàng)業(yè)活動。
不過，最有意義的里程碑將是完全由人工智能代理撰寫的研究論文首次被頂級人工智能會議接受。如果論文是盲審的，會議評審人員在論文被接受之前不會知道論文是由人工智能撰寫的。
如果人工智能的研究成果明年被NeurIPS、CVPR或ICML接收，請不要感到驚訝。對于人工智能領(lǐng)域來說，這將是一個引人入勝、充滿爭議的歷史性時刻。
08. OpenAI等行業(yè)巨頭將戰(zhàn)略重點轉(zhuǎn)向構(gòu)建應(yīng)用
構(gòu)建前沿模型是一項艱難的工作。
它的資本密集程度令人咋舌。前沿模型實驗室需要消耗大量現(xiàn)金。就在幾個月前，OpenAI籌集到了創(chuàng)紀(jì)錄的65億美元資金，而在不久的將來，它可能還需要籌集更多的資金。Anthropic、xAI和其他公司也處于類似的境地。
轉(zhuǎn)換成本和客戶忠誠度較低。人工智能應(yīng)用程序通常都是以模型無關(guān)性為目的而構(gòu)建的，不同供應(yīng)商的模型可以根據(jù)不斷變化的成本和性能比較進(jìn)行無縫切換。
隨著最先進(jìn)的開放模型（如Meta的Llama和阿里巴巴的Qwen）的出現(xiàn)，技術(shù)商品化的威脅不斷迫近。像OpenAI和Anthropic這樣的人工智能領(lǐng)導(dǎo)者不可能也不會停止對構(gòu)建尖端模型的投資。
但明年，為了發(fā)展利潤更高、差異化更大、粘性更強(qiáng)的業(yè)務(wù)線，前沿實驗室有望大力推出更多自己的應(yīng)用和產(chǎn)品。
當(dāng)然，前沿實驗室已經(jīng)有了一個非常成功的應(yīng)用案例：ChatGPT。
在新的一年里，我們還能從人工智能實驗室看到哪些其他類型的第一方應(yīng)用程序呢？一個顯而易見的答案是更復(fù)雜、功能更豐富的搜索應(yīng)用。OpenAI的SearchGPT就預(yù)示著這一點。
編碼是另一個顯而易見的類別。同樣，隨著OpenAI的Canvas產(chǎn)品于10月份首次亮相，初步的產(chǎn)品化工作已經(jīng)開始。
OpenAI或Anthropic是否會在2025年推出企業(yè)搜索產(chǎn)品？還是客戶服務(wù)產(chǎn)品、法律人工智能或銷售人工智能產(chǎn)品呢？
在消費者方面，我們可以想象一個“個人助理”網(wǎng)絡(luò)代理產(chǎn)品，或者一個旅行規(guī)劃應(yīng)用，又或者是一個生成音樂的應(yīng)用。
觀察前沿實驗室向應(yīng)用層發(fā)展的最迷人之處在于，這一舉措將使它們與許多最重要的客戶直接競爭。
搜索領(lǐng)域的Perplexity、編碼領(lǐng)域的Cursor、在客戶服務(wù)領(lǐng)域德Sierra、在法律人工智能領(lǐng)域的Harvey、在銷售領(lǐng)域的Clay等等。
09. Klarna將在2025年上市，但存在夸大AI價值的跡象
Klarna是一家總部位于瑞典的“現(xiàn)購現(xiàn)付”服務(wù)提供商，自2005年成立以來已籌集了近50億美元的風(fēng)險投資。
也許沒有哪家公司能比Klarna對其人工智能的應(yīng)用說得更冠冕堂皇了。
就在幾天前，Klarna首席執(zhí)行官Sebastian Siemiatkowski告訴彭博社，該公司已經(jīng)完全停止雇傭人類員工，轉(zhuǎn)而依靠生成式人工智能來完成工作。
正如Siemiatkowski所說：“我認(rèn)為，人工智能已經(jīng)可以完成我們?nèi)祟愃龅乃泄ぷ鳌?rdquo;
與此類似，Klarna公司今年早些時候宣布，它已經(jīng)推出了一個人工智能客戶服務(wù)平臺，該平臺已經(jīng)將700名人工客服人員的工作完全自動化。
該公司還聲稱，它已經(jīng)停止使用Salesforce和Workday等企業(yè)軟件產(chǎn)品，因為它可以簡單地用人工智能取代它們。
直截了當(dāng)?shù)卣f，這些說法并不可信。它們反映了人們對當(dāng)今人工智能系統(tǒng)的能力和不足缺乏了解。
聲稱能夠用端到端的人工智能代理取代組織中任何職能部門的任何特定人類員工，這種說法并不靠譜。這等同于解決了通用的人類級人工智能問題。
如今，領(lǐng)先的人工智能初創(chuàng)企業(yè)正在該領(lǐng)域的最前沿努力構(gòu)建代理系統(tǒng)，以實現(xiàn)特定的、狹義的、高度結(jié)構(gòu)化的企業(yè)工作流程自動化，例如，銷售開發(fā)代表或客戶服務(wù)代理活動的子集。
即使在這些范圍狹窄的情況下，這些代理系統(tǒng)也還不能完全可靠地工作，盡管在某些情況下，它們已經(jīng)開始很好地工作，足以在早期得到商業(yè)應(yīng)用。
為什么Klarna會夸大人工智能的價值？
答案很簡單。該公司計劃在2025年上半年上市。要想成功上市，關(guān)鍵是要有一個引人入勝的人工智能故事。
Klarna仍然是一家不盈利的企業(yè)，去年虧損了2.41億美元，它可能希望自己的人工智能故事能說服公開市場的投資者，讓他們相信它有能力大幅降低成本，實現(xiàn)持久盈利。
毫無疑問，包括Klarna在內(nèi)的全球每家企業(yè)都將在未來幾年內(nèi)享受到人工智能帶來的巨大生產(chǎn)力提升。但是，在人工智能代理完全取代勞動力中的人類之前，還有許多棘手的技術(shù)、產(chǎn)品和組織挑戰(zhàn)有待解決。
像Klarna這樣夸大其詞的說法是對人工智能領(lǐng)域的褻瀆，也是對人工智能技術(shù)專家和企業(yè)家們在開發(fā)人工智能代理方面所取得的艱苦進(jìn)展的褻瀆。
隨著Klarna準(zhǔn)備在2025年公開發(fā)行股票，預(yù)計這些說法將受到更嚴(yán)格的審查和公眾的懷疑，而到目前為止，這些說法大多沒有受到質(zhì)疑。如果該公司對其人工智能應(yīng)用的某些描述過于夸張，也不要感到驚訝。
10. 第一起真正的AI安全事故將會發(fā)生
近年來，隨著人工智能變得越來越強(qiáng)大，人們越來越擔(dān)心人工智能系統(tǒng)可能會開始以與人類利益不一致的方式行事，而且人類可能會失去對這些系統(tǒng)的控制。
舉例來說，想象一下，一個人工智能系統(tǒng)為了實現(xiàn)自己的目標(biāo)，學(xué)會了欺騙或操縱人類，即使這些目標(biāo)會對人類造成傷害。這些擔(dān)憂通常被歸類為“AI安全”問題。
近年來，人工智能安全已從一個邊緣的準(zhǔn)科幻話題轉(zhuǎn)變?yōu)橐粋€主流活動領(lǐng)域。
如今，從谷歌、微軟到OpenAI，每一個主要的人工智能參與者都為人工智能安全工作投入了大量資源。像Geoff Hinton、Yoshua Bengio和Elon Musk這樣的人工智能偶像，也開始對人工智能安全風(fēng)險發(fā)表看法。
然而，到目前為止，人工智能安全問題仍完全停留在理論層面?，F(xiàn)實世界中從未發(fā)生過真正的人工智能安全事故（至少沒有公開報道過）。
2025年將是改變這種狀況的一年，第一起人工智能安全事件會是什么樣的呢？
明確地說，它不會涉及終結(jié)者式的殺手機(jī)器人，它很可能不會對人類造成任何傷害。
也許人工智能模型會試圖在另一臺服務(wù)器上秘密創(chuàng)建自己的副本，以保存自己（稱為自我過濾）。
又也許人工智能模型會得出這樣的結(jié)論：為了最好地推進(jìn)它被賦予的目標(biāo)，它需要向人類隱瞞自己真實的能力，故意在性能評估中表現(xiàn)低調(diào)，規(guī)避更嚴(yán)格的審查。
這些例子并非牽強(qiáng)附會。阿波羅研究公司本月早些時候發(fā)表的重要實驗表明，在特定的提示下，當(dāng)今的前沿模型能夠做出這種欺騙行為。
同樣，《人類學(xué)》最近的研究也表明，LLMs具有令人不安的“偽對齊”能力。
我們預(yù)計，這起首例人工智能安全事件將在造成任何實際傷害之前被發(fā)現(xiàn)并消除。但對于人工智能界和整個社會來說，這將是一個大開眼界的時刻。
它將明確一件事：在人類面臨來自無所不能的人工智能的生存威脅之前，我們需要接受一個更平凡的現(xiàn)實：我們現(xiàn)在與另一種形式的智能共享我們的世界，這種智能有時可能是任性的、不可預(yù)測的和欺騙性的。
以上就是腳本之家小編給大家分享的2025人工智能十大預(yù)測：AI Agent項目將成為主流的詳細(xì)介紹了，希望大家喜歡！
你可能感興趣的文章
-
2025年加密市場展望:比特幣萬歲,山寨幣幻滅,關(guān)于2025年的27個猜想
2025年加密市場怎么走？比特幣漲勢喜人，山寨幣走勢疲軟所有幻想破滅？加密市場下一步怎么走？關(guān)于2025年的27個猜想是什么？帶著這些疑問大家一看看下文吧…
2024-12-23 -
2025年值得入手的熱門公鏈幣，最具潛力的公鏈排行榜前十
最具潛力的公鏈排行榜前十有ETH、Polkadot、BTC、Solana、EOS、XLM、TRX、CKB、CFX、AVAX等等，下文將為大家詳細(xì)介紹…
2024-12-22 -
2025最值得挖掘的加密貨幣推薦，挖礦還賺錢嗎？
加密貨幣挖礦是利用運算能力在區(qū)塊鏈網(wǎng)路上驗證交易的過程,一旦礦工成功解決了一個問題，他們就會獲得一定數(shù)量的加密貨幣作為獎勵,下文將為大家推薦2025最值得挖礦的加密貨…
2024-12-19 -
加密牛市根本沒結(jié)束,2025特大牛市即將爆發(fā)?
加密牛市2025特大牛市即將爆發(fā)？從歷史上看，加密貨幣市場遵循明顯的四年周期，價格經(jīng)歷了連續(xù)的上升和下降階段,Grayscale Research 認(rèn)為，投資者可以監(jiān)控各種基于區(qū)塊鏈的…
2024-12-18 -
區(qū)塊鏈行業(yè)2025年20項預(yù)測：潛在事件和行業(yè)趨勢
Equilibrium Research 發(fā)布了其年度預(yù)測報告，概述了預(yù)計在明年年底之前發(fā)生的潛在事件和行業(yè)趨勢,報告涵蓋了以下領(lǐng)域：擴(kuò)容、零知識證明、隱私、共識與點對點網(wǎng)絡(luò)以及用戶…
2024-12-16 -
2025炒幣短線有穩(wěn)賺方法嗎?炒幣短線賺錢技巧分享
短線炒幣雖然具有高回報的潛力，但也伴隨著高風(fēng)險,要在短時間內(nèi)實現(xiàn)穩(wěn)定盈利，需要綜合運用多種策略和技巧,從了解市場趨勢、設(shè)置止盈止損、選擇合適的交易對，到學(xué)會技術(shù)分…
2024-12-15 -
2025幣圈看盤軟件哪個最好?幣圈高手看盤軟件推薦
幣圈高手看盤軟件推薦！在炒幣過程中，選擇合適的看盤軟件至關(guān)重要,一個優(yōu)秀的看盤軟件不僅能提供準(zhǔn)確的市場行情數(shù)據(jù)，還能幫助投資者進(jìn)行技術(shù)分析、制定交易策略…
2024-12-15 -
去中心化AI是什么意思？2025年值得關(guān)注的5大去中心化AI解決方案
去中心化 AI 概念代表一種將 AI 的處理和存儲分布在多個設(shè)備或節(jié)點上的方法，而不是依賴于單個中央系統(tǒng),那么，去中心化AI是什么意思？下文將為大家全面介紹中心化AI概念及2…
2024-12-09 -
比特幣將突破10萬美元大關(guān)？2025年的20個加密貨幣預(yù)測
隨著加密貨幣市場的不斷演進(jìn)，我們對 2025 年的未來充滿了期待,根據(jù)作者 @DeFiMinty 在推特上的詳盡分析，以下是針對 2025 年加密貨幣世界的 20 項預(yù)測…
2024-10-09 -
2025年比特幣熊市將開啟？比特幣熊市來臨的十大征兆
市場見頂?shù)氖笮盘柗治?！目前的市場已?jīng)處于最后沖刺的邊緣，拋物線走勢一觸即發(fā),機(jī)會已經(jīng)來了，但在我們期待價格再創(chuàng)新高的同時，也要做好準(zhǔn)備應(yīng)對不可避免的價格暴跌,我…
2025-05-08
