更新時(shí)間:2025-05-13 21:38:32作者:佚名
圖片|視頻屏幕截圖
文字|唐元
山姆在接受印度媒體采訪(左)|在接受YouTube播客的采訪中標(biāo)記(右)
標(biāo)題圖片
那是阿吉時(shí)代前夕的另一天。像往常一樣,我打開手機(jī)后,我會(huì)在凌晨5點(diǎn)醒來,時(shí)間表在印度媒體ET上的Openai首席執(zhí)行官Sam Altman的采訪中充斥著洪水泛濫,以及Mark Zuckerberg在著名的YouTube Broadcaster Lex ...中的Mark Zuckerberg采訪。
注意:被該主題吸引的朋友可以看到投資和企業(yè)家精神的方向可以直接跳到文章的結(jié)尾(AI2Paradigam)。
阿爾特曼在印度說了什么
山姆·奧特曼(Sam Altman):“這項(xiàng)工作的方式是,我們要告訴您,與我們不應(yīng)該嘗試的培訓(xùn)基礎(chǔ)模型競(jìng)爭(zhēng)是完全沒有希望的,無論如何都喜歡嘗試。而且我相信這兩種事情。我認(rèn)為這是非常絕望的”
Ultraman Sam:“我們打算告訴您的是,以一種務(wù)實(shí)且可行的方式與我們?cè)谂嘤?xùn)基本模型中與我們競(jìng)爭(zhēng)的方式是完全沒有希望的。您不應(yīng)該嘗試。如果您真的愿意嘗試一下。
當(dāng)當(dāng)?shù)氐挠《韧顿Y者要求“像GPT這樣的基本大型模型,印第安人和印第安人應(yīng)該如何發(fā)展”時(shí),Altman回答了上述答案。
這讓我想起了阿爾特曼(Altman)不久前簽署超級(jí)人工智能治理宣言時(shí)的語氣 - 讓那些玩小型模特的人拋在一邊,這引起了當(dāng)時(shí)包括埃隆·馬斯克(Elon Musk)的一群AI巨人的不滿。我的其他官方帳戶文章中有生動(dòng)的描述。看:
“超級(jí)人工智能治理宣言中的開源小型模型在AI行業(yè)中引起了不滿”
應(yīng)該說,這一說法上次非常微妙,而且似乎奧特曼認(rèn)為只有Openai有資格談?wù)摮?jí)人工智能。這次,這是針對(duì)一組“ Asan”,而從視頻中則是Sam。在這次全球中亞巡回演出中與以色列一起旅行的伊利亞沒有在場(chǎng)。看來她已經(jīng)完全放松了。
我想知道印度技術(shù)和人工智能在遇到這樣的陳述時(shí)感覺如何?
作者不敢想象如果奧特曼進(jìn)行了全球訪問,包括中國(guó)大陸...
扎克伯格在Lex的采訪中所說的話
馬克·扎克伯格:
我的意思是,有些人正在當(dāng)?shù)卦O(shè)備奔跑,因此,如果您只是一個(gè)人想在家嘗試這個(gè)設(shè)備,那么您可能沒有很大的預(yù)算來訪問大量的云計(jì)算。因此,在當(dāng)?shù)氐墓P記本電腦上運(yùn)行,很好,正確,對(duì)嗎?我們可以在較少的計(jì)算中做到這一點(diǎn),這是更有效的,為每個(gè)使用此服務(wù)的人節(jié)省了很多錢。”
“我們專注于建立在這里的主要事情,很多產(chǎn)品經(jīng)驗(yàn)來幫助人們結(jié)成并表達(dá)自己。播種,我會(huì)談?wù)撘欢堰@些東西,但是您將有一個(gè)助手,您可以與您交談的助手,我認(rèn)為,我認(rèn)為每個(gè)創(chuàng)造者都可以在他們的ai中善于助人,以至于他們可以對(duì)他們的behalf進(jìn)行良好的態(tài)度,以至于他們的愿望可以與您的beb to to potherf the to to to to to to to to to to to to the to to to to to to to to the toi to to toi to toi tosi to toi。人們可以說話,您知道貿(mào)易和客戶支持這樣的事情。
馬克·扎克伯格:
“我的意思是,有些人現(xiàn)在試圖在本地設(shè)備上運(yùn)行prompting是什么意思,好的,所以,如果您只是想在家嘗試這個(gè),您可能沒有很多預(yù)算來獲得很多云計(jì)算資源。因此,在本地筆記本電腦上運(yùn)行,對(duì)嗎?我們自己的版本,我們可以在少量計(jì)算資源上做到這一點(diǎn)。
“這里的重點(diǎn)是如何利用羊石來改善更多的產(chǎn)品體驗(yàn),以幫助人們建立聯(lián)系和表達(dá)自己。因此,我們計(jì)劃,我已經(jīng)對(duì)此進(jìn)行了很多談話,您將有一個(gè)可以在WhatsApp中與之交談的助手,我認(rèn)為,我認(rèn)為,每個(gè)創(chuàng)造者都會(huì)有一個(gè)AI代理人,他們會(huì)像他們那樣的粉絲,我可以與您交談,我可以與您交談,以便您能夠與您交談,因此,您可以與您交談,因此,您可以與您交談,以便您和小型企業(yè)都能與您交談,因此,您和小企業(yè)都可以與您交談,因此,您和小型企業(yè)都可以與您交談。上面。這樣做很多,駱駝或基本的AI大語模型基本上是支持這一切的引擎。”
Lex和Zuckerberg在采訪中提到的Llama.CPP正是我最近關(guān)注的。
項(xiàng)目URL :()
Llama.cpp的主要目標(biāo)是使用MacBook上的4位整數(shù)量化運(yùn)行Llama型號(hào)
- 無依賴關(guān)系的普通C/C ++實(shí)現(xiàn)
- 蘋果芯片的一流公民 - 通過手臂霓虹燈,加速器和金屬框架優(yōu)化
- 用X86體系結(jié)構(gòu)支持AVX,AVX2和AVX512
- 混合F16/F32精度
- 支持4位,5位和8位整數(shù)
- 支持OpenBlas/Apple Blas/Arm Performance lib/atlas/blis/intel mkl/nvhpc/acml/scsl/sgimath等
- 公共和clblast支持
Llama.cpp的最初實(shí)施被黑客入侵。從那以后,由于許多人的貢獻(xiàn),該項(xiàng)目得到了極大的改善。該項(xiàng)目用于教育,并作為開發(fā)GGML圖書館新功能的主要測(cè)試站點(diǎn)。
Llama.CPP項(xiàng)目最近支持Apple Silicon的GPU,并在金屬支持下構(gòu)建時(shí),您可以使用-GPU layer | -NGL命令行參數(shù)來啟用GPU推理。大于0的任何值都會(huì)將計(jì)算卸載到GPU。
作者最近還在他的MBP上品嘗了一些東西。運(yùn)行4位定量Llama 7b模型可以以每秒40多個(gè)令牌的速度運(yùn)行,并且在GPU上完全運(yùn)行。
“ Llama.cpp Metal Build支持MAC設(shè)備prompting是什么意思,以使用GPU運(yùn)行LLM推理過程,版本7B大于40tokens/sec”
Llama.cpp和Silicon Valley Angel Portfolio Nat&DG的故事
Llama.cpp(@ggerganov)的作者剛剛被Silicon Valley Angel Portfolios Nat和DG發(fā)現(xiàn)并投資。 NAT和DG分別是Microsoft(GitHub Project)和Apple(AI項(xiàng)目)的前高管。他們目前正在進(jìn)行天使投資。 DG投資了許多知名項(xiàng)目,NAT具有更深的技術(shù)背景。最近,基于類似于Llama.cpp的開源模型,Llama.cpp是開源LLMS(Playgound)的測(cè)試網(wǎng)站。
從上圖可以看出,DG投資確實(shí)有毒。其中,無花果于去年被Adobe以200億美元的價(jià)格收購(gòu),目前正在與Firefly融為一體。將來,生成AI可能可以單擊一鍵生成應(yīng)用程序。
關(guān)于DG和NAT,一篇文章分析了Apple的Vision Pro發(fā)行時(shí),分析了Apple的人工智能發(fā)展路徑:也提到了:
“ DG在一次采訪中提到蘋果一直在使用模型來改善終端智能”
在文章中提到的訪談中(在2022年10月發(fā)布之前),DG提到他過去負(fù)責(zé)蘋果的機(jī)器學(xué)習(xí)DRI項(xiàng)目(DRI,直接負(fù)責(zé)的個(gè)人,蘋果公司直接負(fù)責(zé)人” DRI一詞,該術(shù)語是指負(fù)責(zé)在任何特定項(xiàng)目中負(fù)責(zé)的人。這個(gè)想法是每個(gè)項(xiàng)目都具有DRI的責(zé)任,并且他對(duì)該項(xiàng)目進(jìn)行了更高的責(zé)任,并以此為特定的項(xiàng)目,該項(xiàng)目的重點(diǎn)是成功的。方法智能。
出乎意料的是,在一年后的Vision Pro發(fā)布會(huì)上,蘋果展示了這一新功能,即由大型語言模型(LLM)提供動(dòng)力的鍵盤。該鍵盤使用變壓器模型,可以在終端設(shè)備上運(yùn)行并了解用戶的鍵入輸入模式。該學(xué)習(xí)過程可以在晚上通過Lora(開源LLM微調(diào)模型)完成。這是一個(gè)分段的方案,個(gè)人模型的迭代飛輪在終端設(shè)備上完成。
扎克伯格(Zuckerberg)提到,將Llama.cpp用于WhatsApp作為通信助理的使用已經(jīng)領(lǐng)先。作者認(rèn)為,小Zha一定已經(jīng)看到了新應(yīng)用程序(例如Discord)對(duì)自己的產(chǎn)品WhatsApp的最新競(jìng)爭(zhēng)壓力。更不用說Midjourney完全使用Discord上的超級(jí)頻道(100萬人)來開展MJ的C-End業(yè)務(wù)。最近,隨著Transformer Mafia 8成員的第二個(gè)兒子Noam啟動(dòng)了角色。 (官方帳戶中的另一篇文章中提到的角色。
“社區(qū)統(tǒng)計(jì)的新每周AI應(yīng)用 - 基于不和諧的角色AI開源網(wǎng)校頭條,以實(shí)施OpenSouls排名第二”
GPT現(xiàn)象作者的思想和觀察投資和企業(yè)家方向
一方面,蘋果的人工智能開發(fā)就像元一樣,專注于自己的產(chǎn)品體驗(yàn),并利用自己的硬件和芯片優(yōu)勢(shì),就像梅塔堅(jiān)持使用meta-Universe的方向一樣,并希望將Llama.cpp用于自己的一系列產(chǎn)品,例如WhatsApp。
另一方面,通過阿爾特曼(Altman)和扎克伯格(Zuckerberg)的最新聲音,我還通過探索GPT現(xiàn)象深入促進(jìn)了作者對(duì)投資和企業(yè)家精神的方向的思考。 Openai必須朝著超級(jí)人工智能的方向瘋狂地運(yùn)行。我還分析了Meta的AI的開發(fā)路線,但它仍然對(duì)Meta宇宙不屈不撓。這些美國(guó)巨人在這浪路線上采取了差異化路線。取而代之的是看目前的國(guó)內(nèi)AI狀況,成千上萬的模型的匆忙不禁讓人們感到焦慮。
我目前的思想認(rèn)為
有成千上萬的AI路徑,基于GPT本地創(chuàng)業(yè)方向,目前有三個(gè)類別(從前兩個(gè)類別升級(jí)):
預(yù)訓(xùn)練 - 基礎(chǔ)LLM。語言具有超模式的狀態(tài),是進(jìn)入AGI的唯一方法。它與OpenAI競(jìng)爭(zhēng)或用于本地企業(yè)部署方案; (對(duì)此總是有不同的看法,5月9日在北京齊尤恩會(huì)議上的演講是基于“邁向可以學(xué)習(xí),理性和計(jì)劃的大型模型”。如果您有機(jī)會(huì),作者也可以總結(jié)Yann和Ilya之間的差異,這應(yīng)該很有趣)
大型模型挖掘(提示) - 大型模型中有許多應(yīng)用程序,我個(gè)人更喜歡MJ或targinai的GPT天然模式。其他B端僅具有分階段的價(jià)值空間,以增強(qiáng)和改善現(xiàn)有業(yè)務(wù)AI。為什么說這是一個(gè)分階段的價(jià)值空間?因?yàn)榫薮蟮臒捊鹦g(shù)將導(dǎo)致無處不在的模型,并且物理世界的轉(zhuǎn)型范式發(fā)生了革命性的變化,并且將出現(xiàn)新的商業(yè)模式,該模型將完全重建現(xiàn)有的B側(cè)業(yè)務(wù)。可以比較想象:工業(yè)化的出現(xiàn)后,農(nóng)業(yè)不再是主要生產(chǎn)情況。
基于開源llm的任何位置和Anydevices也有模型:
蒸餾 - 蒸餾小型型號(hào)可以提供終端智能或個(gè)人助理模型:基于開源模型,類似于llma.cpp的設(shè)備內(nèi)推理場(chǎng)景,在線數(shù)字克隆產(chǎn)品和其他本機(jī)方向。根據(jù)欣頓先生的說法,大型模型蒸餾類似于從教授到人類大學(xué)學(xué)生的教育知識(shí)的教學(xué)。
參考
-Mark Zuckerberg:Meta,F(xiàn)acebook,Instagram和WhatsApp的AI未來
| Lex Fridman播客#383
- 本·湯普森(Ben Thompson):丹尼爾·格羅斯(Daniel Gross)和納特·弗里德曼(Nat Friedman)的采訪有關(guān)AI的民主化
結(jié)尾
掃描QR碼加入組,
總是改變AI!
AI風(fēng)格的讀者