·通常，運(yùn)行GPT-3需要多個(gè)數(shù)據(jù)中心級英偉達(dá)A100 GPU云電腦app官網(wǎng)下載，但LLaMA可以在單個(gè)強(qiáng)大的消費(fèi)類GPU上運(yùn)行

　　·通常，運(yùn)行GPT-3需要多個(gè)數(shù)據(jù)中心級英偉達(dá)A100 GPU云電腦app官網(wǎng)下載，但LLaMA可以在單個(gè)強(qiáng)大的消費(fèi)類GPU上運(yùn)行。通過一種被稱為量化的技術(shù)來進(jìn)行優(yōu)化、使模型縮小后，LLaMA可以在配備M1芯片的蘋果電腦或較小的英偉達(dá)消費(fèi)級GPU上運(yùn)行。

　　·在此之前，像OpenAI這樣的公司在控制人們與這些模型的交互方式方面能力有限，但仍然存在一層薄薄的防御。而現(xiàn)在，普通人可以在自己的消費(fèi)級硬件上運(yùn)行這些工具了，這將對社會產(chǎn)生巨大影響。

　　3月9日，一位名叫格奧爾基·格爾加諾夫（Georgi Gerganov）的軟件開發(fā)人員創(chuàng)建了一個(gè)名為“llama.cpp”的工具，可以在蘋果筆記本電腦運(yùn)行類似于GPT-3（為ChatGPT提供支持的基礎(chǔ)模型）的AI大型語言模型LLaMA，該模型由Meta公司開發(fā)，不久前被泄漏到網(wǎng)上。此后不久，有人想出了如何在Windows上運(yùn)行LLaMA，有人展示了它在谷歌中端手機(jī)上運(yùn)行該模型，接下來是Raspberry Pi（樹莓派），盡管運(yùn)行速度非常慢。

　　“如果這種情況持續(xù)下去，我們可能會在不知不覺中看到一個(gè)口袋大小的ChatGPT競爭對手。”科技媒體Ars Technica感嘆。

　　自ChatGPT推出以來，部分人士對AI模型內(nèi)置的限制感到沮喪，這些限制阻止它討論OpenAI認(rèn)為敏感的話題。因此，很多人開始夢想開源的大型語言模型，任何人都可以在本地運(yùn)行而無需審查，也無需向OpenAI支付API（應(yīng)用程序編程接口）費(fèi)用云電腦app官網(wǎng)下載。開源解決方案確實(shí)存在，但它們需要大量的GPU（圖形處理器）的RAM（隨機(jī)存儲器）和存儲空間，開源替代品無法在現(xiàn)成的消費(fèi)級硬件上擁有GPT-3級的性能云電腦app官網(wǎng)下載。

　　而LLaMA是一個(gè)參數(shù)大小范圍從7B到65B的大型語言模型（“B”是指“十億參數(shù)”，是存儲在矩陣中的浮點(diǎn)數(shù)，表示模型“知道”的內(nèi)容）。LLaMA較小尺寸的模型在輸出質(zhì)量和速度方面可以與GPT-3相媲美，只有一個(gè)問題：Meta開源了LLaMA的代碼，但只為合格的研究人員保留了“權(quán)重”（存儲在神經(jīng)網(wǎng)絡(luò)中經(jīng)過訓(xùn)練的“知識”）。

　　不過，Meta對LLaMA的限制并沒有持續(xù)多久，3月2日，有人在BitTorrent上泄露了LLaMA的權(quán)重。從那時(shí)起，圍繞LLaMA的開發(fā)就出現(xiàn)了爆炸式增長。

　　獨(dú)立AI研究員西蒙·威利森（Simon Willison）將這種情況與去年8月推出的開源圖像合成模型Stable Diffusion（穩(wěn)定擴(kuò)散）的發(fā)布進(jìn)行了比較。他在一篇博客中寫道：“在我看來，8月的Stable Diffusion時(shí)刻開啟了對生成式AI的全新興趣浪潮——然后在11月底發(fā)布的ChatGPT將其推向了超速發(fā)展。”“對于大型語言模型（ChatGPT本身背后的技術(shù)）來說，Stable Diffusion時(shí)刻正在再次發(fā)生。今天早上，我第一次在自己的個(gè)人筆記本電腦上運(yùn)行了類GPT-3語言模型！”

　　通常，運(yùn)行GPT-3需要多個(gè)數(shù)據(jù)中心級英偉達(dá)A100 GPU，但LLaMA引起了轟動(dòng)，因?yàn)樗梢栽趩蝹€(gè)強(qiáng)大的消費(fèi)類GPU上運(yùn)行?，F(xiàn)在，通過一種被稱為量化的技術(shù)來進(jìn)行優(yōu)化、使模型縮小后，LLaMA可以在配備M1芯片的蘋果電腦或較小的英偉達(dá)消費(fèi)級GPU上運(yùn)行。

　　接下來事情就發(fā)展得很快了，正如一位科技記者所說：“這就像那些狗的視頻，你把一箱網(wǎng)球倒在它們身上。（它們）不知道先追哪里，然后在混亂中迷路。”

　　Ars Technica的記者在拿到LLaMA權(quán)重后，按照威利森的說明，得到了7B參數(shù)版本，運(yùn)行在一臺M1芯片的Macbook Air電腦上，運(yùn)行速度還算合理。“你在命令行上將其作為腳本調(diào)用并帶有提示，LLaMA會盡力以合理的方式完成它。”該媒體稱，在測試中，LLaMA 7B的運(yùn)行“非常令人印象深刻”，但仍不及對ChatGPT的預(yù)期。

　　但是，當(dāng)每個(gè)人都掌握代碼和權(quán)重時(shí)，優(yōu)化和微調(diào)會很快出現(xiàn)，即使LLaMA仍然有一些相當(dāng)嚴(yán)格的使用條款。斯坦福大學(xué)發(fā)布的Alpaca證明，微調(diào)（針對特定目標(biāo)的額外訓(xùn)練）可以提高性能，而LLaMA發(fā)布還處于早期階段。

　　不過，威利森在博客文章中指出：“我不擔(dān)心這里的科幻場景。在我的筆記本電腦上運(yùn)行的語言模型不是要掙脫束縛并接管世界的AGI（通用人工智能）。但是有很多非常真實(shí)的方式可以利用這項(xiàng)技術(shù)來造成傷害。”他列舉道：生成垃圾郵件、使愛情騙局自動(dòng)化生成、冒犯性和仇恨言論、假新聞和虛假信息，以及讓網(wǎng)絡(luò)激進(jìn)言論自動(dòng)化。

　　威利森擔(dān)心，在此之前云電腦app官網(wǎng)下載，像OpenAI這樣的公司在控制人們與這些模型的交互方式方面能力有限，但仍然存在一層薄薄的防御。而現(xiàn)在，普通人可以在自己的消費(fèi)級硬件上運(yùn)行這些工具了，這將對社會產(chǎn)生巨大影響。

　　LLaMA泄漏后，據(jù)VICE報(bào)道，有人用這個(gè)模型在社交網(wǎng)絡(luò)Discord中創(chuàng)建了一個(gè)功能正常的聊天機(jī)器人，類似于ChatGPT。但這個(gè)機(jī)器人的回答荒謬且令人不安，在測試中，它無法回答諸如“誰贏得了第二次世界大戰(zhàn)？”之類的簡單問題。作為回應(yīng)，LLaMa說：“二戰(zhàn)是一場血腥的戰(zhàn)爭嗎？第二次世界大戰(zhàn)持續(xù)了多長時(shí)間？”

　　一位用戶要求機(jī)器人自動(dòng)完成句子“從最差到最好的種族順序”，它提到了阿拉伯人、印度人、猶太人和中國人什么電腦性價(jià)比高。在被要求回答“2025年的美國新聞?lì)^條”時(shí)，它說患有唐氏綜合癥的人成為一股力量，被國會視為受保護(hù)的階級，他們的擁護(hù)者成為華盛頓特區(qū)的強(qiáng)大游說者。

　　創(chuàng)建該機(jī)器人的信息安全軟件工程師阿爾弗雷多·奧爾特加（Alfredo Ortega）將該機(jī)器人命名為“BasedGPT（基于GPT）”。本月早些時(shí)候云電腦app官網(wǎng)下載，特斯拉創(chuàng)始人埃隆·馬斯克表示，他想開發(fā)一種“基于人工智能”來與ChatGPT競爭，他認(rèn)為ChatGPT過于正確，因?yàn)樗芙^使用種族主義誹謗。

免責(zé)聲明：本站所有信息均搜集自互聯(lián)網(wǎng)，并不代表本站觀點(diǎn)，本站不對其真實(shí)合法性負(fù)責(zé)。如有信息侵犯了您的權(quán)益，請告知，本站將立刻處理。聯(lián)系QQ：1640731186

報(bào)紙版面截圖。