相信很多大家對(duì)Llama-3不算真開(kāi)源：今年10月，權(quán)威定義就要來(lái)了還不知道吧，今天菲菲就帶你們一起去了解一下~.~！

開(kāi)源大模型的標(biāo)桿 Llama3，居然都「被閉源」了。今天，開(kāi)源再次成為了人們討論的話(huà)題。

如今，開(kāi)源的人工智能算法無(wú)處不在，從個(gè)人開(kāi)發(fā)者到大型科技公司，大家都在享受最新技術(shù)帶來(lái)的成果。

就連目前最熱門(mén)的大模型領(lǐng)域，也區(qū)分了開(kāi)源和閉源兩個(gè)互相競(jìng)爭(zhēng)的大方向。人們認(rèn)為，隨著開(kāi)源技術(shù)的擴(kuò)散與交流，開(kāi)源的大模型最終將趕上 OpenAI 這樣的業(yè)界頂尖水平。這或許就是扎克伯格等人理想中的繁盛景象。

不過(guò)，在層出不窮的新 AI 模型評(píng)論區(qū)里，我們也經(jīng)?？吹接腥送虏邸高B權(quán)重、數(shù)據(jù)都沒(méi)有，這算什么開(kāi)源?」

這個(gè)時(shí)候，一家有影響力的機(jī)構(gòu)終于決定站出來(lái)，對(duì)開(kāi)源這件事下一個(gè)定義了。

今年10月，「真開(kāi)源」定義就要來(lái)了

開(kāi)放源代碼促進(jìn)會(huì)（OSI）最近公布了其對(duì)「開(kāi)源 AI」的最新定義草案。此舉旨在澄清 Open Source 這一術(shù)語(yǔ)在快速發(fā)展的科技領(lǐng)域中，經(jīng)常出現(xiàn)的模糊用法。

這個(gè)定義似乎來(lái)的正是時(shí)候。一個(gè)月前，大模型領(lǐng)域剛剛經(jīng)歷過(guò)一輪開(kāi)源技術(shù)更新。Meta 發(fā)布了迄今為止最強(qiáng)的開(kāi)源大模型 Llama3.1405B，宣布所有 Llama 版本的總下載量已超過(guò)3億次，創(chuàng)業(yè)公司 Mistral 也緊接著宣布開(kāi)源了 Large2大模型。

這些公司發(fā)布的預(yù)訓(xùn)練 AI 語(yǔ)言模型帶有權(quán)重使用限制，同時(shí)繼續(xù)使用了「開(kāi)源」標(biāo)簽。這引發(fā)了開(kāi)發(fā)者們對(duì) AI 技術(shù)背景下什么才是真「開(kāi)源」的激烈爭(zhēng)論。

因?yàn)樽罱欢螘r(shí)間，開(kāi)源變得越來(lái)越像是一個(gè)營(yíng)銷(xiāo)術(shù)語(yǔ)，將大模型描述為「開(kāi)源」可以讓人們對(duì)其變得更加信賴(lài)，即使研究人員和開(kāi)發(fā)者時(shí)常會(huì)被這些許可證所限制。

Llama-3.1發(fā)布的時(shí)候，Yann LeCun 曾宣傳了開(kāi)源的優(yōu)勢(shì)。

OSI 給出的定義下，很多事情需要我們來(lái)重新審視。例如，Meta 的 Llama3模型雖然可以自由獲取，但 Meta 針對(duì)使用 Llama 系列模型的公司規(guī)模及通過(guò)該模型生成的內(nèi)容類(lèi)型，設(shè)定了特定的許可限制。因此，Llama 不符合 OSI 為軟件定義的傳統(tǒng)開(kāi)源標(biāo)準(zhǔn)。

文生圖模型 Flux 實(shí)際上也不是真正的開(kāi)源。由于這種模糊性，OSI 通常用「開(kāi)放權(quán)重」或「代碼可用」等術(shù)語(yǔ)來(lái)指代那些含有代碼或權(quán)重限制或缺乏配套訓(xùn)練數(shù)據(jù)的 AI 模型。

為了正式解決「真假開(kāi)源」的問(wèn)題，一向倡導(dǎo)開(kāi)源的 OSI 召集了一個(gè)專(zhuān)家團(tuán)隊(duì)來(lái)為「開(kāi)源」下定義。這個(gè)約70人的團(tuán)隊(duì)由研究人員、律師、政策制定者組成，其中還有來(lái)自 Meta、Google 和亞馬遜等大型科技公司的代表。他們起草的最新草案為判斷 AI 模型是否符合開(kāi)源標(biāo)準(zhǔn)提出了「四項(xiàng)基本自由」:不限制使用目的，允許深入研究其工作原理，支持隨意修改，無(wú)論是否進(jìn)行過(guò)修改都允許用戶(hù)自由分享模型。

這「四項(xiàng)基本自由」也沿用了人們對(duì)開(kāi)源軟件的定義。OSI 希望通過(guò)對(duì)「開(kāi)源 AI」樹(shù)立明確的標(biāo)準(zhǔn)，方便開(kāi)發(fā)者、研究人員和用戶(hù)在創(chuàng)建、研究或使用 AI 工具做出更明智的決策。

OSI 執(zhí)行董事 Stefano Maffulli 在 Linux 基金會(huì) AI_dev 大會(huì)上發(fā)布了對(duì)開(kāi)源定義的最新版草案

換句話(huà)說(shuō)，開(kāi)源對(duì)于 AI 更加穩(wěn)定安全:如果 AI 模型做到了真正的「開(kāi)源」，研究人員將能分析 AI 模型背后的工作方式，AI 系統(tǒng)的潛在軟件漏洞也將更加明顯。相較于 OpenAI 的「閉源」系統(tǒng) ChatGPT，其確切的架構(gòu)是一個(gè)嚴(yán)格保密的秘密。

據(jù) OSI 的項(xiàng)目時(shí)間表顯示，他們預(yù)計(jì)在2024年10月在 All Things Open 會(huì)議上正式宣布「開(kāi)源 AI」定義的最終版。

那么在這個(gè)定義下，有哪些大模型是「開(kāi)源」的呢?據(jù)說(shuō)在第一批名單里包括 EleutherAI 的 Pythia、Ai2的 OLMo 和開(kāi)源集體 LLM360等。

「創(chuàng)新不應(yīng)該需要許可」

在五月份的新聞發(fā)布會(huì)上，OSI 強(qiáng)調(diào)了為真正的「開(kāi)源」AI 厘清定義的重要性?！窤I 與常規(guī)軟件不同，需要迫使所有利益相關(guān)者重新審視開(kāi)源原則對(duì)該領(lǐng)域的適用性」，OSI 的執(zhí)行董事 Stefano Maffulli 說(shuō)，「OSI 相信每個(gè)人都應(yīng)保有對(duì)技術(shù)的主導(dǎo)權(quán)和控制權(quán)。我們還認(rèn)識(shí)到，當(dāng)定義明確后，它將推動(dòng) AI 系統(tǒng)更加透明、更緊密的協(xié)作和無(wú)需許可的創(chuàng)新，市場(chǎng)就會(huì)繁榮發(fā)展?！?/p>

OSI 的最新草案不止要求「開(kāi)源」模型本身及其權(quán)重，還要求對(duì)整個(gè)系統(tǒng)更加廣義的開(kāi)放。 一個(gè) AI 系統(tǒng)要想被認(rèn)定為「開(kāi)源」，必須提供 OSI 定義的「適合修改的形式」，其中包括訓(xùn)練數(shù)據(jù)的詳細(xì)信息、用于訓(xùn)練和運(yùn)行系統(tǒng)的全部源代碼，以及模型權(quán)重和參數(shù)。這些都必須在 OSI 認(rèn)可的許可證或條款下提供。

值得注意的是，這份草案并沒(méi)有強(qiáng)制要求公開(kāi)原始訓(xùn)練數(shù)據(jù)。相反，它要求提供關(guān)于訓(xùn)練數(shù)據(jù)和方法的詳細(xì)元數(shù)據(jù)。比如數(shù)據(jù)的來(lái)源、選擇標(biāo)準(zhǔn)、預(yù)處理技術(shù)以及其他相關(guān)細(xì)節(jié)，方便研究者重建類(lèi)似的系統(tǒng)。

這種方法旨在不公開(kāi)實(shí)際數(shù)據(jù)集的情況下提供透明度和可復(fù)制性，在堅(jiān)持開(kāi)源原則的同時(shí)，從表面上解決了潛在的隱私和版權(quán)問(wèn)題。不過(guò)是否能達(dá)成預(yù)計(jì)的效果，可能還有待進(jìn)一步討論。

訓(xùn)練數(shù)據(jù)的來(lái)源缺乏透明度，已經(jīng)導(dǎo)致了一系列針對(duì)大型 AI 公司的訴訟。從 OpenAI 這樣的業(yè)內(nèi)帶頭人到 Suno 這樣的小應(yīng)用，這些公司的生成式 AI 產(chǎn)品除了聲稱(chēng)包含「可公開(kāi)訪(fǎng)問(wèn)的信息」外，并未披露太多有關(guān)其訓(xùn)練集的信息。很多人呼吁開(kāi)源模型應(yīng)該披露所有訓(xùn)練集，不過(guò)由于版權(quán)和數(shù)據(jù)所有權(quán)等問(wèn)題，這一標(biāo)準(zhǔn)很難執(zhí)行。

「這個(gè)定義最有趣的是，他們?cè)试S不公開(kāi)訓(xùn)練數(shù)據(jù)，」獨(dú)立 AI 研究員 Simon Willison 在接受外媒 Ars Technica 采訪(fǎng)時(shí)說(shuō)道:「這是一個(gè)非常務(wù)實(shí)的方法 —— 如果不允許這樣，那就幾乎就沒(méi)有模型算『開(kāi)源』了?！?/p>

OSI 想明確「開(kāi)源」的定義，這個(gè)想法可以追溯到2022年，當(dāng)時(shí)它首次開(kāi)始聯(lián)系有關(guān)組織，邀請(qǐng)他們一起來(lái)定義這個(gè)術(shù)語(yǔ)。

「經(jīng)過(guò)近兩年，我們從世界各地征求意見(jiàn)，來(lái)確定適合 AI 系統(tǒng)的開(kāi)源原則，OSI 現(xiàn)在正在全球巡講，希望能夠完善并驗(yàn)證草案中的定義，」Maffulli 表示，「定義『開(kāi)源』的研討會(huì)仍在進(jìn)行，現(xiàn)在參與還不晚，可以通過(guò) OSI 網(wǎng)站找到論壇，發(fā)表評(píng)論建言獻(xiàn)策?！?/p>

當(dāng)最終定義在10月揭曉時(shí)，新的「開(kāi)源」AI 定義可能對(duì)行業(yè)產(chǎn)生深遠(yuǎn)影響。它將影響公司以何種形式發(fā)布 AI 模型，并塑造未來(lái)的法規(guī)，例如加州備受爭(zhēng)議的 SB-1047法案。

希望新的定義，能夠進(jìn)一步推動(dòng)大模型領(lǐng)域的技術(shù)創(chuàng)新。

以上就是關(guān)于【Llama-3不算真開(kāi)源：今年10月，權(quán)威定義就要來(lái)了】的相關(guān)內(nèi)容，希望對(duì)大家有幫助！

　　免責(zé)聲明：本文由用戶(hù)上傳，與本網(wǎng)站立場(chǎng)無(wú)關(guān)。財(cái)經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風(fēng)險(xiǎn)自擔(dān)。 如有侵權(quán)請(qǐng)聯(lián)系刪除！