雖然 GPT 和 PaLM 等專有軟件占據(jù)了市場(chǎng)主導(dǎo)地位，但是仍舊有很多開(kāi)發(fā)人員看到了開(kāi)源語(yǔ)言模型的價(jià)值。由于開(kāi)源語(yǔ)言模型有很多優(yōu)點(diǎn)和缺點(diǎn)，并且會(huì)對(duì)人工智能行業(yè)產(chǎn)生積極和消極的影響，因此我們總結(jié)了您應(yīng)該了解和理解的要點(diǎn)。

開(kāi)源語(yǔ)言模型的 5 個(gè)積極影響

開(kāi)源語(yǔ)言模型集合了來(lái)自世界各地的開(kāi)發(fā)人員的意見(jiàn)、評(píng)論和用例，通過(guò)多方協(xié)作，能夠更快地推進(jìn)項(xiàng)目落地。

(資料圖片)

1、人工智能開(kāi)發(fā)人員使用開(kāi)源模型節(jié)省資源

采用專有語(yǔ)言模型需要花費(fèi)數(shù)百萬(wàn)甚至數(shù)十億的資源。以O(shè)penAI為例。Business Insider報(bào)道稱，該公司必須籌集約 300 億美元才能有效運(yùn)營(yíng) ChatGPT。對(duì)于大多數(shù)公司來(lái)說(shuō)，獲得這么多資金是不可能的。處于早期階段的科技初創(chuàng)公司即使能達(dá)到七位數(shù)就已經(jīng)很幸運(yùn)了。

考慮到高昂的開(kāi)銷，許多開(kāi)發(fā)人員轉(zhuǎn)而使用開(kāi)源語(yǔ)言模型。他們通過(guò)利用這些系統(tǒng)的架構(gòu)、神經(jīng)結(jié)構(gòu)、訓(xùn)練數(shù)據(jù)、算法、代碼實(shí)現(xiàn)和訓(xùn)練數(shù)據(jù)集節(jié)省了數(shù)百萬(wàn)美元。

2、開(kāi)源模型可以讓進(jìn)步更快

許多技術(shù)領(lǐng)導(dǎo)者比較重視社區(qū)貢獻(xiàn)和協(xié)作，因此他們認(rèn)為開(kāi)源語(yǔ)言模型比專有語(yǔ)言模型進(jìn)步得更快。數(shù)以百萬(wàn)計(jì)的熟練開(kāi)發(fā)人員正在開(kāi)發(fā)開(kāi)放項(xiàng)目——理論上，他們可以更快地實(shí)現(xiàn)無(wú)錯(cuò)誤、復(fù)雜的迭代。

使用開(kāi)源人工智能也可以更快地彌補(bǔ)知識(shí)空白。公司可以分析和利用社區(qū)貢獻(xiàn)，而不是培訓(xùn)團(tuán)隊(duì)尋找錯(cuò)誤、測(cè)試更新和探索實(shí)施。為此，知識(shí)共享使用戶能夠更有效地工作。

3、開(kāi)發(fā)人員將更快地發(fā)現(xiàn)漏洞

開(kāi)源語(yǔ)言模型鼓勵(lì)同行評(píng)審和協(xié)作社區(qū)的積極參與，開(kāi)發(fā)人員可以自由訪問(wèn)代碼庫(kù)更改。由于有如此多的用戶分析開(kāi)放項(xiàng)目，他們可能會(huì)更快地發(fā)現(xiàn)安全問(wèn)題、漏洞和系統(tǒng)錯(cuò)誤。

同樣，錯(cuò)誤解決也得到簡(jiǎn)化。開(kāi)發(fā)人員無(wú)需手動(dòng)解決系統(tǒng)問(wèn)題，而是可以檢查項(xiàng)目的版本控制系統(tǒng)是否有以前的修復(fù)。雖然有些條目可能已經(jīng)過(guò)時(shí)，然而他們?nèi)匀粫?huì)為研究人員和人工智能培訓(xùn)師提供一個(gè)有用的起點(diǎn)。

4、人工智能技術(shù)領(lǐng)導(dǎo)者向開(kāi)源模型學(xué)習(xí)

開(kāi)源語(yǔ)言模型受益于反饋循環(huán)。正反饋循環(huán)共享有效的算法、數(shù)據(jù)集和函數(shù)，鼓勵(lì)開(kāi)發(fā)人員模仿。這個(gè)過(guò)程為他們節(jié)省了大量時(shí)間。另請(qǐng)注意，用戶隨意復(fù)制的積極反饋可能會(huì)出現(xiàn)錯(cuò)誤——錯(cuò)誤往往會(huì)被忽視。

5、開(kāi)源人工智能平臺(tái)在新系統(tǒng)上獲得優(yōu)先權(quán)

科技公司共享價(jià)值數(shù)十億美元的語(yǔ)言系統(tǒng)并不是出于善意。雖然開(kāi)源許可證授予第三方用戶修改和銷售系統(tǒng)的自由，但它們也有局限性。經(jīng)銷商經(jīng)常創(chuàng)造條件來(lái)確保他們保留一些權(quán)威。所以，你會(huì)在開(kāi)源程序的許可協(xié)議中找到這些規(guī)則 - 最終用戶很少獲得 100% 的權(quán)限。

假設(shè) Meta 希望控制 LLaMA 支持的產(chǎn)品。其法律團(tuán)隊(duì)可以指定 Meta 保留投資任何基于其語(yǔ)言模型構(gòu)建的新系統(tǒng)的權(quán)利。但請(qǐng)不要誤解——第三方開(kāi)發(fā)商和發(fā)行商仍然會(huì)達(dá)成互惠互利的協(xié)議。后者提供價(jià)值數(shù)十億美元的技術(shù)和系統(tǒng)。與此同時(shí)，初創(chuàng)公司和獨(dú)立開(kāi)發(fā)人員正在探索將它們實(shí)現(xiàn)到不同應(yīng)用程序中的方法。

開(kāi)源語(yǔ)言模型的 5 個(gè)負(fù)面影響

開(kāi)源語(yǔ)言模型本質(zhì)上是公正的，但人類卻不然。具有惡意的消費(fèi)者、開(kāi)發(fā)者和公司可能會(huì)利用這些系統(tǒng)的開(kāi)放性來(lái)謀取個(gè)人利益。

1、企業(yè)隨意加入人工智能競(jìng)賽帶來(lái)的負(fù)面影響

目前，企業(yè)面臨著加入人工智能競(jìng)賽的巨大壓力。隨著人工智能系統(tǒng)的普及，許多公司擔(dān)心如果不采用人工智能，它們就會(huì)被淘汰。結(jié)果，企業(yè)隨意地加入了這股潮流，他們將開(kāi)源語(yǔ)言模型集成到他們的產(chǎn)品中，以便銷售產(chǎn)品并跟上競(jìng)爭(zhēng)，即使它們沒(méi)有提供任何有價(jià)值的東西。

雖然人工智能是一個(gè)快速新興的市場(chǎng)，但是不小心發(fā)布復(fù)雜但不安全的系統(tǒng)會(huì)損害整個(gè)行業(yè)并損害消費(fèi)者的安全。開(kāi)發(fā)者應(yīng)該用人工智能來(lái)解決問(wèn)題，而不是搞營(yíng)銷噱頭。

2.、消費(fèi)者能夠接觸到他們幾乎不了解的技術(shù)

各種技術(shù)工具基于人工智能的變體，從在線圖像編輯器到健康監(jiān)測(cè)應(yīng)用程序。隨著人工智能的發(fā)展，品牌將不斷引入新系統(tǒng)。人工智能模型幫助他們提供更加定制化、以用戶為中心的現(xiàn)有平臺(tái)迭代。

雖然科技行業(yè)歡迎創(chuàng)新，但人工智能的快速發(fā)展超過(guò)了用戶教育。消費(fèi)者正在獲得他們幾乎不了解的技術(shù)。教育的缺乏造成了巨大的知識(shí)差距，使公眾容易受到網(wǎng)絡(luò)安全威脅和掠奪性行為的影響。

為此，企業(yè)應(yīng)該像產(chǎn)品開(kāi)發(fā)一樣優(yōu)先考慮培訓(xùn)。他們必須幫助用戶了解如何安全、負(fù)責(zé)任地使用強(qiáng)大的基于人工智能的工具。

3、并非所有開(kāi)發(fā)者都有良好的意圖

并非每個(gè)人都將人工智能工具用于其預(yù)期目的。例如，OpenAI 開(kāi)發(fā)了 ChatGPT 來(lái)回答工作安全的常識(shí)問(wèn)題并復(fù)制自然語(yǔ)言輸出，但犯罪分子利用它進(jìn)行非法活動(dòng)。自 2022 年 11 月 AI 聊天機(jī)器人推出以來(lái)，已發(fā)生多起ChatGPT 詐騙事件。

因此，即使人工智能實(shí)驗(yàn)室實(shí)施嚴(yán)格的限制，騙子仍然會(huì)找到繞過(guò)它們的方法。再次以 ChatGPT 為例。用戶通過(guò)使用ChatGPT 越獄提示來(lái)繞過(guò)限制并執(zhí)行禁止的任務(wù)。

4、機(jī)構(gòu)可能難以監(jiān)管開(kāi)源人工智能

監(jiān)管機(jī)構(gòu)正在努力跟上人工智能的發(fā)展步伐，而開(kāi)源模型的激增只會(huì)讓監(jiān)控變得更加困難。人工智能的進(jìn)步已經(jīng)超過(guò)了監(jiān)管框架。甚至埃隆·馬斯克、比爾·蓋茨和薩姆·奧爾特曼等全球科技領(lǐng)袖也呼吁加強(qiáng)人工智能監(jiān)管。

私營(yíng)部門(mén)和政府部門(mén)都必須控制這些系統(tǒng)。否則，惡意者將繼續(xù)利用它們來(lái)違反數(shù)據(jù)隱私法、實(shí)施身份盜竊、詐騙受害者以及其他非法活動(dòng)。

5. 降低進(jìn)入壁壘會(huì)影響質(zhì)量

由于能夠在網(wǎng)上找到數(shù)千種基于人工智能的工具，因此開(kāi)源語(yǔ)言模型的激增降低了加入人工智能競(jìng)賽的準(zhǔn)入門(mén)檻。

看到公司采用機(jī)器和深度學(xué)習(xí)可能看起來(lái)令人印象深刻，但很少有公司提供任何實(shí)際價(jià)值。大多數(shù)人只是復(fù)制競(jìng)爭(zhēng)對(duì)手。隨著時(shí)間的推移，復(fù)雜的語(yǔ)言模型和訓(xùn)練數(shù)據(jù)集的可訪問(wèn)性可能會(huì)使毫無(wú)意義的人工智能平臺(tái)商品化。

開(kāi)源語(yǔ)言模型對(duì)人工智能行業(yè)的整體影響

雖然開(kāi)源語(yǔ)言模型使人工智能技術(shù)更容易使用，但它們也帶來(lái)了一些安全風(fēng)險(xiǎn)。開(kāi)發(fā)商應(yīng)制定更嚴(yán)格的限制。否則，騙子將繼續(xù)利用這些系統(tǒng)的透明架構(gòu)。

也就是說(shuō)，消費(fèi)者對(duì)于人工智能騙局并非完全毫無(wú)防御能力。熟悉騙子利用生成式人工智能工具的常見(jiàn)方式并研究警告信號(hào)。當(dāng)然，我們可以通過(guò)保持警惕來(lái)打擊大多數(shù)網(wǎng)絡(luò)犯罪。

原文標(biāo)題：10 Positive and Negative Impacts of Open-Source AI Language Models

原文作者：JOSE LUANSING JR.

關(guān)鍵詞：