2023-08-04 14:18:28來源：企業(yè)網(wǎng)D1Net
(相關(guān)資料圖)
AIGC如今越來越受歡迎，它使人們能夠以前所未有的方式創(chuàng)造、互動和消費(fèi)內(nèi)容。隨著大型語言模型(例如GPT)的顯著進(jìn)步，AIGC系統(tǒng)現(xiàn)在擁有生成類似人類的文本、圖像甚至代碼的能力。集成了這些技術(shù)的開源項(xiàng)目的數(shù)量正在呈指數(shù)級增長。
例如，自從OpenAI公司七個月前首次推出ChatGPT以來，GitHub上現(xiàn)在有30000多個開源項(xiàng)目使用GPT-3.5系列的LLM。
盡管用戶對這些技術(shù)的需求激增，但GPT和LLM項(xiàng)目給使用它們的用戶帶來了各種安全風(fēng)險，其中包括信任邊界風(fēng)險、數(shù)據(jù)管理風(fēng)險、固有模型風(fēng)險以及一般安全問題。
AIGC安全風(fēng)險早期采用AIGC或任何新生技術(shù)(特別是LLM)，需要在整個軟件開發(fā)生命周期中進(jìn)行全面的風(fēng)險評估并遵守穩(wěn)健的安全實(shí)踐。通過對安全風(fēng)險給予應(yīng)有的關(guān)注，企業(yè)可以就是否以及如何采用AIGC解決方案做出明智的決定，同時堅持最高標(biāo)準(zhǔn)的審查和保護(hù)。
Rezilion公司漏洞研究總監(jiān)Yotam Perkal表示：“AIGC的應(yīng)用越來越普遍，但它還不成熟，而且極易存在風(fēng)險。除了固有的安全問題之外，個人和企業(yè)在沒有適當(dāng)安全護(hù)欄的情況下為這些AI模型提供了過度的訪問和授權(quán)。通過我們進(jìn)行的研究，旨在傳達(dá)使用不安全的AIGC和LLM的開源項(xiàng)目也具有較差的安全態(tài)勢。這些因素導(dǎo)致企業(yè)面臨重大風(fēng)險?！?/p>從安全教育到安全意識
Rezilion公司的研究團(tuán)隊(duì)調(diào)查了GitHub上50個最受歡迎的AIGC項(xiàng)目的安全狀況。該研究利用開源安全基金會記分卡客觀地評估了LLM開源生態(tài)系統(tǒng)，并強(qiáng)調(diào)了許多基于LLM的項(xiàng)目缺乏成熟度、基本安全最佳實(shí)踐的差距以及潛在的安全風(fēng)險。
這一調(diào)查結(jié)果突出了人們的擔(dān)憂，揭示了得分較低的非常新的和受歡迎的項(xiàng)目：
非常受歡迎，平均有15909顆星。極度不成熟，平均時間為3.77個月。安全狀況非常差，平均得分為4.60分(滿分為10分)，以任何標(biāo)準(zhǔn)衡量都很低。例如，GitHub上最受歡迎的基于GPT的項(xiàng)目Auto-GPT，擁有超過13.8萬顆星，不到三個月的時間，記分卡得分為3.7。對于AIGC系統(tǒng)的安全部署和操作，Rezilion公司建議采用以下最佳實(shí)踐和指南：教育團(tuán)隊(duì)了解采用任何新技術(shù)相關(guān)的風(fēng)險;評估和監(jiān)控與LLM和開源生態(tài)系統(tǒng)相關(guān)的安全風(fēng)險;實(shí)施穩(wěn)健的安全實(shí)踐，進(jìn)行徹底的風(fēng)險評估，并培養(yǎng)安全意識的企業(yè)文化。
雖然在采用AIGC模型及其生態(tài)系統(tǒng)方面存在重大的安全挑戰(zhàn)，但AI技術(shù)具有強(qiáng)大的功能和能力，并且將會繼續(xù)發(fā)展下去。
關(guān)鍵詞：
大型語言模型的進(jìn)步AIGC如今越來越受歡迎，它使人們能夠以前所未有的方
北京日報客戶端|記者白波中國社會科學(xué)院俄羅斯東歐中亞研究所與社會科
【ITBEAR科技資訊】8月4日消息，近日，OpenAI宣布將為其人工智能語言模
8月3日，長江實(shí)業(yè)集團(tuán)有限公司發(fā)布2023年度中期業(yè)績。公告顯示，今年上
Gartner近日公布了影響數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)（DSML）未來的主要方向，這
很多同學(xué)都聽說過，數(shù)據(jù)分析有技術(shù)型 業(yè)務(wù)型的區(qū)別。到底這倆有啥差異
證券時報e公司訊，石英股份(603688)在互動平臺表示，目前公司產(chǎn)銷兩旺
程序員是一個不斷學(xué)習(xí)和成長的職業(yè)，而要在這個競爭激烈的行業(yè)中脫穎而
隨著世界變得更加數(shù)字化，數(shù)據(jù)中心已成為現(xiàn)代企業(yè)不可或缺的一部分。然
你可能經(jīng)常聽到有人說某個電腦、平板電腦或智能手機(jī)“過時了”。當(dāng)你聽
增強(qiáng)物聯(lián)網(wǎng)可靠性，包括建立更安全的網(wǎng)絡(luò)來對抗網(wǎng)絡(luò)威脅和基于數(shù)據(jù)的存
自然語言處理打破了語言障礙，增強(qiáng)了人與機(jī)器之間的互動和交流。自然語
大家好,小萬來為大家解答以上的問題。宋氏三姐妹合影，關(guān)于宋氏三姐妹
生肖猴的人對生活有掌控力，奮踏實(shí)的他們終于有所回報，強(qiáng)力行動，你是
Socket編程概述Socket編程是一種網(wǎng)絡(luò)編程方式，它允許不同的計算機(jī)之間
