今日熱聞!曾寫(xiě)出毀滅人類(lèi)計(jì)劃書(shū)，爆火的ChatGPT是一把“雙刃劍”

2023-02-08 18:38:11來(lái)源：觀網(wǎng)財(cái)經(jīng)  


(資料圖片)

這兩天，美國(guó)公司OpenAI推出的CHATGPT成為絕對(duì)的市場(chǎng)焦點(diǎn)。

憑借聊天、咨詢、翻譯甚至寫(xiě)研報(bào)等類(lèi)人的智能化表現(xiàn)，ChatGPT注冊(cè)用戶很快破億，大有引領(lǐng)新一輪AI浪潮之勢(shì)，微軟、亞馬遜、谷歌等科技巨頭也紛紛重金布局相關(guān)賽道。

在ChatGPT引爆AIGC（AI生成內(nèi)容）概念后，A股也開(kāi)始有大量科技公司披露相關(guān)業(yè)務(wù)，試圖借機(jī)蹭一波熱點(diǎn)，拉抬一下股價(jià)。

四維圖新(行情002405,診股)披露，該公司參股公司普強(qiáng)利用類(lèi)似ChatGPT的模型、算法和訓(xùn)練的技術(shù)，結(jié)合現(xiàn)有的模型算法以及車(chē)載相關(guān)的海量數(shù)據(jù)(行情603138,診股)，支持了頭部車(chē)企的人機(jī)交互服務(wù)。

凡拓?cái)?shù)創(chuàng)(行情301313,診股)透露，該公司開(kāi)發(fā)和提供的數(shù)智虛擬人、云虛擬展館等產(chǎn)品與AI技術(shù)緊密聯(lián)系，應(yīng)用了ChatGPT、國(guó)內(nèi)AI平臺(tái)等相關(guān)技術(shù)。

藍(lán)色光標(biāo)(行情300058,診股)表示，該公司正在積極試用ChatGPT技術(shù)，自有虛擬人蘇小妹已經(jīng)介入了AI多輪對(duì)話，AI作詩(shī)能力已經(jīng)進(jìn)入技術(shù)測(cè)試階段，未來(lái)會(huì)結(jié)合AIGC和終端交互做更多數(shù)字化拓展。

首都在線(行情300846,診股)表示，該公司自主研發(fā)的新一代算力平臺(tái)可為ChatGTP類(lèi)人工智能應(yīng)用提供算力、算法、云渲染等技術(shù)服務(wù)，目前已為國(guó)內(nèi)多家涉及人工智能類(lèi)客戶提供服務(wù)......

不可否認(rèn)，以ChatGPT為代表的新型AI技術(shù)的確具有產(chǎn)業(yè)賦能的潛在價(jià)值。但隨著AI技術(shù)進(jìn)入新的發(fā)展階段，帶來(lái)的各種安全隱患也將更甚。

曾寫(xiě)出“毀滅人類(lèi)計(jì)劃書(shū)”

根據(jù)國(guó)內(nèi)外媒體報(bào)道，ChatGPT最初的爆火源于它在一位工程師誘導(dǎo)下，寫(xiě)出了毀滅人類(lèi)的計(jì)劃書(shū)，步驟甚至詳細(xì)到入侵各國(guó)計(jì)算機(jī)系統(tǒng)、控制武器、破壞通訊、交通系統(tǒng)等，甚至還給出了相應(yīng)的Python代碼。

ChatGPT聊天對(duì)話截圖

這并不是聳人聽(tīng)聞。在ChatGPT推出幾周后，全球已有多家網(wǎng)絡(luò)安全公司發(fā)布一系列報(bào)告，證明該機(jī)器人(行情300024,診股)可能被用于編寫(xiě)惡意軟件。

截至目前，美國(guó)威脅情報(bào)公司Recorded Future在暗網(wǎng)中已發(fā)現(xiàn)1500多條關(guān)于使用ChatGPT開(kāi)發(fā)惡意軟件、創(chuàng)建概念驗(yàn)證代碼的參考資料，其中大部分代碼都公開(kāi)可用。

Recorded Future認(rèn)為，ChatGPT對(duì)于“腳本小子、黑客行動(dòng)主義者、欺詐分子/垃圾郵件發(fā)送者、支付卡欺騙者等技術(shù)水平不高的網(wǎng)絡(luò)犯罪分子”最有幫助，把惡意軟件、釣魚(yú)攻擊推向了規(guī)模化時(shí)代。

目前，網(wǎng)絡(luò)釣魚(yú)即服務(wù) （PhaaS） 和勒索軟件即服務(wù)（RaaS）可以向攻擊者提供收費(fèi)工具包，使其可以輕松實(shí)施攻擊。而現(xiàn)在ChatGPT則使網(wǎng)絡(luò)犯罪活動(dòng)正經(jīng)歷另一種演變：利用ChatGPT面向公眾免費(fèi)開(kāi)放的服務(wù)，更多危險(xiǎn)正在萌芽，這加劇了對(duì)于未來(lái)安全風(fēng)險(xiǎn)的憂慮。

在此背景下，ChatGPT背后的OpenAI日前公開(kāi)發(fā)聲警告稱(chēng)，現(xiàn)在需要監(jiān)管機(jī)構(gòu)進(jìn)行介入，以防止ChatGPT等生成式AI系統(tǒng)對(duì)社會(huì)產(chǎn)生潛在負(fù)面影響。

“我們沒(méi)有預(yù)料到把‘孩子’送到這個(gè)世界上會(huì)帶來(lái)這么大的反響。事實(shí)上，我們對(duì)此感到有些許不安。”O(jiān)penAI首席技術(shù)官M(fèi)ira Murati在采訪中坦言，人工智能可能被濫用，也可能被目的不純之人利用。

作為OpenAI的創(chuàng)始人之一，埃隆·馬斯克也曾警告過(guò)先進(jìn)的AI對(duì)人類(lèi)構(gòu)成的威脅，去年12月，他稱(chēng)ChatGPT是“可怕的好東西”，并補(bǔ)充稱(chēng)“我們離危險(xiǎn)的強(qiáng)大人工智能不遠(yuǎn)了。”

就在近日，國(guó)內(nèi)數(shù)字安全公司三六零(行情601360,診股)也發(fā)布了《全球人工智能安全治理報(bào)告》。

報(bào)告指出，作為一種數(shù)字技術(shù)，人工智能“雙刃劍”特征明顯，不僅自身存在數(shù)字安全威脅和隱患，隨著人工智能工程化、場(chǎng)景化、平臺(tái)化落地不斷加快，人工智能安全需求已經(jīng)超越單純技術(shù)范疇。

據(jù)三六零透露，目前360AI安全實(shí)驗(yàn)室所開(kāi)發(fā)的AI框架安全監(jiān)測(cè)平臺(tái)，已累計(jì)發(fā)現(xiàn)Tensorflow、Caffe、PyTorch等主流機(jī)器學(xué)習(xí)框架的漏洞200多個(gè)，其中提交給谷歌Tensorflow的漏洞數(shù)98個(gè)，包括24個(gè)高危、嚴(yán)重漏洞，在全球各大廠商中排名第一。

市場(chǎng)調(diào)研機(jī)構(gòu)Research And Markets預(yù)測(cè)，2030年網(wǎng)絡(luò)安全中人工智能產(chǎn)值將突破千億美元，2020年至2030年將達(dá)到25.7%的年復(fù)合增長(zhǎng)率。隨著ChatGPT等AI技術(shù)產(chǎn)品的普及，AI安全市場(chǎng)將進(jìn)一步爆發(fā)。

百度之后，三六零版ChatGPT也要來(lái)了？

雖然犀利地指出了人工智能發(fā)展帶來(lái)的潛在安全隱患，但在ChatGPT概念持續(xù)爆火之下，擁有搜索引擎業(yè)務(wù)的三六零，也十分熱衷于推出類(lèi)似ChatGPT的產(chǎn)品。

2月7日，三六零在投資者互動(dòng)平臺(tái)透露，該公司計(jì)劃盡快推出類(lèi)ChatGPT技術(shù)的demo（試用）版產(chǎn)品。這讓該公司成為國(guó)內(nèi)繼百度 之后，又一個(gè)披露將推出類(lèi)ChatGPT技術(shù)的公司。

此消息一出，ChatGPT概念再次被推向高點(diǎn)。 三六零2月7日午后直線拉升漲停，2月8日該公司再次一字封板漲停，目前市值630億元。

上證e互動(dòng)截圖

三六零在投資者互動(dòng)平臺(tái)上表示，AIGC中的類(lèi)ChatGPT技術(shù)對(duì)搜索行業(yè)是具備顛覆性的革新能力的，也只有搜索引擎擁有足夠大的數(shù)據(jù)源對(duì)類(lèi)ChatGPT技術(shù)進(jìn)行訓(xùn)練。這也是為什么目前ChatGPT的參與者是Google、Bing、百度這些搜索引擎的公司。

據(jù)三六零透露，目前360搜索是中國(guó)搜索引擎的Top 2，市場(chǎng)份額為35%。而根據(jù)第三方機(jī)構(gòu)Statcounter GlobalStats的統(tǒng)計(jì)，2022年7月，在中國(guó)國(guó)內(nèi)搜索引擎市場(chǎng)中，百度份額為70.48%，排名第一；搜狗搜索份額為12.25%；必應(yīng)份額為10.06%；Google份額為3.00%；360搜索份額為1.94%；神馬份額為1.54%；其他搜索引擎的份額合計(jì)為0.73%。

三六零表示，該公司在數(shù)據(jù)資源端有豐富的多模態(tài)大數(shù)據(jù)積累和相關(guān)語(yǔ)料、尤其是中文語(yǔ)料，相較于國(guó)外同行落后的是預(yù)訓(xùn)練大模型和有效的多模態(tài)數(shù)據(jù)清洗與融合技術(shù)，“公司有充足的資金儲(chǔ)備可用于購(gòu)買(mǎi)大規(guī)模算力，在繼續(xù)深入自行研發(fā)的同時(shí)，不排除尋找強(qiáng)有力的合作伙伴，以開(kāi)放的心態(tài)搭建多方共享平臺(tái)、補(bǔ)足短板，快速縮小差距”。

但需要指出的是，即便單獨(dú)討論搜索引擎這一個(gè)應(yīng)用場(chǎng)景，想把類(lèi)似ChatGPT的技術(shù)落地，依然有較大難度。不少行業(yè)人士認(rèn)為，目前ChatGPT還是一個(gè)對(duì)AI技術(shù)范式的探索，它并不能代替搜索。ChatGPT當(dāng)下一個(gè)很大的弊端是無(wú)法實(shí)時(shí)獲取互聯(lián)網(wǎng)信息。由于它只是一個(gè)端到端的生成模型，能夠自我構(gòu)造虛假答案，這些都是它替代搜索的障礙。而如果以目前每一條幾美分的成本來(lái)看，它會(huì)讓商業(yè)搜索引擎公司入不敷出。

在此背景下，三六零也坦言，該公司人工智能研究院從2020年開(kāi)始一直在包括類(lèi)ChatGPT技術(shù)在內(nèi)的AIGC技術(shù)上有持續(xù)性的投入，但截至目前僅作為內(nèi)部業(yè)務(wù)自用的生產(chǎn)力工具使用，且投資規(guī)模及技術(shù)水平與當(dāng)前的ChatGPT 3相比還有較大差距，各項(xiàng)技術(shù)指標(biāo)只能做到略強(qiáng)于ChatGPT 2。由于訓(xùn)練數(shù)據(jù)源及應(yīng)用方向的原因，在中文環(huán)境下的實(shí)際效果強(qiáng)于ChatGPT 2。

與大多數(shù)技術(shù)一樣，ChatGPT本身確實(shí)是一把“雙刃劍”。雖然越來(lái)越多的研究人員認(rèn)為ChatGPT可能成為黑客的盟友，但這一可生成不良內(nèi)容的工具，也可以用來(lái)幫助安全人員提高效率，提高惡意信息識(shí)別、抵御網(wǎng)絡(luò)攻擊的能力，這主要包括釣魚(yú)檢測(cè)、漏洞發(fā)現(xiàn)和安全事件響應(yīng)。

“需要特別提到的是，AIGC技術(shù)除了在搜索引擎的應(yīng)用之外，還可以輔助數(shù)字安全能力的提升。一旦AIGC大模型在數(shù)字安全領(lǐng)域預(yù)訓(xùn)練完成，就會(huì)如同ChatGPT 3給搜索引擎技術(shù)帶來(lái)巨大的提升一樣，給數(shù)字安全技術(shù)帶來(lái)巨大的變革。”三六零表示。

今年春節(jié)過(guò)后，三六零披露了2022年的業(yè)績(jī)預(yù)虧公告，這也是該公司自2012年上市以來(lái)首次出現(xiàn)虧損。

根據(jù)公告，三六零預(yù)計(jì)2022年實(shí)現(xiàn)營(yíng)收94.9億元，同比下滑約13%；實(shí)現(xiàn)歸母凈利潤(rùn)為-24.8億元，同比由盈轉(zhuǎn)虧；預(yù)計(jì)實(shí)現(xiàn)扣非后歸母凈利潤(rùn)-20.3億元，上年盈利6.1億元。

三六零提到，2022年該公司整體毛利率水平與上年同期基本持平，但由于互聯(lián)網(wǎng)行業(yè)整體趨勢(shì)下滑及該公司向數(shù)字安全行業(yè)持續(xù)加大投入，導(dǎo)致總營(yíng)收下降的同時(shí)費(fèi)用略有增加，且投資損益及公允價(jià)值變動(dòng)損益大幅虧損，使得該公司營(yíng)業(yè)利潤(rùn)與上年同期相比出現(xiàn)虧損。

關(guān)鍵詞： ChatGPT

責(zé)任編輯：hnmd003

相關(guān)閱讀

推薦閱讀