大面積封號、意大利禁用、馬斯克喊停······ChatGPT“恐慌”四起

來源：AI星球，文/王非

ChatGPT熱潮之下，暗涌叢生。

繼“取代谷歌”、引發(fā)失業(yè)潮等擔(dān)憂之后，來自各方的不滿、恐慌、抵觸等負(fù)面情緒，近期集中在ChatGPT及OpenAI身上持續(xù)發(fā)酵：

其一，用戶側(cè)，ChatGPT近日大量封禁OpenAI賬號，尤其是使用中文對話的用戶，據(jù)統(tǒng)計已有數(shù)百萬用戶的賬號受到了影響；

其二，政企端，意大利宣布禁止使用ChatGPT，并限制OpenAI處理意大利用戶信息；三星發(fā)生三起半導(dǎo)體機(jī)密資料外泄事故，再發(fā)生事故或?qū)⑶袛郈hatGPT服務(wù)；

其三，學(xué)術(shù)派，以馬斯克為首的科學(xué)家也在近日給美國政府寫請愿信，要求暫停GPT-5的研發(fā)。

凡此種種，一言以蔽之：人類最古老、最強(qiáng)烈的恐懼是對未知的恐懼。

一則是害怕落后由ChatGPT開啟的第四次工業(yè)革命，其二則是以ChatGPT為代表的先進(jìn)技術(shù)“對社會和人類構(gòu)成潛在風(fēng)險”。

ChatGPT正在大面積封號。

相關(guān)信息顯示，有用戶于3月30日晚發(fā)現(xiàn)，付費Plus后會出現(xiàn)只扣款但訂閱不開啟的情況。

隨后，大約自3月31日開始，有用戶發(fā)現(xiàn)OpenAI關(guān)閉了新用戶注冊渠道。如果使用已有賬號登錄，則會收到“注冊暫時不可用，請稍后嘗試”的提示。

眾多用戶在社交媒體上表示，他們的賬號在未收到任何警告的情況下被封禁，這讓他們感到非常困惑和擔(dān)憂。

用戶側(cè)的恐慌情緒迅速蔓延，大量用戶在諸多平臺友情提示，“不要登陸！”

目前，用戶總結(jié)的規(guī)律顯示，OpenAI封號的類型大致分為兩種：批量注冊、API濫用。

前者主要是由于用戶在手動注冊之外，入手了大量由第三方途徑“收入”的賬戶；后者則是由于用戶在操作過程中存有濫用API的嫌疑，而這恰恰違反了OpenAI API的使用規(guī)則。

而在微博相關(guān)話題的討論中，有用戶也整理了封號的四個原因，并貼心地提供了三個防封號指南。

據(jù)市場統(tǒng)計，已有數(shù)百萬用戶的賬號受到了影響。

截至目前，OpenAI暫未對此進(jìn)行相關(guān)回復(fù)。

如果說OpenAI親自下場封號，導(dǎo)致了用戶側(cè)的“未知恐懼”。那么，在部分國家及企業(yè)層面，則是另一種“未知恐懼”的雙向奔赴：政企端擔(dān)心數(shù)據(jù)安全和泄密，OpenAI則將丟失這一部分用戶。

據(jù)央視新聞報道，當(dāng)?shù)貢r間3月31日，意大利個人數(shù)據(jù)保護(hù)局宣布，從即日起禁止使用聊天機(jī)器人ChatGPT，并限制開發(fā)這一平臺的OpenAI公司處理意大利用戶信息。同時個人數(shù)據(jù)保護(hù)局開始立案調(diào)查。

意大利個人數(shù)據(jù)保護(hù)局認(rèn)為，3月20日ChatGPT平臺出現(xiàn)了用戶對話數(shù)據(jù)和付款服務(wù)支付信息丟失情況。此外平臺沒有就收集處理用戶信息進(jìn)行告知，缺乏大量收集和存儲個人信息的法律依據(jù)。OpenAI公司必須在20天內(nèi)通過其在歐洲的代表，向意大利個人數(shù)據(jù)保護(hù)局通報公司執(zhí)行保護(hù)局要求而采取的措施，否則將被處以最高2000萬歐元或公司全球年營業(yè)額4%的罰款。

對此，OpenAI方面表示，應(yīng)Garante的要求，該公司已禁止意大利用戶接入ChatGPT。目前在意大利地區(qū)無法訪問該網(wǎng)站。ChatGPT網(wǎng)頁上的一則通知稱，該網(wǎng)站的所有者可能設(shè)置了限制，阻止用戶訪問該網(wǎng)站。

歐盟委員會執(zhí)行副主席瑪格麗特?維斯塔格（Margrethe Vestager）也在推特上表示，正在討論歐盟人工智能法案的委員會可能不傾向于禁止人工智能技術(shù)，但需要對其進(jìn)行規(guī)制。

幾乎在同一時間，韓國媒體報道稱，3月11日，三星DS部門開始允許員工使用ChatGPT，但在不到20天的時間里就發(fā)生了三起機(jī)密信息泄露事件，其中2起與半導(dǎo)體設(shè)備有關(guān)，另外1起與會議內(nèi)容有關(guān)。

韓版《經(jīng)濟(jì)學(xué)人》的文章中直接寫道：這導(dǎo)致半導(dǎo)體設(shè)備測量資料、產(chǎn)品良率原封不動傳輸給了美國公司。

為了杜絕再次出現(xiàn)類似事故，三星正在制定相關(guān)保護(hù)措施，甚至考慮再發(fā)生事故就會切斷ChatGPT服務(wù)。

不止于三星，臺積電、軟銀、日立、富士通、日本瑞穗金融集團(tuán)等企業(yè)開始限制ChatGPT等交互式人工智能服務(wù)在商業(yè)運作中的使用。

此外，摩根大通已經(jīng)限制員工使用ChatGPT，亞馬遜、微軟和沃爾瑪也已向員工發(fā)出警告，要求員工謹(jǐn)慎使用生成式AI服務(wù)，埃森哲則警告員工不要將客戶信息暴露在ChatGPT中。

當(dāng)?shù)貢r間3月14日，OpenAI發(fā)布了GPT-4，其回答準(zhǔn)確性不僅大幅提高，還具備更高水平的識圖能力，且能夠生成歌詞、創(chuàng)意文本，實現(xiàn)風(fēng)格變化。此外，GPT-4的文字輸入限制也提升至2.5萬字，且對于英語以外的語種支持有更多優(yōu)化。

僅僅半個月后，美國非營利組織未來生命研究所（Future of Life Institute）發(fā)布了一封名為“暫停巨型AI實驗”的公開信。

包括馬斯克、“人工智能教父”杰弗里·辛頓、圖靈獎得主約書亞·本希奧在內(nèi)的上千名人工智能專家和行業(yè)高管在信中呼吁，在開發(fā)比OpenAI新GPT-4“更強(qiáng)大”的系統(tǒng)過程應(yīng)中斷6個月時間。

他們建議，如果不能迅速實施這種暫停，“政府應(yīng)介入并實行暫停”。

截至當(dāng)?shù)貢r間上周五，這封日期為3月22日的公開信已獲得超過1800個簽名。

然而，這一聲勢浩大的“喊話”，或許并不會起到太大的作用。

4月2日，a16z投資的創(chuàng)業(yè)公司Runway CEO陳思齊透露，具有AGI (通用人工智能) 能力的GPT-5計劃在2023年12月完成訓(xùn)練。

針對“暫停研究”一事，中國人民大學(xué)教授劉永謀發(fā)文稱，ChatGPT對社會生產(chǎn)力的推動作用已經(jīng)昭然若揭，不應(yīng)因噎廢食而是控制利用。暫停ChatGPT研發(fā)的想法簡單粗暴，作用不大，也實現(xiàn)不了，純屬無效的“嘴炮”。他認(rèn)為，現(xiàn)在的問題是根據(jù)國情落實AI治理措施，而不是暫停ChatGPT研發(fā)。

360創(chuàng)始人周鴻祎也持相似觀點：“我認(rèn)為這不影響中國發(fā)展自己的大語言模型，包括360在內(nèi)的一些中國公司已經(jīng)展示了自己的作品，實事求是來說，離GPT-4的水平還有兩年差距。現(xiàn)在擔(dān)心風(fēng)險為時尚早。”

周鴻祎曾經(jīng)想過是不是在程序里加一句暗語，比如“天王蓋地虎，寶塔鎮(zhèn)河妖”，一提這句話，AI就能停止工作。“然而現(xiàn)在的發(fā)展態(tài)勢，已經(jīng)不是一句暗語或者拔掉電源就能控制的了。人工智能的進(jìn)化已經(jīng)不以個人意志為轉(zhuǎn)移了，哪怕是馬斯克。”

周鴻祎稱，“我自己就是做安全的，但我堅定地認(rèn)為，不發(fā)展才是最大的不安全。”